OpenAI atklāj viltus žurnālistus un gandrīz 100 rakstu medijos

OpenAI 8. oktobra ziņojumā atklāja ar Irānu saistītu kampaņu, kurā septiņu izdomātu žurnālistu vārdā gandrīz 100 raksti nonāca aptuveni ducī tiešsaistes mediju. Uzņēmums bloķēja ar šo kampaņu saistītos ChatGPT kontus un atsevišķus kontus, kas izmantoti ar Krieviju saistītā operācijā Latīņamerikā.

Abās operācijās cilvēki vadīja identitātes un izplatīšanu, bet MI atviegloja konkrētus darbus. Irānas gadījumā tas palīdzēja pielāgot rakstus un sagatavot piedāvājumus redaktoriem; Krievijas gadījumā tas galvenokārt palīdzēja rakstīt iekšējos pārskatus par šķietama pētniecības centra darbu. Publiski redzamie raksti ļauj pārbaudīt izplatīšanu, savukārt saikne ar ChatGPT kontiem balstās uzņēmuma rīcībā esošajos datos.

Kā tapa raksti ar neīstiem autorvārdiem

Irānas kampaņas operatori ievadīja angliski sagatavotus rakstu melnrakstus par ASV un Irānas konfliktu. ChatGPT vajadzēja novērtēt, vai teksts atbilst konkrēta izdevuma iesniegšanas prasībām, un ieteikt labojumus. Pēc tam, kad cilvēki labojumus bija apstiprinājuši, modelim prasīja uzrakstīt vēstuli raksta piedāvāšanai redaktoram. Šī secība rāda cilvēku lēmumus katrā publicēšanas posmā: kādu tekstu virzīt, kur to sūtīt un ar kādu parakstu.

Izmantoto vārdu vidū bija Ervin B. Hoskins, Michael Harrison, Ericka Feusier, Sophia Gonzalez un Alice Johnson. Dažām identitātēm pie rakstiem pievienoja biogrāfijas, kas tās pasniedza kā Rietumu žurnālistus vai ārpolitikas komentētājus. Harrison biogrāfijas sagatavošanā operatori iesaistīja modeli, bet Hoskins vārdam izveidoja profilus vairākos sociālajos tīklos. Viņa biogrāfijā bija norādīts amerikāņu ārštata autora statuss, kamēr kontu publiskie atrašanās vietas dati rādīja Irānu; šāds ieraksts ir pavediens par profilu, nevis personas pārvaldītāja identifikācija.

Rakstu temati galvenokārt skāra kara ģeopolitiku, tā sekas amerikāņiem un attiecības Tuvajos Austrumos. Izdomātais paraksts ļāva vēstījumu iesniegt kā šķietami patstāvīga autora viedokli izdevumiem, kas jau publicēja rakstus par šiem jautājumiem. Publicēto tekstu kopskaits apzīmē rakstus ar kampaņas izmantotajiem vārdiem, nevis pierādījumu, ka modelis katru rakstu sarakstījis no sākuma līdz beigām.

PeaceVoice kļuva par ceļu līdz Floridas laikrakstam

The Washington Post reportāžā Port St. Joe Star izdevējs David Adlerstein par PeaceVoice piedāvāto Ervin Hoskins sleju sacīja: “this one struck me as thought-provoking”. Iepriekšējās sadarbības dēļ ar šo Oregonas organizāciju viņš autora identitāti atsevišķi nepārbaudīja.

Šis gadījums parāda saikni starp viltus biogrāfiju un īstu izdevuma lēmumu. Redakcijai tekstu nepiedāvāja tikai anonīms konts: tas nonāca caur organizāciju, no kuras laikraksts jau bija saņēmis materiālus. PeaceVoice vadītājs Tom Hastings pēc saziņas ar OpenAI pastiprināja organizācijas noteikumus par MI izmantošanu. Sleja izraisīja arī lasītāja vēstuli redakcijai, tātad vismaz šajā gadījumā publikāciju pamanīja cilvēks ārpus iesniegšanas ķēdes.

Middle East Monitor un Daily Kos pēc operācijas atklāšanas izņēma tekstus ar attiecīgajiem parakstiem un pārskatīja savas procedūras. Daily Kos raksti bija kopienas sadaļā, kur ierakstus pirms publicēšanas nepārbaudīja izdevuma darbinieki. Tādēļ atrašanās pazīstama medija vietnē pati par sevi vēl nepasaka, vai rakstu pieņēma redaktors, ievietoja lietotājs vai pārpublicēja partneris.

Pārpublicēšana paplašināja viltus autoru nospiedumu

Neatkarīgs pētnieks Marc Owen Jones publikāciju uzskaitē atrada atbilstošus autoru un rakstu ierakstus 17 vietnēs, ieskaitot pārpublicēšanas platformas. Šis skaits atšķiras no aptuvenā duča sākotnējā ziņojumā, jo uzskaite ietver arī sindikāciju un citur pārņemtus tekstus; tas nav tiešu iesniegumu skaits. Atšķirīgas atlases robežas skaidro, kāpēc viena un tā pati kampaņa dažādās publikācijās izskatās atšķirīga mēroga.

Piemēram, Sophia Gonzalez vārdā publicēts raksts par ASV diplomātiju un Irānas karu parādījās PeaceVoice, pēc tam CounterPunch un ZNetwork, vēlāk arī News-Register. Vairākās vietnēs norādītā PeaceVoice saikne ļauj izsekot pārpublicēšanas daļai, bet teksta sakritība viena pati neatklāj katru nodošanas soli. Iepriekš publicēti raksti turklāt varēja kalpot kā šķietama autora pieredzes apliecinājums nākamajam izdevumam.

Krievijas operācijā par aizsegu kalpoja pētniecības centrs

Atsevišķā ar Krieviju saistītajā operācijā Latīņamerikā darbojās Social Research Center, kas publiski sevi pieteica kā pētījumu platformu par Indijas diasporu un reģiona attiecībām ar Indiju. Operatori, spriežot pēc viņu iekšējiem pārskatiem, pārvaldīja centra personāla un darba jautājumus ar izdomātas personas Mia Clark starpniecību. Vietējie darbinieki, visticamāk, nezināja par šo saikni un veica intervijas un pētījumus labā ticībā.

Centra vietnē bija publicēti pārsvarā oriģināli darbinieku sagatavoti teksti. ChatGPT šeit visbiežāk izmantoja ziņojumiem priekšniecībai, reizēm arī maldinošu materiālu tulkošanai vai audio scenāriju sagatavošanai. Tādējādi ārēji redzamais saturs un MI izmantošanas vieta operācijas ķēdē nesakrita: cilvēki radīja lielu daļu pētniecības darba, kamēr rīks palīdzēja to pārvaldīt un atskaitīties par rezultātiem.

Ko rāda publikācijas un ko atklāj kontu dati

Rakstu ieraksti, autoru biogrāfijas un pārpublicējumi ir publiski pārbaudāmas pēdas. Savukārt operatoru norādes modelim, kontu atrašanās vieta un to savstarpējā saistība izriet no pakalpojuma iekšējās izmeklēšanas. Kontu dati norāda uz aktivitātes izcelsmi Irānā, bet atklātā informācija neatklāj konkrētu pasūtītāju. Kampaņas norise līdzinās pasūtījuma darbam, lai gan tās organizētājs nav identificēts.

Publicēšana pierāda, ka vēstījums izgāja ārpus operatoru pašu kontiem, tomēr tā neizmēra lasītāju pārliecības maiņu. Operatoru pašu pārskatos sociālo tīklu komentāru ietekme tika pārspīlēta, pieskaitot skatījumus sākotnējiem ierakstiem, uz kuriem komentāri atbildēja. Bloķētie ChatGPT konti šo darba posmu pārtrauca, bet izdevumu lēmumi par jau ievietoto rakstu izņemšanu un iesniegumu pārbaudi nosaka, cik ilgi viltus paraksti vēl paliks publiski atrodami.

Lasiet arī: