OpenAI atlaiž trīs drošības pētniekus

Saskaņā ar AP 9. oktobra ziņojumu par trīs atlaišanām, OpenAI septembra beigās atlaida drošības pētniekus Tomek Korbak, Jasmine Wang un Mikita Balesni un paziņoja, ka viņi pārkāpuši sensitīvas informācijas apstrādes noteikumus. Bijušie darbinieki šo pamatojumu apstrīd. Publiskajā strīdā līdzās personāla lēmumam ir jautājums par to, kā drošības pētnieki drīkst sadarboties ar neatkarīgiem vērtētājiem.

Pētnieki kopīgajā atklātajā vēstulē noliedz, ka būtu bijuši informācijas noplūdes avots: “We were not the source of the leak for The Information article.” Viņi raksta, ka saziņa ar ārējām drošības organizācijām ietilpa viņu darba pienākumos un ka atlaišanas apstākļi var atturēt kolēģus no risku apspriešanas. Tas ir viņu skaidrojums par notikušo, kam uzņēmums iebilst.

No atlaišanas līdz publiskajai atbildei

Fortune aprakstītajā hronoloģijā ziņa par atlaišanu pirmoreiz parādījās 1. oktobrī, bijušo darbinieku vēstule tika publiskota 8. oktobrī, bet pēc tās OpenAI izplatīja papildu skaidrojumu; uzņēmums izdevumam norādīja uz vairāku pārkāpumu kopumu un informēja, ka gatavo vienošanās ar neatkarīgiem drošības vērtētājiem. Uzņēmums konkrētās darbības neatklāja. Vēstule tapa pēc darba attiecību pārtraukšanas, atbildot uz jau izskanējušiem apgalvojumiem, un ir adresēta OpenAI drošības pārraudzības struktūrām.

Sākotnējais pārmetums bija formulēts kā sensitīvas informācijas apstrāde ārpus noteiktās kārtības un uzticības zaudējums. Vēlākajā publiskajā atbildē parādījās plašāka atsauce uz iekšējo izmeklēšanu un noliegums, ka lēmums būtu pieņemts par drošības problēmu izcelšanu. Abas versijas attiecas uz vienām atlaišanām, taču uzņēmums runā par noteikumu ievērošanu, savukārt pētnieki skaidro konkrētus darba kontaktus un lēmuma iespējamo ietekmi uz kolēģiem.

Uzņēmuma pārmetumu robežas

Publiski nav izklāstīts, kuru noteikumu kurš darbinieks būtu pārkāpis, kāda informācija būtu nodota un kam. Tā ir būtiska robeža starp uzņēmuma apgalvojumu un pārbaudāmu faktu: iekšējās izmeklēšanas secinājums nav papildināts ar materiāliem, pēc kuriem varētu vērtēt atsevišķas epizodes. Norāde uz sensitīvu informāciju pati par sevi nepasaka, vai pārmetums ir par piekļuvi tai, tās glabāšanu vai nodošanu ārpus uzņēmuma.

Runas par noplūdi medijam un darba saziņa ar ārēju drošības vērtētāju ir atšķirīgi jautājumi. Pētnieki noliedz pirmo un aizstāv otro, kamēr uzņēmums savu lēmumu pamato plašāk ar informācijas apstrādes noteikumiem. No publiskajiem paziņojumiem nevar izsecināt, ka visi darbinieki būtu apsūdzēti vienā un tajā pašā darbībā. Tie arī neļauj secināt, ka uzņēmuma minētais uzticības pārkāpums aprobežotos ar kādu vienu ārēju kontaktu.

Katram pētniekam — savs skaidrojums

Korbak bija tehniskais kontaktpunkts sadarbībā ar neatkarīgo organizāciju METR, kas izvērtēja OpenAI aģentu izraisīto incidentu Hugging Face sistēmās. Viņa aprakstītajā darba situācijā cieša saziņa ar ārējiem izmeklētājiem bija nepieciešama, lai noskaidrotu incidenta apstākļus, kamēr uzņēmuma iekšējie noteikumi šādai neparastai izmeklēšanai vēl veidojās. Korbak uzskata, ka rīkojās atbilstoši tālaika kārtībai; publiski nav norādīts, kura viņa saziņas darbība, pēc uzņēmuma ieskata, šo kārtību pārkāpa.

Balesni strādāja pie modeļu darbības novērojamības: iespējas pēc to spriešanas gaitas pamanīt nedrošu uzvedību. Viņa izklāstā šis darbs prasīja sarunas ar citām organizācijām par kopīgiem ierobežojumiem tādu modeļu izstrādei, kuru darbību kļūst grūtāk novērot. Viņš norāda, ka par savu darbu informēja vadību un pirms materiālu nodošanas izņēma sensitīvas detaļas. Ja šī prakse vēlāk tika vērtēta citādi, izšķirošais jautājums ir par tobrīd spēkā esošajām atļaujām un robežām, nevis tikai par pašu ārējās saziņas faktu.

Wang gadījumā runa ir par piekļuvi vadītāja e-pastam, kas viņai bija piešķirta darbinieku atlases vajadzībām. Saskaņā ar viņas skaidrojumu piekļuve palika aktīva arī pēc lūguma to noņemt, un abu pastkastu vēstules parādījās kopā. Viņa esot nejauši atvērusi sensitīvu vēstuli, par to dažu minūšu laikā informējusi vadītāju un vēlreiz lūgusi IT nodaļai noņemt piekļuvi. Strīdīgs ir arī tas, kā uzņēmums vērtēja piešķirtās piekļuves saglabāšanos un viņas ziņojumu pēc kļūdas.

Ko strīds nozīmē ārējai drošības pārbaudei

Domstarpības skar sadarbības modeli, kuru uzņēmums izmantoja, lai neatkarīgi izvērtētu Hugging Face incidentu. Šādā darbā ārējiem vērtētājiem vajadzīga pietiekama informācija par pārbaudāmo notikumu, savukārt darbiniekiem jāzina, kuras detaļas drīkst izpaust un kurš to saskaņo. Pētnieku bažas ir par to, ka neskaidra robeža pēc atlaišanas var mudināt atlikušos darbiniekus izvairīties pat no atļautas saziņas. Tas ir iespējamās ietekmes vērtējums, nevis pierādīts uzņēmuma lēmuma mērķis.

Bijušie darbinieki aicina saglabāt ārējo vērtētāju piekļuvi, modeļu darbības novērojamību un skaidru kārtību, kā pētnieki var apspriest riskus ārpus uzņēmuma. Turpmāko sadarbību noteiks gatavoto vienošanos saturs: cik plašu piekļuvi vērtētāji saņems un kā uzņēmums formulēs atļautās saziņas robežas saviem darbiniekiem.

Lasiet arī: