Firemné pravidlá pre generatívnu AI: zákaz bez mapy rizík nestačí

Firemná smernica pre generatívnu AI má ku každej povolenej úlohe priradiť schválený nástroj, prípustné údaje, zodpovedného človeka a kontrolu výsledku. Zákaz rizikového použitia môže byť vhodným opatrením, jeho rozsah však treba odvodiť od toho, komu môže vzniknúť škoda a akým spôsobom. Firma potrebuje aj vlastníka pravidiel, dohľad nad ich dodržiavaním a postup pri incidente.

Začnite preto zoznamom používaných nástrojov a pracovných úloh, potom určte hranice vstupov, kontrolné body a schvaľovanie. NIST AI Risk Management Framework je dobrovoľný rámec na začlenenie dôveryhodnosti do návrhu, vývoja, používania a hodnotenia systémov AI. Pre bežnú firmu možno jeho princípy preniesť do stručnej smernice a samostatného registra; záväznosť interných pravidiel musí určiť firma.

Riadiť: určte vlastníkov a podmienky schválenia

Určte osobu alebo tím, ktorý spravuje smernicu a register nástrojov. Vedúci oddelenia opíše potrebu, bezpečnostný tím posúdi prístupy a ochranu údajov, právny alebo dátový špecialista relevantné záväzky a schvaľovateľ rozhodne o použití. V malej firme sa roly môžu spojiť; pri každom rozhodnutí zaznamenajte zodpovedného človeka a dôvod.

NIST AI RMF Playbook usporadúva odporúčané činnosti do funkcií Govern, Map, Measure a Manage, teda riadiť, mapovať, merať a zvládať riziko; nejde o univerzálny kontrolný zoznam ani povinné poradie krokov. Ich rozsah prispôsobte úlohám firmy a závažnosti možných následkov.

Register nech schvaľuje nástroj spolu s konkrétnym použitím. Pri zázname uveďte vlastníka, oprávnených používateľov, povolené aj zakázané úlohy, prípustné údaje, schválené nastavenia, dátum rozhodnutia a termín revízie. Rozlišujte aj spôsob prístupu: firemný účet, osobný účet či integrácia do inej aplikácie musia mať vlastné posúdenie podmienok.

Pred schválením preverujte, čo dodávateľ robí so vstupmi a výstupmi, ako dlho ich uchováva, kto k nim má prístup a či ich môže použiť na trénovanie. Zaznamenajte zmluvné podmienky aj nastavenia, na ktorých schválenie závisí. Žiadosť o výnimku má obsahovať úlohu, údaje, príjemcu výsledku a navrhované obmedzenia; určte jej schvaľovateľa a dobu platnosti.

Mapovať: spojte údaje s možným následkom

Pri každej úlohe opíšte vstupy, príjemcu výstupu, dotknuté osoby a možnú škodu pri chybe. Návrh verejného textu, zhrnutie internej porady a podklad pre personálne rozhodnutie majú odlišné dôsledky. Zaznamenajte tiež, či výsledok zostáva pracovným návrhom, odchádza zákazníkovi alebo spúšťa ďalšiu činnosť automaticky.

Pre vstupné údaje môžete použiť jednoduché rozdelenie prispôsobené existujúcej klasifikácii firmy:

• Verejné: obsah určený na zverejnenie, pri ktorom je vyriešené oprávnenie na použitie.
• Interné: údaje povolené len v určenom nástroji a pri schválených nastaveniach.
• Citlivé: osobné údaje či obchodné tajomstvo, ktoré vyžadujú osobitné posúdenie a výslovné povolenie.
• Zakázané vstupy: napríklad heslá a prístupové kľúče, ktoré smernica vylúči zo zadávania do generatívneho nástroja.

Ku kategóriám pridajte príklady z práce oddelení. Označenie „interné“ samo osebe nedáva povolenie na vloženie do ľubovoľnej služby. Posudzujte aj kombinácie informácií: odstránenie mena nemusí zabrániť identifikácii človeka, ak zostanú jedinečné okolnosti prípadu. Pri neistote určte kontakt na posúdenie a náhradný postup bez odoslania sporných údajov.

Merať: nastavte overovanie a hranicu prijateľnosti

Kontrola výstupu má mať konkrétny obsah a miesto pred jeho odovzdaním či zverejnením. Pri texte určte overenie faktov, citácií a súladu s firemnými údajmi; pri kóde funkčné testy a bezpečnostnú kontrolu; pri zhrnutí porovnanie s pôvodným podkladom. Kontrolórovi zabezpečte prístup k podkladom a možnosť výsledok odmietnuť.

Profil NIST pre generatívnu AI opisuje presvedčivo podané nepravdivé výstupy aj riziká úniku, neoprávneného použitia či odhalenia citlivých údajov a upozorňuje na potrebu dodatočnej ľudskej kontroly, sledovania, dokumentácie a manažérskeho dohľadu podľa kontextu. Pri úlohách s vážnejšími následkami preto nastavte prísnejšie overenie a určeného schvaľovateľa.

Pred povolením úlohy overte nástroj na reprezentatívnych prípadoch s údajmi schválenými na testovanie. Vopred určte prijateľný výsledok a chyby, pri ktorých použitie zastavíte. Ako modelový príklad: pri zhrnutí objednávky môže firma vyžadovať zachovanie všetkých položiek a termínov a odmietnuť výstup, ktorý niektoré doplní bez opory v podklade.

Výsledky skúšok oddeľte od záznamov o kontrole jednotlivých výstupov. Pri vybraných procesoch evidujte použitý nástroj, kontrolovanú verziu výsledku, kontrolóra a rozhodnutie. Uchovávanie celých rozhovorov nastavte osobitne podľa citlivosti údajov a retenčných pravidiel. Opakované opravy či zamietnutia využite ako podnet na nové posúdenie úlohy.

Zvládať: určte reakciu na chybu a incident

Zamestnanec má poznať konkrétny kanál na bezodkladné hlásenie omylom vložených citlivých údajov, podozrenia na únik alebo škodlivého či zverejneného nesprávneho výstupu. Do hlásenia zahrňte nástroj, čas, druh údajov, opis udalosti, dotknuté osoby a informáciu o ďalšom šírení výsledku. Citlivý obsah zabezpečte určeným postupom, aby sa hlásením nekopíroval ďalším ľuďom.

Určený riešiteľ potrebuje oprávnenie obmedziť používanie nástroja alebo funkcie, zabezpečiť dôkazy a preveriť dopad. Pripravte aj náhradný pracovný postup pre čas pozastavenia. Vecný vlastník zabezpečí opravu alebo stiahnutie chybného výstupu a príslušní špecialisti posúdia oznamovacie povinnosti podľa okolností.

Podmienky obnovenia používania stanovte vopred: odstránená príčina, overená účinnosť opatrenia a zaznamenané rozhodnutie zodpovednej osoby. Zistenia z incidentu premietnite do registra, kontrolného postupu alebo školenia podľa toho, kde vznikla chyba.

Vydajte pravidlá spolu s plánom revízie

Do záväznej smernice zahrňte účel a rozsah, zodpovednosti, schvaľovanie, triedy údajov, kontrolu človekom, incidenty a výnimky. Podrobnosti o nástrojoch nech zostanú v registri, ktorý možno meniť bez prepisovania celého dokumentu. Rozsah určte aj pre AI zabudovanú do bežných aplikácií a pre externých spolupracovníkov, ktorí spracúvajú firemné údaje.

Pri zavedení pravidiel prejdite so zamestnancami ich bežné úlohy a nacvičte hlásenie incidentu. Vlastník má stanoviť termín pravidelnej revízie aj udalosti, ktoré ju otvoria skôr: nová integrácia, zmena podmienok dodávateľa, nový druh údajov alebo incident. Pri revízii vyhodnoťte skúšky, zamietnuté výstupy, výnimky a hlásenia; ku zmene pravidla zaznamenajte dôvod, schvaľovateľa a dátum účinnosti.

Prečítajte si aj:

• USA navrhli Číne núdzový kanál pre incidenty umelej inteligencie
• Cloudflare či Fastly: pole position v meraní nestačí bez ceny prevádzky
• Pipedrive či HubSpot: jednoduchší predaj verzus drahší firemný ekosystém