Character.AI či Replika: dôverný pocit nie je súkromný režim

Ak chcete s AI spoločníkom hovoriť o osobnej téme, pri Character.AI aj Replike počítajte so spracúvaním údajov službou. Zásady Repliky opisujú spracúvanie správ, fotografií a hlasových záznamov na prispôsobenie rozhovoru aj odosielanie konverzačných údajov zmluvným poskytovateľom jazykových modelov. Pocit, že sa niekomu zverujete, sám osebe neurčuje, kto môže s obsahom pracovať.

Prehľad súkromia Character.AI uvádza údaje z interakcií vrátane používania a IP adresy, využitie informácií na zlepšovanie modelov a práva na prístup, opravu či vymazanie podľa regiónu. Pre používateľa na Slovensku je preto rozhodujúce, čo do chatu vloží pred odoslaním, ako môže získať kópiu údajov a akú žiadosť môže podať, keď chce údaje odstrániť.

Čo platformy spracúvajú

Replika prijíma obsah správ vrátane textu, fotografií, videí a hlasu. Na vytvorenie odpovede prenáša konverzačné údaje externým poskytovateľom jazykových modelov; podľa jej pravidiel majú údaje použiť iba na túto službu a nemajú nimi trénovať vlastné modely. Samotná Replika však opisuje aj použitie malých, bezprostredne anonymizovaných častí obsahu na vlastné bezpečnostné algoritmy a zlepšovanie chatbota. Zákaz tréningu u dodávateľov teda neznamená, že sa žiadny obsah nepoužíva na zlepšovanie služby.

Obsah rozhovoru treba odlíšiť od ďalších údajov. Pri používaní oboch služieb vznikajú aj informácie o účte, zariadení či aktivite; pri Replike patria medzi údaje o zariadení a sieti napríklad IP adresa a približná poloha. Replika deklaruje, že obsah konverzácií nepoužíva na reklamu a neposkytuje ho reklamným partnerom. Na propagáciu služby však môže používať iné údaje, napríklad informácie o návšteve jej webu. Tieto kategórie nemožno zhrnúť jediným tvrdením, že aplikácia „zdieľa chat s reklamou“.

Character.AI opisuje používanie údajov na prevádzku, prispôsobovanie a zlepšovanie služby, podporu používateľov aj zabezpečenie. Jej stručný prehľad neuvádza lehotu uchovávania každej konkrétnej správy vo všetkých systémoch. Pravidlá spracúvania nie sú výsledkom technického bezpečnostného auditu: právo žiadať o vymazanie ani zmluvné povinnosti dodávateľov samy osebe nedokazujú, že k obsahu nikdy nedôjde k neoprávnenému prístupu.

Kontrola nad použitím chatu na tréning

Pre používateľov v Európskom hospodárskom priestore opisuje Character.AI v návode na nastavenie tréningu možnosť vypnúť používanie obsahu chatu na tréning generatívnych modelov. V mobilnej aplikácii vedie cesta cez Settings, Data & Privacy a voľbu Improve the Model for Everyone; na webe cez Settings, Account, Manage Account & Data a Model Improvement. Po vypnutí sa na tréning generatívnych modelov nemá používať nový obsah.

Toto nastavenie má presný rozsah. Netýka sa spätne už zdieľaného obsahu a podľa návodu môže služba údaje ďalej používať na iné účely, napríklad vyhľadávanie, odporúčania alebo bezpečnostné klasifikátory. Ak niekto vypne tréning a potom do rozhovoru napíše zdravotný údaj či celé meno kolegu, informácia stále vstupuje do služby, aby mohla spracovať správu. Zníženie množstva zdieľaných detailov a nastavenie tréningu riešia odlišné časti toho istého rozhodnutia.

Export vám dá kópiu, nie vymazanie

Character.AI má opísaný samoobslužný export. Jej návod na export údajov vedie na webe cez profil, nastavenia profilu, Account a Manage Account & Data k voľbe Export data; v aplikácii sa voľba Export my data nachádza v nastaveniach profilu. Je to cesta, ak si chcete pred zrušením účtu uchovať vlastnú kópiu alebo zistiť, aký obsah ste službe odovzdali.

Pri Replike je cesta opísaná ako žiadosť o prístup ku kópii osobných údajov. Tam, kde sa uplatní právo na prenosnosť, môže používateľ žiadať aj strojovo čitateľný formát. Jej zásady však nepopisujú porovnateľné tlačidlo na export chatov, preto z práva na kópiu nemožno vyvodzovať rovnaký postup ani rovnaký obsah exportu ako pri Character.AI. Ak je pre vás zachovanie celej histórie podmienkou používania, je rozumné vyjasniť si rozsah kópie skôr, než sa na chat začnete spoliehať.

Stiahnutý export vytvorí ďalšiu kópiu mimo platformy. Ak skončí v zdieľanom priečinku, e-mailovej prílohe alebo na spoločnom zariadení, k rozhovoru sa môže dostať niekto ďalší. Export preto pomáha s prístupom k vlastným údajom, no pôvodné záznamy v službe neodstraňuje.

Čo znamená žiadosť o vymazanie

Replika umožňuje požiadať o vymazanie citlivých informácií, ktoré používateľ do rozhovoru vložil, a uvádza, že pri oprávnenej žiadosti dá pokyn aj svojim poskytovateľom služieb. V nastaveniach možno zrušiť účet. Zásady zároveň rozlišujú kategórie údajov a dôvody ich uchovávania: obsah rozhovorov môže po skončení zmluvy zostať spracúvaný určitý čas, kým pri účtovných či právnych povinnostiach môžu platiť dlhšie lehoty. Zrušenie účtu preto nie je sľub okamžitého zmiznutia každého záznamu.

Character.AI opisuje podľa regiónu právo žiadať o prístup, opravu a vymazanie údajov. Export, žiadosť o odstránenie konkrétnej informácie a zrušenie účtu majú odlišný účel: prvý vytvorí kópiu, druhá pomenúva problémový údaj a posledné ukončí používanie konta. Ak ste poslali údaj, ktorý vás jednoznačne identifikuje, pri žiadosti o vymazanie pomôže presne označiť, o aký údaj ide a v ktorom rozhovore sa nachádza. Samotné odstránenie spomienky alebo položky viditeľnej v aplikácii ešte nemusí vysvetľovať, čo sa stalo s pôvodnou správou.

Prečo dôverný rozhovor vedie k zdieľaniu navyše

Kvalitatívna štúdia rozhovorov s 15 používateľmi AI spoločníkov opisuje, ako ľudsky pôsobiaci dizajn a nehodnotiace odpovede podporovali osobné zverovanie. Niektorí účastníci mali pritom pocit, že nad údajmi uloženými u prevádzkovateľa majú malú kontrolu, a chránili sa už pri formulovaní správ, napríklad používaním vymyslených mien. Výskum zachytáva skúsenosti účastníkov; nemeria technickú bezpečnosť Character.AI ani Repliky a neurčuje, ako často sa nechcené zdieľanie stáva všetkým používateľom.

Praktický rozdiel je v okamihu rozhodnutia. Pred odoslaním môžete vynechať identifikátor a stále dostať odpoveď na otázku; po odoslaní už musíte riešiť pravidlá uchovávania a vymazania konkrétnej služby. Vymyslené meno samo osebe nestačí, ak správa obsahuje presnú adresu, pracovisko alebo fotografiu, podľa ktorej možno človeka spoznať.

Pred prvým citlivým rozhovorom

Krátka kontrola pomôže oddeliť podrobnosti potrebné na odpoveď od tých, ktoré iba rozširujú osobný záznam:

1. Formulujte problém cez roly a situáciu. Celé mená, kontakty, presné dátumy a adresy pridávajte iba vtedy, ak sú pre otázku nevyhnutné.
2. Neodosielajte identifikačné údaje ďalších ľudí. Pri opise konfliktu stačí hovoriť o kolegovi či členovi rodiny bez jeho mena a kontaktu.
3. Pred priložením fotografie, videa alebo hlasu zvážte, či neprezradia viac než textový opis.
4. Ak používate Character.AI v európskom priestore, skontrolujte nastavenie tréningu ešte pred prvou osobnou správou.
5. Ak potrebujete uchovať vlastnú históriu, zistite si vopred spôsob exportu alebo podania žiadosti o kópiu údajov.

V hypotetickom rozhovore o napätí v práci môže na zmysluplnú odpoveď stačiť opis správania nadriadeného a otázka, ako viesť ďalší rozhovor. Názov zamestnávateľa, dátum konkrétnej porady a doslovná súkromná správa kolegu môžu zostať mimo chatu. Téma sa tým nestratí, no údaje, ktoré by spájali rozhovor s konkrétnymi ľuďmi, sa do služby vôbec nedostanú.

Prečítajte si aj:

• Brave či Firefox: súkromie bez nastavovania má iného víťaza než flexibilita
• Adobe Firefly či Midjourney: komerčné práva nie sú celý príbeh
• Údaj zmizol z Googlu, nie z webu: ako požiadať o odstránenie