Customer data sa AI chatbot: limang DPA check bago ito gamitin

Bago tumanggap ang AI chatbot ng personal na datos ng customer o empleyado, sagutin ang limang check na hango sa gabay ng National Privacy Commission sa AI: may legal na batayan ba ang bawat gamit ng datos, malinaw ba ang abiso, kailangan ba ang lahat ng kukunin, sapat ba ang seguridad at kasunduan sa provider, at nasuri ba ang epekto sa privacy? Sakop ng Data Privacy Act (DPA) ang pagproseso ng personal na datos sa pagbuo, training, testing at paggamit ng AI system.

Kung ang negosyo o ahensiya ang nagpapasya sa layunin at paraan ng pagproseso, ito ang personal information controller (PIC). Maaari itong gumamit ng personal information processor (PIP), gaya ng provider na nagpoproseso ng datos sa ngalan nito, ngunit nananatiling may pananagutan ang PIC. Ang mga tanong sa ibaba ay para sa pagpapasya bago ikonekta ang chatbot sa totoong datos; kailangang iangkop ang sagot sa mismong serbisyo at daloy ng impormasyon.

Legal na batayan: para saan gagamitin ang bawat usapan?

Ihiwalay ang mga gawain ng chatbot bago pumili ng batayan: pagsagot sa tanong, pagkuha ng detalyeng kailangan sa serbisyo, pag-iimbak ng transcript, at paggamit ng usapan sa training o testing. Para sa bawat gawain, itanong kung aling datos ang kailangan, ano ang tiyak na layunin, at anong batayan ang angkop. Ang pahintulot para sa isang gamit ay hindi dapat ipalagay na pahintulot din para sa ibang gamit.

Magkaiba ang mga kundisyon para sa karaniwang personal information at sensitive personal information sa Seksyon 12 at 13 ng DPA. Kabilang sa mga posibleng batayan para sa karaniwang personal information ang pahintulot, pangangailangang tuparin ang kontrata, legal na obligasyon at iba pang kundisyong nakasaad sa batas; nakadepende ang pagpili sa aktuwal na pagproseso. Kung maaaring mapasama sa chat ang rekord ng kalusugan o government identifier, suriin ang hiwalay na mga eksepsiyon para sa sensitibong datos bago ito iproseso.

Isang mahalagang tanong ang paggamit ng mga lumang usapan upang pahusayin ang chatbot. Tukuyin kung tugma iyon sa layuning ipinaalam noong kinolekta ang datos at kung may angkop na legal na batayan para rito. Itala ang dahilan ng napiling batayan sa bawat gamit upang malinaw kung alin ang pinapayagan at alin ang kailangang baguhin.

Abiso: ano ang malalaman ng tao bago siya magbahagi?

Ipakita ang paliwanag kapag hihingin ang datos, sa wikang madaling maunawaan ng customer o empleyado. Itanong: alam ba niyang chatbot ang tatanggap ng mensahe, kung bakit iniimbak ang usapan, kung sino ang maaaring makatanggap nito, at kung gagamitin ito sa training? Kung hiwalay na layunin ang pagpapahusay ng system, sabihin iyon nang hiwalay sa pagsagot sa kasalukuyang tanong.

Kabilang sa impormasyong dapat ipabatid, ayon sa paliwanag ng NPC sa karapatang maabisuhan, ang uri at layunin ng datos, batayan ng pagproseso kung hindi pahintulot ang gamit, mga posibleng tatanggap, panahon ng pag-iimbak, detalye ng PIC at mga karapatan ng tao. Dapat ding maipaliwanag kung paano gagamitin ang automated processing kapag may kaugnayan ito sa magiging pasya tungkol sa kanya. Ang privacy notice ay dapat sumagot sa mga tanong na iyon para sa partikular na chatbot, sa halip na umasa lamang sa malawak na paglalarawan ng lahat ng gawain ng organisasyon.

Isama sa daloy ng serbisyo kung saan maaaring humiling ng access o pagwawasto ang tao, at paano hahawakan ang kahilingan niyang tumutol o magpabura ng datos kung naaangkop. Kung may pasyang may malaking epekto sa kanya na nakasalalay sa automated processing, kailangan ding pag-isipan ang makabuluhang paglahok ng tao at paraan upang kuwestiyunin ang pasya.

Dami ng datos: alin ang puwedeng hindi kunin?

Para sa bawat field sa intake form at bawat impormasyong ipinapadala sa chatbot, itanong kung matatapos ang gawain kahit wala iyon. Kung oo, alisin ito sa karaniwang daloy. Sa isang halimbawang tanong tungkol sa delivery, maaaring sapat ang order reference; hindi awtomatikong kailangan ang buong kopya ng ID. Ang tamang pagpili ay nakadepende sa serbisyong ibinibigay at sa impormasyong talagang kailangan upang masagot ang tanong.

Saklaw ng pagsusuring ito ang higit pa sa mga field na tahasang hinihingi. Maaaring maglaman ang libreng mensahe, attachment at lumang transcript ng detalye tungkol sa ibang tao o sensitibong impormasyong hindi kailangan sa serbisyo. Suriin din kung anong bahagi ng transcript ang napupunta sa log, backup, testing environment o provider, at kung kailangang manatiling nakaugnay iyon sa pagkakakilanlan ng customer.

Magtakda ng dahilan at panahon ng pag-iimbak para sa bawat kopya ng datos. Kung ang layunin ay makita ang kalidad ng sagot, itanong kung maaari itong gawin gamit ang mas kaunting detalye o datos na hindi na direktang nakakakilala sa tao. Ang pag-alis ng hindi kailangang impormasyon bago ito maipadala ay nagpapaliit sa datos na kailangang bantayan, hanapin at burahin sa susunod.

Seguridad at provider: sino ang makakakita at ano ang pinapayagan sa kontrata?

Bago ikonekta ang chatbot sa customer database o employee records, tukuyin kung sino ang may access sa prompt, sagot, transcript at log. Suriin ang mga pahintulot sa pag-access, authentication, proteksiyon sa pagpapadala at pag-iimbak, monitoring, at paraan ng pagtugon sa insidente. Dapat ding malinaw kung paano inaalis ang access kapag natapos ang tungkulin ng isang tao o provider.

Kung PIP ang provider, kailangan ng kasunduang tumutukoy sa layunin at tagal ng pagproseso, uri ng datos, mga taong sakop at lugar ng pagproseso, gaya ng itinatakda sa mga tuntunin ng DPA sa outsourcing. Kasama rin sa mga obligasyong dapat saklawin ang pagsunod sa dokumentadong tagubilin ng PIC, paggamit ng ibang processor, pagtulong sa mga kahilingan ng data subject, at pagbabalik o pagbura ng datos matapos ang serbisyo. Kailangan ng PIC ng impormasyong magpapakita kung nasusunod ang mga obligasyong iyon.

Itanong nang tahasan sa provider kung ginagamit nito ang prompt o transcript para sa sarili nitong training, kung sino ang mga subcontractor, saan maaaring ilipat ang datos, at paano mapatutunayan ang pagbura ng mga kopya. Ihambing ang sagot sa privacy notice, kontrata at aktuwal na setting ng serbisyo. Kung magkaiba ang pinapayagan sa mga iyon, ayusin muna ang daloy bago magpadala ng totoong personal na datos.

Privacy impact assessment: ano ang panganib bago ilunsad?

Ilarawan sa privacy impact assessment (PIA) ang buong paglalakbay ng datos: mula sa unang mensahe, sa provider at mga log, hanggang sa pagbura. Sa gabay ng NPC sa PIA, karaniwan itong ginagawa para sa system na nagpoproseso ng personal na datos at, para sa bagong system, bago ito gamitin. Maaari lamang magpasya ang PIC o PIP na huwag magsagawa ng PIA kung minimal ang panganib matapos isaalang-alang ang payo ng data protection officer, sensitibidad at dami ng datos, lawak ng pagproseso at posibleng pinsala.

Para sa chatbot, itanong kung ano ang mangyayari kapag nagpasok ang customer ng sensitibong detalyeng hindi hiningi, o kapag may lumabas na impormasyon tungkol sa ibang tao sa sagot. Tukuyin ang kontrol para sa bawat panganib, ang taong responsable at kung paano malalaman kung gumagana ang kontrol. Isama rin kung paano maisasagawa ang pagwawasto o pagbura kapag ang datos ay napunta na sa transcript, dataset o kopyang hawak ng provider.

Ang pagpapasya sa deployment ay dapat nakaangkla sa nasagutang mga tanong at sa natitirang panganib na tinanggap ng may pananagutan sa system. Kung magbabago ang gamit ng chatbot, uri ng datos, provider o paraan ng pag-iimbak, balikan ang kaugnay na legal na batayan, abiso, kasunduan at PIA bago palawakin ang paggamit.

Basahin din:

• ASEAN DEFA ihahain sa Nobyembre—kasama ang AI at data rules
• Shopify Canvas: kayang buuin sa chat ang store, pero may limang sagabal
• Sariling language AI ng DOST: target ang 2027, hindi pa pampublikong chatbot