직장 AI 사용 정책, 금지 목록보다 먼저 정할 네 가지
일의 미래 4
사내 생성형 AI 지침, ‘비밀을 넣지 마라’만으로는 부족하다
직원용 생성형 AI 지침에는 기밀정보 입력 금지와 함께 허용 업무, 승인된 도구, 입력 자료의 범위, 결과물 검토자, 기록과 사고 처리 절차를 정해야 한다. 직원이 사용 전과 결과물 전달 전에 각각 무엇을 확인할지 알 수 있어야 업무에 적용할 수 있다.
개인정보보호위원회의 생성형 AI 안내는 목적 설정부터 전략 수립, 학습·개발, 시스템 적용·관리까지 개인정보 관련 기준과 안전조치를 다룬다. 주된 대상은 AI를 개발·활용하는 기업과 기관이므로, 직원용 지침에는 이 기준을 사용 목적, 개인정보의 이동 경로, 운영 책임에 맞게 옮겨 적어야 한다.
허용 업무와 승인 도구를 먼저 정한다
정책의 첫 부분에는 사용 가능한 업무와 승인권자를 적는다. 공개 자료 요약, 내부 초안의 문장 정리, 코드 설명을 허용하더라도 업무마다 입력 가능한 자료와 결과물의 사용처는 달라질 수 있다. 채용 평가, 고객에게 보내는 확정 답변, 법률·재무 판단처럼 사람의 권리나 회사의 대외 책임에 영향을 주는 업무는 별도 승인 대상으로 분류하는 편이 분명하다.
승인 도구 목록에는 서비스명만 쓰지 말고 회사가 관리하는 계정 유형과 허용 기능을 함께 적는다. 같은 서비스의 개인 계정과 기업용 계정은 계약 조건, 접근 통제, 대화 기록 설정이 다를 수 있다. 브라우저 확장 기능이나 외부 서비스 연동, 자동 전송 기능도 기존 도구의 승인에 포함되는지 따로 판단해야 한다.
NIST의 생성형 AI 위험관리 프로필은 조직의 위험 허용 수준에 따른 관리, 승인된 제공자 목록, 사람의 감독 역할, 제삼자 관련 사고 대응을 제안한다. 이는 모든 기업에 동일한 승인 단계를 요구하는 규정이 아니라 업무의 영향과 도구의 연결 범위에 따라 통제를 정할 때 참고할 틀이다.
입력 정보는 비밀 여부와 이동 경로로 분류한다
입력 전에는 자료의 출처, 개인정보 포함 여부, 회사가 허용한 공개 범위, 자료가 전달될 서비스를 확인한다. 공개 보도자료와 직원 연락처, 고객 상담 내용, 미공개 계약 조건을 같은 범주에 둘 수는 없다. 이름을 지워도 직책과 사건 날짜, 거래 내용이 남아 특정인을 알아볼 수 있다면 안전하게 익명화됐다고 단정하기 어렵다.
직원에게는 세 가지 처리 기준을 제시할 수 있다. 공개와 이용 가능 범위가 확인된 자료는 승인 도구에 입력하고, 내부 자료는 업무상 필요한 부분만 입력한다. 개인정보·민감정보, 영업비밀, 고객이 비공개로 제공한 자료는 기본적으로 입력을 멈추고 지정 승인자의 검토를 받도록 한다. 분류가 애매하면 직원이 임의로 몇 단어를 가린 뒤 사용하기보다 입력 전에 문의하게 한다.
개인정보 사용이 필요한 업무라면 원본의 출처, 서비스 제공자에게 전달되는 내용, 보관·재이용 조건, 결과물과 대화 기록에 남는 정보까지 확인해야 한다. 법무법인 세종의 안내서 해설은 생성형 AI 개발·운영 과정에서 개인정보 영향평가를 실시할 경우 데이터 흐름, 침해요인, 개선계획을 단계별로 검토하도록 설명한다. 직원이 외부 도구를 쓰는 업무에는 이를 참고해 입력부터 결과물 보관까지의 경로를 점검표에 기록할 수 있다.
결과물의 검토자와 승인 시점을 지정한다
생성된 문장을 바로 게시하거나 발송하지 않도록 결과물의 용도별 검토자를 정한다. 사내 아이디어 메모는 작성자가 확인할 수 있지만 고객 안내문이나 인사 결정에 쓰이는 내용은 해당 업무 책임자의 검토가 필요하다. 지침에 ‘사람이 검토한다’고만 쓰면 누가 어떤 자료와 대조하고 언제 승인하는지 알 수 없다.
검토자는 고유명사, 수치, 인용, 법률·정책 설명을 원자료와 대조하고 개인정보나 내부 정보가 결과물에 다시 드러나지 않았는지 살핀다. 대외 공개물에는 사용된 사진·문장·코드의 출처와 이용 허락 범위도 확인하도록 한다. 출처가 불분명한 부분은 표현만 바꿔 통과시키기보다 제외하거나 법무 담당자에게 검토를 요청하는 절차를 둔다.
예를 들어 고객 문의 답변 초안 작성을 허용한다면 실제 고객 이름과 주문번호를 입력하지 않는 조건을 붙일 수 있다. 담당자는 생성된 답변을 회사 정책과 해당 주문 사실에 대조한 뒤 발송한다. 이처럼 입력 허용과 발송 승인은 같은 업무 안에서도 별개의 결정으로 적어야 한다.
기록, 권한 회수, 사고 신고를 운영 절차로 만든다
사용 기록에는 사후 확인에 필요한 항목을 정하되 모든 대화 원문을 무기한 저장하도록 요구하지 않는다. 업무 목적, 승인 도구, 입력 자료의 분류, 결과물의 사용처, 검토자와 승인 결과를 기록할 수 있다. 기록에 원본 개인정보를 중복 보관하면 기록 자체가 새로운 관리 대상이 되므로 접근 권한, 보존 기간, 삭제 책임도 함께 정한다.
계정 회수는 부서 이동과 퇴사 절차에 연결한다. 회사 계정만 닫고 외부 서비스 연동이나 공유 공간의 접근권을 남겨 두지 않도록 담당자와 처리 시점을 지정한다. 새 도구를 신청할 때의 계약·보안·개인정보 검토와 승인 목록에서 제외된 도구를 직원에게 알리는 방법도 같은 절차에 담는다.
개인정보나 기밀정보를 잘못 입력했거나 결과물에서 타인의 정보가 노출됐다면 직원이 즉시 신고할 창구를 알아야 한다. 최초 신고에는 사용 도구, 발생 시각, 정보의 종류, 공유 범위와 이미 취한 조치를 적게 한다. 대화 내용을 동료에게 재전송해 확인을 구하기보다 담당자가 접근 차단과 제공자 문의를 진행하고, 법적 신고·통지 필요성은 확인된 사실관계에 따라 판단하도록 한다.
직원에게 배포할 정책 골격
다음 문구는 승인 도구와 담당 부서를 채워 넣는 초안이다. 배포 전에는 회사의 개인정보 처리 기준, 보안 규정, 서비스 계약 조건과 맞춰야 한다.
- 적용 범위: 이 지침은 임직원과 업무상 생성형 AI에 접근하는 외부 인력에게 적용한다. 허용 업무는 [업무 목록]이며, 채용·평가·대외 발신 등 영향이 큰 업무는 [승인권자]의 사전 승인을 받는다.
- 승인 도구: [서비스·계정 유형·허용 기능]만 업무에 사용한다. 개인 계정, 미승인 확장 기능, 외부 연동 또는 자동 전송 기능을 사용하려면 [담당 부서]의 검토를 받는다.
- 입력 기준: 공개 자료는 출처와 이용 가능 범위를 확인한다. 내부 자료는 필요한 부분만 입력한다. 개인정보·민감정보, 영업비밀, 비공개 고객 자료는 [승인 절차] 없이 입력하지 않으며, 분류가 불명확하면 입력 전에 문의한다.
- 결과 검토: 작성자는 사실과 출처를 대조하고 개인정보·기밀정보의 재노출을 확인한다. 대외 공개, 고객 전달, 인사·계약 판단에 쓰는 결과물은 [업무 책임자]가 승인한다. 저작권이나 이용 허락이 불분명한 부분은 제외하거나 법무 검토를 요청한다.
- 기록과 보존: [기록 위치]에 업무 목적, 도구, 자료 분류, 결과물 사용처, 검토·승인자를 남긴다. 대화 원문 저장 여부와 보존 기간은 [기준]에 따르며 기록 접근 권한을 제한한다.
- 권한 회수: 입사·이동·퇴사에 따른 계정 발급과 회수는 [담당 부서]가 처리한다. 외부 연동과 공유 기능의 접근권까지 확인하고 승인 도구 목록을 [검토 주기]마다 갱신한다.
- 사고 신고: 오입력, 무단 공유, 결과물의 정보 노출을 발견하면 즉시 [신고 창구]에 알린다. 담당자는 공유 중단, 영향 범위 파악, 제공자 문의, 법적 신고·통지 검토와 후속 조치를 기록한다.
정책을 배포할 때는 허용 업무와 승인 도구의 실제 목록, 검토를 맡을 직책, 신고 창구를 빈칸 없이 지정해야 한다. 그래야 직원이 사용을 시작하기 전과 결과물을 전달하기 전에 누구의 판단을 받아야 하는지 알 수 있다.
함께 읽기:
관련 기사
뉴스레터 구독
최신 Web3, AI, 암호화폐 뉴스를 이메일로 받아보세요.
0