사내 AI 정책, 금지 목록만 만들면 실패한다…업무별 허용선을 정하는 법

사내 생성형 AI 정책은 도구 이름이나 금지 정보만 나열해서는 직원의 업무 판단 기준이 되기 어렵다. 업무별 허용 기준표에 입력 가능한 자료, AI가 맡을 작업, 결과 검토자와 최종 승인자를 함께 적어야 한다. 같은 이메일 초안이라도 공개 행사 안내와 고객 불만 답변은 다루는 정보와 잘못 발송했을 때의 영향이 다르다.

기준표는 전면 허용·조건부 허용·도구적 사용·제한·금지로 나누되, 단계 이름만 붙이고 끝내지 않는다. 각 업무에 허용 도구와 계정, 입력 금지 자료, 검증 방법, 사용 기록 위치, 사고 신고 창구를 연결한다. 아래의 업무 배정은 한국 기업·기관이 내부 규정을 작성할 때 검토할 예시이며, 실제 허용 범위는 정보 분류와 계약상 의무, 도구의 처리 조건에 맞춰 결정해야 한다.

부서명이 아니라 입력 자료와 산출물을 기준으로 분류한다

업무 목록에는 ‘마케팅’이나 ‘법무’ 대신 ‘공개 행사 안내문 초안’, ‘미공개 계약 조항의 쟁점 추출’, ‘고객 문의 기록 분류’처럼 작업을 적는다. 이어 입력 자료의 공개 여부와 개인정보·기밀 포함 여부, 결과의 대외 사용 여부, 오류가 고객이나 계약에 미칠 영향을 표시한다. 이 항목이 있어야 같은 부서 안에서도 서로 다른 허용선을 그을 수 있다.

카카오 그룹 기술윤리 보고서는 사내 생성형 AI 활용 정책이 보안·저작권 등의 위험을 구분하고, 사용 범위와 방식, 산출물 검토 사항을 구체화했다고 설명한다. ‘이메일 작성 허용’이라고만 쓰면 미공개 거래 조건을 입력해도 되는지, 초안을 누가 발송 전에 확인해야 하는지 판단할 수 없다. 기준표의 한 행에서 허용 자료와 금지 자료, 결과의 사용 조건을 함께 읽을 수 있게 만드는 이유다.

도구 승인과 업무 승인은 별개로 둔다. 조직이 허가한 서비스라도 모든 자료와 기능을 그 서비스에 사용할 수 있다는 뜻은 아니다. 기준표에는 서비스명뿐 아니라 허용된 계정과 기능을 적고, 해당 업무의 자료 등급을 다룰 수 있는지 연결한다. 자료의 등급이 불분명하면 직원이 임의로 낮춰 판단하지 않도록 정보 소유 부서의 확인 경로도 지정한다.

다섯 단계의 차이를 실제 작업으로 보여준다

한림성심대학교 AI 활용 가이드라인은 학생의 과제 수행을 전면 허용부터 전면 금지까지 다섯 단계로 구분한다. 같은 문서는 행정직원에게 상급자 승인과 사전 점검, 개인정보·기밀 보호, 결과에 대한 사람의 감독을 요구한다. 아래 구분은 교육 과제의 단계 개념을 기업 업무에 맞게 재구성한 정책 예시다.

• 전면 허용: 공개된 제품 설명이나 행사 정보만으로 내부 아이디어를 넓히고 안내문 초안을 만드는 작업이다. 승인된 도구를 사용하며, 담당자는 AI가 덧붙인 사실이나 약속을 확인한 뒤 결과를 쓴다. 여기서 ‘전면’은 정해진 자료와 작업 범위에 관한 말이다.
• 조건부 허용: 계약 쟁점 목록이나 고객 응대 문안의 구조를 얻되, 실제 계약 내용과 고객 식별 정보는 입력하지 않는 작업이다. 담당 부서가 입력용 요약본을 만들고, 법무 또는 업무 책임자가 제안을 원문과 대조한다. 허용 조건을 충족하지 못하면 AI 작업을 시작하지 않는다.
• 도구적 사용: 이미 작성한 공개 문장의 맞춤법, 표현, 번역, 형식만 손보는 작업이다. 새로운 사실이나 판단을 만들어 넣는 기능은 허용 범위에서 제외한다. 작성자는 수정 전후의 의미와 고유명사가 달라지지 않았는지 확인한다.
• 제한: 업무 전체가 아니라 지정된 단계에서만 AI를 쓰는 경우다. 예를 들어 고객 문의 분석에서 원본 검토와 최종 분류 판단은 사람이 맡고, 승인된 자료를 이용한 분류 항목의 초안 작성만 허용할 수 있다. 이 단계에는 누가 자료를 가공하고 작업 범위를 승인하는지 적는다.
• 금지: 승인되지 않은 외부 도구에 미공개 기밀이나 식별 가능한 개인정보를 입력하는 행위, 또는 AI 결과만으로 계약 수락이나 고객에게 불이익을 주는 결정을 내리는 행위다. 입력과 판단을 안전하게 분리할 수 없는 작업은 AI 사용 범위에서 제외한다.

한 업무에 단계 하나를 붙이는 것보다 작업의 경계를 적는 편이 정확하다. 계약 업무에서도 공개된 일반 개념을 묻는 일과 비공개 계약서 전체를 올리는 일은 입력 자료부터 다르다. 기준표에는 ‘허용되는 질문’과 ‘입력하면 안 되는 자료’를 짝지어 적는다. 조건부 허용은 자료와 승인 조건을 충족하면 정해진 작업을 할 수 있다는 뜻이고, 제한은 자료가 적절해도 AI가 참여할 작업 단계 자체를 좁힌다는 뜻이다.

입력 규칙에는 자료 가공과 도구 설정을 함께 넣는다

‘개인정보 입력 금지’만으로는 직원이 원본을 어디까지 바꿔야 하는지 알기 어렵다. 이름을 지워도 전화번호나 주문번호, 드문 사건의 서술처럼 개인을 알아볼 단서가 남을 수 있다. 정책에는 채팅창에 붙여 넣기뿐 아니라 파일 업로드, 대화 공유, 외부 연동 기능을 통한 전달도 입력으로 다룬다고 적는다. 자료를 가공했다는 이유만으로 허용 단계를 낮추지 말고, 자료 소유자가 남은 식별 단서를 확인하게 한다.

도구 승인표에는 계정 관리자, 입력과 출력의 저장·공유 설정, 사용 내역 확인 권한, 계약과 내부 보안 기준에 따른 사용 범위를 기입한다. 같은 서비스라도 개인 계정이나 별도 확장 기능에는 조직의 승인 조건이 적용되지 않을 수 있으므로 허용 대상을 구체적으로 표시한다. 설정을 확인하지 못한 도구는 민감 자료를 다루는 업무에 배정하지 않는 것이 분명한 기준이다.

시험용 프롬프트가 필요하면 공개 자료나 내부에서 만든 가상 예시를 우선 사용하도록 정할 수 있다. 고객 문의 원문을 요약하거나 일부 항목을 삭제한 자료를 쓰려면, 가공한 뒤에도 고객을 알아볼 수 있는 맥락이 남았는지 살핀다. ‘먼저 올리고 나중에 삭제’하는 사용은 입력 단계의 위험을 되돌릴 수 있다는 전제에 기대므로 허용 절차로 두지 않는다.

결과 검증과 사람 승인을 영향에 맞게 배정한다

결과를 ‘사람이 확인한다’고만 쓰면 검토의 범위가 모호하다. 외부 이메일은 수신 대상, 사실관계, 약속한 조건과 어조를 작성자가 확인한다. 계약 쟁점 목록은 법무 담당자가 조항 번호와 원문 해석을 대조한다. 고객정보 분석은 누락이나 잘못된 분류를 살피고, 개별 고객에게 영향을 주는 결정은 업무 책임자가 맡도록 구분한다.

승인자도 결과의 쓰임에 따라 정한다. 공개 자료로 만든 내부 초안은 작성자 검토로 충분하다고 정할 수 있지만, 대외 발송 문안은 발송 권한자의 확인을 거치게 할 수 있다. 계약상 권리·의무나 고객 처우에 영향을 주는 결과는 해당 업무의 결재 체계로 보낸다. AI 사용 여부만을 기준으로 모든 작업에 같은 승인 절차를 요구하면 위험이 큰 결정과 단순한 표현 수정의 차이가 사라진다.

검증 항목에는 근거 확인 방법도 적는다. AI가 제시한 법령, 판례, 수치나 인용문은 원문 또는 조직이 지정한 자료에서 다시 찾고, 확인되지 않는 내용은 최종 산출물에 넣지 않는다. 사용 기록에는 누가 어느 결과를 검토하고 수정했으며 최종 사용을 승인했는지 남긴다. 그래야 오류가 발견됐을 때 영향을 받은 산출물과 수정 책임을 찾을 수 있다.

사용 기록은 사고 신고와 대응에 필요한 만큼 남긴다

기록에는 업무명, 승인된 도구와 계정, 사용 목적, 입력 자료의 등급, AI가 맡은 단계, 검토자와 최종 승인자를 담는다. 대화 전체를 일률적으로 보관하기보다 문제가 생겼을 때 해당 사용을 재구성할 수 있는 항목을 정하는 방식이다. 프롬프트나 출력물을 보관해야 한다면 보관 위치와 접근 권한을 먼저 지정해 기록에 개인정보나 기밀이 다시 쌓이지 않게 한다.

NIST의 생성형 AI 위험관리 프로필은 조직의 책임과 허용 사용 정책, 배포 전 시험, 콘텐츠 출처, 사고 공개를 다루며 사고 기록·대응과 사후 검토 절차를 제안한다. 이를 직원용 규정으로 옮길 때는 신고할 상황, 접수 창구, 추가 사용을 멈출 권한, 영향을 판단할 책임자를 명시한다. 잘못된 결과를 외부에 보냈거나 허용되지 않은 정보를 입력한 경우처럼 직원이 알아볼 수 있는 상황으로 신고 기준을 쓰는 편이 좋다.

신고를 받으면 보안 또는 개인정보 담당자가 해당 도구의 추가 사용을 중단시키고 입력 범위, 파일 업로드 여부, 공유 범위를 확인하도록 역할을 정한다. 업무 책임자는 이미 사용된 결과물을 찾아 정정이나 회수가 필요한지 판단한다. 외부 통지나 법적 신고 여부는 해당 책임 부서가 검토한다. 최초 신고에는 발견 시각과 업무, 사용한 도구, 의심되는 정보 범위를 받되 직원이 민감한 원문을 신고 양식에 다시 붙여 넣지 않도록 안내한다.

배포 전 점검표는 직원이 답할 수 있는 질문으로 만든다

기준표를 배포하기 전에는 실제 업무를 대입해 직원이 허용 범위와 승인자를 찾을 수 있는지 확인한다. 입력, 초안 작성, 검증, 발송이 서로 다른 단계에 속하면 한 업무를 작업별로 나눠 표시한다. 어느 칸도 담당자의 추측에 맡기지 않도록 허용 조건이나 문의할 부서를 채운다.

1. 직원이 자신의 작업과 허용 단계를 기준표에서 찾을 수 있는가?
2. 입력 가능한 자료와 금지 자료가 업무에 맞는 예시로 구분되어 있는가?
3. 승인된 도구·계정·기능과 자료 등급의 관계가 명확한가?
4. AI 결과에서 확인할 사실, 출처, 권리와 표현 문제가 적혀 있는가?
5. 최종 사용 승인자와 기록 항목·보관 위치가 정해져 있는가?
6. 잘못된 입력이나 발송을 발견했을 때 신고 창구와 첫 조치를 알 수 있는가?

새 도구가 추가되거나 저장·공유 설정이 바뀌면 영향을 받는 업무의 허용 범위를 다시 평가하도록 변경 책임자를 지정한다. 사고 신고에서 드러난 입력 경로나 검토의 빈틈도 기준표의 해당 업무 행에 반영한다. 직원에게는 바뀐 조항만 알리기보다 어떤 자료를 어떤 작업에 사용할 수 있는지가 달라졌는지 보여줘야 한다.

함께 읽기:

• 직장 AI 사용 정책, 금지 목록보다 먼저 정할 네 가지
• 사내 생성형 AI 지침, ‘비밀을 넣지 마라’만으로는 부족하다
• Meta의 Muse Wonder 공개…개인정보를 기억하는 에이전트가 온다