AI 기본법 표시 의무, 3000만원 과태료 전에 확인할 7가지

한국에서 생성형 인공지능이나 고영향 인공지능을 이용한 제품·서비스를 제공하는 인공지능사업자는 이용자에게 AI 기반으로 운용된다는 사실을 사전에 알려야 한다. 생성형 AI 결과물에는 생성 사실을 표시해야 하며, 실제와 구분하기 어려운 가상 음향·이미지·영상은 이용자가 명확히 인식할 수 있는 방식으로 고지하거나 표시해야 한다.

제목의 3000만원은 모든 결과물 표시 누락에 즉시 부과되는 정액 과태료가 아니라 법정 상한이다. 직접적인 과태료 대상은 AI 기반 운용 사실의 사전 고지 의무 위반, 일정한 국외 사업자의 국내대리인 미지정, 중지·시정명령 불이행이다. 결과물 표시나 고영향 AI 책무 위반도 조사와 시정명령으로 이어질 수 있으므로 다음 일곱 항목을 기능별로 확인해야 한다.

적용 대상부터 확정한다

국가법령정보센터의 현행 인공지능기본법 은 2026년 7월 21일 시행본이며, 국외에서 이뤄진 행위도 국내 시장이나 이용자에게 영향을 미치면 적용한다고 규정한다. 본사나 서버가 해외에 있다는 사정만으로 국내 이용자 대상 서비스가 제외되지는 않는다.

의무 주체는 AI를 개발해 제공하는 사업자뿐 아니라, 개발사업자가 제공한 AI를 이용해 최종 제품이나 서비스를 제공하는 사업자도 포함한다. 외부 모델을 API로 호출하더라도 자체 기능으로 이용자에게 제공한다면 모델 공급사와 서비스 운영사의 역할을 나눠 검토해야 한다. 반면 직원의 내부 문서 작성처럼 사업자 내부에서만 사용하는 경우에는 투명성 의무의 전부 또는 일부가 적용되지 않을 수 있다.

사업자가 확인할 7가지

1. 기능별로 생성형 AI 여부를 분류한다. 입력 데이터의 구조와 특성을 모방해 글, 소리, 그림, 영상 등 새로운 결과물을 만드는 기능인지 확인한다. 검색, 분류, 요약, 재작성, 이미지 생성이 한 서비스에 섞여 있다면 서비스 전체에 하나의 결론을 붙이지 말고 각 기능의 입력·처리·출력을 기록한다.
2. 고영향 AI는 산업명이 아니라 이용 영역과 영향으로 판단한다. 에너지·먹는 물·보건의료·디지털의료기기·원자력·범죄 수사용 생체정보·채용·대출·교통·학생 평가 등 법정 영역에서 사용되면서 생명, 신체 안전 또는 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는지 살핀다. 단순 보조 도구라는 명칭만으로 제외할 수 없고, AI 출력이 실제 결정에 미치는 비중과 사람이 결과를 변경할 권한을 함께 확인해야 한다.
3. 사전 고지와 결과물 표시를 분리한다. 사전 고지는 고영향·생성형 AI 기반 제품이나 서비스를 이용하기 전에 운용 사실을 알리는 의무다. 결과물 표시는 생성형 AI가 만든 결과에 생성 사실을 남기는 별도 의무다. KISDI의 투명성 제도 분석 도 사전 고지, 생성 결과물 표시, 실제와 구분하기 어려운 결과물의 명확한 고지·표시를 서로 다른 세 층으로 구분한다.
4. 표시 방법과 예외의 근거를 보관한다. 2026년 8월 20일 시행 인공지능기본법 시행령 에 따르면 사전 고지는 제품, 계약서, 사용설명서, 이용약관, 이용자 화면·단말기 또는 제공 장소의 게시로 할 수 있다. 결과물 표시는 사람이 인식하거나 기계가 판독하는 방식이 가능하지만, 기계 판독 방식이면 생성형 AI가 만들었다는 사실을 안내 문구나 음성 등으로 1회 이상 제공해야 한다. AI 사용 사실이 제품명·화면·결과물 등에서 명백하거나 내부 업무용인 경우에는 의무의 전부 또는 일부가 적용되지 않을 수 있으므로 당시 화면과 판단 사유를 함께 남긴다.
5. 고영향 AI 책무를 운영 문서로 만든다. 고영향 AI를 제공한다면 위험관리, 최종 결과 도출의 주요 기준과 학습용 데이터 개요 등에 관한 설명 방안, 이용자 보호, 사람의 관리·감독, 안전성·신뢰성 조치를 확인할 수 있는 문서를 마련해야 한다. 시행령은 조치와 근거를 전자문서를 포함해 5년간 보관하도록 하고, 위험관리정책과 조직체계, 설명·이용자 보호 방안, 관리·감독자의 성명과 연락처를 사무소·사업장이나 홈페이지 등에 게시하도록 한다. 법률상 영업비밀은 게시 대상에서 제외할 수 있다.
6. 영향평가와 국내대리인을 별도로 판정한다. 고영향 AI 제품·서비스 제공자는 사전에 기본권 영향을 평가하도록 노력해야 하며, 서비스 성격에 따라 취약계층의 특성도 반영해야 한다. 이는 직접 과태료가 연결된 사전 고지 의무와 법적 성격이 다르지만, 국가기관 등은 영향평가를 실시한 제품·서비스를 우선 고려해야 한다. 국내 주소나 영업소가 없는 사업자는 전년도 매출 1조원 이상, AI 서비스 부문 전년도 매출 100억원 이상, 전년도 말 기준 직전 3개월 국내 일평균 이용자 100만명 이상 또는 법정 과태료 부과 이력 중 하나에 해당하는지 확인해야 한다.
7. 과태료와 시정 절차를 구분한다. 3000만원 이하 과태료가 직접 규정된 경우는 사전 고지 위반, 국내대리인 미지정, 중지·시정명령 불이행이다. 생성형 AI 결과물 표시 누락 자체는 직접 과태료 대상으로 열거되지 않았지만 사실조사와 중지·시정명령의 대상이 될 수 있으며, 명령을 이행하지 않으면 과태료가 부과될 수 있다. 따라서 고지·표시 화면뿐 아니라 배포 버전, 예외 판단, 담당자와 시정 이력까지 연결해 보관할 필요가 있다.

고영향 AI인지 애매할 때의 판단 순서

첫 단계는 AI가 법에서 정한 영역에 쓰이는지 확인하는 것이다. 다음으로 출력이 사람의 생명·신체 안전이나 기본권에 영향을 주는 판단 또는 평가와 연결되는지 살핀다. 마지막으로 사람의 검토가 형식적 승인인지, 근거를 확인하고 오류를 고쳐 결과를 실질적으로 바꿀 수 있는 통제인지 기록한다.

자체 검토만으로 결론을 내리기 어렵다면 과학기술정보통신부에 확인을 요청할 수 있다. 과기정통부의 고영향 AI 확인 창구 는 사업자가 판단 가이드라인에 따라 먼저 자체 검토한 뒤 추가 확인이 필요한 경우 신청하도록 안내한다. 요청 자료에는 시스템 설명, 학습용 데이터 개요, 입력·처리·출력 과정, 실제 이용 목적과 결과물 자료가 포함돼야 한다.

공급받은 AI 시스템의 본래 목적이나 용도를 현저하게 바꾸는 등 중대한 기능 변경을 하지 않았다면 개발사업자가 이행한 위험관리·설명·이용자 보호 조치의 전부 또는 일부를 인정받을 수 있다. 반대로 새로운 데이터 결합, 이용 목적 변경, 자동화 수준 상승처럼 실제 운영 구조가 달라진 경우에는 기존 판단을 그대로 원용하기 어렵다. 중대한 기능 변경인지 불분명하다면 계약과 기술 문서를 갖춰 법률 검토를 받는 편이 안전하다.

표시는 결과물의 전달 경로까지 설계한다

사전 고지는 이용자가 AI 기능을 이용하기 전에 확인할 수 있어야 한다. 결과물 표시는 생성 이후의 산출물에 적용되므로 화면, 파일 다운로드, API 반환 등 실제 제공 경로별로 구현 여부를 확인해야 한다. 기계 판독 표시를 사용하더라도 이용자에게 제공하는 1회 이상의 문구·음성 안내를 생략할 수 없다.

실제와 구분하기 어려운 가상 음향·이미지·영상은 이용자가 시각·청각 또는 소프트웨어로 쉽게 확인할 수 있어야 하며, 주된 이용자의 나이와 신체적·사회적 조건도 고려해야 한다. 예술적·창의적 표현물은 감상이나 향유를 저해하지 않는 방식으로 고지·표시할 수 있지만 표시 의무가 자동으로 사라지는 것은 아니다.

출시 승인 자료와 법률 검토의 경계

출시 승인 자료에는 서비스 흐름도, 개발·이용사업자의 역할, 기능별 생성형 AI 판정, 고영향 AI 판단 근거, 사전 고지 화면, 결과물 표시 방식과 예외 사유를 연결해야 한다. 고영향 AI라면 위험 식별과 완화 조치, 설명에 사용할 주요 기준, 학습용 데이터 개요, 이용자 보호 절차, 사람의 개입 권한, 게시 내용과 5년 보관 위치도 포함한다.

모델 교체, 이용 목적 확대, 새로운 데이터 결합, 의사결정 자동화 수준 변경, 이용자층 변화는 재검토 조건으로 정할 수 있다. 특히 고영향 AI 해당 여부, 투명성 의무의 예외, 중대한 기능 변경, 영업비밀의 게시 제외, 국외 사업자의 매출·이용자 기준 계산은 사실관계에 따라 결론이 달라질 수 있어 법률 자문이 필요한 경계다.