변호사가 AI 판례를 인용했다면, 정확성 확인 책임은 사라지지 않는다

생성형 AI를 법률 업무에 사용해도 판례와 사실의 정확성, 고객 정보 보호, 적절한 설명과 구성원 감독에 관한 변호사의 책임은 사라지지 않는다. AI가 제시한 판례는 담당 변호사가 신뢰할 수 있는 원문에서 존재 여부, 인용 문구, 적용 맥락과 현재 효력을 확인한 뒤에만 고객이나 법원에 제시해야 한다.

캘리포니아의 규정과 지침은 한국 변호사에게 직접 적용되지 않는 해외 사례다. 다만 입력할 자료를 고르는 단계부터 법률 인용 검증, 고객 고지, 외부 도구 관리와 최종 승인까지 책임 주체를 분명히 하는 업무 통제로 바꾸면 국내 실무에서도 참고할 수 있다.

AI 판례는 개별 법적 명제까지 확인한다

캘리포니아의 AI 관련 직업행동규칙 개정안 은 확정 규정이 아니라 2026년 두 차례 의견수렴을 거친 제안이다. 제안 문구는 변호사가 AI의 입력과 출력 전반에 전문적 판단을 행사하고, 고객이나 다른 당사자에게 인용하는 법적 근거의 정확성과 존재 여부를 확인하도록 한다. 법원 제출물에 대해서는 조작됐거나 잘못 기술됐거나 문맥에서 벗어난 근거가 없는지 제출 전에 검증하도록 명시한다.

검증 단위는 답변 전체의 자연스러움이 아니라 각각의 법적 명제다. 판례라면 사건이 실제로 존재하는지 확인한 뒤 관할과 심급, 선고일, 사건번호, 인용 위치를 원문과 대조한다. 인용문이 다수의견의 판결 이유인지, 사실관계 설명인지, 반대의견이나 별개의견인지도 구분해야 한다.

판례가 검색된다는 사실만으로 검증이 끝나지는 않는다. AI가 판시 범위를 과장했는지, 후속 판결에서 폐기되거나 제한됐는지, 현재 사건과 구별되는 핵심 사실을 누락했는지까지 확인해야 한다. 법령, 행정해석과 소송기록 인용에도 같은 원칙을 적용해 권위 있는 원자료와 대조한다.

확인한 원문, 검토일, 담당자와 수정한 오류를 사건 파일에 기록하면 제출 전 재검토와 책임 변호사의 승인이 쉬워진다. AI가 제공한 링크가 열리거나 문헌 제목이 검색된다는 사실은 그 문헌이 해당 주장을 뒷받침한다는 증거가 아니다.

고객 정보를 입력하기 전에 데이터 흐름을 확인한다

고객 이름을 지우는 것만으로 기밀 보호가 완성되지는 않는다. 특이한 사실관계의 조합, 거래 규모, 일정, 상대방이나 미공개 전략만으로도 고객과 사건이 식별될 수 있다. 먼저 입력 정보가 업무에 꼭 필요한지 판단하고, 필요하다면 최소화하거나 가명화해야 한다.

캘리포니아 변호사협회의 윤리·기술 자료 에 따르면 이사회는 2026년 5월 14일 에이전트형 AI를 반영한 생성형 AI 실무 지침 개정을 승인했다. 협회는 이 지침을 기술 변화에 따라 주기적으로 수정할 문서로 설명한다. 법률사무소 역시 도입 당시 평가에만 의존하지 말고 기능, 연동 범위와 데이터 처리 조건이 바뀔 때 다시 검토해야 한다.

도구를 승인할 때에는 입력 자료의 수집·이용·저장·공개 방식, 보존 기간, 모델 학습 이용 여부, 제3자 접근, 삭제 방법과 보안 조치를 확인한다. 무료 계정과 조직용 계약의 조건이나 관리 기능이 다를 수 있으므로 제품명이 같다는 이유로 동일한 보호 수준을 전제해서는 안 된다. 약관과 기술 문서를 해석하기 어렵다면 정보보안 또는 개인정보 전문가의 검토가 필요할 수 있다.

기밀 정보를 처리해야 한다면 승인된 환경에서 사건별 접근 권한과 보존 기간을 제한하고, 업무 종료 뒤 데이터와 계정을 정리할 방법도 정한다. 가명화가 충분하지 않거나 처리 조건을 확인할 수 없다면 그 도구에 정보를 입력하지 않는 것이 안전한 통제다.

고객 고지는 사용 사실보다 영향과 위험이 핵심이다

모든 맞춤법 교정이나 사건 정보가 들어가지 않는 일반적 아이디어 탐색까지 일률적으로 고지해야 한다는 뜻은 아니다. 설명이나 동의가 필요한지는 AI 사용이 대리의 범위와 중요한 판단에 미치는 영향, 고객 정보의 외부 제공, 비용, 고객의 계약상 요구에 따라 달라진다.

ABA Formal Opinion 512 는 생성형 AI 사용에도 능력, 기밀유지, 고객과의 의사소통, 직원·외부 서비스 제공자 감독, 법원에 대한 진실성과 합리적 보수 의무가 적용된다고 설명한다. 고객 관련 정보를 자기학습형 도구에 입력해 동의가 필요한 경우에는 사용 목적과 공개되는 정보, 구체적 위험과 기대되는 이익을 설명해야 하며, 위임계약의 포괄적인 상투 문구만으로는 충분하지 않다고 본다.

고객에게는 단순히 ‘AI를 사용한다’고 알리는 데 그치지 말고 어떤 업무에 이용하는지, 사람이 무엇을 검토하는지, 어떤 정보가 전달되는지 설명하는 편이 타당하다. AI 출력이 소송 전략이나 화해 여부처럼 중요한 결정에 영향을 준다면 고객이 의존 정도와 한계를 알고 판단할 수 있어야 한다.

비용도 별도 판단 대상이다. 시간제 보수라면 AI가 줄인 시간을 실제 작업시간처럼 늘려 청구해서는 안 된다. 도구 비용을 별도로 청구하려면 위임계약과 적용 규범에 따라 산정 근거를 설명하고, 고지 내용과 고객의 선택을 사건 기록에 남겨야 한다.

에이전트형 AI에는 자율 실행의 경계를 둔다

에이전트형 AI는 여러 단계를 계획하거나 외부 도구와 상호작용하고, 사람의 즉각적인 지시 없이 작업을 실행할 수 있다. 캘리포니아의 2026년 생성형 AI 실무 지침 은 이러한 자율성이 변호사의 독립적 판단 의무를 대신하지 않으며, 의미 있는 변호사 감독 없이 법적 판단·조언·서면 제출을 맡겨서는 안 된다고 밝힌다.

외부 전송, 법원·기관 제출, 삭제, 결제와 접근 권한 변경처럼 되돌리기 어려운 동작에는 사람의 사전 승인을 둬야 한다. 에이전트에는 필요한 데이터와 시스템에 대한 최소 권한만 주고, 허용 업무와 실행 조건을 정한다. 예상하지 못한 행동을 중지할 수 있어야 하며 누가 요청을 승인했고 도구가 무엇을 실행했는지 확인할 기록도 필요하다.

모델 업데이트나 새 연동 기능은 기존 위험평가의 전제를 바꿀 수 있다. 새로운 법률 업무를 맡기거나 자율성·데이터 접근 범위가 확대될 때에는 기능과 오류 양상, 보호 장치를 다시 평가해야 한다.

관리자는 사람, 도구와 절차를 함께 감독한다

조직이 공식 AI 계정을 제공했다는 사실만으로 감독 의무를 다했다고 볼 수는 없다. 책임 변호사는 변호사와 비변호사 직원, 외부 계약자가 어떤 도구에 어떤 자료를 입력할 수 있는지 정책과 교육으로 알려야 한다. 이들이 만든 AI 초안도 담당 변호사의 독립적인 검토 없이 고객이나 법원에 전달되어서는 안 된다.

감독 대상에는 승인되지 않은 개인 계정 사용, 고객 자료의 무단 복사, AI 초안의 무검토 전달과 자동 실행 권한 확대가 포함된다. 오류나 정보 노출을 보고할 경로, 즉시 사용을 중단할 조건, 고객이나 기관에 대한 후속 대응 책임자도 미리 정해야 한다.

법률 윤리 규범은 아니지만 NIST의 생성형 AI 위험관리 프로필 은 조직이 생성형 AI 위험을 생애주기 전반에서 관리하도록 돕는 자발적 범분야 자료다. 법률사무소는 이 틀을 참고해 승인 도구, 책임자, 허용 업무, 평가 기준, 사고 보고와 정기 재검토를 하나의 운영 체계로 연결할 수 있다.

업무 단계별 확인 질문

1. 수임과 범위 설정: AI 사용이 고객의 중요한 결정, 합리적인 기대 또는 비용에 영향을 주는가? 사용 목적과 사람의 검토 범위를 설명하고 동의가 필요한지 판단했는가?
2. 자료 입력: 고객이나 사건을 식별할 정보가 포함되는가? 필요한 범위로 줄이거나 가명화했는가? 승인된 도구의 저장·학습·접근·삭제 조건을 확인했는가?
3. 초안 생성: AI가 확인되지 않은 사실과 법률 판단을 단정하지 않았는가? 사용한 자료와 담당자, 주요 수정 사항을 재검토할 수 있게 기록했는가?
4. 법률 검증: 모든 판례, 법령과 기록 인용을 원문에서 찾았는가? 관할, 심급, 문맥, 현재 효력과 작성 중인 주장 사이의 관계를 독립적으로 확인했는가?
5. 외부 실행: 발송, 제출, 삭제, 결제 또는 권한 변경 전에 사람이 승인하는가? 예상 밖 행동을 중단하고 실행 기록을 확인할 수 있는가?
6. 최종 승인과 청구: 책임 변호사가 완성본을 읽고 승인했는가? 실제 투입 시간과 도구 비용을 정확히 처리하고 고객 고지와 검증 기록을 보존했는가?
7. 사후 관리: 오류나 정보 노출이 발견되면 보고, 완화, 필요한 설명과 재발 방지로 이어지는가? 도구나 약관이 바뀌면 위험평가와 승인을 갱신하는가?

이 질문들은 미국 규정을 한국 사건에 그대로 적용하기 위한 목록이 아니다. 국내 변호사 윤리와 비밀유지·개인정보 의무, 위임계약, 법원과 기관의 제출 규칙을 별도로 확인해야 한다. 어느 규범을 적용하더라도 AI가 초안을 만들었다는 사실은 그 내용을 믿고 제출하거나 전달하기로 한 변호사의 책임을 대신하지 않는다.