AI 믿고 가짜 판례 인용…이혼 변호사 벌금형

항소법원, 애틀랜타 여성 변호사 벌금 2500달러 제재

조지아 항소법원이 최근 애틀랜타의 한 이혼 전문 변호사에게 가짜 판례 인용에 따른 벌금 2500달러의 제재를 내리면서, 인공지능(AI)의 법률 사용이 가져올 수 있는 심각한 문제에 대한 경각심이 커지고 있다.

해당 변호사는 스톤마운틴 지역에서 개인 사무실을 운영하는 다이애나 린치(Diana Lynch)로 그녀는 2022년 디캡카운티에서 진행된 이혼 소송의 항소 과정에서 존재하지 않는 판례를 다수 인용한 혐의를 받고 있다.

조지아 항소법원 3인 판사 패널은 린치 변호사가 제출한 서면에서 11건의 가짜 혹은 무관한 판례를 인용했다고 지적했다. 이 중 일부는 해당 재판부가 서명한 판결문에도 포함되어 있었으며, 판사들은 이 문서가 린치 변호사에 의해 초안된 것으로 보고 있다.

항소 판결문에서는 “이상한 문장 구조와 근거 없는 인용 사례는 생성형 인공지능(generative AI)을 사용해 작성된 흔적이 뚜렷하다”고 판단하며, “변호사의 주장으로 인해 상대 측은 적절한 대응 기회를 박탈당했다”고 강조했다.

문제는 린치 변호사가 이 같은 잘못을 지적받고도 이를 수정하기는커녕, 항소심 과정에서 또다시 존재하지 않는 ‘존슨 대 존슨(Johnson v. Johnson)’이라는 판례를 인용해 변호사 비용까지 청구했다는 데 있다. 이에 대해 항소법원은 “해당 판례는 검색할 수 없으며, 인용된 판결 요지도 법을 왜곡한 것”이라고 강하게 비판했다.

결국 재판부는 린치 변호사의 행위를 ‘무분별한 법정 남용’으로 판단하고, 그녀의 변호사 비용 청구를 기각함과 동시에 2500달러의 벌금을 부과했다. 해당 사건은 다시 디캡카운티 지방법원으로 되돌려져, 전 부인의 이혼 판결 무효 요청을 재심의하게 된다.

이 사건은 조지아주 항소법원이 AI 오용 문제를 직접 언급한 첫 사례로 기록됐다. 실제로 연방대법원장 존 로버츠도 2023년 연례 보고서에서 “AI는 종종 ‘환각(hallucination)’처럼 존재하지 않는 정보를 만들어낼 수 있다”고 경고한 바 있다.

한편 조지아주 대법원의 앤드루 핀슨 판사가 주도하는 AI와 사법제도 위원회는 현재 인공지능 기술이 조지아 법원에 미치는 영향을 분석하고 있으며, 공공 신뢰 유지를 위한 가이드라인 수립 작업을 진행 중이다.