사실확인 없이 21건 인용 드러나

현재까지 가주서만 52건 보고

LA지역의 한 변호사가 AI(인공지능)가 생성한 허위 판례를 다수 인용한 항소서를 법원에 제출한 사실이 드러나 가주 항소법원으로부터 1만 달러의 벌금을 부과받았다.

가주 항소법원 판결문(B331918)에 따르면 변호사 아미르 모스타파비는 2023년 7월 항소심 청구서를 작성하면서 챗GPT를 활용해 문장을 보완했다고 밝혔다. 그러나 해당 AI가 생성한 존재하지 않는 판례 21건을 별도의 사실 확인 없이 인용해 제출한 것이 문제로 지적됐다. 재판부는 이 같은 행위에 대해 “기본적인 사실 확인 의무조차 저버린 중대한 위반”이라고 강도 높게 비판하며 무분별한 항소 제기와 허위 판례 인용, 사법 자원의 낭비 등을 이유로 해당 벌금을 부과했다.

한편, AI의 법률 활용에 대한 우려는 이번 사건 이전부터 제기돼 왔다.

2024년 5월 스탠퍼드 대학 법률기술 연구소 ‘레그랩(RegLab)’이 발표한 보고서에 따르면 변호사 4명 중 3명은 향후 AI를 법률 실무에 도입할 계획이라고 응답한 반면, AI에 입력된 질의 중 약 3건 중 1건은 ‘허위 정보’를 생성하는 것으로 나타났다.

오하이오주 캐피털대 법대생 니콜라스 산티스는 “AI 기술 발전 속도가 법조계 교육과 윤리 규범보다 앞서고 있다”며 “현재까지 미 전역에서 600건 이상, 가주에서만 52건의 허위 판례 인용 사례가 보고됐다”고 경고했다.

이에 따라 가주 대법원은 변호사 윤리 강령 강화를 검토 중이며, 주 사법위원회는 오는 12월 15일까지 법원에 AI 사용 지침 마련 또는 금지 조치를 공식 요청한 상태다.

우미정 기자 la@chosundaily.com