법률 AI 서비스 활용 본격화
'허위 법령, 판례' 잇단 기승
'허위 법령, 판례' 잇단 기승
|
18일 법조계에 따르면 국내 리걸테크 업계에서는 2024년을 기점으로 AI 기반 법률 검색·문서 분석 서비스가 잇따라 등장하면서 AI 법률 서비스의 활용이 본격적으로 확산하기 시작했다.
대표적으로 엘박스는 같은 해 4월 법률 리서치 서비스 '엘박스AI'를, 로앤컴퍼니는 7월 변호사 업무 지원 서비스 '슈퍼로이어'를 선보였다. 대법원 법원행정처도 올해 2월 법관과 법원 직원의 재판 업무를 돕는 생성형 AI 시스템의 시범 운영에 들어갔다.
문제는 AI가 생성한 법률 정보를 충분히 검증하지 않고 재판 과정에 활용하면서 허위 판례가 소송 서면에 인용되는 등 부정확한 정보가 재판 절차에 영향을 미치고 있다는 점이다.
실제로 특허법원은 지난 6월 11일 판결에서 변호사가 AI로 생성한 허위 판례 8건을 검증 없이 소송 서면에 인용해 제출한 사실을 지적했다. 수원지법도 지난 5월 28일 민사사건 판결에서 당사자가 제시한 판례들이 AI를 이용해 만들어진 허위 판례로 보인다고 밝혔다.
AI 오류가 나홀로 소송뿐 아니라 변호사가 대리하는 사건에서도 걸러지지 않은 것이다. 한 검사 출신 형사전문 변호사는 "AI가 판례 검색과 서면 초안 작성에 도움을 주더라도 인용한 판례의 존재 여부와 사건에 적용할 수 있는 법리인지 별도로 확인해야 한다"고 설명했다.
이처럼 AI가 생성한 허위 판례가 실제 소송에 인용되는 사례는 법관 연수에서도 공유됐다. 사법연수원은 지난달 4일 'AI 활용 허위 법령 등 인용 대응 방안'을 주제로 법관 연수를 실시했는데 이 당시 소송 당사자가 제출한 서면에 인용된 판례 40건 가운데 39건이 실제로 존재하지 않는 허위 판례였던 사례가 소개됐다.
앞서 법원행정처는 지난해 11월부터 올해 3월까지 운영한 'AI 활용 허위 주장·증거 제출 대응 태스크포스(TF)'를 통해 AI 생성 허위 법령·판례 인용에 대한 대응 방안을 제시했다. TF는 소송 당사자나 대리인이 AI가 생성한 허위 법령·판례를 인용해 불필요한 소송 비용을 발생시키거나 재판을 지연시킨 경우 그로 인해 발생한 소송 비용의 전부 또는 일부를 부담할 수 있다고 봤다. 또 변호사가 AI로 생성된 판례 등을 검증하지 않고 제출한 경우 재판부가 대한변호사협회에 징계를 의뢰하는 방안도 제시했다.
이와 관련해 한 서울중앙지법 판사는 "AI가 법률 서비스에 대한 일반인의 접근 장벽을 낮추고, 당사자가 자신의 주장을 정리하는 데 도움을 줄 수 있다는 점은 긍정적"이라면서도 "AI가 판결문을 잘못 요약하거나 법리를 왜곡하면 시민들이 실제 판결을 보고도 '판사가 잘못 판단했다'고 받아들여 사법 불신으로 이어질 수 있다"고 밝혔다. 그러면서 "AI 활용을 막을 수 있는 흐름은 아닌 만큼 장점을 살리면서 오류를 걸러낼 방안을 고민해야 한다"고 했다.
