AI가 만든 판례 AI-generated precedents

최근 생성형 AI를 활용해 법률 서면을 작성하다가 AI가 만들어낸 '환각(Hallucination)' 현상으로 존재하지 않는 가짜 판례(이른바 '유령 판례')를 인용하는 사례가 늘어나면서 사법 당국이 골머리를 앓고 있습니다

1. 주요 사건 및 현황

실토 사례: 울산지방법원 등에서 변호인이 AI를 사용해 작성한 서면에 엉뚱한 대법원 판결을 인용했다가 재판장의 추궁을 받고, 결국 "구글 제미나이(Gemini)로 검색한 뒤 제대로 확인하지 않았다"고 실토하는 일이 있었습니다.

유령 판례의 위험성: 생성형 AI는 질문에 그럴듯한 답변을 내놓지만, 사실이 아닌 정보를 마치 사실인 것처럼 꾸며내는 '환각' 현상이 있습니다. 이를 검증 없이 재판부에 제출할 경우 사법 시스템의 신뢰를 훼손하고, 판사들이 가짜 판례를 확인하느라 불필요한 검증 시간을 소모하게 됩니다.

법원의 대응: 현재 각급 법원에서는 변호인뿐 아니라 '나홀로 소송'을 진행하는 당사자들도 AI가 지어낸 판례를 인용하는 사례가 빈번하게 보고되고 있습니다.

2. 법원의 대책

법원행정처는 사법 신뢰를 지키기 위해 다음과 같은 조치를 취하고 있습니다.

사법정보공개포털 기능 강화: 지난 2월, 당사자가 제출 전 스스로 허위 사건번호를 확인할 수 있도록 '허위 사건번호 확인' 기능을 추가했습니다.

지능형 검색 시스템 추진: AI가 질문 의도를 분석해 실제 관련 판결문만을 찾아주는 '지능형 판결문 검색 시스템' 개발을 추진 중입니다.

법적 제재 검토: 허위 판례나 증거를 제출할 경우 과태료를 부과하거나, 소송 시 AI 활용 여부를 명시하도록 하는 소송법 개정안 등을 논의하고 있습니다.

3. 시사점

변호사 등 법률 대리인에게는 AI가 제공한 정보를 반드시 원문 확인 등을 통해 직접 검증해야 할 엄격한 책임이 요구되고 있습니다. 미국 등 해외에서도 AI가 만든 가짜 판례를 제출했다가 변호사가 징계나 벌금형을 받는 사례가 이어지고 있어, 법률 실무에서의 AI 활용에 대한 경각심이 높아지고 있는 상황입니다.

“제미나이 썼다” 실토한 변호인…법원은 ‘유령 판례’와 싸운다

소송에서 AI를 활용하는 경우가 늘어나며 법원도 대응에 나섰다. 특히 AI의 확산으로 유입된 ‘유령 판례’는 법원에 새로운 과제를 던지고 있다.

넘치는 가짜 판례…변호인이 “제미나이 활용” 실토하기도

https://v.daum.net/v/20260614060157098