활용 사례 뉴스
AI 환각 증언 포함 변호사, 살인 사건 항소 자료로 벌금 부과
Lawyer fined $5K over AI-hallucinated witnesses in a murder case
The Verge AI뉴멕시코 대법원이 한 변호사가 살인 사건 항소 자료에 AI가 조작한 가짜 증언과 목격자를 포함시킨 행위에 대해 5천 달러의 벌금을 부과했습니다.
세 줄 요약
- 법원은 변호사들이 AI가 생성한 모든 사실적 주장과 법적 근거를 반드시 검증해야 하며, 이를 소홀히 할 경우 엄격하게 처벌할 것임을 경고했습니다.
- 법률 분야에서 AI 활용이 증가함에 따라 발생하는 ‘환각(Hallucination)’ 오류가 심각한 법적 문제로 대두되고 있음을 보여주는 사례입니다.
- 전문적인 글쓰기나 법률 자료 작성 시 AI의 도움을 받을 경우, 결과물을 맹신하지 않고 반드시 인간이 교차 검증하는 과정이 필수적입니다.
뉴멕시코 대법원은 한 변호사가 살인 사건에 대한 항소 자료를 제출하는 과정에서 AI가 조작한 가짜 목격자와 허위 증언을 포함시킨 행위에 대해 징계를 내렸습니다. 법원은 해당 변호사에게 5,000달러의 벌금을 부과하고 그를 모욕죄로 처벌했습니다. 대법원은 변호사들이 AI가 생성한 모든 사실적 주장과 법적 권위를 반드시 검증해야 하며, 이를 소홀히 할 경우 엄격하게 처리할 것임을 경고했습니다.
재판 과정에서 제출된 자료에는 "완전히 조작된 목격자들의 허위 증언"뿐만 아니라 범인의 복장이나 외모에 대한 "허위 진술"이 포함되어 있었습니다. 재판부는 변호사에게 AI 사용의 위험성에 대해 질문하며, AI (hallucination) 오류로 인한 문제는 법률 분야에서 매일 발생하는 심각한 문제라고 지적했습니다.
법률 전문가들 사이에서 AI 도구 활용이 증가함에 따라, AI가 생성한 허위 인용이나 잘못된 정보를 제출하는 사례가 늘고 있습니다. 과거에도 판사는 여러 로펌을 상대로 "수많은 거짓, 부정확하고 오해의 소지가 있는 법적 인용 및 인용문"을 담은 자료를 제출했다고 비판하며 벌금을 부과한 바 있습니다.
용어 풀이
- 환각
- AI가 사실이 아닌 내용을 그럴듯하게 지어내는 현상.