ChatGPT가 지어낸 '유령 증인': 살인사건 항소에 AI 환각 증언 제출한 40년 베테랑 변호사의 최후

직장에서 가끔 '내가 무자격자인데 속이고 있는 것은 아닐까' 하는 가면 증후군(Impostor Syndrome)이 찾아온다면 스스로를 이렇게 위로해 보세요. 최소한 여러분은 오늘 대법원 판사들 앞에 OpenAI 서버가 만들어낸 유령 증인들의 증언록을 공식 서류로 들이밀지는 않았으니까요.

이 황당무계한 불명예의 주인공은 미국 뉴멕시코주에서 40년 넘게 법정을 누빈 베테랑 형사 전문 변호사 스티븐 에런스(Stephen Aarons)입니다. 에런스는 1급 살인 혐의로 종신형을 선고받은 피고인 오스카 르네 산도발의 가족으로부터 항소심 변호를 의뢰받았습니다. 하지만 수천 쪽에 달하는 재판 기록을 꼼꼼히 검토하는 대신, 그는 항소이유서의 핵심 논증 작성을 통째로 ChatGPT에 맡겼습니다.

대법원에 소환되어 소명을 요구받은 에런스 변호사는 미국 법조 윤리 강의에 영원히 박제될 희대의 변명을 남겼습니다. 서명하고 제출하기 전에 내용을 확인하지 않았음을 시인한 그는 대법관들에게 이렇게 털어놓았습니다. "AI가 사실을 환각(hallucinate)해 지어낼 수 있다는 사실을 전혀 몰랐습니다."

뉴멕시코주 대법관들은 분노를 감추지 않았습니다. 대법원은 에런스에게 직접적 형사 법정모독죄 결정을 내리고 변호사 징계위원회에 정식 회부했습니다. 판결문에서는 그가 "일말의 반성도 보이지 않았으며 의뢰인에 대한 배려가 전무했다"고 통렬히 질타했습니다. 무기징역에 4년 6개월이 추가된 의뢰인의 절체절명 순간에 AI의 판타지 소설을 내미는 것은 헌법이 보장한 변호권이 아닙니다.

전 세계 사법부가 생성형 AI의 등장에 대응책을 마련하고 있는 지금, 이번 참사는 뼈아픈 교훈을 던집니다. 복사-붙여넣기는 몇 시간의 야근을 아껴줄지 모르지만, 대법관들 앞에서 상상의 증인을 변명해야 하는 순간 40년의 법조인 경력은 물거품이 됩니다.