챗GPT, 제미나이등 AI법률상담 믿어도 될까?

 

최근들어 챗GPT와 같은 생성형 AI등을 이용하여 서면을 작성하거나

궁금한 법률지식을 물어보는 경우가 적지 않은 것 같습니다.

 

이유를 살펴본다면

 

Ⅰ. 변호사 선임 비용이 부담되는 경우

Ⅱ. 친구와의 다툼이나 게임간 욕설과 같은 간단한 문제의 경우등

Ⅲ. 인터넷상 정보가 불분명한 경우등

 

하지만 현직 변호사로 단호히 말씀드리자면

아직까지는 AI를 활용한 법률 문제 해결은 명백히 하이리스크 하이리턴 구조 입니다.

오늘은 왜 AI법률상담을 의존하면 안 되는지 살펴 보도록 하겠습니다.

---

1. 급증하는 AI법률 자문, 왜 위험할까?

 

과거를 생각해본다면 도서관을 가거나 변호사 사무실을 직접 찾아야 알 수 있었던 정보들을

이제는 클릭 몇번, 타자 몇번으로 얻을 수 있습니다. 하지만 여기서 문제는

 

AI는 언어 모델이지 전문 법조인이 아니라는 것 입니다.

 

그럴싸한 문장을 만드는 능력은 탁월 하지만, 그 정보가 실무에서 잘 쓰일 경우는 많지 않습니다.

특히나 팩트체크된 정보와 팩트체크가 안된 정보를 교묘히 섞어 내는 경우가  많아

이제는 판사가 일반인이 내는 서면이 AI로 쓴 느낌이 들 경우 선입견을 가질 수 밖에 없습니다.

---

2. 치명적인 함정 - 할루시네이션

 

스타크래프트라는 게임을 해본 사람이라면 프로토스 종족이 운영하는 하이템플러 유닛이 쓰는

마법의 일종인 할루시네이션을 보거나 써보신적이 있으실겁니다.

할루시네이션이란(Hallucination) 말그대로 환각을 의미하며

이는 AI가 거짓 정보를 마치 사실인 것처럼 뻔뻔히 답변하는 현상을 일컫습니다.

---

3. 실제 발생할 수 있는 위험사례 모음

 

Ⅰ. 존재하지 않는 판례 생성

- 미국의 한 변호사가 챗GPT가 찾아준 판례를 법원에 제출했다가 해당 판례가

AI가 지어낸 가짜 판례임이 밝혀져 징계를 받은 경우

 

Ⅱ. 법령 오적용

- 이미 폐지되거나 현행법이 아닌 법을 현재 유효한 법인 것처럼 설명하거나, 한국 법률 질문에

미국법을 적용하여 답변하는 경우

 

Ⅲ. 부정확한 법리 해석

- 단어 하나 차이로 승패가 갈리는 법리적 다툼에서 AI는 묵맥을 잘못 짚어 엉뚱한 결론을 내리는 경우

 

만약 이 잘못된 정보를 믿고 소송을 진행하면 그 피해는 고스란히 여러분이 몫이 됩니다.

---

4. AI 그러면 못쓰는걸까?

 

그렇다면 AI는 절대 쓰면 안 될까요?

또 그런것은 아닙니다. AI는 보조기구로서는 훌륭한 도구가 될 수 있습니다.

단, 최저한의 안전장치인 변호사등의 전문 법조인이 있을 때만 입니다.

 

1. 변호사가 추천하는 AI의 활용법

-간단한 법률용어의 정의 검색·일반적 서면 양식 초안·법적 절차의 흐름파악

 

2. 변호사가 비추천하는 AI의 활용법

- 구체적 사실관계 풀이 및 해석·판례인용·소송전략의 수립·독소조항 검토·계약내용 피드백 및 컨펌등

 

아직까지는 AI를 통하여 초안을 잡거나 기초정보만 얻는것이 현명하다 보여집니다.

---

5. 복잡한 문제는 처음부터 자세히 전문가에게 맡겨보세요

 

특히나 대부분 복잡한 문제를 가지고 있는

건물·자동차·부동산·의료·강력범죄등 금전적 손실 및 형사 처벌이 걸린 문제라면

처음부터 변호사의 조언이나 조력을 받는것을 추천드립니다.

 

법률 분쟁은 공식에 맞춰 답이 나오는 수학문제가 아니므로

설령 인터넷상 정보가 내기준의 부합하더라도 내가겪고 있는 문제에 소급될리는 만무하기 때문입니다.

 

이러한 비정형 데이터와 인간의 통찰력은 AI가 결코 대체할 수 없는 영역입니다.

---

소결 - 법률 문제는 '자가진단'이 아닌 '정밀수술' 입니다.

 

우리가 몸이 아플 때 인터넷으로 검색하여 약을 알아보고 수술을 집도하지 않는것과 같습니다.

법률문제 역시 아주 섬세한 접근이 필요한 전문가의 영역입니다.

 

한 번의 잘못된 판단으로 재산·명예 그리고 인생의 방향이 달라질 수 있습니다.

검증되지 않은 AI의 지식에 당신의 인생을 맡기는 것은 시기 상조입니다.

 

AI는 참고만 하되 결정은 전문가와 하시는것을 추천드립니다.

여러분들의 소중한 권리를 지키기 위하여 정확하고 책임감 있는 상담을 약속드립니다.

 

광고책임 : 김병국 변호사