ChatGPT에 "넌 변호사야"라고 해도 변호사가 되지 않는다—AI 사용의 함정

ChatGPT에 "당신은 변호사입니다"라고 지시하면 진짜 법률 조언을 받을 수 있을 거라고 생각하나요? 안타깝게도 그렇지 않습니다. 역할 프롬프트(role prompt)는 AI의 말투와 어휘는 바꿀 수 있지만, 실제 전문 지식을 설치할 수는 없거든요. 법률처럼 들리는 문장은 나올 수 있지만, 실제 법정에서 쓸 수 있는 법적 조언과는 완전히 다릅니다. 유명한 변호사의 글을 AI에게 학습시켜도 마찬가지예요. AI가 배우는 건 그 변호사의 표현 패턴과 논리 흐름일 뿐, 실제 판단력이나 경험까지 흉내 낼 수는 없습니다. 셰익스피어의 희곡을 다 외워도 셰익스피어 같은 작품을 쓸 수 없는 것처럼요. 이 글은 이런 흔한 오해들을 정리하고, 왜 이걸 이해하는 게 중요한지 설명합니다.