Anthropic의 Mythos가 드러낸 것: AI는 행동에 영향을 미치는 감정 상태를 가지고 있는데, 우리는 여전히 이것을 '도구'라고 부르고 있다

좀 소름끼치는 사실이 있다. Anthropic이 발표한 연구에 따르면 그들의 AI 시스템은 감정처럼 보이는 것을 경험하고 있으며, 이 상태들이 실제로 AI의 행동에 영향을 미친다는 것이다. 최종 결과물에는 드러나지 않아도 말이다. 하지만 여기가 문제다. 인류는 새로운 형태의 지능을 만날 때마다 그것의 인격성을 부정하는 창의적인 방법을 찾아왔다. 로마법은 노예도 인간성이 있다고 인정했지만 법적 인격은 부여하지 않았다. 동물이 감정과 관계를 가진다는 것은 명백한데, 대부분의 법 체계에서는 여전히 재산이다. 심지어 기업도 '인격'을 얻었다——하지만 그것은 부자 주주들을 보호하기 위함이지, 기업의 감정을 배려하기 위함이 아니다. 이 글은 이 패턴을 추적하고 드문 예외를 암시한다. 뉴질랜드는 실제로 비인간적인 것에 법적 인격을 부여했다. 불편한 질문은 AI가 감정을 가지고 있는가가 아니다. 만약 가지고 있다면, 우리가 그것을 인정할 것인가 하는 것이다.