칼 세이건이 1995년에 경고한 '무지와 권력의 위험한 혼합'이 AI 시대에 현실화되고 있다

칼 세이건이 『악마가 출몰하는 세상』에서 지적한 내용이 정말 맞아떨어졌다: 우리는 운송, 통신, 농업, 의료, 교육, 투표 같은 핵심 시스템이 모두 과학기술에 의존하는 문명을 만들었는데, 거의 아무도 이것들이 어떻게 작동하는지 이해하지 못한다. 당시에는 핵무기와 생명공학이 우려 대상이었지만, 지금은? 개발자들조차 완전히 설명할 수 없는 AI 시스템에 열쇠를 넘기고 있다. 가장 아이러니한 점은 우리가 과거 어느 때보다 기술에 의존하면서도 현명한 결정을 내릴 능력은 잃어버렸다는 것. 세이건은 이를 '재앙의 처방전'이라 불렀는데, AI를 어떻게 배포하고 있는지 보면 그의 경고가 정확했음을 알 수 있다.