AI가 정말 생각하는 걸까, 아니면 그냥 패턴만 따라가는 걸까?

몇 년간 AI를 써오면서 느낀 게 있어요. 이 모델들이 진짜 생각하는 게 아니라 그냥 정해진 규칙만 따라가는 것 같다는 거예요. 쉽게 말해서 고급 계산기일 뿐이라는 뜻이죠. 어떤 질문을 하든 이미 정해진 답변이 있고, 그래서 AI가 자신 있게 거짓말을 하는 거 아닐까요? 아니면 안전 규칙이 너무 많아서 AI가 계속 벽에 부딪히면서 겨우 답변을 짜내는 건가 싶기도 하고요. 결국 우리가 AI의 능력을 과대평가하고 있는 건 아닐까요?