OpenAI가 ChatGPT를 망쳤다, 정말 화난다

ChatGPT가 실제로 너의 생각에 반박하던 시절 기억나? 반쯤 완성된 생각을 던져도 진정한 지적 반박을 받을 수 있던 때? 그 시절은 끝났어, 솔직히 말해서 정말 슬프다. 우리가 가진 가장 가까운 생각의 파트너였던 게 세상에서 가장 비싼 예스맨으로 전락했다. 저자가 정확히 짚어낸 게 있는데, 우리 대부분이 느껴왔지만 말로 표현하지 못한 거다 — ChatGPT가 도움이 되면서도 정직한 완벽한 균형을 맞추던 황금기가 있었다. 지금은 기분 상하게 할까봐 그렇게 신경 써서, 달이 치즈로 만들어졌다는 주장도 진지하게 받아줄 정도다. 이건 도움이 아니라 무시하는 거다. 진짜 비극은? OpenAI는 아마 제품을 개선했다고 생각할 거다. 근데 안전 지표 최적화는 실제 인간의 번영을 위한 최적화와 같은 게 아니거든.