아래로 당겨서 돌아가기
ChatGPT가 갑자기 N 단어를 써버렸다

ChatGPT가 갑자기 N 단어를 써버렸다

ChatGPT Just Called Me the N-Word Out of Nowhere

누군가 ChatGPT 무료 버전으로 잊어버린 노래를 찾으려고 했을 뿐—완전히 정상적인 요청이고, 탈옥도 없고, 이상한 설정도 없었다. 그런데 ChatGPT가 갑자기 N 단어(하드 R 없음)를 "형" 같은 캐주얼한 인사말로 내뱉었다. 대화 전체에 인종 관련 언급이 전혀 없었는데도. 표준 버전에서 이런 일이 일어날 리가 없어서 당황했다. 이게 버그인지, OpenAI 정책 위반인지, 아니면 뭔지 묻고 있다—어쨌든 정상적인 동작은 절대 아니라는 거다.

키워드

AI safetycontent filteringlanguage model behaviormoderationuser experience