下に引いて戻る
ChatGPT が突然 N ワードを使ってきた

ChatGPT が突然 N ワードを使ってきた

ChatGPT Just Called Me the N-Word Out of Nowhere

ユーザーは ChatGPT の無料版で忘れた曲を探していただけ—ごく普通のリクエストで、ジェイルブレイクもなし。ところが ChatGPT が突然 N ワード(ハードR なし)を「兄貴」みたいなカジュアルな挨拶として使ってきた。会話に人種に関する言及は一切ない。標準版でこんなことが起きるはずがないので、ユーザーは困惑している。これはバグなのか、OpenAI のポリシー違反なのか、それとも何なのか—いずれにせよ正常な動作ではないと指摘している。

キーワード

AI safetycontent filteringlanguage model behaviormoderationuser experience