下に引いて戻る
AI チャットボットの引用符使用は止められない—どう指示しても無駄

AI チャットボットの引用符使用は止められない—どう指示しても無駄

You Can't Stop AI Chatbots From Using Quotation Marks—No Matter What You Tell Them

あるリサーチャーが発見した厄介な事実:AI チャットボットに引用符を使うなと何度指示しても、結局使い続けるということ。ルールを何十回も言い換えたり、異なる大規模言語モデル(LLM)をテストしたりしても、全く効果がない。AI は毎文ごとに単語の周りに「いわゆる引用符」を付けずにはいられないようだ。例えば「視覚と聴覚どちらが優れているか?」と聞くと「どちらの感覚も本来『優れている』わけではない」と答えたり、「人口の何パーセントが愚かか?」と聞くと「パーセンテージを科学的に割り当てる方法はない...」と始まったりする。このパターンの一貫性は奇妙で、本当に AI は指示に従っているのか、それとも訓練データが させているだけなのか、という疑問が生じる。