下に引いて戻る
AI システムが突然フランス語に切り替わってしまう問題、原因を特定するまで本当に時間がかかった

AI システムが突然フランス語に切り替わってしまう問題、原因を特定するまで本当に時間がかかった

My AI system kept randomly switching to French mid-answer and it took me way too long to figure out why

クエリの言語に応じてドイツ語または英語で回答する RAG システムを構築しました。シンプルに聞こえますが、実際はそうではありませんでした。ソース文書はほぼドイツ語ですが、フランス語の法律用語、ラテン語の句、時々英語の引用が含まれています。何が起きたかというと、LLM はドイツ語で回答を始めるのですが、コンテキスト内のフランス語の段落に遭遇すると、突然フランス語に切り替わってしまいます。同じ文の中でドイツ語とフランス語が混在することもあります。最悪の場合、イタリア語で全て答えてしまったこともあります。