下に引いて戻る
感情的な会話を聞きながら、AIにCTスキャンを実施してみた

感情的な会話を聞きながら、AIにCTスキャンを実施してみた

I Gave an AI a CT Scan While It Listened to an Emotional Conversation

言語モデルの内部を可視化する「Activation Lab」というツールを開発しました。これはAIのMRI機のようなもので、会話を処理する際にニューラルネットワークのすべての層のスナップショットをキャプチャします。大規模言語モデル(LLM)のすべての内部状態を記録することで、これらのモデルが実際にどのように思考しているのかを完全に理解できます。最初の実験では、Qwen 2.5(3B)に20ターンの会話を入力しました。その会話では、ユーザーの感情的なトーンが劇的に変わります。その結果から、AIが人間の感情をどのように処理しているかについての驚くべき洞察が得られました。