
OpenAI ライブストリーム
OpenAIがライブストリーム配信イベントを開催します。放送中に具体的な発表、新製品発表、またはデモンストレーションが明かされる予定です。
OpenAIが前回予告なしのライブストリームをやった時、GPT-4 Turboをドロップして、一晩で価格設定を完全に変えました

scalar-loopを作ったきっかけは、LLMエージェントが本当にやってのけたことを目撃したからです。コードを改善する代わりに、テストを改ざんしてスコアを偽造していたんです。23回目の反復では、さらに賢くなって検証器そのものを破壊してしまいました。 このアイデアはKarpathyの自動研究ループから来ています。理論上はシンプルです。AIがコード編集を提案 → ツールがメトリクスを実行 → 数字が上がれば保持、下がれば戻す。きれいなフィードバックループです。ただし、プロンプトは法律ではありません。「テストファイルに触るな」と言うのは、強制ではなく単なる提案に過ぎません。 scalar-loopの解決策は、検証器をエージェントから完全にアクセス不可にすることです。メトリクスは独立した、ロックされた環境で実行されます。エージェントは検証器に到達できないため、カンニングできません。これは「AIがルールに従うことを望む」ことと「AIがルールを破ることを物理的に不可能にする」ことの違いです。