
OpenAI ライブストリーム
OpenAIがライブストリーム配信イベントを開催します。放送中に具体的な発表、新製品発表、またはデモンストレーションが明かされる予定です。
OpenAIが前回予告なしのライブストリームをやった時、GPT-4 Turboをドロップして、一晩で価格設定を完全に変えました
Brexが開発したセキュリティツール「CrabTrap」がオープンソース化されました。大規模言語モデル(LLM)を使ってAIエージェントの動きを監視・制御するHTTPプロキシです。アプリケーションと外部サービスの間に位置し、AIエージェントが出すリクエストが安全かどうかをLLMが判定してから通すという仕組み。イメージとしては、AIシステムの入口に用心棒を置くようなもの。エージェントが何をしようとしているかを見張って、怪しい動きはブロックします。企業がAPI呼び出しやデータアクセスなどのタスクを自動化するAIエージェントを本番環境に導入する際、エージェントの誤動作や悪用を防ぐ必要があります。CrabTrapはポリシーを定義してLLMにリアルタイムで実行させることで、AIエージェントを安全に運用できるようにしています。