
OpenAI ライブストリーム
OpenAIがライブストリーム配信イベントを開催します。放送中に具体的な発表、新製品発表、またはデモンストレーションが明かされる予定です。
OpenAIが前回予告なしのライブストリームをやった時、GPT-4 Turboをドロップして、一晩で価格設定を完全に変えました

ローカルで AI モデルを実行できる llama.cpp に「推測チェックポイント」という新機能が統合されました。理論上は処理速度が上がるはずなんですが、実際のところ結果がかなりバラバラです。プロンプトによっては 50% 高速化することもあれば、全く効果がないこともあります。コーディングタスクではそこそこの改善が見られましたが、繰り返しが多いプロンプトや AI が予測を何度も拒否する場合は期待できません。要するに、タスクの種類に応じてパラメータを調整する必要があるということです。万能な解決策ではありませんが、ローカルで AI を使っている人なら試してみる価値はあります。