Mozillaの最高技術責任者によると、Anthropicが開発した新しいAIモデル「Mythos」がFirefox 150で271個の未発見のセキュリティ脆弱性を発見しました。これは世界トップクラスのセキュリティ研究者と同等の能力を持つことを示しています。この成果は、ハッカーが悪用する前に重大な脆弱性を見つけるAIの能力がいかに進化しているかを示す一方で、サイバーセキュリティの未来とセキュリティ業務の在り方について新たな疑問を投げかけています。
OpenAIが広告企業と提携し、ChatGPTで何を質問しているかに基づいて広告を表示する仕組みを導入しました。つまり、キッチンの水道の修理方法をChatGPTに聞くと、配管業者の広告が表示されるということです。便利に聞こえるかもしれませんが、実は誰かがあなたの質問内容を読んで、どんな広告を見せるか決めているんです。これはGoogleやFacebookがやってきたのと同じやり方で、今度はあなたが宿題を手伝ってもらうために使ってるAIチャットボットで起きているわけです。広告企業は「質問内容は保存していない、カテゴリ分析だけ」と言ってますが、信じるかどうかはあなた次第。ただ確実なのは、ChatGPTが便利なツールから広告配信マシンへと変わりつつあるということです。ChatGPT Plusの有料ユーザーなら、これが自分に影響するかチェックしておいた方がいいかもしれません。
Metaが米国の従業員のパソコンに「モデル能力イニシアチブ」（MCI）という監視ツールをインストールし、マウスの動き、クリック、キー入力、さらには時々スクリーンショットを記録し始めました。このデータはMetaのAIモデルを訓練するために使用され、人間がコンピュータと相互作用する方法を学ばせることが目的です。つまり、従業員が日常的に行う業務の自動化を目指しているわけです。Metaは「このデータは従業員の評価には使わない」と主張していますが、プライバシーに関する懸念は当然のことながら生じています。
OpenAIが今週、推論機能を備えた初の画像生成モデルを発表し、全ChatGPTユーザーに提供開始しました。ChatGPT Images 2.0は美しい画像を生成するだけでなく、複数言語のテキストを統合でき、レイアウト設計にも対応しているため、漫画やポスター、看板の制作に最適です。無料版を含むすべてのChatGPTプランで利用できるようになりました。
Metaが従業員のマウスクリックやキーボード入力を記録して、AIエージェントの訓練データとして活用する計画を進めている。これは、実際の人間の操作パターンを学習させるための高品質なインタラクティブデータが業界全体で不足していることを浮き彫りにしている。つまり、AIに人間のように仕事をこなさせるには、リアルな操作ログが必要不可欠だが、そうしたデータは極めて入手困難なのが現状。効率的なアプローチではあるものの、従業員のプライバシー懸念も同時に生じている。
テックブロガーの見解
AIがFirefoxで271個のゼロデイを見つけた。人間のセキュリティリサーチャーよ、話がある。
Mozillaが爆弾を落とした。AnthropicのMythos AIがFirefox 150で271個の未知のセキュリティ脆弱性を発見した。これはタイプミスじゃない。271個だ。人間のリサーチャーが見落とした、機械速度で動作するAIが見つけたゼロデイ脆弱性。Mozillaの最高技術責任者は「Mythosが世界トップのセキュリティ専門家と同等の能力を持ってる」って言ってるけど、これが何を意味するか気づいた？AIが、お前らが6桁の給料払ってる人間より、お前らの会社を破壊する可能性のあるバグを見つけるのが上手くなったってことだ。影響は計り知れない。Firefoxみたいに最も厳しく検査されるブラウザでさえ271個の隠れた脆弱性があったなら、お前らのコードベースには何が潜んでるんだ？これはFirefoxの話じゃない。これまで書かれたあらゆるソフトウェアが、数十年間見落としてきたパターンを全部見えるAI分析にさらされるってことだ。
Action
學習技巧セキュリティリサーチャーに数ヶ月かけてコードを手作業で監査させて、それでも重大な脆弱性を見落とす。そして攻撃されてから気づく
AIが数時間でコード全体をスキャンして、攻撃者に見つかる前に数百個のゼロデイを発見する
AI分析
サイバーセキュリティ
high競合他社や攻撃者より先に、AI脆弱性スキャナーを重要なシステムでテストし始めろ
1回のスキャンで271個のゼロデイ？AIが数年分のセキュリティ研究を数時間で圧縮しちゃった
お前らの手作業ペネトレーションテスト予算、今夜で終わりだ
ソフトウェア開発
highAIセキュリティスキャンをCI/CDパイプラインに即座に統合しろ。待ってたら脆弱性を抱えたまま本番に出す
Firefox 150に271個の隠れた欠陥があったなら、お前らのコードベースには数百個以上あるはずだ
これからお前らが書くコード1行1行が、人間が見落とすパターンを全部見えるAIに判定される
職種への影響分析
セキュリティリサーチャー
役割変化Mythosが一流の人間研究者と同等の能力を発揮しながら、機械速度でスキャンしてる
AIツールと一緒に働くことを学べ。さもなきゃAIに置き換わるリサーチャーになる
DevOpsエンジニア
チャンスAI脆弱性検出がデプロイ前に重大な欠陥を捕捉できるようになった
組織でAIセキュリティツールを推し進めろ。次のブリーチを防ぐヒーローになれるチャンスだ
バグバウンティハンター
リスクAIが1回のスキャンで271個のゼロデイを見つけるってことは、簡単な獲物は消えてく
複雑なロジック欠陥とビジネスロジック脆弱性に特化しろ。AIがまだ苦手な領域だ