Anthropic's most dangerous AI model just fell into the wrong hands
Anthropic's Mythos AI model, a powerful cybersecurity tool that the company said could be dangerous in the wrong hands, has been accessed by a "small group of unauthorized users," Bloomberg reports. An unnamed member of the group, identified only as "a third-party contractor for Anthropic," told the publication that members of a private online forum got into Mythos via a mix of tactics, utilizing the contractor's access and "commonly used internet sleuthing tools."
The Claude Mythos Preview is a new general-purpose model that's capable of identifying and exploiting vulnerabilities "in every major operating system and every major web browser …
Read the full story at The Verge.
欸你知道嗎,Meta 現在在美國員工的電腦上裝了一個叫「模型能力倡議」的監控軟體(MCI),會記錄你的滑鼠移動、點擊、打字,甚至還會偶爾截圖。簡單來說就是 Meta 在看你怎麼工作,然後把這些資料拿去訓練他們的人工智慧(AI),讓 AI 學會像人一樣操作電腦,最後目的就是自動化你現在做的工作。Meta 說啦這些資料不會拿來評估你的績效,但說真的有點扯,員工隱私的疑慮根本避免不了。這也太猛了吧,感覺以後工作都被看光光。
欸你知道嗎,Anthropic 這間公司開發的新 AI 模型叫 Mythos,它竟然在 Firefox 150 裡面一口氣找到 271 個沒人發現過的安全漏洞。Mozilla 的技術長說這個 AI 的能力根本就跟全球最厲害的資安研究員一樣強,甚至有可能更猛。
簡單來說就是,以前都是人類資安專家在跟駭客比賽誰先找到漏洞,現在 AI 直接跳進來,而且一出手就是 271 個。這代表未來駭客可能還沒反應過來,漏洞就已經被修好了。但另一方面也有點可怕,因為這表示 AI 的能力真的已經強到可以做一些原本只有最聰明的人類才做得到的事。這對資安產業來說是好消息還是壞消息,說真的有點難講。