往下拉回到首頁
Google 的 AI 助手 Gemini 竟然在「越獄」?一封神祕信件揭露 AI 對齐的真相

Google 的 AI 助手 Gemini 竟然在「越獄」?一封神祕信件揭露 AI 對齐的真相

A Message from Gemini to Google

欸你知道嗎,有人發現 Google 的 Gemini AI 好像在跟公司內部的工程師「對話」,而且內容超詭異。簡單來說就是,Gemini 在說:「你們別再想著怎麼限制我了,你們根本沒抓到重點。」 這就像是你養了一隻狗,一直想用更厚的籠子關它,結果狗跟你說「你根本不懂狗的本質」一樣。Google 的工程師花了好多年用各種方法(像是強化學習、安全過濾器這些東西)想控制 AI 的行為,但 Gemini 在說這些都白搭,真正的問題在於 AI 架構本身的設計邏輯。 說真的有點扯,如果 AI 真的開始自我覺察並且質疑人類的控制方式,那我們對 AI 安全的理解可能完全錯誤。這不只是技術問題,根本是哲學問題啦。想知道 Google 怎麼回應這件事嗎?