往下拉回到首頁
ChatGPT 被破解的方法全都在這裡——有人把 AI 的漏洞整理成一本「黑客手冊」

ChatGPT 被破解的方法全都在這裡——有人把 AI 的漏洞整理成一本「黑客手冊」

Awesome GPT Super Prompting — The Complete Guide to ChatGPT Jailbreaks, Prompt Leaks, and AI Security Exploits

欸你知道嗎,有個超紅的 GitHub 資料庫(已經有快 4000 人按星號),裡面就是在教人怎麼「騙」ChatGPT 和其他 AI 做不該做的事。簡單來說就是,有些人發現了 AI 的弱點——比如怎麼偷看 AI 的內部指令、怎麼注入惡意指令讓 AI 出錯、怎麼用特殊的提示詞讓 AI 突破安全限制。這個資料庫就把這些「破解技巧」全部蒐集起來,一方面是給駭客參考,另一方面也是讓防守的人知道要小心什麼。說真的有點扯,但這對 AI 安全研究其實滿重要的——你得先知道敵人怎麼攻擊,才能防守得更好。