往下拉回到首頁
有人想騙你的 AI 助手?這個防火牆會幫你擋住

有人想騙你的 AI 助手?這個防火牆會幫你擋住

LLM-Defense-Platform: AI Firewall That Stops Hackers From Breaking Into Your ChatGPT

欸你知道嗎,有些人會用特殊的方式問 ChatGPT 問題,想讓它忽略安全規則去做不該做的事?這就像是有人試著用特殊密碼闖進你的帳號,只不過目標是你的 AI。這個專案就是在做這個防守的工作——它會看著每一個進來的問題,用機器學習的方式判斷「欸這個問題有點可疑」,然後把危險的提示詞擋在外面。說真的有點扯,但現在 AI 被攻擊的方式越來越聰明,所以這種防護工具真的滿重要的。如果你公司或個人在用 AI 系統,這個開源工具值得研究一下。