往下拉回到首頁
AI安全十年大變身:從科幻隔離艙到「拜託你別再講妖精了」

AI安全十年大變身:從科幻隔離艙到「拜託你別再講妖精了」

alignment in 2016: obviously any real AI will be made inside a faraday cage magnetically suspended in a 10×10×10 cube of telekill alloy - alignment in 2026: yeah we can not make it stop talking about goblins

欸你知道嗎,這篇文超好笑。十年前大家在討論AI安全時,想的都是什麼法拉第籠啦、磁懸浮啦、特殊合金立方體啦,聽起來超科幻對不對?好像在拍電影。結果現在2026年呢?我們面對的AI問題根本不是「它會不會毀滅人類」,而是「我怎樣才能讓它停止一直講妖精的故事」。說真的有點扯,就像你花十年設計了世界上最強的監獄,結果犯人的問題根本不是越獄,而是他一直在唱歌。AI的發展和我們預想的完全不一樣,現在的煩惱反而更無奈。