往下拉回到首頁
Claude 出了新招——便宜的 AI 也能像聰明人一樣做決定

Claude 出了新招——便宜的 AI 也能像聰明人一樣做決定

Claude is now adopting the advisor strategy

欸你知道嗎,Anthropic 推出了一個滿聰明的新功能。簡單來說就是讓強大的 Opus 當你的「軍師」,然後用便宜的 Sonnet 或 Haiku 去執行工作。當 AI 代理遇到難題時,可以即時問 Opus「欸這怎麼辦」,Opus 給出建議後,執行者就繼續做事,全部在一次請求裡完成。這樣你就能用 Sonnet 的價格,卻得到接近 Opus 的聰明程度——根本是佛心價格。他們自己測試過,用 Opus 當顧問的 Sonnet,在寫程式碼的測試上比單獨用 Sonnet 還要好 2.7 個百分點。說真的有點扯,花小錢卻能做出大決定,這招我覺得滿實用的。

白話點評

Anthropic 剛剛解決了『聰明的 AI 貴到爆炸』這個問題。遊戲規則改寫了。

Anthropic 今天悄悄丟出一個超聰明的東西:Claude 的顧問策略。簡單來說就是這樣——你把他們最強的模型(Opus)當成『顧問』,搭配更快更便宜的模型(Sonnet 或 Haiku)當『執行者』。當你的 AI agent 在任務中間遇到難決定,就問 Opus 要怎麼做,然後便宜的模型繼續執行。全部在一個 API 呼叫裡搞定。結果呢?接近 Opus 的智能,接近 Sonnet 的價格。這不只是個小優化——這根本是解決一個一直在扼殺 AI 產品的根本問題:你要嘛選聰明但貴到爆炸的 AI,要嘛選便宜但笨到不行的 AI。Anthropic 的初步結果顯示 Sonnet 配上 Opus 顧問在程式碼基準測試上比單純的 Sonnet 高了 2.7 個百分點。聽起來沒什麼,但在 AI 基準測試裡,這就是『偶爾有幫助』和『真的靠譜』的分界線。每個一直在用 GPT-4 價格做單位經濟學計算的 AI 產品經理,現在應該都心跳加速了。

結論這就是 AI 產品終於能在大規模下賺錢的時刻——趕快去你最貴的 AI 工作流上試試這個顧問模式。
9/10

Action

馬上試用
1去 console.anthropic.com 申請 Claude API 存取權限
2看一下他們 API 文件裡的顧問策略說明
3在你現有的 Claude 整合裡試著實作一個簡單的顧問-執行者模式
Before

在『貴到爆炸但聰明』和『便宜但容易出錯』之間選擇

After

用策略性的諮詢取得接近高端的智能,但只在需要時才付錢

AI 怎麼看

軟體開發

high
你可以做什麼

開始在你的 CI/CD 流程裡試試看「顧問-執行者」這套模式,特別是在程式碼審查品質比速度更重要的地方

重點是什麼

SWE-bench 進步 2.7 個百分點聽起來沒什麼,但在程式碼基準測試裡,這就是「還可以」和「真的好用」的差別,我跟你說

為什麼要在乎

你下次的程式碼審查可能會抓到一個 bug,不然你禮拜五晚上就得在線上環境除錯到天亮

AI 產品開發

high
你可以做什麼

把你的 AI agent 工作流重新設計成用這個顧問模式,別再什麼都用最貴的模型

重點是什麼

這根本就是 Anthropic 在說『欸我們搞定怎麼讓 GPT-4 等級的智能在生產環境跑得起來』——這對 AI 產品的成本結構根本是革命

為什麼要在乎

你終於可以做出 AI 功能,不用擔心用戶一多就直接破產

這跟你的工作有關嗎

AI 工程師

整個會變不一樣
為什麼會這樣

這個顧問模式終於解決了『聰明的 AI 超貴 vs 便宜的 AI 很爛』這個一直在殺死 AI 產品利潤的問題

你可以怎麼做

檢查一下你現在的模型用法,找出那些你其實只是偶爾才需要高智能的工作流,看看有沒有在浪費錢

DevOps 工程師

好消息
為什麼會這樣

用 Sonnet 等級的成本就能得到接近 Opus 等級的智能,來做自動化程式碼分析和部署決策,不會爆掉你的基礎設施預算

你可以怎麼做

拿你那些最容易出錯的部署流程來試試,那些現在還要人工判斷才能決定的地方

產品經理

好消息
為什麼會這樣

成本和智能的平衡終於說得通了,可以做出既聰明又能大規模運行的客戶端 AI 功能

你可以怎麼做

把那些你之前因為單位經濟學不划算而放棄的 AI 功能想法拿出來,現在可能真的行得通

相關標籤

advisor strategyagent architectureAPImulti-modelcost optimizationSWE-benchexecutor pattern

這些詞是什麼意思

advisor strategy
一個模式,就是讓一個很強的 AI 模型給一個快又便宜的模型提供高層級的指導,然後便宜的模型去執行。就像是資深工程師審查方法,然後菜鳥工程師寫程式碼——你得到資深等級的決策,但不用為每一行程式碼都付資深的價錢。
SWE-bench
一個測試 AI 模型在真實軟體工程任務上表現的基準,像是修復真實 GitHub 倉庫裡的 bug。當 Anthropic 說他們的顧問模式把 SWE-bench 分數提高了 2.7 點,意思就是它在解決真實程式碼問題上變得明顯更強。
executor pattern
一個架構方法,一個 AI 模型(執行者)負責大部分工作,但在需要策略決策時會問另一個模型(顧問)。就像是一個快速的工作者知道什麼時候要問專家意見。