往下拉回到首頁
Claude 現在採用顧問策略,讓便宜的模型也能做出聰明決定

Claude 現在採用顧問策略,讓便宜的模型也能做出聰明決定

Claude is now adopting the advisor strategy

Anthropic 在 Claude 平台上推出了「顧問策略」。簡單來說就是讓強大的 Opus 模型當「顧問」,搭配便宜的 Sonnet 或 Haiku 當「執行者」。當你的 AI 代理遇到難決定時,可以即時詢問 Opus,Opus 給出計畫後執行者就繼續跑,全部在一次 API 請求內完成。這樣你就能用接近 Sonnet 的成本,卻得到接近 Opus 的智慧水準。根據測試,用 Opus 當顧問的 Sonnet 在程式碼生成基準測試上比單獨的 Sonnet 高出 2.7 個百分點。說真的,這招有點聰明——花小錢卻能做出大決定。

科技博主觀點

Anthropic 剛剛解決了『聰明的 AI 太貴』這個問題。遊戲規則改變了。

Anthropic 今天悄悄丟出了什麼超聰明的東西:Claude 的 advisor 策略。簡單來說就是這樣——你把他們最強的模型(Opus)當『顧問』,配上更快更便宜的模型(Sonnet 或 Haiku)當『執行者』。當你的 AI agent 在任務中間遇到難決定時,它去問 Opus 要個計畫,然後便宜的模型就繼續執行。全部在一個 API 呼叫裡完成。結果呢?接近 Opus 的智能,接近 Sonnet 的價格。這不只是個不錯的優化——這是解決那個一直在勒死 AI 產品的根本問題:你要嘛得到聰明但貴到爆炸的 AI,要嘛得到便宜但笨到不行的 AI。Anthropic 的初步結果顯示 Sonnet 配上 Opus 顧問在程式碼基準測試上比單獨 Sonnet 高了 2.7 個百分點。聽起來不多,但在 AI 基準測試裡,這是『偶爾有幫助』和『真的靠譜』的分界。每個一直在用 GPT-4 定價做單位經濟學計算的 AI 產品經理,現在心臟都漏了一拍。

結論這就是 AI 產品終於在規模上變得經濟可行的時刻——馬上去你最貴的 AI 工作流上試試 advisor 模式。
9/10

Action

馬上試用
1在 console.anthropic.com 註冊 Claude API 存取權
2在他們的 API 文件裡看一下 advisor 策略的說明
3在你現有的 Claude 整合裡實作一個簡單的 advisor-executor 模式
Before

在『貴到爆炸但聰明』和『便宜但容易出錯』之間選擇

After

用策略性的諮詢取得接近高端的智能,但只在需要時才付錢

AI 分析

軟體開發

high
應採取行動

開始在你的 CI/CD 流程裡試試看 advisor-executor 模式,特別是在程式碼審查品質比速度更重要的地方

關鍵洞察

SWE-bench 進步 2.7 個百分點聽起來不多,但在程式碼基準測試裡,這根本是『還可以』和『真的好用』的分界線

為什麼重要

你下一次的程式碼審查可能會抓到那些本來會讓你在正式環境花一整個週末除蟲的 bug

AI 產品開發

high
應採取行動

重新設計你的 agent 工作流,用這個 advisor 模式取代總是用最貴模型的做法

關鍵洞察

這根本就是 Anthropic 在說『我們搞定了怎樣讓 GPT-4 等級的定價在實際產品上跑得起來』——這對 AI 產品的經濟學是個遊戲規則改變者

為什麼重要

你終於可以做出 AI 功能,不用擔心一旦真的被用戶用起來就會破產

職位影響分析

AI 工程師

角色轉型
影響成因

這個 advisor 模式解決了『聰明但貴 vs 快但笨』的經典矛盾,這東西一直在殺死 AI 產品的利潤

應對策略

檢查一下你現在的模型用法,找出那些你其實只是偶爾才需要高智能、卻一直在超額付費的工作流

DevOps 工程師

機會
影響成因

用 Sonnet 等級的成本就能得到接近 Opus 等級的智能,來做自動化程式碼分析和部署決策,不會爆炸你的基礎設施預算

應對策略

先在你那些最容易出錯的部署流程上試試,那些現在還得靠人工判斷來卡關的地方

產品經理

機會
影響成因

成本和智能的平衡終於說得通了,可以用在那些需要既聰明又能規模化的客戶端 AI 功能

應對策略

把那些你之前因為單位經濟學不划算而擱置的 AI 功能想法拿出來重新看一遍

關鍵字

advisor strategyagent architectureAPImulti-modelcost optimizationSWE-benchexecutor pattern

名詞解釋

advisor strategy
一個模式,強大的 AI 模型提供高層級的指導,快速便宜的模型負責實際執行。想像一下有個資深開發者在審查做法,而初級開發者在寫程式碼——你得到資深等級的決策,但不用為每一行程式碼付資深等級的錢。
SWE-bench
一個測試 AI 模型在真實軟體工程任務上表現的基準,像是修復真實 GitHub 倉庫裡的 bug。當 Anthropic 說他們的 advisor 模式把 SWE-bench 分數提高了 2.7 分,他們是在說它在解決真實程式碼問題上變得明顯更好。
executor pattern
一個架構方法,一個 AI 模型(executor)處理大部分工作,同時在策略決策時諮詢另一個模型(advisor)。就像有個快速的工作者,知道什麼時候該問專家的意見。