AI 迷思破解:使用「主副模型分工」反而讓研究任務成本暴增 35%

開發者進行嚴格對照實驗,測試高階模型指揮廉價 worker 模型架構的成本效益與出乎意料的發現

  • 作者實際測試了熱門的 主副模型分工(Orchestrator-Worker) 架構,試圖透過高階模型指揮平價勞工模型來節省 API 費用。
  • 經過四組控制實驗比對,在相同任務與初始狀態下,授權主模型委派任務的組別成本高出 35%,完全沒有達到省錢效果。
  • 實驗結果顯示,在四個測試案例中有三次因委派而成本增加,另一次則僅能打平,總花費從單獨執行的 $16.84 美元攀升至 $22.71 美元。
  • 「委派任務在成本上輸了三次,第四次也只是平手而非獲勝。」

  • 雖然目前尚未在程式碼編寫任務中進行測試,但作者懷疑該架構是否真的如外界吹捧般具備實質效益。
  • 呼籲有使用此工作模式的開發者,應重新檢視並實際測試其成本與效益,切勿盲目跟風。

來源:r/ClaudeAI

閱讀原文 ↗
← 回首頁