當新的AI模型出現時
我們會選擇最強大的模型。
GPT-5.6 Sol
展示了為什麼這種習慣是錯誤的。
重要的不是最高性能。
而是以最低成本
設計出所需的結果。
I. 我們選擇了過於簡單的模型
當新模型推出時
人們會從基準開始評估。
比之前的模型更聰明。
編碼分數提高了多少。
上下文變得更長了多少。
然後將得分最高的
模型設為默認值。
這種方式很方便。
但昂貴且緩慢。
最重要的是
錯過了GPT-5.6的變革。
GPT-5.6不僅僅是一個模型。
它分為三個執行層級:Sol、Terra、Luna。
Sol是為複雜編碼、電腦使用、
研究和安全工作而設計的旗艦。
Terra負責平衡性能和成本。
Luna負責快速且經濟的
大規模工作。
基本的Power設置
使用Sol和中間推理。
OpenAI模型選擇指南
這裡的問題也改變了。
不再是“哪個模型最聰明?”。
而是“對於這個任務
哪個最小的模型是最好的?”。
II. 真正的變革不在於性能,而在於組合
GPT-5.6 Sol非常強大。
支持105萬個令牌的上下文。
最大輸入為922,000個令牌。
最大輸出為128,000個令牌。
接收文本和圖像輸入
並利用網絡搜索、文件搜索、代碼執行、
電腦使用、MCP和技能。
GPT-5.6 Sol官方規格
但僅看數字
會忽略核心。
GPT-5.6真正的變革在於
可以選擇的軸增加了。
即使選擇了模型
仍需進一步做出三個決定。
GPT-5.6的四軸調整堆棧
模型層級
選擇Sol、Terra、Luna中的
哪個引擎使用。推理強度
在
none、low、medium、
high、xhigh、max中
要讓它有多深思考。執行模式
使用常規的
standard。選擇使用更多運算
以提高可靠性的pro。提示結構
指示什麼
交給模型處理。
這四個軸我稱之為
MREP堆棧。
Model.
Reasoning.
Execution.
Prompt.
現在模型選擇
不僅僅是選擇一個產品。
而是設計服務器基礎設施。
“Use the lowest reasoning effort that produces the result you need.”
— OpenAI模型指南
如果能獲得所需結果
推理強度越低越好。
使用最高規格
並非最佳化。
這是放棄衡量。
III. Sol並非總是正確答案
舉個例子。
每天需要對1,000個客戶查詢進行分類
並總結成三行。
不需要複雜的推理。
結果格式也是固定的。
對於這項任務,如果使用Sol和Pro模式
結果應該也不錯。
但Luna也
可能達到相同的質量。
這時Sol
並非性能提升,而是浪費。
也有相反的情況。
需要分析數十個文件中的
安全漏洞。
需要跟踪代碼流
區分攻擊可能性和誤報。
還需要檢查修改方案
是否會引入新漏洞。
這種情況下Sol是正確選擇。
可以比較High和Extra High
並在需要時測試Max。
如果可以獨立調查多個領域
多個代理也是候選者。
第三種情況也存在。
主管需要閱讀30份市場報告
比較競爭對手的功能和價格。
不需要Sol
一行一行地閱讀所有文檔。
工具收集數據。
代碼去除重複。
僅保留符合條件的結果。
模型收到壓縮的證據
並專注於最終判斷。
這就是GPT-5.6的
Programmatic Tool Calling。
模型編寫JavaScript
並並行調用允許的工具。
使用循環和條件語句。
在執行環境中處理中間結果
並將小型結構化結果返回上下文。
代碼處理機械性工作
而不是模型讀取所有數據。
Programmatic Tool Calling指南
AI變得更聰明
不僅僅是這樣。
AI現在決定
何時思考
何時處理代碼。
IV. GPT-5.6 Sol的八項變化
1. 程式化工具調用
以前的工具調用是
互動式的。
模型調用工具。
讀取結果。
決定下一步調用。
每次調用
中間結果都會累積在上下文中。
GPT-5.6可以將
可預測的任務
打包成JavaScript程序。
並行調用。
篩選。
排序。
去重。
聚合。
驗證。
將這些任務用代碼處理
並將最終結果傳遞給模型。
但並非所有工具任務
都適合這種方式。
如果每次查看結果都需要
新的意義判斷,
直接調用工具更好。
例如需要批准或刪除的任務
也是如此。
2. 多代理Beta
GPT-5.6模型
可以創建多個子代理
並並行執行。
一個代理負責安全性。
一個代理負責準確性。
另一個代理
尋找遺漏的測試。
根代理
收集結果並整理重複和衝突。
對於大型代碼庫搜索。
比較多個文檔。
驗證多個假設。
獨立組件的實現更有利。
但這也不是
一個快速的解決方案。
有些任務需要順序推理。
同時修改同一文件。
一個慢速的外部API
決定整個時間的情況下
多代理並不會有所幫助。
也可能增加令牌使用量。
當前仍處於Beta階段。
OpenAI多代理指南
3. 持久推理
以前的多輪任務
即使對話持續
之前的判斷結構可能會變弱。
GPT-5.6可以重複使用
可用的推理項目
在下一輪中再次使用。
通過reasoning.context
可以設置當前輪是否使用
單個輪次還是多個輪次。
重要的是。
這個功能不會
公開模型的原始思維過程。
推理項目保持不透明。
效果在於連續性
而不是暴露。
在需要長時間的調試或研究
目標和假設持續多輪的任務中
不再需要從頭開始重複相同的判斷。
持久推理指南
4. Pro模式
Pro不是另一個模型名稱。
也不是通過gpt-5.6-pro
切換模型。
而是在同一個GPT-5.6模型中
設置reasoning.mode: "pro"。
Pro模式執行更多模型工作
以生成最終答案。
對於難度較大的最佳化。
昂貴的代碼審查。
對於品質差異會導致實際結果改變的工作
非常適合。
但延遲時間會增加。
令牌和成本也會增加。
“Choose pro mode when quality matters most.”
— OpenAI GPT-5.6指南
“重要的工作”和
“困難的工作”是不同的。
對於重要但簡單的工作
不需要Pro。
應該在工作困難且品質差異
將導致實際損失時使用。
5. 最大推理強度
GPT-5.6支持max推理。
更多思考似乎總是會得到更好的答案
但官方建議不同。
如果當前使用xhigh
應該比較xhigh和max
在相同代表性任務中。
如果準確率不變
但成本和時間增加
那麼Max並不是改進。
應該測量業務成功率
而不是模型的思考量。
6. 明確提示緩存
在GPT-5.6中
可以直接指定要重複使用的提示段落。
長系統指南。
固定參考文檔。
反復使用的工具定義
應該放在提示的前面部分。
變化的內容,如用戶問題
應該放在後面。
這樣就可以從緩存中再次讀取相同的前綴段落。
但從GPT-5.6開始
對於緩存寫入的計費是普通輸入的1.25倍。
讀取緩存會有折扣
但如果只寫入一次並再次使用
可能會損失。
因此不應僅查看cached_tokens。
應該一起測量cache_write_tokens。
緩存不是省錢功能。
只有在重複率足夠高時
才能節省的投資。
OpenAI提示緩存指南
7. 前端設計和意圖理解
GPT-5.6在佈局、視覺層次、
設計判斷方面有所改進。
不僅僅停留在生成代碼
還專注於創建更整潔且易於使用的界面。
設計得更好
以更好地推斷實際目標和期望水平。
因此不需要在每個步驟
都寫入提示。
但權限邊界和成功條件
也不應該被忽略。
應該區分模型應該自動處理的領域
和必須遵守的約束。
8. 原始圖像解析度
GPT-5.6可以保留
通過original或auto傳遞的圖像的原始大小。
大屏幕上的小按鈕。
複雜的儀表板。
空間關係重要的圖紙。
對於需要精細視覺信息的任務有優勢。
但大圖像
可能會導致更多的輸入令牌和延遲時間。
解析度也與模型相同。
越高不一定越好。
應在需要時提高。
V. 最矛盾的變化在於提示
GPT-5.6的新功能中
最重要的可能不是功能。
而是提示的撰寫方式發生了變化。
每當模型出錯時
我們都會添加指導。
“一定要檢查。”
“絕對不要猜測。”
“一定要逐步思考。”
“寫得簡潔。”
“再次驗證。”
這些句子累積
使提示成為設置文件。
問題是即使模型進步了
設置文件仍然保持不變。
30年的開發人員
在新版本面前也會受到相同的誘惑。
添加新選項比
刪除現有設置更容易。
但遺留提示
就像遺留代碼一�