Anthropic(做 Claude 這個對話式 AI 的公司)於2026年7月24日推出新模型 Claude Opus 5,主打「聰明又懂得主動思考」,效能逼近該公司最頂級的 Claude Fable 5,但價格只要一半。官方說在程式撰寫、知識工作等多項標準測驗(benchmark,就是用一套固定題目給不同 AI 做、比較誰分數高的測試)中,Opus 5 都刷新了自家最佳成績,例如在 ARC-AGI 3(一種考驗 AI 解決從沒見過的新問題的測驗)拿到的分數是次佳模型的三倍。價格維持與前一代 Opus 4.8 相同,每百萬個輸入字約 5 美元、輸出字約 25 美元,2026年7月24日起開放所有平臺使用。這是目前最安全、最不容易被騙去做壞事的 Claude 模型,但在資安攻擊、生物研究等高風險能力上,它不如公司內部另一個模型 Mythos 5。
舉例來說,官方測試給 Opus 5 一張機械零件的手繪圖,要求它寫程式把這個零件重建成 3D 模型(用 FreeCAD 這套軟體),但故意不讓模型直接讀取圖片內容。Opus 5 自己寫了一套電腦視覺程式,從圖片的像素資料中反推出零件的幾何形狀,再重建出完整的 3D 模型,而且重複測試都能成功;相比之下,其他競爭對手的 AI 模型在同樣限制下,測試五次都做不出來。另一個例子是有交易公司的工程師用 Opus 5 在單一次對話裡,從零打造一套新交易所的市場資料串接系統,過去的舊版模型即使給了詳細的操作步驟也做不到;Opus 5 甚至在沒有現成資料可以核對的情況下,自己寫了一套測試程式來驗證資料解析是否正確。
OpenAI在2026年7月23日把「ChatGPT Voice」語音對話功能帶到桌面應用程式,macOS和Windows同步上線,Plus、Pro、Business、Edu、Enterprise等付費方案的用戶都能使用。背後技術是OpenAI稍早推出的「GPT-Live」語音模型,支援全雙工(就是你講話的同時AI也能同時聽你說,不用像對講機那樣輪流講,像正常講電話一樣自然)。使用者只要用講的下一個指令,就能同時指揮ChatGPT Work(處理一般工作任務的助理)和Codex(能寫程式、開發任務的AI agent,agent意思是能自己執行多步驟動作的AI助理,不只是回答問題)去分頭做事,例如同時建立一個工作討論串、送出一個程式修改請求(pull request,工程師用來提交程式碼變更的機制)、並找出某個程式錯誤的根本原因,一句話就能觸發這三件事。macOS版本還多了「Appshots」功能,能即時截取使用者目前開著的視窗畫面(包含畫面上文字的辨識),讓語音助理直接知道你螢幕上在做什麼,不用你口頭描述。另外也支援電腦操作(Computer Use,讓AI直接幫你點滑鼠、開網頁)、讀取本機檔案,iOS手機上的ChatGPT也能透過遠端功能,遙控桌面上的Codex agent幫你做事。值得注意的是,用語音觸發這些任務並不會額外收費,而是直接吃掉Codex和ChatGPT Work原本的使用配額。同一時間,對手Anthropic的Claude也推出了類似的語音模式,能操作Gmail、Calendar、Slack、Notion等企業常用工具,顯示語音正在變成大家搶佔的AI agent操控介面。
假設一個工程師平常要修一個程式bug,傳統做法是:先自己看程式碼找問題、寫修改、手動開終端機執行測試、再手動到GitHub網站建立pull request,過程中每一步都要打字操作。現在有了ChatGPT Voice桌面版,這位工程師可以直接對著電腦說一句話,例如「幫我在專案裡建立一個新討論串、找出這個bug的根本原因、然後送出一個修改的pull request」,ChatGPT Voice會同時指揮ChatGPT Work去開討論串、指揮Codex去讀程式碼找問題根源並生成程式碼修改,全程用語音下指令,不需要打字操作滑鼠。如果用的是macOS,靠Appshots功能AI還能直接看到工程師螢幕上目前開的IDE(寫程式的編輯器)或Terminal(指令視窗)裡顯示的內容,不用工程師口頭複述「我現在看到的錯誤訊息是...」。差異在於:舊做法是人工在多個工具間切換操作,新做法是一句語音指令就讓多個AI agent並行處理,且AI能直接讀懂螢幕畫面省去描述成本。
OpenMontage 是一套 2026 年 3 月開源的「Agentic 影片製作系統」(Agentic 意思是讓 AI 自己規劃步驟、呼叫工具去完成任務,而不是隻回答一句話)。它讓 Claude Code、Cursor 這類原本用來寫程式的 AI 編程助手,搖身一變成為一間完整的影片製作工作室,從發想劇本、生成素材、到最終剪輯渲染全部包辦。系統內建 12 條「生產流水線」(就是預先設計好的一套自動化製作步驟)、100 多種工具、700 多種 Agent 技能,並整合 FLUX、Kling、ElevenLabs 等多家 AI 繪圖、生成影片、生成語音的模型。它採用 AGPLv3 授權(一種開源授權方式,代表可以免費使用架設,但如果拿去做成商業化網路服務就必須把修改後的程式碼也公開),目前在 GitHub(一個工程師公開分享程式碼的網站)上已累積超過 4.2 萬顆星、5 千次分叉,並在 6 月登上該站當日最熱門專案第一名,代表這個專案受到大量開發者關注與採用。
假設一間小型內容工作室想做一支 60 秒、Pixar 風格的動畫廣告,過去得請動畫師、配音、剪輯師分工花上數天甚至數週,成本動輒數萬元。用 OpenMontage 的做法是:只需在 Claude Code 裡下一句需求,系統會自動呼叫 Kling v3(一個 AI 影片生成模型)產生動態畫面,官方實測這樣一支 60 秒 Pixar 風動畫「THE LAST BANANA」實際只花費 1.33 美元;另一支用 OpenAI 語音加靜態場景做的 70 秒歷史短片「The Library at Alexandria」更只要 0.02 美元;一支僅需 OpenAI API 金鑰就能做出的產品廣告「VOID」也只要 0.69 美元。差異在於:傳統做法需要多位專業人力與較長工期,OpenMontage 把整個流程壓縮成一次指令、且成本降到幾乎可忽略,若這個成本能在正式商業案子中複現,等於大幅降低中小型內容團隊做影片的門檻。
這篇文章討論一個矛盾現象:AI 編程工具(像是幫你自動寫程式碼的 AI 助理)已經被 84% 的開發者採用(根據 Stack Overflow 2025 年的調查),照理說寫程式應該變快變好,但實際數據卻顯示品質正在惡化。研究發現 AI 生成的程式碼,每個 PR(Pull Request,就是工程師提交程式碼修改給團隊審查的一個批次)出現的問題數量是人工寫的 1.7 倍,技術債(Technical Debt,意思是為了求快而累積下來的品質缺口,之後要花更多力氣還債修正)增加了 30% 到 41%,程式碼複雜度上升 41%。更諷刺的是,開發者「感覺」自己用 AI 變快了 20%,但實際測量完成時間卻比不用 AI 的同事慢了 19%,顯示大家對 AI 生產力有明顯的錯覺。研究機構 Forrester 預測,到 2026 年會有 75% 的組織技術債達到中高程度。另外 OWASP(一個專門研究軟體安全漏洞的組織)的研究也指出,30% 到 40% 的 AI 生成程式碼片段中,至少含有一個 CWE 等級(一種標準化的軟體安全漏洞分類)的安全漏洞。文章認為根本問題在於:AI 已經解決了程式碼「產出量」的問題,但「品質」這件事取決於公司文化和 KPI(關鍵績效指標)——沒有公司願意宣佈「這一季只修 Bug、不出新功能」,因為穩定性不會產生好看的成果報告。
假設一個工程團隊導入 AI 編程工具後,要在同樣時間內比較「有沒有用 AI」對開發速度和品質的實際影響。研究做法是追蹤真實專案的 Pull Request(工程師提交的程式碼修改),計算每個 PR 平均出現的問題數量,結果用 AI 寫的程式碼問題數是人工寫的 1.7 倍;同時記錄開發者主觀感受到的完成速度,跟實際碼表時間做對比,結果開發者自覺快了 20%,但實測反而慢了 19%,感知與現實落差高達 39-44 個百分點。另外 arXiv 上一篇論文(編號 2606.14796)進一步用具體指標量化「技術債正在累積」的早期警訊,例如程式碼克隆量(同樣一段程式碼被複製貼上到不同地方的次數)增加了 4 倍、只求短期完成的趕工式程式碼比例上升、可重複使用的乾淨程式碼比例下降。這跟過去「工具本身好不好用」的評測方式不同,是直接從長期維護成本和程式碼健康度去衡量 AI 工具的實際代價,結論是:如果沒有搭配嚴格的 Code Review(程式碼審查)和靜態分析(自動掃描程式碼找問題的工具)把關,AI 生成程式碼的品質下滑速度會比人工撰寫快很多,未受管控的情況下第二年維護成本可能是傳統做法的 4 倍。
吳恩達(AI教育界知名人物,創辦了線上課程平臺Coursera,也曾主導Google Brain專案並擔任百度首席科學家)發表了一個叫OpenWorker的專案,並把它完全開源(原始碼公開、任何人都能查看和修改)放上GitHub。這不是一般的聊天機器人,而是一個能在你電腦上實際「幫你把事情做完」的AI代理人(agent,指能自己拆解任務、呼叫各種工具去執行動作的AI,而不只是回答問題)。它可以連接超過25種常見工具,包括GitHub、Slack、Jira、Notion、Gmail、Google日曆等,還能操作電腦裡的檔案和終端機(terminal,也就是用文字指令操作電腦的介面),如果內建工具不夠,還能透過MCP(一種讓AI連接更多外部工具的協定)繼續擴充。目前先支援Mac,Windows版本也即將推出但還沒完成程式碼簽章,安裝時可能會跳出安全性警示。
假設你要準備一份客戶簡報,過去用一般的ChatGPT,你得先自己叫AI列出簡報大綱、生成文字內容,再自己去翻資料、核對客戶資訊、調整格式,最後還要手動打開Slack或信箱把整理好的東西發出去,AI只負責中間一小段,其他來回奔波都是你自己做。用OpenWorker的話,你只需要對它說「幫我準備客戶簡報」,它就會自己去找相關資料、整理客戶資訊,然後直接生成一份完整、可以打開和分享的文件交給你,不用你在各個軟體間切換收拾殘局。而且遇到「發送訊息」「修改日曆」「執行終端機指令」這類有風險的重要動作時,它會先暫停下來告訴你它準備做什麼,等你按下同意後才會繼續執行,不會自作主張亂發訊息或亂刪檔案。另外它不綁定特定AI模型,你可以自己帶API金鑰(存取憑證)接上GPT、Claude、Gemini,或透過Ollama(一個能在自己電腦上跑開放權重模型的工具)跑Kimi、GLM、DeepSeek等模型,所有對話紀錄和金鑰預設都只存在你自己的電腦上,不會被上傳,除非你主動選擇要用雲端服務。
一家叫Vivix的公司發表了新的AI模型A1,這是一種「即時互動多模態模型」(多模態指同時處理文字、聲音、影像等多種資料的AI;即時互動代表你講話、它馬上有反應,像打視訊電話一樣)。從使用者說話到畫面出現對應反應,平均只延遲0.6秒,最快0.3秒就能回應新的輸入。Vivix同時也發布了配套的W1模型,讓使用者可以介入改變劇情走向,不只是被觀看。這代表AI生成即時影片互動的技術門檻正在快速下降。
假設你想做一個「AI虛擬寵物視訊聊天」的產品,讓使用者可以像打視訊電話一樣跟一隻AI貓咪互動。用傳統做法,得把語音辨識(把你講的話轉成文字)、對話AI(生成回覆文字)、文字轉語音、再加上一個動作生成模型串接起來,每多一層就多一次等待,而且講話的語氣、環境的聲音、你比的手勢等訊息,在轉成文字的過程中會全部遺失,貓咪頂多對嘴形、動作僵硬。改用Vivix的A1模型,它直接把語音的語氣、環境音、手勢、動態畫面一起輸入模型(不用先轉成文字),模型在約300毫秒內就能反應,整個對話延遲平均只有0.6秒。而且Vivix把這個近300億參數的模型透過4-bit量化壓縮等技術,優化到一張消費級顯示卡(不是要用資料中心等級的昂貴設備)就能即時跑起來,單卡每秒可處理超過10000個影片token,這讓中小團隊也有機會做出這種即時互動AI角色產品,而不必租用昂貴的伺服器叢集。
李飛飛(史丹佛大學知名AI學者,主導多個視覺AI評測榜單)團隊維護的「世界模型」(world model,指能理解並模擬真實世界畫面與空間關係的AI模型)排行榜,出現了新的第一名。奪冠的是中國團隊兔展智能聯合北京大學、鵬城實驗室開發的UniWorld-View,它能做到「新視角合成」(novel view synthesis,就是隻給AI一張圖或一段影片,AI就能腦補出從其他角度看過去會是什麼樣子,例如你給正面照,它畫出背面或側面)。這個模型還特地做了適配,可以在中國自產的昇騰(華為推出的AI運算晶片,用來取代輝達GPU)算力上運行,而且程式碼與模型參數(weights,也就是AI訓練完成後內部的「記憶」數值)都全部公開讓大眾下載使用。傳統做法(如NeRF、3DGS這類技術)必須拍很多張不同角度的照片才能重建場景,一旦只有單一視角的隨手拍影片,畫面就會出現破洞或扭曲;UniWorld-View透過先用點雲(point cloud,把畫面轉成一堆帶座標的點)建立粗略3D結構,再用AI補上細節顏色與紋理,解決了轉大角度時「穿幫」的問題。
假設你只用手機隨手拍了一小段影片,或甚至只拍了一張照片,想要做出「相機繞著這個場景轉一圈」的展示影片(例如電商想展示商品的360度環繞視角,但沒有專業攝影棚多機位拍攝)。用傳統3D重建技術(NeRF、3DGS),因為只有單一角度的畫面,重建出的背面或側面會出現破洞、糊塊、紋理錯位等「穿幫」畫面,甚至直接失敗。用UniWorld-View,你可以直接指定相機軌跡(推、拉、搖、移,或360度環繞),模型會先把畫面轉成點雲抓出正確的3D幾何位置,再用另一套機制從原始影片裡「找素材」把顏色和紋理正確地貼回去,把該有洞的地方留給AI去補而不是硬拼錯誤紋理,最終生成一段視角自由變換、看起來完整合理的影片;如果多切換幾個機位,甚至能進一步組合成可以自由漫遊觀看的4D動態場景(即帶有時間變化的3D場景)。這比起過去必須用多臺相機同時拍攝才能做到的效果,門檻大幅降低。
一項量子密碼學(研究如何用量子物理原理來加密資訊、防止被破解的學問)領域的結果被標註為解決了「量子密碼學裡較重要的開放問題之一」,且該問題已懸而未解長達六年。特別之處在於,AI模型 GPT-5.6 Sol Ultra 透過 Codex(一套讓AI寫程式、做數學推導的工具)協助生成了解題所需的關鍵構造(construction,具體數學設計)和主要證明思路,之後由人類專家對AI提出的結果進行完善與驗證,確認證明是正確的。
據稱,GPT-5.6 Sol Ultra透過Codex生成了解決該問題所需的數學構造和主要證明思路,隨後由人類專家完善並驗證了結果。
Frontier-Bench是由Terminal-Bench和Harbor團隊推出的新基準測試(benchmark,就是專門用來衡量AI表現好壞的標準化測驗),用來評估「代理」(agent,指能自己規劃步驟、操作電腦、完成任務的AI)在真實工作情境下的能力,涵蓋軟體開發、機器學習、科學研究、營運、資安、硬體、媒體等多個領域。目前v0.1版本包含74個高難度任務,即使表現最好的AI代理平均也只能拿到約34%的分數,顯示這批任務比以往測驗更貼近真實世界的困難程度。同一時間,另一個機構CAIS也發布了更難的推理測驗EnigmaEval,其中Claude Fable 5與GPT-5.6 Sol表現領先,但在最難的題組中Fable 5也只答對一成。這兩個新測驗背後的共同原因,是業界對現有的靜態測驗越來越不滿——因為AI進步太快,舊測驗很快就被「刷到滿分」而失去鑑別度,所以需要不斷推出會持續更新、越來越難的測驗,才能真正看出哪個AI代理比較強。
假設一家公司想挑選一個AI代理來自動化「寫程式、訓練機器學習模型、做資安稽核」這類需要多步驟操作的重活,如果只用舊的Terminal-Bench v2.1測驗,Claude Fable 5和Opus 4.8這兩款AI的分數只差4.9%,很難分辨誰真的比較強;但改用新的Frontier-Bench v0.1測驗同樣兩款AI,分數差距拉大到12.7%,代表這個新測驗能更精準地區分「頂尖」和「次頂尖」的AI代理,幫助公司做出更有依據的選擇。測驗過程還會額外記錄AI解題時用了多少「token」(AI處理文字時的最小計費單位,可粗略理解成AI的思考成本)以及採取幾個操作步驟:例如Fable 5和Opus 4.8傾向用較多token、較少步驟解題,GPT-5.6 Sol和Terra則用較少token、較多步驟。這讓企業不只能看分數高低,還能比較不同AI代理「解題方式」的成本效率差異,這是舊測驗只給一個總分時看不出來的資訊。
Hugging Face 團隊發布了「The Stack v3」,這是目前全世界最大的公開程式碼資料集(data set,就是給 AI 訓練用的大量文字/程式碼原料),總共蒐集了 114 TB(相當於十幾萬部電影大小)的原始資料,涵蓋 770 種程式語言、2.24 億個 GitHub 倉庫(repository,就是程式設計師存放專案程式碼的資料夾),最後整理過濾出約 5 兆個 token(token 是 AI 讀取文字的最小單位,可以粗略理解成「字詞片段」)。這批資料是給科技公司或研究單位拿去訓練「程式碼生成 AI」(像 GitHub Copilot、AI 寫程式助手背後的模型)用的基礎原料,資料集完全開放、且刻意排除授權限制嚴格的程式碼,避免訓練出來的 AI 產生法律爭議。相比兩年前的上一版 The Stack v2,這次不只資料量暴增(過濾後的 token 數從約 5500 億暴增到約 5 兆,成長近 10 倍),C++、TypeScript、Rust、Python 等主流語言的資料量分別成長 4.8 倍到 15 倍不等,而且修正了上一版資料去重複演算法裡的一個技術錯誤(原本用來切分程式碼片段的規則寫錯,導致重複判斷不準確)。
假設一家新創公司想訓練一個「AI 寫程式助手」,過去若使用 The Stack v2,下載到的只是 Software Heritage(一個程式碼保存機構)資料庫裡的檔案編號清單,開發者必須自己再寫程式去把對應的實際程式碼內容抓下來拼湊,光是準備資料就要花不少工程時間,而且 v2 的資料是 2023 年之前的舊快照,訓練出來的模型可能不熟悉近兩年新出現的框架和寫法。改用 The Stack v3,開發者可以直接下載「stack-v3-train」這個版本,裡面已經做好去重複、品質過濾、個資(PII,指姓名、電子郵件等可識別個人身分的資訊)遮蔽,且程式碼內容直接內嵌在資料裡(一列資料就是一個完整倉庫),下載完成後呼叫 Hugging Face 的 load_dataset 指令就能直接開始訓練,不用再自己動手抓內容;資料的擷取時間點也更新到 2025 年 8 月,能涵蓋更新的程式庫和寫法。若研究單位想要更完整、原始的資料自己客製化過濾規則,還可以選擇下載完整的 114 TB「stack-v3-full」版本,裡面保留了所有重複項目與被排除檔案的記錄,方便自行重新設計去重複與篩選邏輯。
美國維吉尼亞北部這週有一條電線意外斷掉,正常情況下電網幾秒鐘就能自動恢復,但這次卻花了超過10分鐘才穩定下來,原因是超過3吉瓦(GW,一種電力單位,1吉瓦約等於一座大型核電廠的發電量)的AI資料中心(就是堆滿伺服器、專門跑AI運算和訓練的大型機房)幾乎同時全部切斷跟電網的連接。這些資料中心感應到電壓有異常波動時,會自動切換成自己的備用電池供電、順便跟電網斷開,結果大量資料中心在幾秒內一起斷線,反而讓電網供需失衡、電壓忽高忽低,害附近居民家裡的電燈跟著閃爍。專家指出,隨著AI資料中心越蓋越多、用電量越來越大,這種電網波動事件只會越來越頻繁,2024年就發生過一次規模較小的類似事故,這次的斷線規模是當年的兩倍。目前美國最大電網營運商PJM(負責從紐澤西到伊利諾州、服務6700萬用戶的電網系統)已經開始正視這個問題,專家也呼籲資料中心應調整應對機制,避免集體瞬間斷線再度發生。
以這次真實事件為例:北維吉尼亞是全球AI資料中心密度最高的地區,一條電線故障,理論上電網該在幾秒內自我修復,但因為3.1吉瓦的資料中心在30秒內幾乎同步切到備用電力、集體從電網「消失」,PJM電網瞬間多出3.49吉瓦的過剩電力沒地方去,電壓狂飆,花了11分鐘才恢復穩定,代價是區域內電燈閃爍、電網被逼到極限。新創公司ON.Energy提出的解法,是幫整個資料中心園區(包含伺服器、空調等所有設備)裝一套大型不斷電系統:用一整排電池加上精密電力轉換設備,把資料中心包起來,讓電網看到的只是一個穩定、不會忽大忽小的用電負載。當電網電力過剩時,這套系統就把多的電拿去充電池;電網電力不夠時,就從電池放電支援伺服器,反應速度快到千分之一秒等級,資料中心因此可以繼續彈性調整AI訓練工作量,卻不會再對電網造成衝擊。ON.Energy目前已在四個資料中心園區安裝合計3吉瓦的這套系統;反觀舊做法(資料中心偵測到異常就直接斷線自保)雖然保護了機房設備,卻把不穩定的風險整包甩給電網和附近居民。隨著資料中心用電佔比在部分電網區域已明顯成長,未來若不及早因應,類似的電網危機恐怕會更嚴重。
美國政府正在考慮怎麼因應中國AI公司的崛起,傳出可能會全面禁止中國的「開放權重模型」(open-weight model,就是把模型內部參數公開讓大家下載、修改、再訓練的AI,跟只能透過網頁或API使用的「封閉模型」不同),甚至制裁相關公司,起因是白宮指控中國Moonshot AI公司用「蒸餾」(distillation,指用A模型的輸出結果去訓練、改進B模型的技巧,業界很常用來讓小模型變聰明)的方式,抄襲Anthropic的Fable模型技術來訓練自家的Kimi K3模型。包括Hugging Face、Meta、微軟、Mistral、Nvidia等公司聯名發公開信,呼籲政策制定者不要因此對所有開放權重模型做出「過早又籠統」的限制,強調蒸餾本身是業界常見的正當技術,不該因為個案的抄襲爭議就全面封殺。值得注意的是,OpenAI、Anthropic、Google DeepMind這些靠封閉模型賺錢的公司,都沒有在這封信上簽名,顯示這是一場開放與封閉兩派AI公司之間的利益角力。
舉例來說,Hugging Face最近在測試防禦一次網路攻擊時,發現用OpenAI、Anthropic這些封閉模型根本擋不住,因為這些模型的安全防護機制會誤判「防守方模擬攻擊來抓漏洞」跟「真正的攻擊者要搞破壞」是同一回事,直接拒絕幫忙分析;後來他們改用中國Z.ai公司開源的GLM 5.2模型才成功防住攻擊,因為開放模型可以繞過那些過度保守的防護限制、依需求彈性調整。另外,新創公司Thinking Machines Lab發布的開放模型Inkling,是藉助Moonshot的Kimi 2.5訓練出來的成果,如果美國真的全面禁止中國開放模型、連帶連蒸餾技術也一起限制,等於掐斷了這種「一家公司的技術幫助另一家公司進步」的生態鏈,對全球開放AI生態衝擊會非常大,這跟只是單純処罰某一起抄襲事件是完全不同層級的影響。
微軟和 Meta、Nvidia、Hugging Face、Mistral 等超過 20 家公司聯署了一封公開信,主張美國 AI 領導地位不該只看單一最強模型(frontier model,指目前最頂尖的那個 AI 模型),而該看整個「開放權重」(open-weight,指模型的核心參數公開釋出,任何人都能下載來用或修改)生態系是否夠強大。信中還特別幫「蒸餾」(distillation,指用一個較強的AI模型的輸出去訓練、教會一個較小模型,讓小模型學到接近的能力)技術背書,說這只是延續開源軟體一直以來「站在巨人肩膀上」的傳統,藉此回應外界對中國廠商靠蒸餾複製技術的批評。但文章指出,微軟真正的算盤是:Azure(微軟的雲端服務平臺)上跑的模型種類越多、越不受制於昂貴的 OpenAI 和 Anthropic 模型,微軟的雲端生意就越賺。同時,微軟也正把 GitHub Copilot(AI 寫程式助手)、Excel、Outlook 裡原本用的 OpenAI/Anthropic 模型,換成自家的 MAI 系列模型,而獨立benchmark(跑分測試,用來客觀比較不同AI模型能力高低)顯示 MAI 表現明顯落後,大致只跟 Deepseek V3.2 差不多。
如果你是一般企業用戶,公司訂閱 Microsoft 365 搭配 Copilot 幫忙寫信、抓 Excel 公式、寫程式,過去背後可能呼叫的是 OpenAI 或 Anthropic 的強力模型,現在微軟悄悄把這些換成自家較弱的 MAI 模型——你付一樣的月費,但拿到的 AI 品質可能變差,因為 MAI 模型可以在較舊的 Nvidia H100、A100 顯卡上跑,不需要最新款高階顯卡,這樣微軟部署成本大幅降低、利潤變高,但省下來的錢不是回饋給用戶。而微軟自己公佈的比較數據,只拿 MAI 去對比 GPT-5.4 Mini、Anthropic Haiku 這類「小model」,卻沒說清楚拿來對比的「GPT-5.6」到底是哪個版本、用了什麼推理模式,這種跑分方式並不嚴謹,等於是挑軟的比來讓自家模型看起來不錯。
一個由德國人工智慧協會(KI Bundesverband)號召、多所大學和研究機構組成的團隊,發表了一個叫Soofi S的開源大型語言模型(LLM,就是ChatGPT這類會對話、寫程式的AI),完全在德國電信位於慕尼黑的AI雲端上訓練完成。這個模型號稱在所有完全開源的模型裡,德文和英文的綜合能力排名第一,贏過先前的強者OLMo 3 32B和Apertus 70B,程式能力測試(HumanEval等)也拿下開源模型最高分。它採用混合專家架構(MoE,就是把模型拆成很多小專家,每次只叫醒其中幾個來處理,而不是整顆模型全開),總參數約316億,但每次生成一個字只動用其中32億,所以處理速度接近一個30億參數的小模型,即使輸入的文章很長,速度也幾乎不會變慢,這點比一般同尺寸模型快上約8倍。比較特別的是,團隊後來自己抓到一個烏龍:訓練資料裡意外混入了科學測驗GPQA的正式考題(本來應該只放練習題),是因為Hugging Face這個資料平臺上GPQA的考題全部被標成「訓練集」,導致自動蒐集資料的程式誤把考題當練習題收進去。團隊發現後把GPQA整個從評分項目拿掉、重新計算所有16個對照模型的成績,結果名次沒有改變。他們認為這件事剛好證明「開源」的好處:正因為訓練資料公開,外部社群才能自己檢查出這個問題。不過Soofi S也有明顯弱點,像是德文數學競賽題目表現不如對手Qwen3.5和Gemma 3,長文本中要「從很長的文章找出常出現的字」這類任務命中率偏低。
假設一家德國企業想做一個能處理長篇合約或技術文件(例如一份十萬字的德文技術手冊)的AI客服系統,用傳統的同尺寸模型,隨著文件變長、同時服務的人數變多,回應速度會明顯拖慢,因為系統要不斷讀取一份越堆越大的暫存記憶(KV cache)。改用Soofi S的話,因為它的混合架構裡52層只有6層需要維持這種暫存記憶,在4千字到25萬字的輸入長度區間,生成速度幾乎不會下降,遠比一般同尺寸模型快。而且因為訓練資料裡刻意拉高德文比例(初期訓練德文佔7.2%、後期拉到15.3%,遠高於例如Nvidia的Nemotron配方中所有非英文語言合計約5%的比例),這套系統處理德文的準確度會比用其他開源模型明顯更好,這是它相對於「英文優先、德文只是附帶」的其他開源模型的實際差異。
這篇文章整理了中國AI公司DeepSeek(開發出低成本大型語言模型、去年春節爆紅的AI新創)創辦人梁文鋒在一場投資人電話會議上的64句發言重點。梁文鋒說公司內部沒有KPI(關鍵績效指標,用來衡量員工工作成果的量化目標)、沒有寫下來的願景、甚至「沒有組織」,全靠對世界的善意和對AGI(通用人工智慧,指能像人類一樣具備多種認知能力、不侷限單一任務的AI)的執念在運作。他解釋API(讓其他軟體呼叫DeepSeek模型的付費介面)定價策略是刻意壓低利潤,目標只是十個月內回收硬體成本,而不是追求最大獲利,因為「越剋制越可能成功」。他也談到即使是最強的模型也會開源(把程式碼和模型參數公開讓所有人免費使用),並不擔心被競爭對手拿去用,反而更擔心別人用不好。文章還披露DeepSeek目前約有兩萬張「H等效」運算卡(換算成輝達H系列晶片的等效算力),落後美國約12到18個月,但只用美國二十分之一的算力在追趕;梁文鋒認為AGI的技術路線是「思維鏈(CoT,讓AI先一步步推理再回答的技術)→ Agent(能自主規劃並執行多步驟任務的AI代理)→ 持續學習 → 奇點 → 具身智能(能操控實體機器人在現實世界行動的AI)」,而中國國產晶片的生態問題不大,真正的瓶頸是產能不足。
以DeepSeek自家的DCP(Decoder Context Parallelism,一種讓模型處理長文本更有效率的解碼技術)模型定價為例:團隊一開始擔心需求太大,把價格訂得偏高,結果內部員工反而不滿;後來梁文鋒把價格降到原本的四分之一,公司群組裡的員工反而歡呼慶祝。這個案例具體示範了他所謂「剋制是一種策略」:不是為了搶市佔率或衝營收去壓低價格,而是抓準一個能回本又讓用的人負擔得起的甜蜜點——即使再降價,使用量也不會顯著增加,但服務更多人能達到願景上的滿足感。這與一般商業公司「拚命壓成本、追求最大利潤」的邏輯明顯不同,也解釋了為什麼DeepSeek的API定價會比阿里、騰訊等對手低上好幾倍。
AMD(一家設計晶片的公司,長期是Nvidia在AI晶片市場的主要對手)發表了新的「機櫃級」AI系統,叫做Helios。所謂機櫃級,是指整個伺服器機櫃裡的晶片、電源、散熱、網路線路都預先設計成一整套,資料中心買回去就能整櫃部署,不用自己拼湊零件。這套系統搭配AMD新推出的Instinct MI400系列GPU(負責跑AI模型運算的晶片)以及EPYC系列CPU(負責整體伺服器運算調度的晶片)。AMD宣稱,Helios在跑「推論」(就是AI模型訓練完之後,實際拿來回答問題、生成內容的階段,跟「訓練」是不同階段)時,每花一塊錢能產生的token(可以理解成AI每處理或生成一個字詞的最小單位)數量,比競爭對手的系統多出最多30%。
假設一家雲端服務商要幫客戶跑ChatGPT這類AI聊天服務,需要採購大量伺服器機櫃來處理使用者的問題並生成回覆,這個階段就是「推論」。過去買機櫃,公司要自己挑晶片、電源供應器、散熱系統再組裝測試,耗時且要自行優化才能發揮效能。用AMD Helios,公司可以直接採購整套已經搭配好MI400 GPU和EPYC CPU的機櫃。對比舊做法,這代表資料中心可以用更少的機櫃和電費,服務更多使用者的AI查詢請求。
Black Forest Labs(開發知名圖片生成模型FLUX的德國AI公司)在2026年7月23日發表新一代模型FLUX 3,這次不只能生成圖片,還能同時生成長達20秒、內建同步音效的影片。重點是這個模型是把圖片、影片、聲音「一起訓練」出來的,不是把三個各自獨立的模型拼接在一起,所以生成內容的畫面、聲音、動作變化會更協調一致。公司執行長Robin Rombach形容這個模型「會動、會發聲、會變化、會回應」,強調只學圖片的模型永遠只能生成圖片。目前僅開放影片與機器人動作功能做早期測試(early access),圖片生成功能預計未來幾週開放測試,之後才會推出API、私有模型與開源權重版本(FLUX 3 Dev)。
假設你要做一支產品廣告短片,過去用純影片生成模型(例如市面上的文字轉影片工具)常常畫面會動、但配音要另外找工具做、對嘴或音效常常對不上畫面節奏,還得後製合成。用FLUX 3的話,你輸入文字描述或一張產品圖,它可以直接吐出最長20秒、畫面與音效同步生成的影片,等於同一個模型一次做完影片和配音,不用再手動對齊音畫。
研究團隊把 Google 的 AlphaFold(一款能預測蛋白質立體形狀的 AI 模型)拿來分析基因編輯(一種能精準修改 DNA 序列的生物技術,例如 CRISPR)系統裡的蛋白質元件。基因編輯系統一直有個老問題叫「脫靶效應」:本來想剪對的基因位置,卻不小心剪到別的地方,因為人體基因體(DNA 全部序列)非常龐大,就算是罕見序列也可能剛好在別處重複出現,治療時要編輯大量細胞,出錯機率就會被放大。研究團隊利用改造過的 AlphaFold 找出基因編輯蛋白質(正式名稱是 Cas 蛋白,CRISPR 系統裡負責辨認並剪切 DNA 的那個部分)裡哪些區域容易造成這種抓錯位置的問題,接著針對這些區域做修改,藉此降低脫靶風險。這項研究發表在知名期刊《Nature》上。
研究人員原本想改良 CRISPR 這類基因編輯工具,讓它做治療時更少剪錯地方,但傳統做法主要靠調整導引 RNA(負責辨認目標基因序列的那段 RNA)的序列來減少誤剪,對 Cas 蛋白本身的結構下手相對困難、效率也有限。這次團隊改用 AlphaFold 去預測並分析 Cas 蛋白的立體結構,藉此鎖定蛋白質上哪些具體區塊是造成誤剪的關鍵,然後針對性地修改這些區塊。相較於過去只能大範圍嘗試、靠實驗慢慢篩選哪個蛋白質變異版本比較安全,這次是先用 AI 精準指出問題部位,再去做修改,等於把原本要大海撈針的實驗流程,變成有明確目標的工程改造。
AI 公司要蓋更多資料中心(就是放滿伺服器、專門跑 AI 運算的大型機房)來訓練與運行 AI 模型,但這些機房常需要燃氣發電機或柴油發電機供電,會產生空氣汙染,因此建造前依法要申請「排汙許可證」。美國環保署(EPA)目前正考慮修改規則,把「一般民眾能不能在許可審查過程中發表意見」這件事,交給各州自己決定,等於可能大幅降低地方居民對新建汙染設施(包括供電給資料中心的發電設施)的知情權與發言權。這項修法背景是,各地社區近來常利用申請許可的審查程序,來拖延或阻擋資料中心的興建。反對者認為,民眾「有權表達意見」是基本原則,修法可能讓資料中心擴建更容易繞過社區監督。
以 xAI 和 Meta 為例,兩者為了讓自家 AI 資料中心有足夠且快速的電力供應,都採用了所謂「表後」(behind-the-meter,也就是不透過電網、直接在廠區旁自建發電廠供電)的燃氣發電機,並且透過美國《清淨空氣法》裡審查較寬鬆的「次要汙染源」(minor source)許可流程來報批,因為這類流程審查門檻較低、不像「主要汙染源」需要聯邦與州政府雙重審查、公眾意見門檻也較高。如果 EPA 這次修法通過,各州可自行決定要不要保留公眾對這類「次要汙染源」許可案的意見發表機會,這代表 AI 公司未來要在社區旁邊蓋供電用的燃氣或柴油發電機組時,附近居民可能連被通知、被諮詢的機會都變少,資料中心擴建速度可能因此加快,但也會減少地方社區對汙染設施的把關。
有開發者做了一個叫 Agent-Reach 的開源免費小工具,讓 AI Agent(就是能自己執行任務、幫你上網查資料的 AI 程式,不只是聊天而已)可以直接讀取網頁、YouTube、GitHub、RSS 等六大類平臺的內容,而且完全不用申請任何 API Key(也就是那種要跟平臺申請、常常要付費的存取許可證)。它的做法是把 Jina Reader、yt-dlp、gh CLI 這些已經存在的免費小工具串在一起,每個平臺都準備好幾個備援管道,一個失效就自動切換到下一個,中間完全不用人去處理。這個專案在 GitHub(一個放程式碼、大家可以看和下載的網站)上已經累積 60.6k 顆星星(代表很多人按讚、標記關注),且採用 MIT 授權(一種很寬鬆的免費授權方式,幾乎誰都可以拿去用)。目前已經跟 Claude Code、Cursor、Windsurf 這些常見的 AI 寫程式工具相容。
假設你想做一個「幫我盯著某個技術話題在網路上討論熱度」的 AI 助理,需要它同時去看 Reddit 討論串、Twitter 上的貼文、還有相關 YouTube 影片的字幕內容。傳統做法是你要分別去 Reddit、Twitter、YouTube 申請開發者 API 資格,每個平臺規則、費用、申請流程都不一樣,光是搞定授權可能就要花好幾天,YouTube 和 Twitter 的 API 通常還要收費或有嚴格流量限制。使用 Agent-Reach 的話,它幫你把 Jina Reader、yt-dlp、gh CLI 這些現有的免費工具整合在一起,你的 AI Agent 可以直接透過這些工具去抓取各平臺內容,這些工具會自動把內容整理成結構化的資料給 AI 讀取,不需要你各自申請 API Key,也不需要寫程式去解析每個平臺不同的網頁格式。差別在於:舊做法要花時間跟金錢分別搞定每個平臺的存取權限,新做法安裝好 Agent-Reach 後,你的 AI Agent 就能自動選擇可用的免費工具來抓資料,前提是該平臺在它支援的 8 個「免登入即可用」頻道之內,若要用 Twitter、Reddit 等平臺則仍需自行提供 Cookie 或登入資訊。
Pushary 是一款新推出的手機 App,專門解決「AI Agent」(也就是能自己執行多個步驟、例如寫程式、跑指令的自動化 AI 助理)常遇到的卡關問題:當這些 AI 助理在電腦上跑到一半,需要人類同意某個高風險動作(例如刪除檔案、部署程式、送出信件)時,以前使用者必須人在電腦前才能按下同意,等於整個工作停擺。Pushary 的做法是透過手機推播通知,使用者不用打開電腦、甚至不用解鎖手機,直接在手機的鎖定畫面上點一下「同意」或「拒絕」,AI 助理就能繼續工作。它支援 Claude Code、Codex、Cursor、Gemini CLI、Hermes、Claude Cowork 等六種主流 AI 開發工具,安裝方式是在終端機執行一行指令並用手機掃描 QR code 配對,幾分鐘內就能設定完成。系統採用「fail-closed」設計(也就是預設偏向保守:只要使用者沒有明確按下同意,系統一律當作拒絕,而不是自動放行),同時支援依照路徑或指令類型設定「自動放行清單」,例如讀取檔案自動放行、但刪除或部署類指令一定要人工確認,每一次決定也會留下可匯出的紀錄,方便日後追溯或做企業合規稽核。收費是每月 9.99 美元,含 5,000 次通知額度,主打會長時間讓 AI Agent 獨立跑任務、但又不放心完全無人監督的個人開發者與小團隊。
假設一位工程師晚上出門前,交代 Claude Code(一款會自動寫程式、跑測試、改檔案的 AI 助理)去執行一個要跑一整晚的大型重構任務。過去若沒有 Pushary,AI 助理在半夜兩點遇到一個需要授權的高風險指令(例如要覆寫資料庫、或執行資料庫遷移指令)時只能卡住,直到隔天早上工程師開電腦才會發現任務早就停擺一整晚,白白浪費好幾小時的執行時間。裝了 Pushary 之後,同樣的授權請求會變成手機鎖定畫面上的一則通知,工程師半夜起床上廁所看到手機,直接在鎖定畫面點一下「同意」,任務就繼續往下跑,完全不用開電腦、不用打開任何 App。如果工程師睡死了完全沒回應,Pushary 會在 10 分鐘後讓這個請求自動過期,並依照「fail-closed」原則視為拒絕,AI 助理不會因為沒人理會就自己硬幹危險操作;相較於單純用 ntfy 這類自己組裝的推播方案(那種方案只能在事後告訴你「AI 做了什麼」),Pushary 是在動作真正執行前就先攔住、等回覆,差別在於它能真正阻止風險操作發生,而不是事後才通知你已經發生的事。
中國新創公司「智象未來」(HiDream.ai)在2026年7月23日完成15億人民幣的C輪募資,三個月內連續完成三輪、總額超過21億人民幣,公司估值突破10億美元,正式躋身「獨角獸」(就是市值破10億美元的新創公司)之列。這次領投方裡有社保基金四川振興科創基金、工銀資本,這是這兩家保守型機構第一次投資「多模態大模型」(multimodal model,就是能同時理解文字、圖片、影片等多種形式資料的AI模型)這個領域,代表主流資金開始看好視覺類AI的長期發展。公司技術核心叫UiT(Unified Transformer,統一Transformer架構),把圖片的像素、文字、影片畫面等不同形式的原始資料,全部丟進同一套模型裡處理,而不是像傳統做法那樣,用好幾個獨立模組分別處理再拼接起來,這樣可以減少資訊在轉換過程中流失。公司旗下的圖片生成模型HiDream-O1-Image今年5月在國際知名評測平臺Artificial Analysis的開源圖片模型排行榜拿下第一名;影片創作工具vivago R1號稱是全球第一款能自主生成「無限時長」影片的工具,商用可用成功率達85%,目前已經有超過5000萬用戶、涵蓋100多個國家使用。
vivago R1被稱為全球首款支援無限時長視頻自主生成與編輯的創作智能體。它搭載長鏈路敘事規劃能力,能先完成整體腳本與鏡頭規劃,再分段落地生成、智能糾錯;單段任務失敗可獨立重試,不影響整體創作進度。vivago R1的AI內容商用有效成功率達85%。相較於傳統影片生成工具常見的「時長受限、畫面跳變、人設跑掉」等問題,這代表AI影片生成從單純「產生好看畫面」的輔助工具,往「可規模化商用的內容生產工具」邁進一步。
Bluesky(一個標榜開放協議、和X/Twitter類似的社群平臺)原本就有一個叫Attie的AI助手(背後用Anthropic的Claude這款大型語言模型驅動),讓使用者不用寫程式,只靠打字描述需求,就能自己設計演算法、客製化自己想看的動態消息(Feed)。這次Bluesky推出新功能「Quests」,讓Attie從只會做Feed,升級成可以直接用自然語言查詢整個「AT Protocol」(Bluesky主導的開放社群協議,讓不同App可以共用同一套去中心化的社交網路資料)生態圈裡的新聞、熱門話題和有影響力的帳號。也就是說,以後不只能查Bluesky站內的東西,連接上AT Protocol的其他第三方App裡發生的事,Attie也能幫忙查。目前Quests還在Beta測試、要排候補名單才能用,Attie本身現在免費,但Bluesky正在考慮之後推出付費訂閱方案來賺錢,因為公司用戶成長已經放緩(目前約4,560萬註冊帳號),需要找到新的營收來源。
假設你是一個記者,想知道最近一週在Bluesky和其他AT Protocol相關App上,關於「某個新聞事件」有哪些帳號討論最熱烈、誰最有影響力。以前你只能自己在Bluesky上手動搜尋關鍵字、一則一則滑動態,或者要懂技術的話自己寫程式去呼叫AT Protocol的API抓資料再分析,非工程師背景的記者根本做不到。現在有了Quests,你可以直接對Attie用一般白話文問「幫我找出最近討論X話題最熱烈、最有影響力的帳號」,Attie就會直接幫你在整個AT Protocol生態(不只Bluesky一個App)裡查找並整理出結果,省去手動搜尋或寫程式爬蟲的功夫。目前這功能還在候補名單階段,還不是每個人馬上都能用。
訓練現在最大型的 AI 語言模型,常常需要動用成百上千張 GPU(顯示卡)同時運算,這種規模下硬體出錯幾乎是常態,一張 GPU 記憶體出錯或一個節點當機,就可能讓已經跑了好幾天的訓練整個中斷。有一套名為 Monarch 的分佈式訓練系統,讓工程師可以用單一支 Python 程式指揮整個 GPU 叢集,並在有節點故障時,只讓故障的那部分重啟、恢復,其他健康節點繼續訓練,不必整個訓練任務全部重來。這次的更新是把原本只支援 NVIDIA GPU(CUDA 架構)的 Monarch,透過改寫底層通訊與記憶體管理程式碼,移植到 AMD 的 GPU 平臺 ROCm 上,並把相關成果貢獻回開源社群。這代表使用 AMD 顯卡叢集做 AI 訓練的團隊,也能用上這套更耐錯、更省算力浪費的系統,不再只能靠 NVIDIA 硬體才有這種容錯能力。
假設某團隊要在 16 臺伺服器、總共 128 張 AMD MI300 GPU 的叢集上訓練一個 Llama 3 8B 大小的語言模型。用傳統做法:系統每隔一段時間把模型狀態存檔(checkpoint),一旦有 GPU 或節點故障,就得從最近一次存檔整個重啟訓練,這段時間全部 128 張卡都閒置等待,而且從故障發生到上次存檔之間的訓練進度全部作廢。改用移植到 ROCm 後的 Monarch 搭配 TorchFT、TorchTitan 這兩個訓練工具,團隊實際測試時每隔 180 秒就故意注入一次通訊故障:系統會偵測到哪個節點壞了,把該節點暫時踢出訓練,讓另外還在運作的節點(測試中在 8 到 16 臺之間波動)繼續訓練不中斷,同時故障節點在背景用其他健康節點的模型狀態做「點對點」恢復,恢復後再重新加入。結果是整個訓練過程的損失曲線(loss,數值越低代表模型學得越好)幾乎和完全沒有故障發生時一樣平順下降,沒有一次因為單點故障讓全部 128 張卡停擺超過 30 分鐘,比傳統整體重啟的做法省下大量算力和時間浪費。
量子位記者在澳洲雪梨參加了機器人頂尖學術會議RSS 2026(Robotics: Science and Systems),並在會場內外訪談了多位學者與新創公司,發現業界對「具身智能」(讓AI裝進機器人身體、能感知環境並執行動作的技術)的真實想法,和中國社群近半年瘋傳的敘事有落差。國內普遍流傳「VLA已死、世界模型當立」的說法——VLA(Vision-Language-Action,一種讓機器人直接把看到的畫面和聽到的指令轉換成動作的模型)被認為過時,世界模型(一種先在AI腦中模擬預測未來會發生什麼、再據此規劃動作的模型,類似先在心裡演練一遍再行動)被視為新答案。但在RSS現場,多數論文和展示仍以VLA為主,受訪的Physical Intelligence相關人士也表示兩者並不衝突;語言適合理解指令與任務拆分,世界模型可用於預測動作結果,不同任務適合不同工具,而非誰取代誰。另有學者指出,機器人領域目前是「模型多、數據少」(Model-rich, Data-poor),與其執著在模型架構創新,不如想辦法用現有模型互相搭配、自動生成訓練數據,減少對人力採集示範動作的依賴。文章也提到中國具身智能公司在硬體與出海速度上明顯領先歐美,但軟體、數據服務和在地化生態仍在起步階段,連北美最頭部的公司也坦言整個領域都還沒有出現成熟的「奠基性工作」。
香港大學陳立博士在RSS研討會上提出的RISE框架給出一個具體做法:假設要訓練機器人完成「把杯子從桌上移到水槽」這類任務,傳統做法是用一個模型硬記「看到這個畫面就該輸出這個動作」,機器人得靠真實試錯累積經驗。RISE的做法是拆成兩個模型——一個「動力學模型」先在腦中生成好幾種可能的未來畫面(例如手伸太遠打翻水杯、或成功放進水槽),另一個「價值模型」負責判斷這幾種未來畫面哪一個比較接近任務目標。機器人可以先在腦內模擬篩選過一輪、挑出評分最高的動作路徑,才在真實世界執行,而不必每個動作都真的做一次才知道對不對;差異在於,傳統做法容易在現實中摔杯子、撞牆才學到教訓,RISE這種「預測未來、再評估好壞」分開處理的方式,能先在模擬裡篩掉風險高的路徑,降低真實世界試錯的代價。
中國掃地機器人大廠科沃斯,把旗下一款具身智能機器人(就是能感知環境、自己動手做事的實體機器人,結合了AI大腦與機械身體)「八界」整套開源了,從硬體設計到底層系統程式碼全部公開。這臺機器人沒有做成人形,而是輪式底盤加一支六軸機械手臂,科沃斯董事長錢東奇的理由是:機器人這個概念本來就是拿來幹粗活的,重點是能不能真的解決家裡的實際問題,不是長得像不像人。它內建可以在本地跑7B參數大模型(不用把資料傳到雲端伺服器再等結果,反應更快也更保護隱私)的運算晶片。科沃斯的判斷是,具身智能(讓AI真正擁有身體、能在物理世界動手做事的技術)距離自己的「ChatGPT時刻」(也就是一次讓大眾驚艷、迅速普及的技術突破時刻)還很遠,仿真訓練環境搬到真實機器人上這一關,工作量太大,一家公司做不完,所以選擇開放讓全球開發者一起參與補齊。
假設一個大學生想研究機械手臂怎麼抓易拉罐才不會壓扁,過去得自己買一套動輒幾十萬人民幣的科研級機器人,還要從頭寫控制程式。用科沃斯這次開源的八界,他可以直接在蘇州的「八界開源智創空間」或線上社群(ecovacs-tech.com)免費取得硬體使用權和全部原始碼,不用先申請審核。如果他不太會寫程式,可以直接用一句自然語言指令,讓機器人內建的AI智能體去執行「把桌上的易拉罐收好」這種任務;如果他有程式基礎,可以用C++或Python的SDK直接呼叫機械臂、夾爪等底層動作元件,自己組合出抓取力道、姿勢;如果他是真的要做學術研究,還能用SSH連進系統做客製化的演算法驗證。整個開源社群還有GitHub/Atomgit上的完整原始碼、其他開發者做出來的應用範例、技能模組市集,等於是把過去只有機器人公司內部才有的完整開發環境,直接搬到任何人面前。
2026年菲爾茲獎(數學界最高榮譽之一,等同數學界的諾貝爾獎)得主王虹,被網友發現曾在2019年以共同第一作者身分,在AI頂級會議NeurIPS(機器學習與人工智慧領域最重要的學術會議之一)上發表過一篇論文。有趣的是,王虹個人主頁列出的四十多篇論文幾乎每篇都附連結,唯獨這一篇沒有附上,直到這次被網友挖出來才確認存在。這篇論文研究的是「低秩矩陣近似」(簡單說,就是把一個龐大、佔用大量儲存空間的數據表格,用一個結構更簡單的小表格盡量準確地還原出來,藉此節省儲存和運算成本),王虹等人利用數學中調和分析的經典工具「Riesz–Thorin插值定理」,把相關近似算法的誤差上限證得比過去更精確、更緊。這件事也剛好碰上NeurIPS 2026調整審稿制度,新制度把純理論、沒有實驗、沒有訓練模型的論文正式列為可獨立成立的貢獻類型之一,而王虹這篇論文正好符合這個類型,說明數學理論研究和AI實務應用之間的界線其實沒有想像中清楚。
假設你是一名研究員,手上有一份非常龐大的使用者資料表格(矩陣),例如上千萬使用者對上萬部電影的評分紀錄,直接儲存和運算這個表格成本很高。過去常用的做法「列子集選擇」(Column Subset Selection,從原始表格裡挑出最具代表性的幾欄資料來近似整份表格,而不是憑空造一個新表格)已知最差情況下的誤差上限大約是O(k+1)(k是近似所用的秩,也就是挑出的代表欄數,k越大容許的最差誤差也越大)。王虹等人的論文證明,這個誤差上限其實可以壓得更緊:當你用來衡量誤差的方式(數學上稱為p值)在1到2之間時,誤差上限是(k+1)^(1/p);p大於等於2時是(k+1)^(1−1/p),且針對p≥2的情況他們還證明瞭這已經是理論上限,改進空間趨近於零。他們達成這件事靠的不是設計新算法或訓練新模型,而是先分別證明p=1、2、無限大三個特殊情況成立,再用調和分析裡的Riesz–Thorin插值定理,把結論「插值」推廣到所有中間的p值——這正是一位頂尖數學家能貢獻給AI理論研究、但一般機器學習研究者較少採用的證明技巧。
新創公司 GenReasoning 推出一個叫 BackSearch 的新工具,讓 LLM(就是 ChatGPT 這類會對話、能上網查資料的 AI)可以搜尋「某個特定日期當時的網路內容」,而不是隻能查到現在最新的網頁。目前先開放 2026 年新聞類別的一小部分索引,之後會依使用者回饋逐步開放更多資料。官方列出的用途包括:預測未來趨勢與預測市場、量化金融分析、模擬真實世界的強化學習(RL,一種讓 AI 透過嘗試錯誤自我訓練的方法)環境,以及讓 AI 的 benchmark(一種幫 AI 打分數、比較不同模型表現好壞的標準測驗)測試結果可以重複驗證、不受「網路內容隨時間變動」幹擾。
假設你想測試一個 AI 模型「在某個特定日期(例如2026年某天)時,能不能根據當時已知的新聞正確預測某件事的走向」,用一般搜尋工具查,AI 抓到的會是現在(例如7月)已經發生後的最新網頁,資訊被「未來的答案」汙染了,測試等於作弊、不準。用 BackSearch,你可以指定查詢日期鎖定在特定日期(例如2026年某天),AI 抓到的網頁內容會被還原成那個時間點當時真實存在的版本,這樣測出來的預測能力才是公平、可重複驗證的,量化交易員或做 AI 評測的團隊都能拿它來做「時光回溯式」的回測。
一篇技術文章整理了訓練大型語言模型(LLM,就是 ChatGPT 這類會對話的 AI)的方法是怎麼一步步演進的:從最基礎的「監督式訓練」(直接照著標準答案學,類似照抄範本),進步到「強化學習」(RL,讓 AI 自己嘗試回答、答對才給獎勵,藉此學會怎麼答比較好),再進步到「代理式強化學習」(agentic RL,讓 AI 不只是回答一次,而是像個會操作工具、跟環境互動好幾個步驟的助理一樣持續行動),最後整合成一套「統一 RL + 世界建模」的新方法。這個新方法的關鍵技巧,是把 AI「自己做的動作」和「環境回傳的觀察結果」分開處理:動作的部分用強化學習的方式加權評分來訓練,觀察結果的部分則用固定權重、類似監督式學習的方式讓 AI 去預測,兩者合併成同一個訓練目標。這樣一來,AI 不只學會「該採取什麼行動」,還同時學會「模擬環境會怎麼回應」,等於同時具備了行動能力和一個內建的世界模擬器。
假設你要訓練一個能自動操作電腦、完成多步驟任務的 AI 代理人(例如自動瀏覽網頁、填表單、呼叫其他工具完成訂票),舊做法通常是用純強化學習:AI 每做一步動作,就根據結果給獎勵分數,但完全忽略「環境回傳給它的畫面或資料」這部分該怎麼學習,導致 AI 只會硬套動作、不太理解環境本身的變化規律。這篇文章提出的新做法是:訓練時把整個互動過程拆成「AI 自己生成的動作 token(字詞單位)」和「環境回傳的觀察 token」兩種,動作 token 用強化學習的加權方式訓練(做得好才加強),觀察 token 則用類似監督式學習的固定權重去預測(不管好壞都學著去預測環境接下來會回傳什麼)。結果是同一個模型同時學到兩件事:怎麼做決策、以及環境會如何反應,等於是把「行動代理人」和「世界模型」合而為一,比起舊方法只顧著獎勵動作、完全不管環境模擬能力,這種訓練出來的代理人理論上能更準確地預判環境變化再做決策。
LLM(大型語言模型,就是ChatGPT這類會聊天回答問題的AI)常被拿來做預測任務,例如猜測股價走勢或新聞事件發展,但如果讓AI現在上網搜尋資料來驗證「過去某天」的預測對不對,AI很容易搜到後來才出現的報導或結果,等於是用未來的資訊回答過去的問題,測出來的準確率其實是假的。新工具BackSearch解決了這個問題,它讓AI可以指定搜尋「某個特定日期當下」的網路快照,模擬回到那一天當時網路上實際存在的內容,不會混入之後才出現的新資訊。這對預測市場分析、量化金融、模擬真實世界的強化學習訓練環境(RL environments,一種讓AI透過不斷試錯來學習的訓練方式),以及benchmark(基準測試,用來公平比較不同AI模型能力表現的標準考題)的可重現性都很有幫助,因為同一組題目之後重新測試時,網路內容不會因時間經過而改變,結果才能被重現、驗證。目前開發團隊先釋出2026年新聞領域的一小部分索引,之後會依照使用者回饋逐步擴大開放範圍。
假設我想訓練並測試一個「新聞事件預測」AI模型,方法是讓它去猜去年某一天之後會發生什麼事,再用網路搜尋結果核對答案。如果直接讓AI用現在的搜尋引擎查資料,它很可能會搜到後來才發生的報導或結果,等於偷看了答案,這樣算出來的準確率是灌水的、不可信的。改用BackSearch後,我可以指定一個過去的特定日期作為查詢條件,這時AI搜尋到的內容只會是那一天以前網路上真實存在的頁面,不會混入之後才出現的新聞。這樣一來,預測測試的結果才公平可信,而且下次用同樣的日期條件重跑一次,還能得到一樣的搜尋結果(可重現),這對做AI benchmark評比特別重要,避免因為測試時間不同而得出不一致的分數。
Perplexity(一家做 AI 搜尋引擎的公司)推出了一個命令列工具(CLI,就是在終端機打指令操作的軟體,不是網頁介面),可以裝進任何一種「coding agent」(會自動幫你寫程式、改程式碼的 AI 助理)裡使用。裝上這個工具後,原本只能靠內建知識回答問題的寫碼 AI,就能主動上網搜尋最新資料。設定方式很簡單,只要叫你的 AI 助理去讀 GitHub 上 Perplexity 的說明頁面,並依指示安裝這個「skill」(技能,指可以掛載給 AI 用的功能模組)即可。
假設你正在用某個 coding agent(例如裝在終端機裡的 AI 寫碼助理)改一個專案,遇到一個新版函式庫的錯誤訊息,這個函式庫上個月才改版,AI 原本學到的知識是舊版的,只能瞎猜或給錯答案。裝上 Perplexity 這個 CLI 之後,你只要在對話裡叫 AI 讀取 GitHub 上的說明並安裝這個 skill,之後 AI 助理就能在需要時透過網路搜尋獲取最新資訊,而不是隻憑訓練時的舊記憶回答。差別在於:沒裝這個工具,AI 只能靠訓練時的舊資料回應,容易過時出錯;裝了之後,AI 能像人一樣「先查資料再回答」,答案跟得上最新版本。
機器人新創公司mimic推出FLUX-mimic,這是一個「影片動作模型」(Video-Action Model,簡稱VAM,一種先讓AI學會預測影片畫面接下來會怎麼變化、再把這種能力轉成控制機器人手臂動作的模型)。它是建立在Black Forest Labs開發的FLUX 3(目前最強的影片生成模型之一)之上,再用mimic自家機器人和穿戴式裝置蒐集到的資料訓練而成。mimic的核心主張是:AI對影片畫面預測得越準,機器人的操作能力和學習效率就會跟著變好,因為機器人本質上就是要準確預測「接下來手該怎麼動、東西會怎麼變化」。這個模型可以只用一張GPU(繪圖處理器,AI運算用的晶片)就在工廠現場本地端運行,不需要依賴雲端。
mimic過去在部署機器人到工廠產線時,遇到的最大痛點是工業機器人的示範資料很稀少、蒐集成本又高——每教機器人做一個新動作,都要大量人工示範。因為FLUX-mimic已經先從影片中學會了「世界如何運作」(例如物體被推動、抓取時會怎麼變化),所以要學一個新的操作任務時,只需要少量示範就能上手,不必像傳統方法那樣每個新任務都重新蒐集大量資料。目前mimic已經和汽車製造商Audi合作測試部署,用在過去被認為傳統自動化做不到的複雜、多步驟零件組裝任務上。
新創公司 GeneralistAI 推出的機器人基礎模型(foundation model,就是先用大量資料練出一個通用底層模型,之後再微調去做各種任務)GEN-1,最新版本可以支援多種不同的機械手(末端效應器,就是機器手臂最前端負責抓取或操作物體的部分,可能是五指手掌、吸盤、夾爪或特殊工具)。這個模型的特點是,即使在任務執行到一半時臨時把機械手換掉,它也能自己感知到新工具、重新規劃動作路徑去完成任務,不需要針對每一種手另外重新訓練。研發團隊的想法是,讓同一個模型在訓練時就接觸成千上萬種不同的手部介面,就像訓練 LLM(大型語言模型,例如 ChatGPT 背後的技術)時餵給它多種語言,模型反而能學到更通用、可遷移的物理常識,而不是隻學會操作某一種特定的手。
假設一間倉庫的機器人手臂原本裝的是吸盤,用來搬運紙箱,但臨時要改成夾取形狀不規則的零件。使用GEN-1時,操作人員直接把吸盤換成夾爪,機器人在下一個動作就能自己感知到新工具,自動規劃新的抓取角度和施力方式繼續完成搬運任務,不需要停機或重新調整。
Hugging Face 上有人展示了一個叫 WordVoice 的 TTS(Text-to-Speech,就是把文字轉成語音的技術)系統。它基於一個叫 CosyVoice3 的模型改造而成,模型只有 0.5B(也就是 5 億個參數,算是很小的模型,通常代表跑起來更省資源、速度更快,但能力上限也較低)。這個系統最特別的地方是可以逐字逐句精細調整語音,包括每個字的長度、音量大小、音高、語氣,也可以整段交給系統自動生成,還支援用複製的聲音或預設聲音來念。有評論者認為,這個模型雖然體積小,但表現已經算同級中不錯,並期待這種逐詞控制的做法未來能做到更大的模型上。
假設你在做一個語音助理或有聲書配音,過去用一般 TTS 只能整句丟進去,語氣通常是系統自動決定,如果某個字念得太快、太小聲,你沒辦法單獨調整,只能重新生成整句碰運氣。用 WordVoice 的話,你可以針對某一個字,例如把「太、好、了」這句話裡的「好」字單獨拉長、加大音量、提高音高,做出強調的效果,而其他字維持原本語氣不變。
Hermes是一套可以在自己電腦上跑的個人AI代理人(agent,就是能幫你執行任務、記住事情、自己排程工作的AI程式)工具。開發者這次推出「Profiles(設定檔)」功能,讓使用者可以在同一臺機器上開好幾個完全獨立的AI代理人,每個都有自己的設定、API金鑰(用來連接AI模型服務的通行碼)、記憶、技能、對話紀錄、排程工作和對外連線通道。這不是什麼新模型或新技術突破,而是很實用的「代理人生命週期管理」基礎工具,方便人們把工作用和私人用的AI分開、備份、搬家或分享給別人。
假設你原本只有一個Hermes代理人,工作和私事都混在一起用,現在你可以下指令hermes profile create work --clone,複製一份新的設定檔叫work,它會保留原本的設定、金鑰、技能和個性,但記憶和對話紀錄是全新的,然後你可以在work這個設定檔裡放一組獨立的Telegram或Discord機器人金鑰,讓工作用的AI代理人單獨跑在自己的通訊頻道上,不會跟私人對話混在一起。如果之後要把整套工作代理人搬到另一臺電腦,只要下hermes profile export coder打包成一個壓縮檔,在新機器上執行hermes profile import匯入,連同過去的對話紀錄都會一起帶過去,不用重新設定一遍。對比過去管理多個用途代理人的繁瑣流程,現在透過不同指令就能各自完成建立、複製、匯出、匯入獨立的設定檔,大幅簡化管理。
研究團隊發表一套叫 PRO-LONG 的新方法,用來解決 AI agent(就是能自己執行多步驟任務的 AI 程式)「記性不好」的問題。傳統做法是把 AI 過去看過的東西壓縮摘要存起來,但壓縮越多,之後越難精準找回需要的細節。PRO-LONG 反其道而行:把 AI 互動過程中發生的一切完整、結構化地存下來,像資料庫一樣,需要時再用查詢的方式把相關記錄找出來,而不是事先壓縮。在 ARC-AGI-3(一套測試 AI 長時間、多步驟推理能力的公開遊戲題庫)上,這套方法平均比一般寫程式用的基礎 agent 進步 18 分,表現追平甚至超越專門打造的長程記憶系統,而且用的 token(可以理解成 AI 處理文字要付出的運算成本單位,用得越少越省錢越快)只要對手的六分之一到四分之一左右。
假設要打造一個能連續執行上百步操作的 AI agent,例如自動玩一款需要記住幾十步前線索的解謎遊戲。傳統做法是幫它寫一套專用的「長期記憶模組」,定期把舊資訊摘要壓縮,結果常常是關鍵細節在壓縮過程中被丟掉,AI 遊戲玩到一半就「忘記」重要線索而卡關。PRO-LONG 的做法是完全不壓縮,把 AI 從頭到尾看到、做過的每件事都完整存進一個可查詢的記錄庫,AI 需要用到某個舊資訊時,就用類似程式碼查詢的方式去資料庫裡精確撈出來。實測結果:在 ARC-AGI-3 題庫上,這套方法達到 76.1% 的一次答對率(pass@1),追平或超過專門打造的記憶系統,但消耗的運算資源只要對手的 17%~24%;換算成能力更強的模型(Fable 5)甚至能把兩次嘗試內答對的機率衝到 97.4%。差異就是:舊做法「記得少但花時間篩選、還可能篩掉重要資訊」,新做法「什麼都記得,但查得快又準」。
現在很多AI應用會同時叫好幾個「代理」(agent,就是能自己規劃、呼叫工具去完成任務的AI程式)一起做一件事,但常常會發生大家搶著講話、重複做同一件事、白白浪費運算資源(也就是花更多錢)的狀況。Offloop這家公司訓練了一個叫D1的小型「調度模型」,專門負責決定接下來該由哪個代理發言或行動,甚至判斷「這一步其實誰都不用動」——沉默也是一種正確答案。根據原文,這套調度機制在GDPval(一項用來衡量AI完成真實工作任務能力的benchmark,可以理解成給AI做的職場能力測驗)上拿到了業界頂尖(SOTA,State of the Art,意思是目前最好的成績)的表現,而且成本只是一般做法的一小部分。使用者還可以自己帶既有的AI訂閱方案(例如自己的ChatGPT或Claude帳號)來搭配使用,不必額外綁定特定AI供應商。
假設你要做一個「幫忙寫程式的多代理系統」,裡面有一個代理負責寫程式碼、一個負責寫測試、一個負責檢查程式碼品質。傳統做法是讓這幾個代理輪流發言或同時運作,結果常常是寫測試的代理還沒看到最新程式碼就搶著動作,或是檢查品質的代理跟寫程式的代理同時在改同一段程式碼,造成工作重複、Token(可以想成是AI每處理一段文字要付的「字數費」)被白白燒掉。加入Offloop的D1調度模型後,D1會先判斷目前狀態下誰該動、誰該閉嘴等待,例如程式碼還沒寫完就先讓寫測試的代理暫停,等程式碼代理完成後才輪到它,需要時甚至直接判斷「這一輪不用任何代理動作」。差異在於:沒有調度模型時系統容易亂搶工、多花錢又沒效率;加了D1之後,在GDPval測驗上能用更低成本做到業界最佳表現。
AI研究機構Artificial Analysis追蹤各家AI模型的「輸出token效率」,token可以理解成模型產生答案時一個一個蹦出來的文字碎片,模型答得越囉唆、或是在回答前「思考」得越久(這叫推理token,reasoning token),花的token就越多,連帶花的錢和時間也越多。他們畫出一條「效率前沿線」(Pareto frontier,意思是在同樣聰明程度下,找出花費token最少的那群模型),結果發現OpenAI的GPT-5.6 Sol,在調成不同「思考力道」(effort settings,也就是讓模型自己選要想多深)的各種版本下,幾乎佔滿了這條效率前沿線,換句話說同樣聰明程度它相對省token;反觀文中提到的其他兩款模型(代號Terra、Luna)要達到同等聰明程度,得多花不少token。同一時間,雲端運算商CoreWeave也公佈了另一款模型MiniMax M3的實測推理速度,結果是每秒能吐出357個輸出token,而且綜合計費下來的平均單價(blended price)偏低,代表跑起來又快又便宜。
假設你在幫公司的客服機器人選底層AI模型,兩個考量點是「回答夠不夠聰明」和「每次回答要花多少錢、等多久」。如果你去查Artificial Analysis的效率前沿圖,會看到把GPT-5.6 Sol調到不同思考力道後,它在同樣聰明程度下用的token數量都壓在最省的那條線附近,代表你想省成本又不想犧牲太多聰明度,選它的某個力道設定會比選Terra或Luna划算,因為後兩者要達到相同智能水準得吐更多token、也就是更貴更慢。但如果你的需求換成「要即時語音客服,速度優先於一切」,那就該看CoreWeave對MiniMax M3的實測數據:每秒357個輸出token、且平均單價便宜,這代表同樣一句回答,MiniMax M3在CoreWeave上跑會比很多模型更快吐完、帳單也更輕,適合拿來做需要快速回應的應用,而不是拿聰明度來跟GPT-5.6 Sol比拚。
AI 公司要訓練超巨型的 AI 模型時,除了訓練本身,還要靠「推理引擎」(inference engine,就是讓模型實際跑起來、產生回答的軟體)幫忙在訓練過程中反覆生成內容並打分數,這種訓練方式叫強化學習(RL,讓 AI 透過不斷嘗試、拿到獎勵分數來學習改進)。開源社群 PrimeIntellect 發布了 prime-rl 0.6.0,架在知名開源推理框架 vLLM 上,加入了多項工程技巧:FP8(一種更省記憶體的數字精度格式)、專家並行(把超巨型模型的不同「專家模組」分散到多臺機器同時運算)、prefill/decode 分離(把「讀懂問題」和「逐字生成答案」這兩個階段拆開處理以提升效率)、KV cache 卸載(把暫存資料搬到其他儲存空間騰出記憶體)等。這套系統被用來訓練智譜的 GLM-5 模型,處理長達 13.1 萬字元的超長文本,在程式碼相關任務(SWE,軟體工程任務)上,用 28 臺 H200 GPU 伺服器就能做到每個訓練步驟不到 5 分鐘。
假設一家新創想訓練一個能自主寫程式、修 bug 的巨型 AI 模型(像 GLM-5 這種規模),且希望它能一次讀懂 13 萬字元的完整程式碼庫再動手改。過去若用一般的推理框架做強化學習訓練,光是讓模型讀取這麼長的上下文、同時要應付訓練時大量重複生成內容打分數的需求,機器記憶體和運算資源很快就會撐不住,訓練一步可能要花上數十分鐘甚至更久。改用 prime-rl 0.6.0 架在 vLLM 上之後,透過 FP8 降低記憶體佔用、把模型拆成多專家分散運算、把讀取問題和生成答案的工作分開處理、並把暫存資料挪到其他儲存空間,實際測試中用 28 臺 H200 伺服器就能讓每個訓練步驟壓到 5 分鐘以內完成。差異在於:同樣的巨型模型與超長文本,舊架構可能因資源瓶頸訓練緩慢甚至跑不動,新架構讓兆級參數規模的模型訓練變得可行且效率大幅提升。
奧地利聯邦政府正在推出一套名為GovGPT的政府內部AI工作平臺,服務對象是全國約18萬名聯邦公務員。這套系統據報導使用的是Mistral的語言模型(LLM,就是像ChatGPT那樣能理解並生成文字對話的AI),搭配一個叫Open WebUI的開源聊天介面當作使用者操作畫面。整套系統架設在奧地利自家的BRZ聯邦資料中心,也就是資料不會流到國外的伺服器上,符合政府對資料主權(data sovereignty,指資料留在自己國家管控範圍內)的要求。目前規劃的用途包括自由聊天問答、文件摘要、文件問答、內部知識庫查詢、電子公文分析、國會質詢相關作業,未來還打算擴展到agent(AI代理,指能自主執行多步驟任務、不只是單純回答問題的AI)工作流程。
假設一名奧地利政府公務員需要處理民眾提出的複雜行政申請,過去得自己翻閱大量法規文件、內部流程手冊,才能寫出正確的答覆或幫民眾找到該填哪張表格,耗時又容易出錯。有了GovGPT後,該公務員可以直接在Open WebUI介面裡輸入問題,例如「某類補助申請需要哪些文件」,AI會結合已經匯入系統的政府文件資料庫,直接生成整理過的答案,而不是要求公務員自己一頁頁翻找。有評論者指出,這套系統真正的價值不在於Mistral模型本身有多強,而在於能否把「所有政府文件」都餵給它做檢索式問答(也就是先查資料庫再回答,避免AI憑空亂猜)——如果做到,效果會比單純依賴AI原本訓練時學到的知識好很多。也有評論認為,即使目前用的是效能普通的模型,光是自動化這些重複性、文件密集、流程固定的行政工作,就能帶來實際生產力提升,日後還能替換成更強或針對政府場景微調過的模型。
有研究者做了一個實驗:不用微調(fine-tuning,就是拿新資料重新訓練模型讓它學新東西)、不用 LoRA(一種比較省資源的微調方法)、也不用 RAG(讓 AI 回答前先查資料庫、避免憑空捏造),而是直接動手修改一個叫 Llama-3.1-8B 的開源語言模型(就是一種可以對話、回答問題的 AI 模型,8B 代表它有 80 億個參數,參數愈多通常代表模型愈聰明但也愈重)裡面的「權重」(weights,可以想成是模型腦袋裡儲存知識和判斷力的一大堆數字)。他手動找出模型裡對應到某個知識的神經元電路,直接把新的事實「刻」進去,讓模型記住這個事實,同時盡量不影響模型原本其他的知識和能力。他總共用這個方法塞了 502 則維基百科的事實進模型,還做了一個可以互動的視覺化地圖,讓人看到每個事實實際存在模型的哪個位置(哪一層、哪些神經元)。有討論者認為,如果這個方法成熟,未來可能可以做成一種「永久記憶」機制:讓一個較小的 AI 自己判斷哪些資訊值得記住,然後自己把這些資訊刻進自己的權重裡,變成長期記憶,而不是每次都要重新查資料庫或重新訓練。
假設你想讓一個 AI 模型記住一個特定事實,例如「某公司執行長是誰」,傳統做法有三種:一是微調,就是拿一堆包含這個事實的文字重新訓練整個模型,成本高、耗時;二是 LoRA,只調整一小部分參數,比較省資源但還是要訓練過程;三是 RAG,模型本身不記,每次回答前先去資料庫查一次再回答,缺點是每次都要額外查詢、且依賴資料庫是否更新。這位研究者示範的第四種做法是:直接手動定位模型權重裡對應「儲存新事實」的神經元位置(他形容為在第 6 層附近有個像「查詢鑰匙」的神經元,第 25 層附近有個「讀出結果」的神經元),手動把數值改成能表達新事實的樣子,不經過任何訓練過程。結果是模型被問到這個事實時能正確回答,而且如果把這些手動修改的神經元「拿掉」(研究方法上的驗證方式),模型就會忘記這個事實,證明是這些神經元在起作用。跟 RAG 比,這個做法不用每次查資料庫;跟微調、LoRA 比,完全不用訓練資料和訓練時間。但目前仍是實驗性質,也有人質疑這樣手動改權重會不會不小心影響模型在其他不相關問題上的表現。
Prentis是一家新成立的AI實驗室,由知名創業者Ritankar Das與科技界重量級人物Reid Hoffman(LinkedIn共同創辦人)、Mark Pincus(Zynga創辦人)共同創立,專門訓練「電腦操作模型」(computer-use model,就是讓AI能像人一樣看懂螢幕畫面、點擊按鈕、操作各種軟體,自動完成辦公室裡的例行工作,例如處理保單理賠、報關退稅等需要在系統間翻找文件的瑣事)。這家公司目前正在洽談以10億美元估值募資1億美元。Prentis已經和多家客戶簽下最高5000萬美元的合約,客戶包括醫療管理機構、製造商與服飾廠商,並宣稱到今年第三季,年化營收(依合約條款,是抽取客戶因AI省下成本的20%,並非已認列的實際營收)可望達到7500萬美元。這反映出業界普遍認為,讓AI自動操作電腦完成日常辦公任務,未來可能會取代「AI寫程式」成為最大宗的應用場景。
Prentis自家推出的模型叫Hive-32B,公司宣稱在兩項電腦操作能力的benchmark(就是用來比較不同AI模型表現優劣的標準化測驗)上贏過OpenAI的GPT-5.4和Anthropic的Claude Opus 4.6:一項是WindowsAgentArena,測試AI能不能在真實的Windows應用程式裡從頭到尾完成一項任務(例如開啟Excel、填好一份報表、存檔並寄出信件);另一項是ScreenSpot-v2,測試AI能不能準確找到螢幕上該點擊的按鈕或欄位(例如在一堆選單裡準確點到「送出」鍵而不是誤點到旁邊的「取消」)。Prentis強調自己的模型比GPT-5.4、Claude Opus 4.6這類體型龐大的頂尖通用模型小很多也便宜很多,執行同一項任務的成本大約只要對手的十分之一,因此更適合企業大量部署在日常工作流程中。不過TechCrunch記者表示這些benchmark數據是Prentis單方面提供,並未獨立查證屬實。這個案例顯示的差異是:與其用GPT-5.4或Claude這種什麼都會的大型通用模型去操作電腦(成本高、殺雞用牛刀),Prentis選擇訓練一個專門只做「操作電腦」這件事的小型模型,用縮小任務範圍換取更低成本與(宣稱的)更高的專項表現。
AI 寫程式新創公司 Cognition(旗下有一個叫 Devin 的「AI 工程師」,能自動接需求、寫程式、開 PR 也就是提交程式碼修改請求)宣佈收購另一家公司 The Interaction Company of California,也就是聊天機器人 Poke 的開發商,交易金額達「低九位數」(也就是一億美元出頭到數億美元之間)。Poke 是一款用簡訊、iMessage、Telegram 等聊天軟體就能互動的 AI 助理,特色是講話像朋友一樣,會用俚語、會開玩笑,而不是像個冷冰冰的工具。過去三個月使用者透過 Poke 傳了超過一億則訊息,但因為營運成本高,一直難以獲利。Cognition 收購後,打算把 Poke 這種「有個性、像朋友」的互動方式帶進 Devin,讓寫程式的 AI 助理感覺更像同事而不是軟體;同時 Poke 也會藉助 Cognition 的模型和伺服器資源(包括 Cognition 新推出的工程模型 SWE-1.7)變得更快更穩定。雙方高層都提到,長遠來看不排除讓 Poke 負責調度、指揮多個 Devin 同時進行的工作,並協助 Devin 記住不同對話場次之間的任務進度。
目前的 Devin 一次只能處理一個 PR(也就是一次程式碼提交請求),且每次對話結束後不會記得之前交代過的事,工程師得每次重新說明上下文。Cognition 收購 Poke 後設想的具體用法是:使用者像平常用 Poke 傳訊息一樣(例如在 iMessage 上)交代任務,由 Poke 負責用「有個性、記得住你」的方式接收與追蹤多個任務,再同時指揮好幾個 Devin 執行緒分頭去改不同的程式碼,最後彙整結果回報給使用者,並且下次對話還能接續記得先前的待辦事項。差異在於:舊做法是工程師得一個一個開對話、一個一個交代 PR 需求、對話結束就斷了記憶;新做法則是由一個像朋友一樣、記得住脈絡的助理幫忙同時調度多條工作、還能跨對話記住進度。
Runway(一家做AI影片、圖片生成的公司)推出了一個叫「Media Router」的新工具,是給開發者用的。過去開發者想用AI生成圖片、影片或聲音時,得自己一個一個去比較、挑選該用哪個模型(模型就是訓練好的AI程式,不同模型各有擅長,有的畫質好、有的速度快、有的比較便宜)。這個新工具讓開發者只要先設定好自己在意的是「品質」「速度」還是「成本」,之後每次要生成圖片、影片或聲音,系統就會自動幫你挑出最適合的模型來處理,不用每次手動選。這個功能目前已經在Runway Dev(Runway提供給開發者串接使用的服務)正式上線,同時也讓Runway不只賣自家模型,還能整合串接其他公司的模型,像是一個生成媒體界的中介平臺。
假設我在開發一個自動幫網購商品生成宣傳短片的App,過去我得自己測試市面上一堆影片生成模型,比較哪個畫質好、哪個算便宜、哪個出圖快,然後在程式裡寫死呼叫某個特定模型的API(應用程式介面,讓程式之間互相溝通的接口)。如果之後想換一個更好或更便宜的模型,還得重新改程式碼、重新測試。用了Runway Media Router之後,我只要在設定裡告訴它「這次生成我要優先省成本」或「這次我要最高畫質」,router就會自動幫我從Runway自家和其他第三方的影片、圖片、聲音模型裡挑一個最符合條件的來執行,我不用自己維護一堆模型清單和切換邏輯,也不用每次手動比價比速度。
Anthropic(Claude聊天機器人背後的公司)把「語音模式」(就是可以直接開口跟AI對話、不用打字的功能)做了升級。以前語音對話不管你選哪個模型,系統都固定用最小最快的Haiku模型(Claude系列裡速度最快但能力較弱的版本)處理,所以簡單問題還好,複雜問題常常回答得不夠好。這次更新後,語音模式可以改用能力更強的Sonnet或Opus模型(Claude系列裡中階與最強的版本),付費用戶對話時還能中途切換模型。另外語音模式現在能連上Gmail、Slack、Notion、Google行事曆等你常用的App,讓AI回答時能參考你信箱或行事曆裡的實際資料,而不是隻靠自己腦中的知識瞎猜。免費帳號則還是限定只能用Haiku、且只能連一個App。
假設你開車途中想用語音問Claude「幫我查一下明天下午的會議安排,並把重點寄封信給我同事」,這種需要先讀懂行事曆內容、再理解寄信對象、還要組織出合理郵件內容的複雜任務,過去語音模式全部丟給最陽春的Haiku模型處理,常常會漏看行事曆細節或郵件寫得零散不完整。更新後,語音模式可以改用能力更強的Sonnet或Opus模型(付費用戶還能在對話中途切換),並且能讀取已連接的Google行事曆與Gmail內容,讓AI回答時能參考實際資料,而不是隻靠自己腦中的知識瞎猜。
很多人以為租用 AI 訓練用的 GPU(就是那種跑 AI 模型計算的高階顯示卡)只要看牌價就好,但這篇分析發現:想租到一臺就好,市場很充足;但如果你要訓練或微調(fine-tuning,就是拿已經訓練好的模型再用新資料調整得更符合特定用途)AI 模型,通常需要「四張、八張同一型號、裝在同一臺機器裡」的 GPU 同時運作,這種需求下市場供給會急速消失,甚至完全租不到,而且價格往往沒有跟著漲,是直接變成「沒有」而不是「變貴」。作者實際去 GPU 租賃平臺 Vast.ai 抓資料驗證,發現 H200 這款顯示卡,租一張沒問題,租到四張時可租機器只剩一半、價格才漲 4%,但要八張時完全租不到;換算成大公司要規劃訓練預算或用「GPU 期貨」避險時,這種避險其實避不掉「租不到整組機器」的風險,因為期貨只保障平均價格,不保障你能不能真的湊到一整組能一起運算的機器。
假設一家新創公司要微調一個大型語言模型,計算後估計需要同時用 8 張 H200 顯示卡(且要裝在同一臺伺服器內,靠高速內部網路互連才能有效率地一起運算),照著網路上的「H200 每小時 3.93 美元」牌價概算成本沒問題。但這篇文章實測 Vast.ai 平臺後發現:市面上完全沒有一臺機器同時擁有 8 張可租用的 H200,也就是說即使把預算抓得再準,實際上也租不到能執行這個訓練任務的機器;退而求其次只能改用「跨機器分散租用 8 張」的方式,但這樣運算效率會因為機器間網路速度變慢而大打折扣,跟原本規劃的「同機 8 張」完全是兩回事。這說明只看牌價做預算規劃是不夠的,公司必須額外確認「同機、同批次、可長期租用」的實際可得性,這也是為什麼大型 AI 公司多半改用直接和機房簽長期合約,而非依賴現貨租賃市場。
微軟自家AI實驗室(Microsoft AI)發表兩個新模型並開放公開預覽:MAI-Image-2.5-Pro,是一個用來生成與編輯圖片的AI模型(就是輸入文字描述就能畫出圖,或修改既有圖片),主打畫質最高、能在圖片裡精準畫出正確文字;另一個是MAI-Voice-2-Flash,是把文字唸出來或處理語音的AI模型,主打速度快、成本低,比前一代快兩倍、便宜32%。這兩個模型都是微軟自己從頭訓練,沒有借用其他公司模型的技術(業界稱為「distillation蒸餾」,也就是直接抄別人模型的答案來訓練)。目前MAI-Image-2.5已經成為必應(Bing)圖片生成工具「Bing Image Creator」預設使用的模型,等於微軟正把自家產品逐步換成自己研發的AI,而不是外部模型。
假設你是客服中心主管,需要一套能即時把大量客戶來電轉成文字的系統,過去可能得用速度較慢、成本較高的語音模型,導致轉文字延遲影響服務。換成MAI-Voice-2-Flash後,同樣的語音辨識與朗讀任務可以做到比前一代快兩倍、每百萬字元只要15美元(便宜32%),適合一天處理大量通話的場景。另一個例子是微軟的醫療轉錄夥伴Dragon Copilot(服務17萬名醫療人員、上一季處理2800萬次病患看診紀錄),改用微軟自家的MAI-Transcribe-1.5模型後(支援58種語言),在內部評估中,多數語言的轉錄錯誤率和語言辨識錯誤率都相對降低了50%,這代表醫生口述病歷時,AI能更準確地把語音轉成正確文字紀錄,減少後續人工校對的負擔。
Google 研究團隊發布了一份名為 ATLAS(意思是「活動、任務、樣貌與採用研究」)的大型調查報告,統計了 1500 萬筆去識別化(就是拿掉個人資訊、無法追溯到特定使用者)的人機互動紀錄,來源涵蓋 Gemini App、AI Mode 和 Gemini API(Google 提供給開發者呼叫 AI 的介面),這些服務合計每月有超過 10 億使用者。報告涵蓋超過 150 個國家、140 種語言、800 種職業和 4000 種任務,是目前規模最大的一次「人們實際怎麼用 AI」調查。重點發現包括:AI 在職場的使用很廣但不深,雖然涵蓋 68% 的職業、代表美國 90% 的就業人口,但一般工作中平均只有約 21% 的任務會用到 AI;而且大部分使用是輔助發想、查資料、學習,真正把任務完全自動化的互動不到一成。另外,藍領技術工作者(例如汽車技師、工業機械維修員)也在用 AI 做即時故障診斷,且用「多模態」(就是能處理圖片、影片而不只是文字的 AI)的比例是其他職業的兩倍。報告也發現超過 86% 的 AI 互動發生在工作以外,例如處理報稅、申請執照等麻煩的行政雜事,這類價值目前不會被傳統經濟統計指標捕捉到。全球使用量大致跟人均 GDP 成正比,但南美、中東有些中所得國家的採用率跟高所得國家不相上下,顯示財富不是唯一決定因素。
假設一個政策研究者想知道「AI 到底有沒有在真的取代工作」,過去只能靠零星的問卷調查或業界訪談,樣本小、容易失真。有了 ATLAS 這份報告,他可以直接引用具體數字:在典型工作中 AI 只被用在約 21% 的任務上,且用來完全自動化任務的互動比例低於 10%,因此可以做出「目前 AI 在職場主要扮演協作助手、還沒有大規模取代工作」的結論,而不是憑印象猜測。同樣地,一個做智慧修車廠設備的新創公司,可以拿報告裡「汽車技師使用多模態 AI 診斷故障的比例是其他職業兩倍」這個具體發現,作為市場需求驗證,決定優先開發能拍照辨識機械故障的 AI 工具,而不是通用型文字客服機器人。
中國DeepSeek公司先前宣稱用華為的Ascend晶片(一種取代Nvidia顯卡的AI專用晶片)訓練了新模型V4,但當時沒有提供任何具體數據佐證,引來質疑。7月22日,一個由華為主導的團隊終於發表技術報告,公佈了實際測試數字:用Ascend晶片對V4模型做「後訓練」(post-training,也就是模型練好雛形後的微調精修階段)時,MFU(model FLOPs utilization,衡量晶片算力有沒有被有效利用的效率指標)達到34.22%,比先前的開源做法效率提升了2.93倍。不過這份報告只涵蓋「後訓練」階段,並沒有證明V4這個1.6兆參數的模型從一開始的主要訓練就是用華為晶片完成的。清華大學教授劉知遠告訴《MIT科技評論》,V4很可能主要還是用Nvidia的硬體訓練出來的,多位不具名人士也說中國自產晶片目前比較適合用在「推論」(inference,就是模型訓練完後拿來回答問題、生成內容的階段),還不太適合拿來做從零開始的大規模訓練。
假設你是關注中美AI晶片競爭的分析師,想知道「中國是否已經能完全繞開Nvidia、自己用華為晶片訓練出頂尖AI模型」。過去只能看到一句「DeepSeek用Ascend晶片訓練了V4」的宣稱,沒有任何效率數字,難以判斷真假或含金量。現在有了這份技術報告,你可以具體看到:後訓練階段用了至少1000顆Ascend 910C晶片(這顆晶片推論效能大約是Nvidia H100的六成),效率達34.22% MFU、比基準方法快2.93倍。但你同時能看出報告只證明「精修階段」可以用華為晶片做,卡在「模型最初的主要訓練到底用什麼晶片」這個關鍵問題上仍然沒有答案——專家判斷極可能還是Nvidia。這讓你能更精準地下結論:中國晶片在「推論」和「微調」上正在追上,但在「從零訓練頂尖大模型」這件事上,尚未真正證明能取代Nvidia。
Etched 是一家專門打造 AI 專用晶片(就是幫 AI 模型算數學的硬體,類似顯卡但更客製化)的新創公司,他們發表了新一代「推理系統」架構,也就是讓已經訓練好的 AI 模型實際回答問題時跑得更快更省電的整套硬體設計。過去 AI 晶片有個大問題:只要拉高運算量(FLOPs,也就是每秒能做多少次數學運算),晶片就會發燙、被迫降頻,導致實際能維持的運算速度常常不到理論最高值的一半。Etched 設計了一種新架構,讓晶片裡負責運算的電路用不到一般晶片一半的電壓運作,這樣就能塞進更多運算密度而不會過熱。他們同時也發表了一種跨晶片共用的高速記憶體技術,解決了晶片之間互相存取資料太慢的問題。目前 Etched 已募得 8 億美元資金,並拿到超過 10 億美元的客戶訂單,首批機櫃將於今年夏天出貨。
假設一家公司要用一個上兆參數的 MoE 模型(就是把模型拆成很多小專家、每次只啟動部分專家來省算力的架構)做即時客服或程式助理,用傳統 AI 晶片時,一旦把運算量推到接近晶片理論上限,晶片就會過熱降頻,實際吞吐量常常只剩下峰值的一半不到,等於機房裡一堆貴森森的晶片有一半算力被浪費在散熱限制上,公司只能加買更多晶片或忍受回應變慢。Etched 說他們的低電壓推理(LVI)架構可以讓同一顆晶片在 80% 以上的峰值運算量下持續運作而不過熱,等於同樣硬體成本能顯著提升實際吞吐量;再搭配他們的跨晶片共用記憶體技術,晶片之間互相調資料的延遲也大幅降低,對需要長對話記憶或多步驟自主操作(agentic workload,就是 AI 自己規劃、連續執行多個步驟去完成任務)的應用來說,回應會更即時、不用等資料在晶片間搬來搬去。
AMD和Cerebras兩家公司宣佈合作,要推出一套新的「AI推理」(也就是讓已經訓練好的AI模型實際回答問題、生成內容的運算過程,跟耗時很長的「訓練」不同)基礎設施方案。他們把AMD的Helios機櫃系統和Cerebras的「晶圓級引擎」(Wafer-Scale Engine,一種把整片矽晶圓做成單一巨大晶片的特殊硬體,速度非常快)串在一起,各自負責推理流程中不同的階段。官方宣稱這樣搭配起來,每瓦電力能處理的字詞數量(也就是耗電效率)最多可以提升到原本的5倍。這套方案預計今年下半年會先在Cerebras的雲端服務上開放使用。
AI推理其實分成兩個階段:第一階段是「讀懂你輸入的一大段文字或程式碼」(處理提示詞),這個階段需要很強的吞吐量去消化大量內容;第二階段是「一個字一個字生成回答」(解碼),這個階段最在意的是速度夠不夠即時,尤其像即時對話、寫程式的AI助手、自動化代理人(agent)這類場景,使用者等太久就會覺得卡。AMD和Cerebras的做法是把這兩階段拆開來,分別交給最擅長的硬體處理:AMD Helios負責消化大量輸入內容,Cerebras的晶圓級引擎負責快速吐字。假設一家公司要建置即時客服AI或程式碼助手,過去可能得在「處理量大」跟「回應快」之間妥協選一種硬體配置,現在則可以用這套組合方案同時兼顧兩者,官方數據是效能對耗電比最高可以到5倍,不用犧牲吞吐量換取低延遲。
這是一篇 InfoQ 圓桌訪談整理,四位來自不同公司(資料庫廠商 Cockroach Labs、推論服務商 Doubleword、新創 Forge、軟體公司 MESA)的基礎設施專家,討論企業把 AI 代理(agent,就是能自己決定呼叫哪些工具、自主執行多步驟任務的 AI 程式)真正搬上生產環境後遇到的問題。核心觀察是:AI 代理的負載模式和傳統網站流量完全不同,同樣數量的使用者,可能因為一次提示詞(prompt,就是你給 AI 的指令文字)修改或一個新工具被加進去,就讓後端呼叫量暴增十倍,因為代理會自己重試、自己迴圈、自己呼叫更多工具。Uber 就曾在今年前四個月燒光全年的 AI token(AI 處理文字的計價單位,可理解成「AI 用量的計費單位」)預算,原因是內部設了排行榜鼓勵員工多用 AI,結果誘因設計錯誤導致濫用。專家也指出資料庫正在變成「控制平面」,因為代理的身份、權限、執行紀錄、記憶狀態都得存進資料庫,一旦代理根據錯誤資料做出連鎖動作(例如一個代理觸發另一個代理,再觸發下一個),要事後回滾(rollback,也就是撤銷已發生的動作)幾乎不可能,因為代理可能已經改了設定檔、開了 PR(提交程式碼變更請求)、呼叫了外部 API,這些動作本身不可逆。專家給出的共識建議是:先設界限(限制執行時間、工具呼叫次數、重試次數、影響範圍),再談彈性擴縮容,不要指望雲端自動擴容能解決失控的代理迴圈,因為那隻會把一個小 bug 放大成一筆龐大帳單或一次停機事故。
具體案例是 Uber 的踩坑經驗:公司在應用程式裡加入 AI 使用排行榜,鼓勵員工多用 AI 輔助工作,結果引導出錯誤誘因——員工為了衝排行榜名次而過度使用,導致原本規劃給全年用的 AI token 預算,在今年前四個月就被燒完,每位員工的花費落在 200 到 500 美元之間(原本設定的上限據受訪者估計約 1500 美元)。對照另一個案例:NVIDIA 團隊有成員每月花 1.5 萬美元在 AI token 上,公司並不介意,因為那筆花費被視為等同多請一位工程師、確實提升了團隊產出速度。兩者差別不在花多少錢,而在有沒有配套的用量觀察機制(observability,即持續監看系統實際在做什麼、花多少資源)——沒有這層監控,公司無法分辨「員工在有效工作」還是「代理陷入無意義的重試迴圈」,直到帳單爆炸才發現問題,這正是文中專家反覆強調「上生產環境前要先設限、而非先追求彈性擴容」的實際教訓。
現在的AI寫程式工具分兩種:一種是「單次直接生成」(模型看到問題直接吐出一個答案,就像人被問問題時脫口而出第一個念頭),另一種是「高階推理」(Reasoning,模型會先在內部一步步拆解問題、思考、甚至回頭修正錯誤,才給出最終答案,比較接近人類解難題的方式)。高階推理模型能處理更複雜、更有深度的程式問題,但代價是回應速度變慢、運算成本變高,而且產出的程式碼量更大、更複雜,工程師在做code review(程式碼審查)時反而更難抓出裡面的錯誤。多位業界主管接受The New Stack訪問時指出,單次生成模式不會被淘汰,但會被侷限在簡單、例行性的工作上;真正的趨勢是企業要建立「路由系統」,依任務難度自動決定要派給便宜快速的模型還是昂貴的高階推理模型,而不是把「用更多推理」當成萬靈丹。有主管也提醒,高階推理模型用起來像個黑盒子(black box):它可能解決了問題,卻不會告訴你如果換一套客製化的工作流程是不是能做得更好,這讓企業很難判斷貴的模型是否真的值回票價。
一間軟體公司的工程團隊,日常工作裡有大量是修改按鈕文字、調整表單欄位這類重複性高、邏輯簡單的小改動,也有少數是牽涉資料庫架構調整、跨系統整合、資安漏洞修補這種高難度任務。如果統一都叫最貴的高階推理模型來處理,小改動也要等它「想很久」才回覆,多花的運算成本和等待時間根本沒必要;但如果統一都用便宜的單次生成模型,遇到複雜的架構問題時模型常常想不清楚就亂給答案,事後還要花更多時間除錯。文中CloudBees執行長的建議做法,是建立一套自動判斷任務難度的「路由系統」:例行性工作(例如格式修改、簡單CRUD功能)自動派給快速便宜的模型,架構複雜或攸關資安的任務才叫貴的高階推理模型出馬,藉此在成本與品質之間抓平衡,而不是不分青紅皂白全部升級成最貴的模型。
這篇文章在談銀行、醫療、保險這類「受監管產業」(法規要求特別嚴格的行業)該怎麼一邊用AI寫程式加速開發、一邊不出安全和合規問題。作者指出,現在AI agent(能自己規劃、寫程式、跑測試、開PR的自動化程式助手)已經能獨立完成一長串工程任務,但這代表程式碼裡的漏洞、寫死的密碼、不安全的套件依賴,不會因為是AI寫的就變得比較不嚴重,稽核員一樣會抓到。文章提出一套叫AC/DC的做法,重點是把「驗證」變成貫穿整個開發流程的常態動作,而不是最後才做一次的形式審查,包含Guide(先給AI標準規範)、Verify(生成當下與進主幹前都要檢查)、Solve(發現問題要回饋修正、不是PR合併就結束)三個環節。核心主張是:合規要求其實跟寫程式該有的良好習慣(安全編碼、變更管控、修補漏洞、留存紀錄)是同一件事,只要把檢查嵌進日常開發流程,合規證據就會是工程工作自然產出的副產品,不需要另外搞一套拖慢速度的合規作業。
假設一家銀行想用AI agent幫忙改造內部的貸款審核系統,過去的做法是engineer寫完code後排隊等安全團隊做人工code review,一次可能卡好幾週;文章建議的做法是:agent動工前先讀取公司訂好的安全規範(例如不能寫死密碼、必須用特定加密函式庫),agent每次產出程式碼時系統就自動跑靜態掃描與測試(continuous verification,就是持續驗證),發現問題(像是引用了有已知漏洞的第三方套件)立刻退回給agent自己修,修完再檢查一次才能真的合併進主幹程式碼。最後每一次PR的掃描結果、修復紀錄、測試結果都自動存檔,稽核員要查的時候直接調這些紀錄,不用再另外花時間補做一份合規報告。跟舊做法比,差別是:安全檢查從「最後關卡、拖慢速度」變成「開發過程中隨時在跑、幾乎不增加額外時間」。
這篇文章講的是為什麼很多網站、App「猜不中你喜歡什麼」,其實不是資料不夠,而是系統架構的問題。作者以搜尋引擎公司 Vespa 為例說明:一般系統把「關鍵字搜尋」「語意搜尋(用向量資料庫找意思相近的東西)」「排序」「業務規則(例如要多推廣某些商品)」分別放在不同的系統裡處理,資料要在系統間傳來傳去,導致使用者剛剛點擊的行為(例如連續點兩件黃色衣服)要等到下次批次更新才會生效,跟不上使用者當下的行為。文章主張應該把檢索、排序、AI 模型推論(也就是用訓練好的模型即時算分數,例如預測用戶會不會購買)全部整合在同一套即時查詢流程裡,用「張量」(tensor,可以想成是一組數字組成的表格,用來同時描述使用者喜好和商品特徵)做內積計算,把使用者偏好和商品屬性放進同一個分數公式裡打分數,這樣才能做到使用者一點擊、下一次查詢立刻反映最新偏好。文章也提到用「多階段排序」先用便宜的方式篩出一小批候選項目,再對這一小批做精細計算,藉此在十億筆等級的資料量下仍能維持即時反應速度。
假設你在經營一個服飾電商網站,使用者剛剛在網站上連續點擊了兩件黃色的碎花洋裝。用傳統做法(關鍵字搜尋 + 獨立的推薦系統 + 每晚跑一次批次更新使用者偏好),這個使用者要等到隔天系統重新跑批次分析後,「喜歡黃色碎花」這個偏好才會反映在推薦列表上,今天之內看到的還是舊的、沒個人化的商品列表。改用文章提到的 Vespa 架構做法:使用者的點擊行為即時寫入一個「使用者張量」(例如 floral: 1.00, yellow: 0.37),每個商品也有一個對應的「商品張量」(例如 floral: 0.90, yellow: 0.70),系統在使用者送出下一次查詢的當下,直接把這兩組數字做內積相乘加總,跟關鍵字比對分數、庫存分數、業務推廣分數等其他分數加權合併算出最終排序分數。結果是:使用者點擊完黃色碎花洋裝的下一秒鐘,重新整理頁面或搜尋新的關鍵字,列表前面就會立刻出現更多黃色碎花商品,不用等隔天。
中國機器人公司Unitree(宇樹科技)發表了一款9英尺高、半噸重的變形機甲機器人GD01,可以讓人坐進軀幹的座艙裡操控,能用兩腳或四腳走路,拳頭力道大到能打穿牆壁。這篇報導藉此專訪創辦人王興興,深入談論人形機器人產業目前真正的瓶頸:不是外殼硬體,而是「機器人的大腦」,也就是VLA模型(vision-language-action model,一種讓機器人把看到的畫面、聽到的指令,轉換成實際動作的AI模型)。文章指出,LLM(大型語言模型,也就是ChatGPT這類會對話的AI)能靠網路上近乎無限的文字資料訓練,但機器人需要的是真實世界裡動手操作的3D資料,這種資料很貴、很難大量蒐集,而且換個環境、換個燈光、換個桌面材質,機器人的成功率就可能大幅下降,這就是所謂的「泛化落差」(generalization gap,指AI在沒見過的新環境或新指令下能否照樣做好任務)。文章也提到目前人形機器人多數還沒真正投入生產線工作,Unitree的銷售中僅9%用於工業場景,74%是賣給大學、研究機構和個人開發者用來研究和改良自家的AI與動作控制技術。
以Unitree旗艦機型G1為例:如果要教機器人「把桌上的筆移到另一邊」,用傳統做法必須把每一個動作步驟都寫死、逐一編程;但業界想達到的目標,是機器人聽到「去superstore買東西」這種模糊、沒細分步驟的指令,也能自己判斷該怎麼一步步完成——這就是文中提到王興興所說的「ChatGPT時刻」:當機器人能在80%陌生的環境裡,正確執行80%的語音指令時,就代表跨過了關鍵門檻,可以大規模商業化部署。目前G1已經能連續10到15分鐘搬運5公斤重物且不過熱,開始被拿去做倉庫物流的試點,但整體效率仍只有人類的30%到50%,顯示硬體已經堪用,但能理解、應對新狀況的「腦」還沒跟上,這也是為什麼Nvidia的GR00T N1.7、Google DeepMind的RT-2-X、阿里的Qwen Robot Suite等公司都在拚命搶進VLA模型這塊戰場。
這篇文章的作者是一位資深軟體工程師,他觀察到過去半年多因為AI寫程式工具普及,「軟體開發」這件事變得人人都能做,但這不代表大家寫出來的都是「工程等級」的可靠軟體。他提出一個看法:接下來會快速普及的解方是「形式驗證」(formal verification,一種用數學方式證明程式邏輯不會出錯的技術)和「確定性系統測試」(deterministic system testing,指用模擬器把電腦行為變成可重複、可預測,這樣才能抓到平常測不到的錯誤)。他認為問題在於:真正懂這套技術的專業人才太少了。他提到一款叫Antithesis的工具,若搭配AI做「對抗式程式碼審查」(adversarial code review,就是找一個AI角色專門挑另一個AI寫的程式碼的毛病)、再加上在提交程式碼前自動執行的語言分析檢查工具,未來會成為「軟體工廠」的關鍵零件,讓一般人或AI代理(agent,能自主完成多步驟任務的AI程式)不用親自學會這些艱深技術,也能做出可靠的軟體。
假設一間新創公司請AI代理幫忙寫一個線上金流結帳流程,過去的做法通常是工程師憑經驗手動測試幾種情境(例如網路斷線、重複點兩次付款按鈕),沒被想到的情境就容易漏掉、上線後才爆出金額算錯或重複扣款的臭蟲(bug,程式錯誤)。文章提出的做法是:先用模擬器把整套系統的執行環境變成「確定性」的(同樣輸入一定得到同樣結果,方便重複重現任何一次失敗),這樣可以把成千上萬種操作組合都跑過一遍,揪出人工測試永遠想不到的邊界情況,例如「使用者在付款請求送出的第0.3秒同時按下上一頁」這種極端狀況;接著再讓一個AI角色專門扮演「挑剔的審查員」去讀程式碼找漏洞,並在每次提交程式碼時用自動化語言分析工具做檢查。作者認為,跟過去單純只能靠人工測試、審查相比,這套組合能讓不具備形式驗證專業背景的團隊,也做出品質更可靠的系統。
中國正全力想辦法擺脫對外國AI晶片(就是專門用來訓練、運算AI模型的高階電腦晶片,例如輝達 Nvidia 的產品)的依賴,帶頭的公司是華為。華為宣稱自己已經想出辦法,在沒有最先進製造設備(例如荷蘭 ASML 那種頂級微影機臺)的情況下,做出接近世界頂尖水準的晶片。華為的副董事長表示,公司能有這樣的進展,反而是拜美國對中國實施的硬體出口限制所賜——限制逼著他們自己想辦法突破。不過整體而言,中國的晶片技術水準目前還是遠遠落後美國,而且晶片產能(也就是工廠實際能生產出多少晶片)不足的問題,也讓中國企業沒辦法像他們希望的那樣快速把AI技術大規模部署出去。
中國AI公司過去依賴向美國廠商採購高階AI晶片,但因美國出口限制難以取得最新產品。華為宣稱已找出方法,在沒有最先進製造設備(如荷蘭ASML頂級微影機臺)的情況下,製造接近世界頂尖水準的晶片。不過整體中國晶片技術仍落後美國,且晶片產能不足,限制了大規模AI部署的速度。
這篇文章在講一個很多AI(人工智慧)產品團隊沒意識到的問題:使用者每次打開AI應用程式,都得重新告訴它自己是誰、想要什麼,因為系統其實沒有記住上次講過的內容。作者指出,這不是技術做不到,而是團隊沒把「記憶」當成產品的必要功能。文章舉例說,有一款法律研究工具,第一天使用者反應很好,但一週後只剩三成多的人還在用,原因是每次打開都要花兩三分鐘重講案件背景、司法管轄區、語氣偏好等細節,使用者覺得太累就放棄了。文章也澄清一個常見誤解:把整段聊天紀錄原封不動塞給AI,不算是真正的記憶,只是把舊對話硬塞進「上下文視窗」(就是AI一次能讀進去的文字量上限),聊得越久塞的字越多,AI反而找不到重點、回應變慢又變貴。真正有效的做法是讓AI在每次對話後,用一個小模型把重要資訊(例如使用者的偏好、目標、之前做過的決定)整理成精簡的「使用者檔案」,下次要用的時候只抓相關的幾筆資料出來用,而不是每次都把所有舊紀錄倒出來。
假設你在做一個記帳理財的AI助理,使用者跟AI聊過自己的月收入範圍、存錢目標、風險承受度,如果每次對話都把完整聊天紀錄(可能累積到大量歷史紀錄)整包塞給AI當背景資料,AI回應會變慢、運算費用會變貴(文章提到某B2B寫作助理型AI就發生這種情況,歷史紀錄膨脹後導致延遲翻倍、成本增加三倍,而且因為舊訊息太雜,AI給的個人化建議反而變不準)。文章裡另一個理財AI團隊的做法是:每次對話結束後,用一個便宜的小型AI模型把對話內容萃取成結構化的重點,例如「收入級距:中等」「存錢目標:買房頭期款」「風險承受度:低」,整理成一份精簡的檔案存起來。下次使用者再開啟對話時,AI只調出跟這次問題相關的幾個欄位,不用重讀整段舊對話。結果是:回應速度變快、每次對話的運算成本降低了六成,而且因為資訊乾淨不雜亂,AI給的個人化建議反而更準確。
全球AI助理排行榜(就是統計ChatGPT、Gemini、Claude這些對話式AI誰用戶最多的排名)其實只講出一半的真相,因為這些排名只算誰的使用者多、待的時間長,卻沒告訴你這些AI助理是不是真的能幫你完成訂位、購物、叫車、付款這類實際任務。這篇分析提出「交易型AI」(transactional AI,意思是這種AI不只是回答問題,還能直接把事情辦完)這個新的觀察角度,並指出真正決定AI助理有沒有用的,往往不是背後的模型有多聰明,而是它背後有沒有連結到地圖、商家資料、支付系統這些「生態系」資源。以南韓Naver、俄羅斯Yandex的Alice AI、以及中國阿里巴巴、字節跳動、百度、騰訊這些平臺公司為例,說明這些公司之所以能把AI助理變成真正能辦事的工具,是因為它們各自在搜尋、地圖、購物、支付等領域擁有不同資源——像百度提供搜尋和地圖,騰訊提供訊息和支付,阿里巴巴提供商務和物流,字節跳動提供內容分發——整個生態系合起來涵蓋了多種能力,讓AI助理不只是聊天機器人。相對地,印度雖然是2026年第一季全球AI網站訪問量最大的市場(超過130億次),但AI能力分散在Sarvam、Krutrim等新創公司、電信商、政府和外國平臺之間,沒有出現像Naver或Yandex那種「一個平臺包辦全部」的在地生態系,顯示使用量大不代表會自然形成獨佔性的本地AI生態。文章也提醒,評估一個AI助理好不好不能只看單一分數,得分開檢視它有沒有聽懂需求、資訊是否正確、有沒有真的把任務辦成,以及會不會為了自家平臺的利益而偏袒某些選項。
以南韓Naver為例:使用者在Naver的AI助理「AI Tab」(一種可以用對話方式搜尋資料的AI介面)上問「附近有什麼好吃的餐廳」,因為Naver本身就經營地圖、商家評論和訂位系統,AI Tab可以直接在回答裡秀出Naver地圖上的店家位置,還有目前是否還有空位可以訂,使用者可以一路從「問問題」走到「訂到位子」,完全不用跳出去別的App。相比之下,如果換成一個沒有自己地圖和訂位系統的通用AI聊天機器人,它頂多隻能「推薦」一間餐廳的名字,沒辦法確認有沒有空位、更沒辦法直接幫你訂位——這正是文章講的「交易型AI」和「一般問答型助理」的差別所在。根據Naver官方數據,AI Tab測試版在大約兩個月內就衝上400萬累積使用者,商品卡和地點卡的點擊率都超過20%,而使用超過11次的頻繁使用者,點擊商品和地點的次數分別是隻用過一次者的2.7倍和2倍。
這是一場在杭州舉辦的「全球化新品牌AI競爭力大會」的實錄整理,近千位跨境電商品牌決策者參加,主題是AI(人工智慧)如何改變中國品牌做海外生意的每個環節。文章不是單一技術新聞,而是彙整二十多位企業高層的演講重點,涵蓋AI agent(AI代理,一種能自己執行多步驟任務、不用人一步步下指令的AI程式)在採購、客服、行銷、供應鏈上的實際應用。多家公司提到用AI agent自動處理原本要靠大量人力的重複性工作,例如自動回覆買家詢問、自動生成不同平臺的商品文案、自動投放與優化廣告。也有講者特別談到GEO(Generative Engine Optimization,指讓ChatGPT這類生成式AI在回答問題時更願意引用、推薦自己品牌的一套操作方法),這是跟過去SEO(讓Google搜尋結果排名靠前的技巧)不同的新戰場。整體而言,這篇文章技術細節分散在各家公司的自我介紹裡,比較像產業趨勢與商業案例的合集,而非單一深入的技術報導。
以Seel這家做跨境電商售後保障服務的公司為例:過去品牌處理海外客戶的退換貨、客服詢問,得靠人工客服團隊輪班處理,回覆慢、也很難在客服對話中順便推薦其他商品給消費者。Seel做了一套「AI原生數位員工」系統,讓AI agent全天候(7天24小時)自動處理售後工單,把原本可能要好幾天的處理週期壓縮到平均5到8小時;而且因為AI agent在跟消費者對話時能同時分析對方的需求,系統會在售後過程中順勢推薦相關商品,公司透露這類AI推薦平均每一千次能帶來一千多美元的成交金額。對比傳統做法,售後客服部門通常被當成純成本中心(只花錢不賺錢的部門),而這套AI agent做法讓售後互動變成能額外創造營收的管道。
這則貼文出自一位研究者(帳號 varunneal)在社群平臺上的分享,主題是如何訓練「MoE路由器」。MoE(Mixture of Experts,一種AI模型架構,把工作拆給多個「專家」子網路分別處理,可以在不大幅增加運算量的情況下做出更大的模型)裡有個關鍵零件叫「路由器」,負責決定每一筆資料要交給哪個專家處理,路由器訓練得好不好會直接影響整個模型的效能。作者說自己用一種叫Manifold Muon(由另一位研究者@jxbz提出的最佳化演算法,用來調整模型參數的訓練方法)的技術,想出了兩種訓練MoE路由器的方法,其中一種完全不需要依賴模型的「訓練損失」(training loss,也就是用來衡量模型預測有多不準的指標,傳統訓練通常靠這個指標的高低來調整參數)。作者表示已經驗證,只用「負載平衡梯度」(load-balancing gradient,用來讓工作平均分配給各個專家、避免有些專家過勞有些專家沒事做的訓練訊號)餵給Manifold Muon,效果就相當不錯,只是還略遜於目前業界最好的作法(SOTA,State of the Art的縮寫,指目前已知最強的方法)。這是一則偏研究討論性質、資訊量有限的貼文,作者也公開邀請有興趣的人一起探索這個方向。
假設一個工程團隊正在訓練一個MoE模型(例如把8個專家子網路組合成一個大模型),過去常見做法是路由器和整個模型一起靠訓練損失來調整,也就是每次模型預測錯了多少,就回頭去調整包含路由器在內的所有參數。作者這裡示範的做法是:把路由器的訓練「獨立」出來,不看整體訓練損失,只看一個專門的訊號——負載平衡梯度(確保8個專家的工作量不要一個累死一個閒死)——再用Manifold Muon這套最佳化演算法去更新路由器參數。作者說自己實測過這個做法,效果已經算不錯,但拿去跟目前最強的路由器訓練法(SOTA)比,還是差一截。換句話說,這比較像是一個「值得繼續研究的實驗結果」,還不是可以馬上取代現有做法的成品。
Fireworks AI(一家提供AI模型雲端運算服務的公司)針對MiniMax Sparse Attention(一種讓AI模型處理長文章時可以跳過不重要部分、藉此加快運算速度的「稀疏注意力」機制)做了底層優化。他們調整了attention kernel(可以理解成GPU裡負責計算「注意力」這個核心步驟的一小段程式碼)的資料讀寫(load/store)流程,讓資料進出運算單元更有效率。結果是整體運算速度(throughput,也就是單位時間能處理多少資料)提升了1.6倍。這類優化通常會回饋到開源社群,讓其他人也能用上更快的版本。
假設有一家公司用MiniMax的稀疏注意力模型來處理大量長文件的AI服務,例如客服機器人要一次讀完幾萬字的合約再回答問題。優化前,處理每一批請求要花比如10秒;Fireworks調整了GPU裡負責存取資料的底層程式碼後,同樣的運算現在只要約6.25秒(也就是快了1.6倍),代表同樣的伺服器可以在相同時間內多處理六成的請求,或是用更少的機器成本達到一樣的服務量。不過有網友在推文下方提醒,速度變快不代表準確度不變,建議搭配長文本情境下的正確性測試(例如在長文章不同位置塞入特定資訊看AI找不找得到)一起驗證,避免只看速度數字而忽略答案品質是否打折。
微軟工程師 David Fowler 宣佈推出一個新協議,作為 VS Code 中 AI 代理應用(能自動寫程式、跑指令的 AI 助手)的底層基礎,未來也將支援 GitHub App 等其他產品。微軟在 microsoft.github.io/agent-host-prot… 提供了相關說明。
微軟推出了一個新協議,作為VS Code中AI代理應用(能自動寫程式、跑指令的AI助手)的底層基礎,未來也將支援GitHub App等其他產品。開發者可查閱微軟提供的說明頁面(microsoft.github.io/agent-host-prot…)瞭解相關細節。
最近網路上常有人指控某些表現很強的開源AI模型是「蒸餾(distillation,就是用一個大模型的內部機率分佈來教一個小模型模仿它)」自GPT-4或Claude等競爭對手的模型,等於是抄襲。有一篇技術文章反駁這種說法,指出大家把兩件不同的事混在一起講:真正的知識蒸餾需要取得老師模型內部完整的機率分佈資料(logits,模型在給出答案前對每個可能答案打的分數),而透過API通常只能取得經過安全過濾後的文字回覆,兩者在技術定義和資料取得門檻上完全不同。文章也指出,透過API拿到的回答通常會被廠商的安全過濾層擋掉或修改過,所以就算一個模型在某些專業領域表現很好,也很難說是靠抄別人的答案訓練出來的。文中也提到,模型有時候會自稱自己是「GPT」或「Claude」,這頂多算是訓練資料混到一點對話紀錄的證據,不能當作抄襲鐵證。
假設有人看到一個新發布的開源模型在程式能力測試上表現亮眼,直覺反應是「這一定是蒸餾自GPT-4,不然怎麼可能這麼強」。這篇文章的作者提醒:要證明真正的蒸餾,必須有證據顯示訓練方拿到了GPT-4內部的logits(機率分佈),但透過API通常只能拿到過濾後的最終文字答案;如果訓練方只是把大量問答文字(合成資料)拿去微調自己的模型,這叫「合成資料訓練」,跟真正的蒸餾在技術定義和取得資料的門檻上完全不同。文章底下的討論也提到,這種細節一旦扯到「logits」這種術語,非技術背景的人就很難分辨真假,導致網路上的指控常常是情緒化的而非有根據的技術判斷,例如有人開玩笑說「都2026年夏天了誰還在蒸餾GPT-4」。
這篇文章介紹一種跟AI編碼助手(像Codex、Claude Code這類會幫你寫程式的AI agent)溝通的新方法,作者稱之為「碎念式編碼」,也就是不要用打字下指令,而是打開語音輸入App對著AI用講的、想到什麼講什麼。作者認為講話比打字保留更多細節:人在打字時會不自覺把想法濃縮成簡短、乾淨的指令,反而漏掉背後的猶豫、比較、和取捨過程,而這些「猶豫的過程」正是AI理解你真正需求和品味的關鍵線索。文章也提到一種進階玩法叫「多人碎念」,就是跟合作夥伴用語音備忘錄互相辯論、討論產品決策,事後把錄音丟給Whisper(一種語音轉文字的AI模型)轉成逐字稿並辨識出是誰在說話,再把整份逐字稿餵給AI編碼工具當作背景資訊。文章最後建議可以下載Wispr Flow、Willow、Aqua Voice這類語音輸入App開始嘗試。
假設你要請AI做一個登入畫面,如果用打字下指令,你可能只會寫「做一個有帳號密碼欄位、註冊登入按鈕、忘記密碼、支援Google和Facebook登入的登入畫面,畫面簡潔」,這句話已經把你腦中反覆猶豫「要不要加GitHub登入」「用彈出視窗還是分頁」「圖片要不要用AI生成」的過程全部刪掉了,AI只看得到最終結論,猜不到你為什麼這樣選。如果改成對著語音App碎念,把「我的使用者不是工程師所以GitHub登入可能不需要,但加了好像也沒差」「我不喜歡跳轉到別的頁面做註冊,這點很重要」「其實沒人會在意登入畫面好不好看,這只是我自己的虛榮心」這些猶豫和自我推翻的過程都講出來、轉成逐字稿餵給AI,AI就能抓到「這個使用者重視簡單、討厭跳轉頁面、容易在意不重要的視覺細節」這些隱藏偏好,之後做出來的東西會更貼近你要的,來回修改的次數也會明顯減少。