編者按當(dāng)生成式AI從演示階段走向生產(chǎn)系統(tǒng)企業(yè)面臨的難題不再是“能否調(diào)用一個(gè)大模型”而是“能否讓AI在復(fù)雜組織中穩(wěn)定、合規(guī)、可持續(xù)地運(yùn)行”。MIT Technology Review EmTech Future會(huì)議的一場(chǎng)專題討論把這一問(wèn)題歸結(jié)為“可擴(kuò)展AI的基礎(chǔ)”。從模型競(jìng)賽轉(zhuǎn)向系統(tǒng)競(jìng)賽過(guò)去兩年行業(yè)關(guān)注點(diǎn)集中在模型參數(shù)、榜單分?jǐn)?shù)和單點(diǎn)應(yīng)用。但真正進(jìn)入核心業(yè)務(wù)后決定成敗的往往是模型之外的基礎(chǔ)設(shè)施數(shù)據(jù)是否可用、工程鏈路是否可靠、平臺(tái)能否復(fù)用、運(yùn)營(yíng)模式是否清晰、治理邊界是否可審計(jì)。會(huì)議指出可擴(kuò)展AI系統(tǒng)需要數(shù)據(jù)、工程、平臺(tái)、運(yùn)營(yíng)模式和治理共同收斂像一套系統(tǒng)一樣工作而不是五個(gè)彼此割裂的項(xiàng)目。會(huì)議討論的核心命題可以概括為可擴(kuò)展AI的真正門檻不是某一個(gè)模型的能力上限而是組織能否讓數(shù)據(jù)、工程、平臺(tái)、運(yùn)營(yíng)與治理形成閉環(huán)。這也是AI從“工具”變?yōu)椤盎A(chǔ)設(shè)施”的關(guān)鍵轉(zhuǎn)折。單點(diǎn)試點(diǎn)可以靠個(gè)別團(tuán)隊(duì)的熱情推動(dòng)規(guī)模化落地卻必須依賴標(biāo)準(zhǔn)化接口、可復(fù)用的組件、明確的責(zé)任矩陣和持續(xù)運(yùn)營(yíng)機(jī)制。五大支柱缺一不可首先是數(shù)據(jù)。可擴(kuò)展AI需要的不只是更多數(shù)據(jù)而是可發(fā)現(xiàn)、可信任、可授權(quán)、可追溯的數(shù)據(jù)供給體系。數(shù)據(jù)質(zhì)量、元數(shù)據(jù)、血緣和訪問(wèn)控制決定了模型能否在真實(shí)業(yè)務(wù)中持續(xù)迭代。其次是工程能力。模型開發(fā)、評(píng)估、部署、監(jiān)控和回滾需要形成工程化流水線才能把實(shí)驗(yàn)成果轉(zhuǎn)化為穩(wěn)定服務(wù)。第三是平臺(tái)。統(tǒng)一平臺(tái)可以降低重復(fù)建設(shè)讓模型、工具、知識(shí)庫(kù)和安全策略被復(fù)用并為多團(tuán)隊(duì)協(xié)作提供共同語(yǔ)言。第四是運(yùn)營(yíng)模式。AI系統(tǒng)上線后需要持續(xù)評(píng)估效果、管理成本、處理異常、更新知識(shí)并明確業(yè)務(wù)、技術(shù)、法務(wù)和風(fēng)險(xiǎn)部門的協(xié)作方式。第五是治理。治理不是阻礙創(chuàng)新而是為創(chuàng)新設(shè)定可擴(kuò)展的邊界包括數(shù)據(jù)使用規(guī)則、模型風(fēng)險(xiǎn)管理、審計(jì)日志、責(zé)任歸屬和人類監(jiān)督機(jī)制。高監(jiān)管環(huán)境是壓力測(cè)試在金融、醫(yī)療、政務(wù)等高監(jiān)管行業(yè)AI落地面對(duì)的不是“先上線再補(bǔ)合規(guī)”而是從設(shè)計(jì)之初就要回答可解釋性、隱私保護(hù)、權(quán)限隔離和可追溯性問(wèn)題。會(huì)議特別強(qiáng)調(diào)在高監(jiān)管環(huán)境中建設(shè)AI基礎(chǔ)必須把負(fù)責(zé)任、可信賴的實(shí)施方式前置。這意味著企業(yè)需要將合規(guī)要求轉(zhuǎn)化為工程約束例如數(shù)據(jù)最小化、模型版本管理、訪問(wèn)審計(jì)、偏見(jiàn)評(píng)估和人工復(fù)核節(jié)點(diǎn)。從行業(yè)實(shí)踐看高監(jiān)管場(chǎng)景反而是檢驗(yàn)AI基礎(chǔ)的“壓力測(cè)試場(chǎng)”。能夠通過(guò)嚴(yán)格審計(jì)的系統(tǒng)往往具備更清晰的架構(gòu)和更穩(wěn)健的運(yùn)營(yíng)流程反過(guò)來(lái)說(shuō)如果治理只停留在文檔層面規(guī)?；瘯r(shí)就會(huì)暴露權(quán)限混亂、責(zé)任不清和不可觀測(cè)等問(wèn)題?？尚怕涞蒯尫胖悄荏w價(jià)值會(huì)議還提到負(fù)責(zé)任且可信的實(shí)施能夠把包括智能體在內(nèi)的新興能力轉(zhuǎn)化為現(xiàn)實(shí)價(jià)值。智能體不同于傳統(tǒng)聊天機(jī)器人它可以調(diào)用工具、編排任務(wù)、在多個(gè)系統(tǒng)間執(zhí)行操作。能力越強(qiáng)對(duì)權(quán)限邊界、操作確認(rèn)、異常中止和全程可觀測(cè)的要求就越高。沒(méi)有可信基礎(chǔ)智能體很難進(jìn)入核心流程有了可信基礎(chǔ)它才可能從“輔助回答”走向“受控執(zhí)行”。對(duì)企業(yè)而言行動(dòng)路徑可以概括為三點(diǎn)先把數(shù)據(jù)與治理底座打牢再以平臺(tái)化方式沉淀工程能力最后用受控試點(diǎn)驗(yàn)證智能體等高階能力?？蓴U(kuò)展AI不是一次采購(gòu)而是一項(xiàng)組織能力建設(shè)。只有讓五大支柱協(xié)同工作AI才能從少數(shù)明星項(xiàng)目變成可持續(xù)的生產(chǎn)力系統(tǒng)。本文編譯自MIT Technology Review本文首發(fā)于贏政天下 獲取更多深度技術(shù)內(nèi)容與資源歡迎訪問(wèn)官網(wǎng)。