這兩年跟AI打交道下來(lái)我有一個(gè)越來(lái)越強(qiáng)烈的感受公眾討論里對(duì)AI人工智能的誤解不是太少而是太多了。前腳有人說(shuō)它馬上就要取代一半人的工作后腳就有人罵它是個(gè)高級(jí)點(diǎn)的搜索引擎。這兩種說(shuō)法放在一起你很容易發(fā)現(xiàn)——大家談?wù)摰母静皇峭粋€(gè)東西。我寫(xiě)這篇內(nèi)容想做的事情很簡(jiǎn)單把我自己實(shí)際測(cè)試、使用、觀察到的AI行為規(guī)律盡量講清楚順便把它本質(zhì)上是如何工作的這件事用最樸素的話說(shuō)明白然后基于這些規(guī)律聊聊我們應(yīng)該怎么用、怎么防、怎么跟它協(xié)作。適合這么幾類(lèi)人看自己平時(shí)用AI寫(xiě)文字、做圖、寫(xiě)代碼但心里對(duì)它的可靠性拿不準(zhǔn)的團(tuán)隊(duì)里正在糾結(jié)要不要把AI接入工作流的以及單純想搞清楚“AI到底有沒(méi)有智能”的普通用戶。我不會(huì)故意堆術(shù)語(yǔ)。遇到必須講的原理我會(huì)用最日常的類(lèi)比把它拆開(kāi)。因?yàn)椤罢_認(rèn)識(shí)AI人工智能”這件事并不需要你先成為機(jī)器學(xué)習(xí)專(zhuān)家你只需要建立一個(gè)足夠準(zhǔn)確的判斷框架。1. 拆掉對(duì)AI的兩個(gè)常見(jiàn)濾鏡它既不是神也不是騙子1.1 神化濾鏡是怎么形成的你去網(wǎng)上搜AI的演示視頻永遠(yuǎn)看不到它翻車(chē)的樣子。這是神化濾鏡最直接的來(lái)源所有被放出來(lái)的內(nèi)容都是千挑萬(wàn)選的成功案例。模型廠商開(kāi)發(fā)布會(huì)展示的一定是最亮眼的能力——寫(xiě)詩(shī)、寫(xiě)代碼、解數(shù)學(xué)題、做復(fù)雜推理。你看到的是“高光集錦”而它背后那些答非所問(wèn)、胡說(shuō)八道的普通時(shí)刻被剪掉了。另一個(gè)容易被忽略的原因是AI回答問(wèn)題時(shí)語(yǔ)氣實(shí)在太自信了。它不是用不確定的口吻說(shuō)“我覺(jué)得可能是”而是用一種不容置疑的語(yǔ)氣給出完整段落。人類(lèi)有一個(gè)認(rèn)知習(xí)慣——語(yǔ)氣篤定的人更容易獲得信任。這個(gè)機(jī)制放在AI身上同樣成立。但你要知道自然語(yǔ)言生成模型的設(shè)計(jì)目標(biāo)是生成“像人說(shuō)的話”不是生成“經(jīng)過(guò)驗(yàn)證的真話”?！跋瘛弊质撬ㄒ坏淖非?。當(dāng)它模仿人類(lèi)自信口吻的能力越強(qiáng)你就越容易在不知不覺(jué)間把它當(dāng)成一個(gè)有判斷力的專(zhuān)家。這里還有一個(gè)自我強(qiáng)化的反饋回路你越覺(jué)得它厲害就越傾向于拿開(kāi)放式問(wèn)題去問(wèn)它比如“給我一個(gè)創(chuàng)新的營(yíng)銷(xiāo)方案”“幫我規(guī)劃人生”。這種問(wèn)題根本沒(méi)有標(biāo)準(zhǔn)答案AI當(dāng)然回答得很流暢而流暢再次強(qiáng)化了你對(duì)它的信任。于是濾鏡越來(lái)越厚。等你終于問(wèn)到一件具體到必須核實(shí)的事它給你編了一個(gè)有鼻子有眼的東西你才猛然驚醒——原來(lái)它也會(huì)翻車(chē)。1.2 蔑視濾鏡是怎么形成的神化濾鏡的另一面就是蔑視濾鏡。很多人抱著巨大期待去用AI結(jié)果遇到一本正經(jīng)的胡說(shuō)八道——它會(huì)引用一篇不存在的論文會(huì)給出一個(gè)完全算錯(cuò)的數(shù)字會(huì)在推理過(guò)程中突然偷換概念。于是這部分人迅速倒向另一極“人工智能就是個(gè)高級(jí)的自動(dòng)回復(fù)機(jī)器人工智障而已?！边@種體驗(yàn)是真實(shí)的我不否認(rèn)。但我想提醒一件事把AI某次翻車(chē)當(dāng)成“它完全沒(méi)用”和把AI某次驚艷表現(xiàn)當(dāng)成“它已經(jīng)有意識(shí)”本質(zhì)上是同一個(gè)錯(cuò)誤——用自己的單次體驗(yàn)替代對(duì)整個(gè)系統(tǒng)機(jī)制的判斷。我實(shí)際用下來(lái)最深的體會(huì)是AI的能力不是一個(gè)穩(wěn)定的點(diǎn)而是一條分布。它有時(shí)候表現(xiàn)極好好到讓你懷疑人生有時(shí)候表現(xiàn)極差差到讓你懷疑自己為什么要用這個(gè)破玩意兒。這兩個(gè)極端都真實(shí)存在取決于問(wèn)題類(lèi)型、上下文、提示詞質(zhì)量甚至取決于隨機(jī)采樣時(shí)的那一點(diǎn)運(yùn)氣。所以如果你只在一次驚艷和一次翻車(chē)之間做判斷那你得到的結(jié)論一定是偏的。正確認(rèn)識(shí)AI的第一個(gè)前提就是接受它的“不穩(wěn)定”并且理解這種不穩(wěn)定來(lái)自它的底層機(jī)制——下一章我會(huì)專(zhuān)門(mén)講這個(gè)機(jī)制。1.3 正確的態(tài)度不是折中而是建立判斷標(biāo)準(zhǔn)有人會(huì)說(shuō)那我不吹不黑中庸一點(diǎn)總行了吧不行?！爸杏埂敝皇菓B(tài)度不是方法。真正可靠的做法是建立一套“條件性使用”規(guī)則——在什么條件下可以信任AI的輸出在什么條件下必須懷疑。我給自己定過(guò)三個(gè)問(wèn)題每次想拿AI干正經(jīng)事之前都會(huì)過(guò)一遍第一個(gè)問(wèn)題這個(gè)任務(wù)的結(jié)果可以驗(yàn)證嗎比如讓AI寫(xiě)一段代碼能不能跑通就是驗(yàn)證。讓AI算一個(gè)數(shù)學(xué)題能不能驗(yàn)算就是驗(yàn)證。讓AI寫(xiě)一篇新聞稿里面的地名、時(shí)間、人名能不能逐條查證就是驗(yàn)證。能驗(yàn)證的任務(wù)大膽用AI。第二個(gè)問(wèn)題這個(gè)任務(wù)的容錯(cuò)率有多高給朋友圈寫(xiě)一段開(kāi)業(yè)文案錯(cuò)一兩個(gè)措辭無(wú)所謂。但讓AI起草一份合同條款錯(cuò)一個(gè)詞可能就出大問(wèn)題。容錯(cuò)率低的場(chǎng)景AI只能當(dāng)輔助不能當(dāng)主力。第三個(gè)問(wèn)題如果AI錯(cuò)了我能發(fā)現(xiàn)嗎這個(gè)問(wèn)題最容易被忽略。如果你對(duì)某個(gè)領(lǐng)域完全陌生AI說(shuō)什么你信什么那你就處在最危險(xiǎn)的境地——不是因?yàn)锳I想騙你而是因?yàn)槟銢](méi)有能力識(shí)別它的錯(cuò)誤。這種情況下要么先自己補(bǔ)基礎(chǔ)的判斷力要么只讓AI幫你整理思路不碰事實(shí)結(jié)論。這套三問(wèn)框架后面所有章節(jié)其實(shí)都在給它提供支撐。先把標(biāo)準(zhǔn)立起來(lái)再去看AI的能力邊界你就不會(huì)被某一個(gè)單次的輸出帶偏。2. 大模型“懂”與“不懂”的分界線在哪里2.1 一個(gè)最小化的原理它是一臺(tái)高級(jí)續(xù)寫(xiě)機(jī)很多人被“大語(yǔ)言模型”這個(gè)名字嚇住以為它內(nèi)部有什么神秘的思考機(jī)制。實(shí)際上它的核心任務(wù)可以用一句很不浪漫的話概括給定前面所有文字預(yù)測(cè)下一個(gè)詞是什么。你會(huì)說(shuō)這不就是輸入法的聯(lián)想功能嗎方向上確實(shí)有點(diǎn)像只是規(guī)模完全不同。輸入法看的是你打了幾個(gè)字從一個(gè)小詞庫(kù)里挑候選詞大模型看的是你給它的整段上下文從經(jīng)過(guò)數(shù)十億條人類(lèi)文本訓(xùn)練出來(lái)的參數(shù)分布中預(yù)測(cè)概率最高的下一個(gè)詞。然后它把這個(gè)詞拼到句尾再用新的完整句子繼續(xù)預(yù)測(cè)下一個(gè)詞。一遍一遍重復(fù)就生成了整段回答。你可以把它的參數(shù)想象成一張規(guī)模極大的“人類(lèi)語(yǔ)言統(tǒng)計(jì)表”——但不是簡(jiǎn)單的詞頻表而是記錄了詞語(yǔ)在不同語(yǔ)境下的共現(xiàn)規(guī)律。它不知道“蘋(píng)果”是一種水果還是一個(gè)品牌它只知道在“削皮吃”的上下文里“蘋(píng)果”更可能指水果在“發(fā)布了新手機(jī)”的上下文里“蘋(píng)果”更可能指品牌。這個(gè)機(jī)制有一個(gè)極其重要的推論AI的所有回答都是逐詞生成的它沒(méi)有在某個(gè)數(shù)據(jù)庫(kù)里“查詢”答案,也沒(méi)有在后臺(tái)“回憶”什么東西。它全程在做的事情只有一件——生成一串在統(tǒng)計(jì)上最像樣的文字。至于這串文字是不是符合事實(shí)它不關(guān)心也沒(méi)有能力關(guān)心。2.2 “看起來(lái)懂”和“真懂”之間隔著一道鴻溝那么問(wèn)題來(lái)了如果說(shuō)它只是在做文字接龍為什么它能通過(guò)那么多看起來(lái)需要推理的測(cè)試答案是人類(lèi)寫(xiě)的文本里本身就包含了大量推理過(guò)程的記錄。模型在訓(xùn)練時(shí)把這些推理的“語(yǔ)言模式”學(xué)進(jìn)去了。比如網(wǎng)上有大量“因?yàn)锳所以B”“步驟一、步驟二、步驟三”這類(lèi)內(nèi)容模型學(xué)會(huì)了這種結(jié)構(gòu)。當(dāng)你提問(wèn)時(shí)它自然會(huì)按照這種結(jié)構(gòu)輸出一段邏輯上看起來(lái)通順的推演。但你仔細(xì)觀察會(huì)發(fā)現(xiàn)它的“推理”有一個(gè)致命弱點(diǎn)它依賴的是語(yǔ)言上的模式識(shí)別而不是對(duì)問(wèn)題本身做真正的推演。我做過(guò)一個(gè)測(cè)試問(wèn)一個(gè)常見(jiàn)邏輯謎題它能給出正確答案。但當(dāng)我在題干里改動(dòng)一個(gè)關(guān)鍵條件讓答案完全不同時(shí)它仍然沿著原來(lái)的思路把舊答案里的推理過(guò)程原封不動(dòng)地搬過(guò)來(lái)。人類(lèi)如果真在讀題會(huì)發(fā)現(xiàn)條件變了答案就變了它沒(méi)有發(fā)現(xiàn)因?yàn)樗皇恰白x題”而是“看到了一串像某個(gè)經(jīng)典題目的文字”然后把記憶里最接近的答案模式吐了出來(lái)。這個(gè)例子說(shuō)明一個(gè)關(guān)鍵問(wèn)題模型缺少一個(gè)穩(wěn)定的“世界模型”。人類(lèi)理解語(yǔ)言時(shí)會(huì)調(diào)動(dòng)物理直覺(jué)、因果邏輯、空間想象、經(jīng)驗(yàn)常識(shí)。模型沒(méi)有這些東西它只有文字模式的統(tǒng)計(jì)規(guī)律。它可以在字面上構(gòu)建一個(gè)看起來(lái)合理的“世界”但這個(gè)“世界”是脆弱的經(jīng)不起條件的微小改變。這不是說(shuō)它完全沒(méi)用。恰恰相反人類(lèi)語(yǔ)言里編碼了大量知識(shí)模型在統(tǒng)計(jì)上能夠復(fù)現(xiàn)這些知識(shí)的表面模式所以它在很多場(chǎng)景下表現(xiàn)得非常聰明。但你要清楚那是“記憶的拼接”不是“邏輯的生成”。兩者的差別在你遇到不常見(jiàn)的條件組合時(shí)會(huì)被瞬間放大。2.3 思維鏈看起來(lái)像思考但它只是草稿紙這幾年有一個(gè)很流行的技巧叫“思維鏈”——你在提問(wèn)的時(shí)候讓它先把推理過(guò)程一步步寫(xiě)出來(lái)再給結(jié)論。很多人發(fā)現(xiàn)加了這一步之后模型的正確率明顯上升。甚至有人因此認(rèn)為模型是真的在“思考”了。我的理解是思維鏈之所以有效是因?yàn)樗选耙淮紊梢淮蠖未鸢浮辈鸪闪恕耙淮沃簧梢恍〔健?。每生成一小步模型需要?lián)想的跨度就變小了出錯(cuò)概率自然降低。這就像你做復(fù)雜的數(shù)學(xué)題如果心算直接出結(jié)果很容易錯(cuò)但如果每一步都寫(xiě)在草稿紙上每一步只做一個(gè)小運(yùn)算整體正確率就高得多。所以思維鏈的本質(zhì)是通過(guò)“外部化的中間步驟”來(lái)提高統(tǒng)計(jì)上的正確率。它有用但它不等于模型具備真正的推理能力。我把同樣的思維鏈用在一些需要真實(shí)世界知識(shí)的任務(wù)上它照樣會(huì)一本正經(jīng)地編造事實(shí)。因?yàn)樗淹评聿襟E寫(xiě)得越詳細(xì)就越像是在認(rèn)真思考但它從頭到尾都在做同一件事——生成看起來(lái)合理的文字。記住這一點(diǎn)很重要。它能幫你省下大量去“解釋AI為什么出錯(cuò)”的時(shí)間和精力不要問(wèn)“它是不是故意胡說(shuō)”而要接受“它本來(lái)就不是沖著‘正確’去的它沖著‘像樣’去”。3. 能力邊界實(shí)測(cè)哪些場(chǎng)景可靠哪些場(chǎng)景只是硬撐3.1 封閉性任務(wù)可靠開(kāi)放性任務(wù)要謹(jǐn)慎我自己平時(shí)會(huì)把工作任務(wù)簡(jiǎn)單分兩類(lèi)封閉性任務(wù)和開(kāi)放性任務(wù)。這個(gè)分法基本上決定了我對(duì)AI輸出的信任程度。封閉性任務(wù)指的是輸入和輸出都有明確規(guī)則的把一段文字改成報(bào)告格式、把Python代碼翻譯成Java、把一篇長(zhǎng)文壓縮成摘要、把口語(yǔ)化表述改成書(shū)面表達(dá)。這類(lèi)任務(wù)目標(biāo)清晰、答案空間小、結(jié)果可驗(yàn)證。AI在這類(lèi)任務(wù)上的表現(xiàn)非常可靠因?yàn)樗谟?xùn)練時(shí)見(jiàn)過(guò)海量類(lèi)似模式而且任務(wù)本身不依賴真實(shí)世界的新知識(shí)。開(kāi)放性任務(wù)就完全不同了讓你寫(xiě)一篇有獨(dú)創(chuàng)觀點(diǎn)的評(píng)論文章、讓你給一個(gè)商業(yè)難題做戰(zhàn)略判斷、讓你評(píng)估某個(gè)方案在真實(shí)環(huán)境里是否可行。這類(lèi)任務(wù)沒(méi)有標(biāo)準(zhǔn)答案高度依賴對(duì)真實(shí)世界的理解。AI在這類(lèi)任務(wù)上表現(xiàn)得像什么呢像一個(gè)口才極好但履歷存疑的顧問(wèn)——它能把話說(shuō)得非常漂亮結(jié)構(gòu)完整、措辭精當(dāng)?shù)锩娴恼摀?jù)是否真實(shí)、觀點(diǎn)是否經(jīng)得起推敲它是不能保證的。我列了一張表大家可以對(duì)號(hào)入座任務(wù)類(lèi)型典型例子可靠度原因封閉性任務(wù)格式轉(zhuǎn)換、代碼翻譯、摘要提取、語(yǔ)言潤(rùn)色高規(guī)則明確可驗(yàn)證答案空間小半開(kāi)放性任務(wù)頭腦風(fēng)暴、方案框架搭建、文章提綱中需要?jiǎng)?chuàng)造力但不涉及事實(shí)核查開(kāi)放判斷型任務(wù)策略論證、方案評(píng)估、專(zhuān)業(yè)建議低依賴真實(shí)世界經(jīng)驗(yàn)?zāi)Ｐ蜎](méi)有判斷力事實(shí)生成型任務(wù)新聞寫(xiě)作、文獻(xiàn)綜述、專(zhuān)業(yè)問(wèn)答極低需人工核查模型會(huì)為流暢度而編造事實(shí)有一個(gè)細(xì)節(jié)很多人不知道同一個(gè)任務(wù)你把要求描述得越精確AI的可靠度就越高。比如你讓它“寫(xiě)一份活動(dòng)總結(jié)”它就自由發(fā)揮你改成“寫(xiě)一份300字的活動(dòng)總結(jié)包含時(shí)間、地點(diǎn)、參與人數(shù)、效果反饋四個(gè)部分語(yǔ)氣正式不要抒情”效果立刻不一樣。這其實(shí)是把開(kāi)放性任務(wù)往封閉性任務(wù)方向拉——你要讓它有規(guī)則可循。3.2 知識(shí)時(shí)效性和專(zhuān)業(yè)縱深是兩個(gè)硬傷AI訓(xùn)練語(yǔ)料有一個(gè)截止日期這是常識(shí)但很多人用的時(shí)候還是會(huì)忘記。我經(jīng)常看到有人拿AI問(wèn)“最新的某某手機(jī)發(fā)布了沒(méi)有”“某個(gè)政策最近怎么調(diào)整了”AI面不改色地給了一個(gè)幾個(gè)月前的過(guò)期信息。這不是它笨是它知道的東西就截止到那里。對(duì)這類(lèi)問(wèn)題你應(yīng)該做的事是把它當(dāng)作一個(gè)“帶時(shí)效滯后的百科全書(shū)”而不是實(shí)時(shí)新聞源。比時(shí)效性更隱蔽的問(wèn)題是專(zhuān)業(yè)縱深。我找過(guò)做財(cái)務(wù)的朋友做過(guò)測(cè)試讓AI解釋一個(gè)具體的稅務(wù)處理流程它能說(shuō)出一大堆專(zhuān)業(yè)術(shù)語(yǔ)框架看起來(lái)完全正確但涉及到特定行業(yè)的執(zhí)行細(xì)節(jié)時(shí)錯(cuò)得毫不含糊。原因不復(fù)雜——AI訓(xùn)練語(yǔ)料里關(guān)于這個(gè)專(zhuān)業(yè)領(lǐng)域的知識(shí)大多是公開(kāi)的教材、文章、百科而不是一線從業(yè)者腦子里那些“真正做事的規(guī)矩”。它的回答像是看了一本教科書(shū)之后寫(xiě)出來(lái)的而真實(shí)世界的專(zhuān)業(yè)判斷往往在教科書(shū)之外。所以我個(gè)人的建議是AI非常適合用來(lái)做“跨界快速入門(mén)”。你完全不懂一個(gè)領(lǐng)域的時(shí)候讓它給你梳理框架、推薦學(xué)習(xí)路徑、解釋基本概念效率極高。但如果你已經(jīng)在這個(gè)領(lǐng)域有幾年經(jīng)驗(yàn)想拿它當(dāng)專(zhuān)業(yè)顧問(wèn)那一定要把它給的結(jié)論當(dāng)成“候選方案”而不是“最終答案”。專(zhuān)業(yè)縱深的那道關(guān)目前還得靠人。3.3 幻覺(jué)的三種典型形態(tài)以及一套自測(cè)方法“幻覺(jué)”這個(gè)詞聽(tīng)起來(lái)很玄其實(shí)就是AI一本正經(jīng)地胡說(shuō)八道。我觀察下來(lái)它主要有三種形態(tài)。第一種是編造事實(shí)它會(huì)把一個(gè)根本不存在的產(chǎn)品、事件、數(shù)據(jù)說(shuō)得活靈活現(xiàn)。第二種是混淆概念把兩個(gè)相似的理論混在一起張冠李戴。第三種最陰險(xiǎn)——憑空引用它給你編一個(gè)書(shū)名、一個(gè)作者、一篇論文甚至一個(gè)鏈接看起來(lái)無(wú)比真實(shí)但點(diǎn)進(jìn)去什么也沒(méi)有。怎么訓(xùn)練自己對(duì)幻覺(jué)的敏感度我推薦一個(gè)自測(cè)方法選一個(gè)你非常熟悉的領(lǐng)域比如你的專(zhuān)業(yè)、你的愛(ài)好、你做了多年的手藝然后讓AI回答一個(gè)中等難度的問(wèn)題。接下來(lái)你逐條核查它提到的每一個(gè)具體信息——人名、年份、數(shù)據(jù)、作品名。我保證大多數(shù)人做一次這個(gè)測(cè)試就會(huì)改變對(duì)AI的看法。因?yàn)樵谧约菏煜さ念I(lǐng)域里你才能看清它有多頻繁地用流暢的語(yǔ)言掩蓋不確定。這里有一條我的實(shí)操心得AI的回答越是一本正經(jīng)、細(xì)節(jié)越是豐富越要警惕。很多人以為出錯(cuò)的特征是“語(yǔ)焉不詳”恰恰相反AI撒謊的典型特征是“細(xì)節(jié)過(guò)度”。因?yàn)樗挠?xùn)練目標(biāo)決定了含糊其辭會(huì)讓文本“不像人話”而堆砌細(xì)節(jié)會(huì)讓文本“很像人話”。它寧可給你編一個(gè)具體的假數(shù)據(jù)也不愿意說(shuō)一句“我不確定”。4. 決定AI表現(xiàn)的三駕馬車(chē)數(shù)據(jù)、算力與算法以及它們的真實(shí)權(quán)重4.1 數(shù)據(jù)決定上限也決定偏見(jiàn)你要是問(wèn)我數(shù)據(jù)、算力、算法哪個(gè)對(duì)AI表現(xiàn)的影響最大我會(huì)毫不猶豫地說(shuō)是數(shù)據(jù)。模型的能力上限基本由訓(xùn)練數(shù)據(jù)的質(zhì)量和規(guī)模決定。數(shù)據(jù)里有什么它才能學(xué)會(huì)什么數(shù)據(jù)里沒(méi)有的領(lǐng)域它在這個(gè)領(lǐng)域就是一張白紙只能靠“就像”來(lái)硬撐。這個(gè)結(jié)論有一個(gè)直接推論如果一個(gè)領(lǐng)域在網(wǎng)絡(luò)上的高質(zhì)量文本很少AI在這個(gè)領(lǐng)域的表現(xiàn)就會(huì)明顯更差。比如一些非常小眾的地方性常識(shí)、某些行業(yè)內(nèi)部的操作規(guī)范它在回答時(shí)就會(huì)顯得空洞和籠統(tǒng)——因?yàn)樗恼Z(yǔ)料池里沒(méi)有足夠多關(guān)于這些內(nèi)容的文本。比缺失更值得警惕的是偏見(jiàn)。訓(xùn)練數(shù)據(jù)是人類(lèi)寫(xiě)的人類(lèi)文本里天然含有各種刻板印象和偏好。AI不會(huì)判斷這些刻板印象對(duì)錯(cuò)它只是統(tǒng)計(jì)出“在數(shù)據(jù)中這類(lèi)內(nèi)容經(jīng)常和那類(lèi)內(nèi)容一起出現(xiàn)”然后把這種相關(guān)性當(dāng)作規(guī)律輸出。所以你會(huì)看到AI在某些話題上給出明顯帶有偏見(jiàn)的回答——那不是因?yàn)樗坝凶约旱牧?chǎng)”恰恰是因?yàn)樗鼪](méi)有立場(chǎng)它只是在復(fù)述數(shù)據(jù)中概率最高的模式。搞明白這一點(diǎn)你就不會(huì)跟AI爭(zhēng)論“你為什么這么想”因?yàn)槟忝鎸?duì)的從來(lái)不是一個(gè)思考者而是一面映射人類(lèi)文本統(tǒng)計(jì)規(guī)律的鏡子。4.2 算力決定你能跑多大的模型也決定成本數(shù)據(jù)決定了模型的上限但能不能把這么大一個(gè)模型跑起來(lái)是算力的問(wèn)題。模型越大通常能力越強(qiáng)但所需的顯存、內(nèi)存、計(jì)算時(shí)間也會(huì)水漲船高。你可能不理解為什么很多AI服務(wù)要收費(fèi)或者為什么有些功能只對(duì)訂閱用戶開(kāi)放——核心原因就是算力成本。我經(jīng)常遇到一種誤解以為所有AI的能力都一樣選最便宜的那個(gè)就吃虧了。實(shí)際上不同規(guī)模的模型差異非常大。小模型速度快、成本低但復(fù)雜推理和知識(shí)廣度明顯不足大模型能力強(qiáng)但推理一次需要消耗大量計(jì)算資源成本也高。普通用戶不用盲目追求最強(qiáng)模型很多任務(wù)用小模型就夠了。前端還有一個(gè)趨勢(shì)值得關(guān)注越來(lái)越多的AI能力開(kāi)始下放到手機(jī)和電腦本地。本地小模型的好處是隱私友好、響應(yīng)快、不依賴網(wǎng)絡(luò)代價(jià)是能力上限不如云端大模型。你把它想成“買(mǎi)菜去樓下便利店買(mǎi)家電去大商場(chǎng)”就行了——不同需求去不同的地方別指望一個(gè)模型包辦一切。4.3 算法是配方但提示詞才是你手里的遙控器算法指的是模型內(nèi)部的結(jié)構(gòu)設(shè)計(jì)、訓(xùn)練方式、對(duì)齊方法。這些東西對(duì)實(shí)際效果影響巨大但普通用戶碰不到。模型廠商發(fā)布的每一次版本升級(jí)背后基本都是算法層面的改進(jìn)。你作為使用者只能使用已經(jīng)訓(xùn)練好的模型不能改它的內(nèi)部參數(shù)。但你能改一樣?xùn)|西——輸入。這就是提示詞的價(jià)值。我在實(shí)操里越來(lái)越覺(jué)得提示詞工程的本質(zhì)不是什么玄學(xué)它就是“把需求說(shuō)清楚”的工程化表達(dá)。因?yàn)槟忝繉?xiě)一句提示詞都在給模型劃定一個(gè)更小的概率空間明確背景它的聯(lián)想范圍就縮小了明確輸出格式它的結(jié)構(gòu)選擇就減少了明確“不要編造”它就更傾向于從上下文里找信息而不是憑空發(fā)揮。之前有人問(wèn)我“我寫(xiě)了那么長(zhǎng)的提示詞它會(huì)不會(huì)嫌煩”不會(huì)。模型沒(méi)有情緒它只會(huì)嚴(yán)格按照你的約束來(lái)調(diào)整生成方向。你給的信息越充分它的輸出越靠近你想要的答案。這就是為什么同一個(gè)模型有人覺(jué)得好用有人覺(jué)得是人工智障——很大程度不是模型差距而是你們手里的“遙控器”按法不一樣。5. 把這套認(rèn)知變成生產(chǎn)力與AI協(xié)作的三條實(shí)操規(guī)則5.1 把AI當(dāng)“能力忽高忽低的實(shí)習(xí)生”而不是權(quán)威專(zhuān)家如果要用一句話概括我對(duì)AI的定位那就是它是一個(gè)能力忽高忽低的實(shí)習(xí)生。你給它布置任務(wù)它會(huì)給你一個(gè)看起來(lái)很認(rèn)真的初稿但你必須審核。你明確告訴它邊界它能做得很漂亮你放任它自由發(fā)揮它能把事情辦得離譜。基于這個(gè)定位我給自己建立了一套固定的協(xié)作流程讓AI產(chǎn)出初稿我來(lái)審核讓AI提供反面觀點(diǎn)我來(lái)取舍讓AI做信息整理我來(lái)做最終判斷。這套流程看起來(lái)簡(jiǎn)單但能規(guī)避掉絕大多數(shù)AI翻車(chē)帶來(lái)的風(fēng)險(xiǎn)。舉一個(gè)實(shí)際的例子。我讓AI幫我寫(xiě)一份產(chǎn)品介紹頁(yè)的內(nèi)容它給出了一個(gè)結(jié)構(gòu)完整、用詞講究的框架。但當(dāng)我核對(duì)里面的產(chǎn)品參數(shù)時(shí)發(fā)現(xiàn)其中一個(gè)關(guān)鍵數(shù)據(jù)比真實(shí)參數(shù)大了三分之一。如果我直接把文案發(fā)出去這就是一個(gè)事故。所以我的流程永遠(yuǎn)是AI的內(nèi)容必須過(guò)人工審核尤其是事實(shí)性的部分。這不是不信任AI而是它的機(jī)制決定了它沒(méi)有能力保證事實(shí)正確。這里有一條不能妥協(xié)的底線如果任務(wù)的結(jié)果必須精確、且你無(wú)法驗(yàn)證——比如醫(yī)療建議、法律意見(jiàn)、財(cái)務(wù)數(shù)字——不要讓AI直接產(chǎn)出最終答案。它最多只能幫你梳理知識(shí)點(diǎn)、整理思路最終結(jié)論必須由有資格的真人來(lái)做。5.2 一套可套用的提示詞模板背景、角色、任務(wù)、格式、約束、示例很多朋友問(wèn)我提示詞到底怎么寫(xiě)我給他們一個(gè)六個(gè)要素的模板照著填基本不會(huì)跑偏背景告訴它你處在什么情況里為什么需要這個(gè)內(nèi)容。角色讓它扮演一個(gè)什么角色比如數(shù)據(jù)分析師、文案策劃、資深編輯。任務(wù)明確告訴它要做什么越具體越好。格式告訴它輸出長(zhǎng)什么樣比如分點(diǎn)、表格、按重要性排序。約束告訴它不能做什么最重要的是“不要編造未提供的信息”。示例給它一個(gè)例子讓它照著示例的調(diào)性來(lái)。我自己常寫(xiě)的一句約束是“所有判斷必須基于我提供的信息如果信息不足請(qǐng)直接說(shuō)不確定不要假設(shè)?！奔恿诉@一句之后AI編造信息的概率會(huì)明顯下降——不是因?yàn)樗冋\(chéng)實(shí)了而是因?yàn)槟憬o出了一個(gè)更窄的輸出空間。你可以做一個(gè)對(duì)比實(shí)驗(yàn)先不寫(xiě)約束讓它介紹一個(gè)你熟悉但比較小眾的話題它大概率會(huì)給你幾個(gè)聽(tīng)起來(lái)合理但有毛病的具體事實(shí)你再加上如上的約束再問(wèn)一次你會(huì)發(fā)現(xiàn)它變得保守多了。這說(shuō)明提示詞不是話術(shù)儀式它是在實(shí)打?qū)嵉馗淖兡Ｐ偷妮敵鲂袨椤?.3 迭代式對(duì)話別指望一次提問(wèn)得到精品我見(jiàn)過(guò)太多人把AI當(dāng)成一個(gè)“輸入問(wèn)題、輸出成品”的機(jī)器結(jié)果第一版不滿意就放棄然后得出“AI沒(méi)用”的結(jié)論。這其實(shí)是用錯(cuò)了方式。真實(shí)工作流里的AI合作應(yīng)該是一個(gè)迭代的過(guò)程。我的實(shí)際操作是這樣的先讓它列一個(gè)提綱我看了結(jié)構(gòu)方向?qū)Σ粚?duì)如果方向有問(wèn)題就立刻糾正不浪費(fèi)時(shí)間展開(kāi)內(nèi)容確認(rèn)結(jié)構(gòu)之后再讓它一部分一部分展開(kāi)展開(kāi)之后我再把我的反饋、補(bǔ)充信息、想調(diào)整的點(diǎn)持續(xù)提供給它最后讓它統(tǒng)一潤(rùn)色。整個(gè)過(guò)程可能涉及四五輪對(duì)話每一輪都在追加約束、修正路徑。這背后的道理很簡(jiǎn)單每一輪對(duì)話都在給模型“喂”更多背景信息。你第一輪的提問(wèn)它只知道你的初始要求你第五輪的提問(wèn)它已經(jīng)掌握了你篩選后的方向、你補(bǔ)充的細(xì)節(jié)、你的偏好。兩相對(duì)比后者的輸出質(zhì)量必然更高。這跟帶實(shí)習(xí)生是一個(gè)道理——你只甩一句“寫(xiě)個(gè)方案”和你在旁邊說(shuō)“第一段重點(diǎn)講用戶痛點(diǎn)第二段給數(shù)據(jù)分析思路第三段給落地方案”拿到的結(jié)果完全不一樣。所以當(dāng)你覺(jué)得AI不好用的時(shí)候先問(wèn)自己一句你是把它當(dāng)成了需要一次成功的自動(dòng)售貨機(jī)還是把它當(dāng)成了需要通過(guò)溝通來(lái)拉齊信息的下屬前者經(jīng)常失望后者才會(huì)越來(lái)越順手。6. 風(fēng)險(xiǎn)與責(zé)任真正的危機(jī)不是“替代”而是無(wú)成本制造看似合理的內(nèi)容6.1 正在發(fā)生的真實(shí)風(fēng)險(xiǎn)批量生產(chǎn)“看起來(lái)正確”的內(nèi)容關(guān)于AI的風(fēng)險(xiǎn)公眾最關(guān)心的問(wèn)題是“它會(huì)不會(huì)取代我的工作”。但我在實(shí)際觀察中越來(lái)越覺(jué)得更迫近的風(fēng)險(xiǎn)不是取代而是另一種東西——AI讓“制造看似合理的內(nèi)容”變得幾乎沒(méi)有成本。在AI普及之前一篇措辭專(zhuān)業(yè)、結(jié)構(gòu)嚴(yán)謹(jǐn)、看似權(quán)威的文章至少需要一個(gè)人花不少時(shí)間寫(xiě)出來(lái)。現(xiàn)在同樣質(zhì)量的文章可以被批量生成。你可以在幾分鐘之內(nèi)得到數(shù)百篇風(fēng)格不同但都足夠流暢的短文、帖子、評(píng)論。這帶來(lái)的直接后果是信息環(huán)境的污染大量“看起來(lái)正確”但未經(jīng)核實(shí)的內(nèi)容涌入網(wǎng)絡(luò)人們?cè)絹?lái)越難以分辨什么是真實(shí)的什么是生成的。這種風(fēng)險(xiǎn)不需要等到什么“超級(jí)智能”出現(xiàn)現(xiàn)在的技術(shù)就已經(jīng)完全夠了。你可以看到很多賬號(hào)在用AI批量生產(chǎn)內(nèi)容有些是營(yíng)銷(xiāo)文有些是造謠文有些只是噪聲。真正讓我警惕的是當(dāng)這種內(nèi)容多到一定程度之后人們會(huì)逐漸形成一種懷疑一切的心理——連真實(shí)的信息也不敢信了。信任一旦被稀釋到這種濃度重建的成本就非常高昂。6.2 責(zé)任在流程設(shè)計(jì)者身上AI不背鍋人背鍋既然AI生成內(nèi)容的成本這么低那責(zé)任應(yīng)該誰(shuí)來(lái)承擔(dān)我的答案很明確誰(shuí)決定使用AI生成內(nèi)容誰(shuí)就要為內(nèi)容負(fù)責(zé)。AI不會(huì)背鍋也不應(yīng)該讓它背鍋。道理很簡(jiǎn)單AI是一個(gè)工具工具沒(méi)有主觀意圖。你用計(jì)算器算錯(cuò)了賬責(zé)任不在計(jì)算器在你手按錯(cuò)了。同樣你把AI生成的內(nèi)容直接發(fā)布內(nèi)容里的錯(cuò)誤、偏見(jiàn)、不實(shí)信息責(zé)任在發(fā)布者身上。這個(gè)原則如果建立不起來(lái)就會(huì)有人拿“這是AI寫(xiě)的”來(lái)推卸責(zé)任——那是非常危險(xiǎn)的滑坡。對(duì)于團(tuán)隊(duì)和企業(yè)我建議在接入AI時(shí)先定幾條規(guī)矩明確哪些場(chǎng)景可以用AI哪些場(chǎng)景不可以凡是AI生成的內(nèi)容必須有真人審核環(huán)節(jié)涉及事實(shí)、數(shù)據(jù)、法律承諾的內(nèi)容必須多人復(fù)核對(duì)外發(fā)布時(shí)合理標(biāo)注“AI輔助生成”。這些流程聽(tīng)起來(lái)不夠炫但它們是真正能把AI用安全的關(guān)鍵。對(duì)于個(gè)人創(chuàng)作者至少要做到不直接發(fā)布AI輸出的不可驗(yàn)證的具體信息引用AI給出的來(lái)源時(shí)先核實(shí)這個(gè)來(lái)源是否真實(shí)存在重要內(nèi)容發(fā)布前留出時(shí)間做人工檢查。6.3 一個(gè)更現(xiàn)實(shí)的自處方式把AI當(dāng)“外腦”而不是“替身”講了這么多風(fēng)險(xiǎn)不是讓你別用AI。恰恰相反我認(rèn)為AI是一個(gè)值得認(rèn)真對(duì)待的生產(chǎn)力工具關(guān)鍵是要把它放在合適的位置上——當(dāng)外腦而不是當(dāng)替身。“替身”意味著你把判斷、寫(xiě)作、決策整個(gè)外包給它“外腦”意味著它幫你處理體力活——整理資料、生成初稿、提供視角、潤(rùn)色語(yǔ)言——而最終的方向判斷、內(nèi)容取舍、事實(shí)核查、責(zé)任承擔(dān)都由你自己完成。前者會(huì)讓你越來(lái)越依賴它同時(shí)喪失自己的判斷力后者會(huì)讓你在保持判斷力在線的前提下把效率提升一大截。我自己這幾年的體會(huì)是AI幫我把大量瑣碎的信息處理工作接住了但真正讓我成長(zhǎng)的部分恰恰發(fā)生在“向AI提問(wèn)之前的思考以及收到答案之后的判斷”里。你需要想清楚自己要什么才能給它有效的指令你需要有能力識(shí)別它錯(cuò)在哪里才能安全地使用它。這些要求本身就在倒逼你變得更專(zhuān)業(yè)。所以“正確認(rèn)識(shí)AI人工智能”落到最后其實(shí)就是一句話把它放在工具的位置上心懷敬畏但不迷信保持懷疑但不排斥看清它的機(jī)制、尊重它的邊界然后在邊界內(nèi)把它的能力榨干。這是一種有邊界的協(xié)作也是一件值得長(zhǎng)期練習(xí)的事。