我們至少要了解人工智能 （AI） 的兩件事。
首先，人工智能的狂熱在過去三年中一直在推動股市走高，即使在此過程中偶爾會出現(xiàn)下跌。
其次，人工智能是一項(xiàng)革命性的技術(shù)，它將改變世界，并可能消除許多工作，包括需要培訓(xùn)和技術(shù)技能的工作。
這兩點(diǎn)都是正確的。但并能因此排除其中的一些陷阱，并保持足夠的謹(jǐn)慎與冷靜。
AI一直在推動股市創(chuàng)下歷史新高，但市場的外觀和感覺就像一個超級泡沫。但這不是今天做空主要股指的理由。泡沫的持續(xù)時間可能比任何人預(yù)期的都要長。
關(guān)于第二點(diǎn)，人工智能將使一些工作過時或容易被取代。當(dāng)然，與任何新技術(shù)一樣，它將創(chuàng)造需要不同技能的新工作崗位。教師不會過時。他們將從教授數(shù)學(xué)和閱讀的基礎(chǔ)知識（人工智能做得很好）轉(zhuǎn)向教授批判性思維和推理（計算機(jī)做得很差或根本沒有）。
變化將是無處不在的，但它們?nèi)匀皇亲兓皇腔靵y。
01
物理邊界限制
人工智能是一股強(qiáng)大的力量，但遠(yuǎn)不如表面上看到的那么簡單。
AI可能面臨處理能力、訓(xùn)練集和發(fā)電方面的材料限制。半導(dǎo)體芯片的速度越來越快，新的芯片正在開發(fā)中。但這些芯片會消耗大量能源，尤其是在新AI 數(shù)據(jù)中心的巨大陣列中安裝時。
倡導(dǎo)者正在轉(zhuǎn)向核電站，包括小型模塊化反應(yīng)堆，以滿足AI的能源需求。
這種需求是非線性的，這意味著需要指數(shù)級更大的能源才能在加工輸出方面取得小的進(jìn)步。
AI 正在迅速接近其實(shí)現(xiàn)更高性能能力的實(shí)際極限。
這種近乎永不滿足的能源需求，意味著AI競賽實(shí)際上是一場能源競賽。
02
AI 缺乏常識
AI 的另一個不為人知的限制，是搜索中信息守恒定律。
該定律有嚴(yán)格的數(shù)學(xué)證明支持。它說的是AI找不到任何新信息。它可以更快地找到事物，并且可以建立人類可能幾乎不可能建立的聯(lián)系。這很有價值。但 AI 找不到任何新的東西。
它只能尋找和找到已經(jīng)存在的信息。新知識以創(chuàng)造力、藝術(shù)、寫作和原創(chuàng)作品的形式來自人類。計算機(jī)無法執(zhí)行真正的創(chuàng)造性任務(wù)。
這應(yīng)該給人類一些安慰，因?yàn)樗麄冇肋h(yuǎn)不會過時。
AI的另一個問題，是訓(xùn)練集的稀釋和退化。因?yàn)楦嗟挠?xùn)練集內(nèi)容由先前處理的 AI 輸出組成。
AI 容易出現(xiàn)錯誤、幻覺（更準(zhǔn)確地說是虛構(gòu)）和沒有事實(shí)依據(jù)的推理。這已經(jīng)夠糟糕了。但是，當(dāng)該輸出進(jìn)入訓(xùn)練集（基本上是 Internet 中的每個頁面）時，訓(xùn)練集的質(zhì)量會下降，而未來的輸出會同步下降。
除了仔細(xì)策劃之外，沒有好的解決方案。如果必須成為主題專家來策劃訓(xùn)練集，然后評估輸出，這會大大降低 AI 的增值作用。
計算機(jī)也缺乏同理心、同情心和常識。他們處理，但他們并不真正像人類那樣思考。事實(shí)上，AI根本不會思考；這只是數(shù)學(xué)。
在最近的一項(xiàng)實(shí)驗(yàn)中，一臺AI計算機(jī)與一組3至7歲的孩子進(jìn)行了比賽。挑戰(zhàn)是用手頭的工具畫一個圓圈。這些工具是一把尺子、一個茶壺和第三個不相關(guān)的物體，比如一個爐子。
計算機(jī)推斷尺子是像指南針一樣的繪圖工具，并試圖用尺子畫一個圓。它失敗了。孩子們看到茶壺的底部是一個圓圈，就簡單地在茶壺上畫出完美的圓圈。
AI 系統(tǒng)使用了關(guān)聯(lián)邏輯。孩子們用的是常識。孩子們贏了。這個結(jié)果在未來的比賽中不會改變，因?yàn)槌ＷR（技術(shù)上是歸納邏輯）是無法編程的。
雄心勃勃的AI公司很快發(fā)現(xiàn)，他們的系統(tǒng)可以被新系統(tǒng)超越，這些系統(tǒng)只是使用大價錢AI輸出作為基準(zhǔn)訓(xùn)練集。這是以一小部分成本實(shí)現(xiàn)高性能的捷徑。
像Microsoft和Google這樣的老牌AI公司稱之為盜竊IP，但這并不比那些使用現(xiàn)有IP而不支付版稅的巨頭差。
這可能是海盜的一種形式，但很容易做到，而且?guī)缀醪豢赡茏柚埂?/p>
這并不意味著AI的終結(jié)。這意味著AI天價利潤預(yù)測的終結(jié)。AI巨頭花費(fèi)的數(shù)千億美元的回報可能微薄。
03
創(chuàng)新者還是推銷員？
AI世界中最著名的人物是山姆·奧特曼（ Sam Altman）。
他是OpenAI的負(fù)責(zé)人，該公司幾年前推出了ChatGPT應(yīng)用程序。
人工智能始于 1950 年代，從 1980 年代的發(fā)展角度來看似乎遇到了瓶頸（這一時期被稱為人工智能冬天），在 1990 年代和 2000 年代初基本上處于休眠狀態(tài)，然后在過去十年中突然又恢復(fù)了活力。ChatGPT 在最初的幾個月里是歷史上下載次數(shù)最多的應(yīng)用程序，如今擁有數(shù)億用戶。
奧特曼去年被 OpenAI 董事會趕出，因?yàn)樵摴局荚谧鳛橐粋€非營利實(shí)體，為人類的利益開發(fā)人工智能。奧特曼希望將其轉(zhuǎn)變?yōu)闋I利性實(shí)體，作為數(shù)千億美元IPO的前奏。
當(dāng)頂級工程師威脅要辭職并跟隨奧特曼進(jìn)行新的冒險時，董事會很快改變了方向，將奧特曼帶回了公司，盡管確切的法律結(jié)構(gòu)仍在討論中。
與此同時，阿爾特曼全速推進(jìn)了他對超級智能（也稱為高級通用智能 （AGI），關(guān)鍵詞是“通用”，這意味著系統(tǒng)可以像人類一樣思考，只是更好。
理解超級智能的一種方法是比喻人類之于計算機(jī)，就像猿類之于人類一樣。我們會被認(rèn)為是聰明的，但不會比我們的機(jī)器大師更聰明。
阿爾特曼說，“在某些方面，ChatGPT 已經(jīng)比任何活著的人都更強(qiáng)大。他還表示，他預(yù)計到202 年，人工智能機(jī)器將“完成真正的認(rèn)知工作”，并將在2026 年之前創(chuàng)造“新穎的見解”。
這都是無稽之談，原因有幾個。
首先，如上所述，訓(xùn)練集（大型語言模型研究的材料）正在受到先前 AI 模型輸出的污染，因此機(jī)器變得越來越笨拙，而不是越來越智能。
第二個是我上面也描述過的搜索中信息守恒定律。該定律（由應(yīng)用數(shù)學(xué)支持）表明，計算機(jī)可能能夠比人類更快地找到信息，但它們無法找到任何尚不存在的信息。
換句話說，當(dāng)前邏輯下的機(jī)器并不是真正的思考，也不是真正的創(chuàng)造力。他們只是比我們更快地連接點(diǎn)。
Apple 的一篇新論文總結(jié)道：通過對各種謎題的廣泛實(shí)驗(yàn)，我們表明，前沿 LRM ‘大型推理模型’在超出某些復(fù)雜性的情況下面臨著準(zhǔn)確性的完全崩潰。此外，他們表現(xiàn)出一個違反直覺的擴(kuò)展限制：他們的推理努力隨著問題的復(fù)雜性而增加，直到一定程度，然后盡管有足夠的代幣預(yù)算，他們的推理工作也會下降。這一證據(jù)和其他證據(jù)表明，AI 達(dá)到了蠻力計算能力無法克服的邏輯極限。
最后，從來沒有開發(fā)人員能夠編寫歸納邏輯、真正的常識或直覺。 這是人類擁有的最強(qiáng)大的推理工具之一。
簡而言之，超級智能（可能）永遠(yuǎn)不會到來。
奧特曼越來越像一個硅谷推銷員，推銷下一件大事，背后沒有太多支持。