AI 產業的隱憂與未來：從泡沫化風險到智慧爆炸的反思
AI 產業的隱憂與未來：從泡沫化風險到智慧爆炸的反思
在這個 AI 無處不在的時代，打開任何一個科技播客或新聞頻道，你幾乎都能聽到對人工智慧未來的狂熱預測。然而，當我們從螢幕前抬起頭，望向窗外的真實世界，會發現日常生活其實並沒有發生那些被吹噓的顛覆性改變。所謂的奇點（Singularity），無論它會在何時何地出現，顯然還沒有到來。作為一個長期觀察科技產業的從業者，我認為現在正是時候冷靜下來，思考一些關於 AI 產業可能面臨的「熊市情境」，以及我們對未來十年的合理預期。這不是唱衰，而是一種必要的風險意識和對現實的尊重。
AI 產業可能面臨的六大風險
在科技產業中，過度樂觀往往是創新的敵人。當所有人都在談論 AI 將如何改變世界時，我們更需要思考那些可能讓這個產業陷入困境的因素。以下是我認為值得警惕的六個「熊市情境」，每一個都有可能成為 AI 公司發展的重大障礙。首先是模型停滯的風險。如果 AI 模型的進步在某個階段停滯不前，或者使用者感受不到明顯的進步，整個產業的競爭環境可能迅速轉變為價格戰。想像一下，當所有 AI 公司提供的服務品質趨於相同時，價格就成為唯一的競爭手段。這對那些投入數百億美元進行研發和基礎設施建設的公司來說，將是一個巨大的負擔。那些高昂的營運成本和前期投資，可能從資產變成負債。這種情況並非沒有先例——我們在許多科技領域都見證過創新停滯後的價格崩潰。其次是晶片短缺的問題。這個風險可能以供應鏈中斷的形式出現（還記得疫情期間那個讓人頭痛的詞彙嗎？），或者僅僅是因為 AI 的規模擴張超過了全球晶片生產能力。當晶片價格被推高到額外投資的預期回報率為負時，要麼訓練速度放緩，要麼推理成本上升。短期內這可能有助於提高利潤，但長期來看，如果其他競爭對手能夠持續生產晶片，這些公司就會陷入非常危險的境地。第三個風險是模型霸權的出現。如果某一家實驗室的模型開始全面超越所有其他模型，他們將獲得絕大部分收入和投資，從而能夠投入最多資源訓練下一代模型，維持領先地位。這種「贏家通吃」的局面會讓其他實驗室的收入來源枯竭，形成一個難以打破的壟斷循環。第四，投資枯竭是另一個不可忽視的風險。AI 公司終將失去光環，就像社群媒體公司當年那樣。投資者會開始更關注投資回報，而不是繼續砸錢。當音樂停止時，並不是每個人都能找到座位。每個實驗室是否能夠成功轉型，依靠迄今為止所建立的基礎生存下去？這是一個嚴峻的考驗。第五個風險來自廉價模型的崛起。那些運行成本低廉的模型（免費授權、便宜的硬體）一直在變得越來越好。一個廉價模型很可能變得足夠好，以至於每個人都停止支付每月 20 或 200 美元的訂閱費用。當然，最先進的模型會更好，但當只有最密集的工作負載需要它們時，收回訓練成本就變得非常困難。最後是法律風險。目前看來，版權問題似乎已經塵埃落定，對 AI 實驗室不構成威脅。但你可以想像，法律可能限制它們的電力使用，或要求它們支付遠高於市場價格的電費。或者，關於模型安全性的法律規定嚴格到讓模型變得毫無用處。來自法律方面的真正危險似乎不太可能發生，但 Anthropic 最近的麻煩證明這仍然是一個有意義的問題。值得思考的是，這些熊市情境中，哪些適用於 Google 這樣在 AI 之外擁有大量收入來源的公司，哪些不適用。這種多元化的商業模式，可能是應對不確定性的最佳策略之一。
未來十年的合理預期
儘管存在各種風險，我們仍然可以對未來十年做出一些合理的預測。這些預測並非天馬行空的幻想，而是基於當前技術軌跡的自然延伸。其中一些可能會比十年更快實現。首先，我預期會出現優秀的機器人模型。合理預期的是，將會開發出一種模型，你可以將它植入一些現成的人形機器人硬體中，它就會開始變得實用。它們將被用於機器人可以經常充電或連接電源的情況。或者也許更換電池會變得實用。可以推測，最初的應用將是使用人類成本（工資、危險、安全設備）很高的情況。這不是科幻小說，而是工程問題的逐步解決。其次是持續學習能力的突破。想像一下，你教一個從未彈過吉他的人如何按 C 和弦。你必須給他們非常詳細的指導和糾正，告訴他們每根手指該做什麼，如何修正嗡嗡作響的琴弦。可能需要一兩分鐘才能讓它聽起來不錯。相比之下，一個經驗豐富的吉他手可以不假思索地彈奏 C 和弦：他們的大腦在這項任務上的效率是前者的數百倍，因為他們練習過。但 AI 模型沒有機會從實踐中學習。它們可以像吉他初學者在腦中記住你的指導那樣，在上下文視窗中保留知識，但它們永遠不會隨著時間的推移在某項任務上變得更快或更有效率。它們不會將所經歷的東西「壓縮」成權重的更新。這是目前 AI 的一個根本性限制，也是未來必須突破的方向。第三個預期是心智的自行車概念的實現。如果說電腦是心智的自行車，為什麼它們不是人工心智的自行車呢？代理程式開始非常善於利用為人類構建的工具——特別是命令列工具——但除了 MCP 伺服器之外，我們幾乎沒有看到專門為使 AI 更強大而編寫的馮諾伊曼機器程式碼。這是一個巨大的機會空間，等待被探索。第四，新晶片製造廠的出現是可以預期的。在某個時點，成立新的晶片製造公司來與台積電競爭將開始變得有意義。或者，也許現有的製造公司之一會加強競爭力，再次具有競爭力。這似乎不太可能，但也有可能它們可以更垂直整合，創建自己的光刻機，而不是依賴 ASML。第五個預測是兆行程式碼的出現。Google 擁有數十億行程式碼。這是我們談論程式碼規模時使用的單位：沒有人在乎那是多少組合語言指令，因為那不是我們互動的對象。如果我們與程式碼的互動變得不那麼直接，我們就會不再關心有多少程式碼。生產大量程式碼也會變得容易。某些公司可能會達到兆行的標記。根據快速的網路搜尋，世界上可能至少有 10 兆行程式碼。在那種規模下，你如何檢查安全問題？我們可能必須發明更快的編譯器和其他工具，才有希望構建那麼多程式碼。當程式碼變得免費時，阿姆達爾定律告訴我們，交付軟體並不會變得免費，因為所有其他成本開始占主導地位。我們將不得不比以往任何時候都更多地投資於製作好的、快速的開發者工具。最後，更高效的訓練方法必將出現。有人指出，當你在學習數學教科書時，你並不是在試圖預測文本中的下一個詞。你的大多數學習來自做練習。當你在解決問題時不知道下一步該怎麼做時，你能本能地感覺到，並明確引導你的閱讀去尋找你所缺少的東西。如果你做錯了一道題，你可以回顧自己的工作，找出問題所在。你的學習過程與 LLM 截然不同。這是一件好事，因為 LLM 訓練需要的詞彙量遠遠超過你一生中聽到或閱讀的。今天的訓練方式從根本上來說非常低效。模型並沒有很好地壓縮現實。它們從未感受到「頓悟」的時刻，意識到許多不同的觀察可以用一個新的心智模型來解釋。某個實驗室肯定會找到解決這個問題的方法。
對 AI 未來的希望
除了預測之外，我對 AI 在不久的將來能帶來的一些事情抱有希望。這些不僅僅是技術進步，更是能夠真正改善人類生活品質的應用。首先是更多的治療方法。我們可能不會告訴 AI「去治療偏頭痛，不要犯錯」，但 Google 的 DeepMind 已經證明 AI 在理解生物學方面非常有用（例如 AlphaFold）。AI 應該能讓我們更快地找到更有前景的分子，並通過在模擬中發現問題來獲得更高的成功率。這不是遙遠的未來，而是正在發生的現實。其次是建立更好的企業。如果 AI 可以監聽每次會議並閱讀每份文件（它基本上已經可以做到），它將對企業中的問題有驚人的洞察力，並能夠解決它們。我們忘記告訴印度的團隊優先順序的變化，因為他們沒有參加那次會議？不用擔心，AI 注意到了這一點並標記了問題。也許它只是在不需要被告知的情況下與他們分享了那個背景。有人超負荷工作和精疲力盡，但沒有很好地溝通他們的工作量，因為他們壓力太大而無法清晰思考？AI 可以很容易地被訓練來發現這一點並提供幫助。決策沒有被做出？好吧，猜猜看，AI 知道所有最佳的組織實踐，並閱讀了所有管理書籍。責任轉移到新團隊？AI 擁有所有歷史記錄，知道問題埋在哪裡，以及你必須運行哪個隨機腳本來修復問題。第三個希望是真正幫助人類。如果演算法可以創造回音室並讓每個人互相生氣，那麼 AI 肯定可以用來幫助人們理解彼此（這需要意圖，而不僅僅是資訊——這就是為什麼網際網路本身在這裡沒有幫助）。如果人們想出去玩和交朋友，AI 可以建議人們有空的時間，每個人都喜歡做的事情，並鼓勵人們走出家門。
關於智慧爆炸的反思
對於普通讀者來說，「智慧爆炸」或「奇點」可能是一個陌生的概念。簡單來說，這個理論認為，一旦 AI 變得比人類更聰明，它就能設計出比自己更聰明的 AI，這個新的 AI 又能設計出更聰明的下一代，如此循環下去，導致智慧以指數級速度增長，最終遠遠超越人類的理解能力。這聽起來既令人興奮又令人恐懼，但我從根本上不相信失控智慧（或「天才之城」）的情境。部分原因是我們能夠生成的電力和能夠製造的晶片數量相當有限。AI 是運行在原子上的位元，而原子的擴展要比位元困難得多。這是一個物理限制，而不是工程挑戰。模型當然會在創建下一個模型時發揮作用（我相信實驗室已經使用一個模型來為下一個模型準備訓練資料），就像電腦在設計下一代電腦時是一個有用的工具一樣。AI 是否可以被訓練得比任何人類都更擅長想出讓下一個模型變得更好的方法？很可能！我想知道什麼時候實驗室開始將所有精力投入到建立這個模型會成為唯一合理的選擇。這會創造出比人類更聰明的 AI 模型嗎？我的意思是，電腦在很多方面一直比人類更聰明。80 年前的電腦可以做比我多得多的數學運算。40 年前的電腦可以記住比我多得多的資訊。演算法已經能夠比任何人類更好地設計電路、優化路線和預測天氣一段時間了。AI 模型使電腦在更多事情上比人類更好，並使它們在更多事情上相當出色。可以合理預期，我們最終會製造出一個在所有方面都比任何人類更好的 AI。奇點似乎即將來臨。也許一旦你比人類更聰明，你就可以克服所有瓶頸：電力、製造、稀有礦物、光速延遲，並不斷製造更多的計算能力，並用它來建立更聰明的模型。但我認為這個過程不會永遠持續下去，原因有二：第一，它會達到平台期。人腦有一些智慧的上限，所以矽腦似乎也應該有。給我看一個沒有上限的東西，我就會給你看一個加密貨幣騙局。第二，它會繼續變得更聰明，但每次迭代所需的時間都比上一次更長。由於物理學的討厭限制，計算能力的進步跟不上每個後續模型增加的需求。進步之間的時間間隔越來越長，直到它在所有實際目的上停滯不前（或更現實地說，直到我們決定停止投入世界資源讓它自動進步）。
結語：保持清醒的樂觀
在這個 AI 狂熱的時代，保持清醒的頭腦比以往任何時候都更重要。我們既不應該盲目悲觀，認為 AI 毫無價值，也不應該狂熱樂觀，認為奇點即將到來並解決所有問題。真相往往在中間：AI 是一項強大的技術，會帶來重大變革，但它受到物理定律、經濟現實和人類組織能力的限制。作為技術從業者和觀察者，我們的責任是既要推動創新的邊界，也要對風險保持警覺。只有在理解了熊市情境的前提下，我們才能更好地規劃未來，建立更穩健的商業模式，並確保 AI 的發展真正造福人類。未來十年將是決定性的，不是因為奇點會到來，而是因為我們將看到 AI 如何從炒作走向實質，從實驗室走向真實世界。這個過程會充滿挑戰，但也充滿機遇。讓我們以開放的心態、批判性的思維和務實的態度，迎接這個既令人興奮又充滿不確定性的未來。