AI自我訓練？OpenAI研究員Jason Wei潑冷水：它的三大瓶頸你根本想不到

人工智慧（ai）能否自我完善並引發「快速起飛」？許多人擔憂，一個能夠自我改進的ai可能會在極短時間內實現智能的爆炸式增長，從而徹底改變世界

然而，openai的研究員 jason wei 對此提出了不同的看法。他認為，ai的自我完善確實是改變遊戲規則的未來，但這一過程不會是突如其來的「瞬間爆發」，而將是一個極其漸進、可能跨越十年的漫長過程。他從三個核心角度闡述了為什麼我們應該對ai的發展保持更為審慎和現實的期待

論點一：自我完善並非一個「非黑即白」的開關

首先，ai的自我完善能力不是一個可以瞬間開啟的技能

我們可以想像一個場景：gpt-5 模型去訓練下一代的 gpt-6 模型。這聽起來非常不可思議，但它會如何發生呢？gpt-5 不可能從完全無法訓練 gpt-6，突然轉變為一個極其高效的「ai訓練師」。

相反，最初由ai主導的訓練嘗試，其效率在時間和計算資源上，很可能會遠低於人類研究員。ai需要經過大量的試錯和迭代，才能逐漸學會如何比人類更有效地訓練新模型。這個過程本身就是一個學習曲線，而不是一個可以一蹴而就的奇蹟。

論點二：不同領域的自我完善難度存在巨大差異

其次，即使ai掌握了自我訓練的能力，它也不會在所有領域同時取得突破。自我完善的難度在不同領域存在著明顯的「梯度」。

• • 簡單領域： ai可能最先在那些我們已經有成熟解決方案的領域實現自我提升，例如修正一些基本的「幻覺」（即模型捏造事實）或調整語言風格。
• • 中等難度領域： 接下來可能是數學和編程。這些領域雖然更具挑戰性，但已有成熟的評估和改進方法，ai可以沿著既定路徑進行優化。
• • 極高難度領域： 而在某些極端情況下，自我完善將變得異常困難。jason wei 舉了一個例子：讓ai學會流利使用特林吉特語（tlingit）。這是一種僅有約500人使用的美洲原住民語言。由於缺乏大量的現成數據，ai很難憑空「創造」出流利的對話能力。唯一的解決辦法是收集更多數據，而這是一個需要耗費大量時間的物理過程

由於這種難度梯度的存在，ai的進步將是分階段、分領域的，而不是一場齊頭並進的革命。

論點三：科學進步的終極瓶頸是「真實世界實驗」

最後，jason wei 提出了一個或許有些爭議的觀點：科學的進步最終受限於真實世界的實驗，而非純粹的智力。

有些人可能幻想，一個超級智能體只要讀完所有生物學論文就能找到癌症的療法，或者只要掌握所有機器學習論文和數學知識就能完美地訓練出gpt-10。但現實並非如此。

在ai以及許多其他科學領域，真正推動進步的，往往是那些極度注重實證的研究者（ruthlessly empirical researchers），而不是那些理論知識最淵博的人。這恰恰反映了科學進步在多大程度上依賴於實驗結果，而非原始智力。

因此，即使一個超級智能體能夠設計出比人類頂尖研究員好上2倍甚至5倍的實驗方案，它終究還是需要等待實驗的運行和結果的反饋。這個物理世界的時間限制，決定了ai的發展即使能實現「加速」，也無法達到「快速起飛」的程度。

參考：