到 2022 年秋天，Naked Science 環顧四周，決定是時候發布一系列關於人工智慧的文章了。我們從一篇長文開始，其副標題可能是「人工智慧歷史簡介——從中世紀僧侶到深度學習」。
人工智慧根據「夢想人工智慧之春」字樣生成的圖像
人工智慧（AI）——這兩個詞幾乎每個人都知道，但很少有人能給出明確的定義並解釋它是什麼。我們對人工智慧的理解更多地來自好萊塢電影，而不是真正理解人工智慧背後的技術。電影，就像任何藝術一樣，總是通過情感與觀眾一起工作。其中最暢銷的是恐懼。
2001 年的HAL 9000 AI計算機：太空漫遊控制了星際飛船。《終結者》中的 T-800 半機械人回到過去殺死了莎拉·康納。最近的例子——神經植入物在電影「升級」中征服了佩戴者的意識。在電影 Ex Machina 中，Gynoid Ava 輕鬆操縱受邀進行反向圖靈測試的程序員，殺死了他的創造者並逃到了野外。例子不勝枚舉。然而，現實與電影畫面相去甚遠。
人類從 80 年的搜索、錯誤和死胡同中走過了漫長的道路，每一次都以「人工智慧的冬天」告終——對這項技術的能力和潛力感到失望。但自 2010 年代初以來，世界再次經歷了人工智慧領域的「回暖」。因此，在電影院里，他們試圖嚇唬外行——大公司和主要國家的政府正在投資數十億美元用於人工智慧的發展，因為現在它正在改變一切——從科學研究到日常生活。
然而，即使是最先進的現代發展，也遠非導演和編劇的任何幻想的可能性。像往常一樣，關於未來的想法可能會在細節上重合，但絕不會在大體上重合。讓我們了解什麼是人工智慧，並簡要了解其發展史上的主要里程碑。
發明概念
美國數學家約翰·麥卡錫（John McCarthy，1927-2011 年）在 1948 年開始參加腦行為機制研討會時首次對計算機產生了興趣，其中討論了計算機是否可以開始像人類一樣思考。這個話題讓他如此著迷，以至於後來——1956 年夏天——他用洛克菲勒基金會的錢在達特茅斯學院（美國新罕布希爾州的一所私立研究型大學）組織了一個為期十周的研討會。
在撥款申請中，麥卡錫陳述了研討會的目標：
（我們的）研究將假設學習的每個方面或（人類）智能的任何其他特徵都可以被如此準確地描述（數學），以至於有可能創建一個計算設備來模擬它。（我們）將嘗試找到一種方法，讓計算機使用（自然人類）語言，形成抽象和概念，解決現在只有人類才能解決的各種問題，並提高自己。我們相信，如果精心挑選的一組科學家在夏天共同研究這些問題，那麼可以在其中一個或多個問題上取得重大進展。
麥卡錫組建的團隊確實令人印象深刻。有資訊理論的創造者克勞德·香農，人工智慧數學基礎的未來之星和框架理論的創造者馬文·明斯基，認知心理學家艾倫·紐厄爾，後來開發了邏輯理論家程序，其修改後學會了下棋並解決難題，還有很多很多其他有才華的人。
使用 Tesla Autopilot 在交通中行駛，它控制與道路上其他車輛的距離並將車輛置於車道中央。這輛車是 2017 年的 Model X 75D，內部是深色的 。
作為一名真正的科學家，約翰麥卡錫和他的同事從定義概念開始。第一個聽起來是這樣的：「人工智慧是一項旨在創造智能（智能）機器的科學和工程活動」。相信這是「人工智慧」一詞在歷史上的首次出現。後來，正如經常發生的那樣，科學學科的名稱也被轉移到其研究和設計對象的名稱上——「智能機器」本身，以物理和演算法的形式實現。
該定義的更現代版本可能聽起來不同。例如，人工智慧是計算機科學的分支之一，其任務是使用計算系統和其他人工設備提供合理的推理和行動。同時，在該行業內獲得的知識基礎上創造的技術被稱為信息技術。
嗯，簡單地說，人工智慧是一個科學技術領域，可以自動解決智力問題。如果人們藉助他們的智力解決了某個問題，那麼科學家和工程師可以創建一個人工系統來代替人來解決它。這將是人工智慧系統。
但是，任何人都可以執行許多智力任務，例如開車、下棋、在電話中討論當天的計劃等。有時可以同時完成所有這些任務。但是計算機還不能做到這一點。因此，相信我們創造的只是弱（weak）或窄（narrow）的系統，或應用（applyed）的人工智慧。
他們所有人都只能完成一項智力任務——在城市的街道上駕駛無人駕駛汽車或將國際象棋下到完美。而且即使程序打敗了國際象棋世界冠軍，它也不會開車。但人們很容易從一項任務切換到另一項任務，並且可以終生掌握新技能。
弱人工智慧系統數不勝數。事實上，幾乎所有的工程師和科學家都在從事他們的開發工作。儘管如此，該行業的主要目標是創造強大（strong）或通用（general）的人工智慧。在這裡一切都不是那麼簡單，很難制定出一個讓所有人都滿意的單一定義。這既是由於這個概念的歷史，也是由於理解人類和智力及其能力的困難。
事實上，強人工智慧的概念最早是由哲學家約翰塞爾與「中國房間」的概念一起提出的。總而言之，聽起來是這樣的：如果一個懂中文的人被放在一個封閉的房間里，然後用中文寫的問題通過一個特殊的艙口發給他，那麼他也會根據他對這個的理解用中文寫答案語。但是會發生什麼，繼續 Searle 的思想實驗，如果另一個不會中文的人被放在同一個房間里，但同時他被提供了一個詳盡的規則系統，允許他形成其他人以響應收到一些象形文字序列？
如果規則體系足夠廣泛，那麼一個不懂中文的人會在不了解問題本質的情況下給出相當有意義的答案。換句話說，他會在沒有真正掌握漢語的情況下模仿理解漢語。這就是他的「強人工智慧」概念的由來，表示一個「表現得好像它是智能的」的系統，以將它與一個「真正智能」的系統區分開來。
然而，現在對「強人工智慧」概念的原始解釋只能在哲學書籍中找到。例如，IBM給出了不同的定義：
強人工智慧，也稱為人工通用智能 (AGI)，是對特定形式的人工智慧的理論描述，具有類人智能、自我意識，以及解決廣泛的智力問題、學習和計劃的能力為未來的行動。
解釋這個定義最簡單的方法就是以蘋果公司聯合創始人提出的「咖啡測試」為例。以及該公司第一台個人電腦的創造者斯蒂芬·沃茲尼亞克。這很簡單，但對於任何系統來說仍然是無法克服的。
這張圖片是由 AI 為響應 Naked Science 編輯「製造 AI 的咖啡」
咖啡測試的本質是測試人工智慧如何與人和真實的物理環境充分交互，以及如何在沒有事先培訓的情況下成功地在新環境中導航。要做到這一點，人工智慧控制的機器人必須能夠在任何隨機抽取的廚房中找到咖啡、咖啡機或咖啡機，這是以前沒有過的，並且其計劃未載入到其系統中，並準備一個喝。
這裡有很多美食——人工智慧一無所知的各種陌生環境。目標是製作飲料。限制——實現目標的手段的存在與否。確實，有時承認一個問題無法解決，比徒勞無功地重複更能證明智慧。
有趣的是，一些俄羅斯專家表示，如果機器人和演算法不與物理環境交互，就像人類在個體發育過程中一樣，那麼就不可能創建通用 AI。隨著向現實的轉變，將出現質的突破。
許多科學家，比如馬文·明斯基，或者像埃隆·馬斯克這樣的企業家，都預測通用人工智慧將在未來幾十年內被創造出來。相反，其他人甚至現在都認為完全不可能創造它。最大的成就將是開發強人工智慧或狹義通用人工智慧（narrow AGI）的元素，即在一種問題上取得突出成果並可以解決其他問題但明顯低於人類平均能力的系統。
在第三圈
人工智慧的官方歷史通常在概念本身出現之前的 15 年開始——從 1940 年代開始。但史前史可以從遠古時代——亞歷山大的蒼鷺的自動機和安提凱瑟拉機制——一種計算天體運動的機械裝置。然而，所有這些成就都應該歸功於自動化和計算機技術發展的早期階段，而不是創造出可以替代人解決智力問題的機器。
Antikythera 機制
從 Raymond Lull (1235-1315) 的邏輯機器開始計算可能是公平的。魯爾在阿拉貢國王手下長期擔任詩人，但隨後將他的宮廷生活轉變為僧侶之路。1272 年，在一次宗教狂喜期間，他被一種神聖的幻象拜訪——一種特殊的裝置，你可以用它從有限數量的一般概念中推斷出世界的所有真理。
魯爾在論文「偉大的藝術」（Ars Magna）中描述了他的機器。實際上，它是一組同心圓，其旋轉使得獲得符號和主要概念（主要是神學）的各種組合成為可能。
最簡單的汽車變體由三個圓圈組成。第一個包含許多拉丁字母，第二個 - 概念（「力量」，「善良」，「智慧」），第三個 - 屬性（「強大」，「善良」，「明智」）。而在圓圈的中間，有一個星形的圖形，連接了圓圈的所有扇區。在其最複雜的版本中，該設備包含 14 個圓圈，並提供了天文數字的組合。
Ars Magna
魯爾的思想隨後對哲學家和數學家戈特弗里德·威廉·萊布尼茨產生了重大影響：
「在哲學中，我找到了一種方法，可以在代數和分析的幫助下實現笛卡爾和其他人在算術和幾何中所做的相同......通過組合學......可以分解為少量簡單的概念，可以說是它們的字母表，通過正確的方法，從這樣一個字母表的字母組合中，可以得到所有事物及其理論證明時間。
唉，最後，萊布尼茨未能創造出「人類思想的字母表」，並將所有哲學結論都歸結為嚴格的形式。但在嘗試發明它的過程中，他提出了著名的 0 和 1 二進位系統。現在它是任何計算設備的基礎，對數字數據和邏輯運算進行編碼。
同時，魯爾的作品也引起了俄羅斯思想家的興趣。在 17 世紀末和 18 世紀初，Ars Magna被詩人和哲學家 Andrei Belobotsky 翻譯成俄文。在彼得大帝時代之前的俄羅斯，他的兩部手稿《雷蒙德·魯爾的偉大科學》和《雷蒙德·魯爾的簡要科學》被廣泛使用。
打孔卡之父
顯然，第一台俄羅斯智能機器的發明者謝苗·科薩科夫（Semyon Korsakov，1787-1853 年）對這些書非常熟悉。科薩科夫發明並詳細描述了五種用於搜索和分類信息的類似設備。其中最簡單的是「帶有固定部件的直線內窺鏡」。它使用了一張穿孔的桌子，在桌子的柱子上移動了一塊帶有不同高度尖刺的木板。所需的列由表中孔與突出尖峰的重合確定。他提出的其他機器，稍微複雜一些，以類似的方式工作：帶有移動部件的直線內窺鏡、平面內窺鏡、ideoscope 和比較器。
Semyon Nikolaevich Korsakov 的智能機器打孔卡
在解釋內窺鏡的工作原理時，科薩科夫舉了一個醫學診斷的例子：表格的列包含疾病的癥狀，醫生根據在患者身上觀察到的癥狀設置條上的尖峰。柱子沿著柱子移動，直到碰到正確的柱子，醫生只能選擇對的葯。「該設備考慮的細節數量可能達到數百個，」Korsakov 補充道。事實上，這是世界上第一個醫生專家決策支持系統！
大約一個半世紀後，在 1980 年代，一位對我國這些科學發展的歷史和史前史非常感興趣的著名蘇聯數學家和控制論家格利·波瓦羅夫偶然發現了科薩科夫的出版物。波瓦羅夫普及了他的想法，並使科薩科夫成為國內控制論的創始人之一，並為他帶來了一項重大的世界成就——計算機科學史上第一次使用打孔卡。
早期的想法
事實上，人工智慧的正式歷史始於控制論。在最初的版本中，控制論與其說是一門科學，不如說是一門描述如何在管理從生物有機體到跨國公司的任何複雜系統中創建和處理信息的元理論。
結果，控制論迅速瓦解，為計算機科學、生物學、數學、管理學、工程學等多個領域的出現提供了沃土。至於人工智慧，歷時最長、最成功的人工智慧，雖然歷經數次危機，但在控制論的懷抱中誕生了人工神經網路的研究計劃。
從MIPT 應用人工智慧系統研究中心- PhysTech AI的專家 Mikhail Burtsev 的角度來看，設計能夠執行智能任務的智能機器有三種方法。
1. 神經網路和深度學習的訓練。基於動物和人類的單個神經元、神經網路和大腦的物理和軟體建模。
2.符號人工智慧。基於建模人的推理方式和邏輯結論。
3. 進化規劃和遺傳演算法。它們基於建模進化機制，其中演算法必須變異和生存才能獲得更好的解決方案，經歷自然選擇的嚴峻壓力。
自 1940 年代至 1950 年代以來，前兩種方法已得到積極發展。而進化方向和其他一些從 1960 年代到 1990 年代出現的方向，現在已經進入了一些陰影。
神經網路的興衰
在 1940 年代初期，兩個截然不同的人在芝加哥大學偶然相遇，並做出了一項重大發現，為未來幾十年的人工智慧發展奠定了基礎。Warren McCulloch 42 歲，是一位成功的教授，是一位商人的兒子，熱衷於尋找「psychon」——神經活動的基本單位。沃爾特·皮茨（Walter Pitts）還不到 18 歲，他是一個神童，13 歲時給伯特蘭·羅素（Bertrand Russell）寫了一封信，他是一個沒有受過正規教育的自學者，來自底特律一個貧窮、功能失調的家庭。
然而，事實證明，他們的合作非常富有成效。1943 年，他們提出了一個按照數理邏輯運行的「形式神經元」模型。
大多數活的神經細胞總是有許多小的突起——樹突（通過它們，信號從外部進入細胞）、一個身體和一個大的突起——軸突（信號通過它離開細胞）。所有這些機制都根據「全有或全無」原則工作——如果輸入的脈衝不超過某個閾值，那麼神經元根本不會給出答案，如果超過閾值，則產生最大可能的響應.
這就是人工智慧神經元想像自己的方式（響應編輯請求「神經元」）
「形式神經元」也是在嚴格固定的時間點按照「全有或全無」原則運行的閾值元素。它有有限數量的輸入和一個輸出。輸入分為興奮性 (+1)、抑制性 (–1) 和抑制性。後者可以阻止來自任何其他輸入的信號。如果在某個時刻神經元通過輸入接收到的動作的代數和達到或超過閾值（0），則在神經元的輸出處出現信號。
他們 1943 年在數學生物物理學公報上發表的文章題為「與神經活動有關的思想的邏輯演算」引起轟動，13年後在蘇聯翻譯出版，神經元建模引起了極大的興趣。俄羅斯控制論者 Viktor Varshavsky 提出了他的閾值神經元的廣義模型。Nikita Pozin 領導的一個小組在科學院控制問題研究所創建了一個神經元的電子模型。而由 Nikolai Amosov 領導的團隊不斷發展出「形式神經元」網路的想法，以在計算機內部創建一種外部世界的「內部信息模型」。不幸的是，由於缺乏外文翻譯和外部聯繫薄弱，幾乎所有這些作品都為世界科學和工程界所知。
McCulloch 和 Pitts 認為具有二進位輸入的「形式神經元」執行邏輯計算，因此大腦可以比作推理機，這對康奈爾大學的心理學家 Frank Rosenblatt 影響最大。他在一家航空實驗室工作，但同時他一生都夢想著尋找系外行星，為此他需要一個用於圖像識別和分類的自動工具。他發明了它。
在科技史上，Rosenblatt 永遠是感知器之父，感知器是現代深度學習系統的直接前身。本質上，感知器是單個 McCulloch 和 Pitts 修正神經元的神經網路。然而，這種修改非常重要——這裡增加了輸入信號與輸出塊的連接權重，或者更簡單地說，是測量神經元的每個輸入對輸出處獲得的值的影響。
權重允許感知器自己學習。它是這樣發生的：例如，我們希望感知器學會確定字母 A 並指示預期的輸出：+1 表示 A，-1 表示字母表中的任何其他字母。之後，我們將字母圖像提供給感知器的輸入。如果出現錯誤，權重會自動更正（例如，如果它在應該為 -1 時給出 +1，反之亦然）。如果答案正確，則不會對其進行任何更改。逐漸地，感知器找到所需的權重集並停止出錯，清楚地識別出字母 A。
1957 年，Rosenblatt 證明了感知器收斂定理。俄羅斯數學家弗拉基米爾·瓦普尼克（Vladimir Vapnik）也對感知器原理的推廣做出了重要貢獻，他創造了「支持向量機」，後來在機器學習中得到廣泛應用。在它的幫助下，您可以自動計算一個平面，該平面最有效地將笛卡爾空間中的兩組點（例如狗和貓的照片）分開，也就是說，它還解決了分類問題（在這種情況下是二進位）。
由「XOR 問題」的基本感知器解決。所有元素的閾值 = 0
儘管取得了所有成功，但由於當時電子和計算機技術的能力有限，感知器並未廣泛用於解決應用問題。然後他們受到了數學家 Marvin Minsky 和 Seymour Papert 的沉重打擊，他們在他們的《感知器》一書中表明，創建這種類型的多層分類器很可能是不可能的。在那一刻，他們的考慮（後來證明是錯誤的）被信仰接受了。直到 1980 年代中期，神經網路才被遺忘。
邏輯、啟發式和知識
這一切都始於編寫一個下棋程序的願望。1954 年，未來的 Dartmoor 研討會參與者 Allen Newell 和 Herbert Simon 與 John Clifford Shaw 一起開始工作。在他們的工作中，他們從多個場所著手。首先，程序必須使用從分析人們解決問題的方式中得出的經驗方法和規則。人們在思考的過程中進行認知活動。它包括對周圍世界對象的符號表示的操作。因此，物理計算系統需要配備有關世界的知識和處理它的方法。這就是符號 AI 和啟發式編程的歷史開始的地方。
心理學家立即參與了這項研究。他們研究了成功棋手的下棋風格以及人們如何解決各種問題。該團隊隨後創建了他們自己的信息處理語言( IPL )編程語言，這可能是第一個將數據表示為符號鏈接列表的語言。在其上先後編寫了三個程序：1956 年的邏輯理論家、1957 年的通用問題解決者和 1958 年的NSS國際象棋程序。
「邏輯理論家」能夠從初等數學中證明定理。變數列表保存在機器中，可以使用邏輯連接片語合成表達式 - 「AND」（連接），「OR」（析取），「IF ... THEN ...」（暗示）。接下來，給出了公理和三個推理規則：替換、替換、除法。
結果，證明被理解為一系列表達式，其中每個表達式都源自先前的表達式，並且一切都從公理和已知定理開始，並導致所需的表達式。這種方法被稱為啟發式編程，因為一方面，它用符號重新創建真實的人類動作，另一方面，它根據給定的規則切斷了許多可能的序列和表達式。
結果，「通用問題解決者」學會了應對許多難題，找到不定積分並解決代數問題。NSS下棋還算過得去。然而，要做到這一點，有必要在控制演算法中添加對目標的描述和對當前和目標情況的評估，以及它們的差異。
在蘇聯，啟發式編程也引起了科學家的注意。在探索思維的心理學家開始時，例如 Veniamin Pushkin，對他們來說，啟發式方法成為了在人類實驗中操作化和實驗研究的概念。只有這樣，稍晚一點 - 控制論和邏輯學家。俄羅斯人工智慧專家 Dmitry Pospelov 與普希金一起進行了一系列關於情境管理的研究——在特定情況下進行決策，同時考慮到許多行動選擇。好吧，邏輯學家謝爾蓋·馬斯洛夫是第一個提出在謂詞演算中自動搜索定理證明的方法的人。
國際象棋程序「Kaissa」
與此同時，國際象棋程序的開發由國際象棋史上的VI世界冠軍米哈伊爾·博特維尼克（Mikhail Botvinnik）進行。從 1950 年代後期到 1990 年，他與一群程序員一起創建了他的「先鋒」。然而，並沒有太大的成功。蘇聯科學院控制問題研究所創建的 Kaissa 計劃並非如此。1974年，她在其他國際象棋項目中獲得了世界冠軍。
LISP、PROLOGUE 和俄語 REFAL
IPL為用於 AI 系統的另一種著名語言奠定了基礎。1958 年，「人工智慧」一詞的作者約翰麥卡錫向感興趣的公眾介紹了 LISP 語言（ LISP-LISt 處理）。與所有其他專註於解決智力問題的語言一樣，LISP 旨在處理不是數字的，而是以列表形式組織的符號數據，就像可執行程序代碼本身一樣。但最重要的是，在語法層面，啟發式在其中實現，例如歸約，即將任何複雜的任務劃分為簡單的任務。表達式可以用來定義函數，而符號使用了很多括弧，這常常使代碼難以閱讀。
AI 的另一種專業語言是 PROLOG（PROLOG - PROgramming LOGic），它創建於 1972 年，是邏輯編程的巔峰之作。傳統的三段論「所有人都會死。蘇格拉底是個男人。因此，序言中的蘇格拉底是凡人」變成了「為了證明蘇格拉底是凡人，將證明蘇格拉底是人的證據作為子目標」——從語法上看，它看起來像這樣：
凡人（蘇格拉底）： - 人（蘇格拉底）
我國也開發了類似的用於創建符號 AI 系統的專用編程語言。因此，1966 年，Valentin Turchin 引入了 REFAL 語言（遞歸函數演算法）。今天，它是最古老的函數式語言。Turchin 假設它將作為一種演算法元語言來描述其他語言的語義，但實際上它對於處理符號信息並因此解決智力問題非常方便。
在符號信息上使用邏輯和操作的啟發式編程蓬勃發展了近 20 年。然而，到 1970 年代中期，所有專家都清楚地知道，演算法複雜性和啟發式演算法的改進已經達到了極限。根本性的突破不能指望。必須為演算法配備龐大的知識庫，而技術能力不允許這樣做。再加上感知器和其他神經網路的衰落，這導致了 1970 年代的第一個「人工智慧冬天」。
儘管如此，直到 2000 年代中期，啟發式演算法並沒有消亡並且得到了相當有效的發展。它們的用途仍然有限。例如，在面向工程師 的Autodesk產品中使用了相同的 LISP 語言。
神經網路的新復興
Rosenblatt 的感知器在 1960 年代初達到了極限。為了解決比檢測單個字母更複雜的問題，有必要增加神經網路中的層數。出現了一個尖銳的問題：如何訓練這樣的系統，有可能嗎？著名的馬文·明斯基（Marvin Minsky）所表達的當時科學家的普遍看法是否定的。業內人士都覺得「冬天來了」——人工智慧研究開始被認為沒有希望，資金銳減，話題不僅過時，而且在一定程度上變得邊緣化。
AI 應「神經網路的復興」編輯的要求生成的圖像
在這裡，心理學家再次來拯救人工智慧。在工程師和自然科學家中，心理學一直處於偽科學的地位，如果它在技術知識界失去了以前的地位，他們為什麼不選擇一個被拒絕的話題呢？1980 年代中期的第一個「人工智慧之春」與加州大學聖地亞哥分校的認知和數學心理學家 David Rumelhart 的名字以及反向傳播方法或梯度下降的發明有關。
這很有趣，但即使在這種情況下，如果當時蘇聯的科學能夠更多地融入國際科學，並且用英文出版，或者至少系統地翻譯國外的蘇聯作品，那麼神經網路的革命也許會十年前就開始了。今天，即使是計算機技術歷史學家也幾乎不知道 Avtandil Kvitashvili、Genrikh Otkhmezuri、Sergey Dayan 和其他在 1950 年代至 1970 年代試驗多行感知器的人的名字。
大衛 Rumelhart
控制論者 Aleksey Ivakhnenko 早在 1970 年代早期就使用參數組計算方法（實際上是最早的機器學習演算法之一）訓練了八層神經網路，儘管是基於不同類型的「形式神經元」創建的。1974 年，未來的 MIPT 教授 Alexander Galushkin 發表了專著《多層模式識別系統的合成》，其中他描述了由以開環網路形式組織的線性閾值元素組成的識別系統。在他的工作中，Galushkin 將學習多層網路和具有循環連接的網路的問題重新表述為梯度下降問題。
然而，可惜的是，只有在David Rumelhart、Jeffrey Hinton 和 Ron Williams的《通過反向傳播錯誤學習表徵》一文發表在Nature of 它描述了多層神經網路和一種新的訓練方法。
例如，我們有一個由三層神經元組成的神經網路：五個在輸入層，三個在隱藏層，一個在輸出層。我們記得，神經元和這些連接的權重之間存在連接。如果網路中有多個層，則將權重構建為值向量或梯度。
與感知器的情況一樣，教師設置輸出值。如果作為一個訓練時期的結果獲得的輸出值與給定的不匹配，則使用差值來更新輸出神經元連接中的權重。然後隱藏神經元和輸入神經元中連接的權重會根據誤差的反向傳播以及每個權重如何影響該誤差而改變。
從本質上講，Rumelhart 和他的同事想出了如何計算網路中每個權重的梯度，從已知誤差的輸出層到輸入層，逐層計算。因此，現在可以訓練神經網路來解決複雜問題並在大量數據上進行訓練。真正的深度學習已經出現。
1980 年代催生了新一輪的樂觀主義浪潮。但那個時代的突破性發現為大多數現代人工智慧模型奠定了基礎，但最終並沒有給出所有人都希望的結果。造成這種結果的原因有兩個：缺乏有效學習的數據和計算能力弱。模型訓練太慢，訓練了很長時間，最終還是沒有解決任務。
到 2000 年，炒作完全平息。第二個「人工智慧的冬天」來了，直到 2010 年代才結束，適用於高性能並行計算的強大圖形處理器 ( GPU ) 的出現，以及對像ImageNet資料庫這樣擁有 1500 萬張圖像的大型數據集的訪問分為 22000 個類別。
此外，在「平靜的歲月」中，出現了許多神經網路設計的新方法：卷積神經網路 (Jan Lekun)、具有長短期記憶的網路 (Sep Hochreiter、Jurgen Schmidhuber)、生成對抗網路、自動編碼器，以及許多其他人。從在線影院的推薦網路和智能手機攝像頭的面部識別，到家禽養殖場和醫院的手術室，都取得了巨大的突破，因此目前很難找到不使用人工智慧的地方。
人工智慧的強大力量
世界人工智慧領域有兩個領導者——美國和中國。這些權力在有關人工智慧的科學出版物數量、專利數量、初創企業、創建的模型和技術方面處於領先地位。在「世界人工智慧成為第二電力」的情況下，俄羅斯無權讓競爭國家在新技術競賽中走得更遠。事實上，現在的情況重複了 1940 年代至 1950 年代和 1950 年代至 1960 年代，當時蘇聯和美國首先在核競賽中競爭，然後在太空競賽中競爭。當俄羅斯受到世界歷史上前所未有的制裁枷鎖時，擁有自己的人工智慧技術的問題變得尤為尖銳。
為應對時代的挑戰，俄羅斯政府制定了該國人工智慧發展的國家戰略。俄羅斯聯邦政府下屬的國家人工智慧發展中心成立。聯邦項目「人工智慧」正在積極實施，其中一項活動是在領先的科學和教育組織（MIPT、NRU HSE、Skoltech、ITMO）的基礎上，在俄羅斯領先的大學和研究所建立六個研究中心大學，Innopolis，以 V. .P. Ivannikov RAS 命名的系統編程研究所）。
OPENAI DALL-E 人工智慧為「無盡伺服器」生成的圖像
俄羅斯最大的公司也不甘落後，包括 Yandex、Sberbank、MTS、VK等技術領先企業。因此，Sber 團隊基於變壓器的架構訓練了大型生成模型ruGPT-3和ruDALL-E 。例如，後者允許您根據俄語描述生成圖像。在研究過程中，Sber 還創建了自己的基準來評估多模態演算法解決各種問題的質量。Yandex 除了將人工智慧技術應用到搜索中外，最近還向公眾發布了最大的YaLM 100B（Yet another Language Model）語言模型，並且已經對自己的無人駕駛車輛進行了幾年的測試。
公司與大學的互動，例如MIPT 應用人工智慧系統研究中心與許多工業合作夥伴和初創企業，允許您創建無人駕駛車輛（汽車和空中）、自主和語音控制機器人與元素強大的人工智慧，還配備了先進的計算機視覺系統。這種不同技術的組合使機器人能夠在各種環境中執行複雜的任務，包括不熟悉的環境。
俄羅斯具有成為第三世界人工智慧強國的巨大潛力。只有一個限制——該行業的合格人才嚴重短缺。國家和公司準備免費教育年輕人，包括想進入STEM領域的女孩，以及準備改變自己的活動領域，不僅進入IT，而且進入最先進的信息技術領域的每個人——人工智慧系統。
