提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎

2021年10月14日15:29:08 科學 1400

來源:網絡

編輯:David、小鹹魚

【新智元導讀】2021年4月29日,福島邦彥(Kunihiko Fukushima)獲得 2021 年鮑爾科學成就獎。他為深度學習做出了傑出貢獻,其最有影響力的工作當屬「Neocognitron」卷積神經網絡架構。


近日,LSTM之父Jürgen Schmidhuber在自己的YouTube頻道上發佈視頻,對2021年的鮑爾科學成就獎得主福島邦彥(Kunihiko Fukushima)表示祝賀。


提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞


今年4月29日,福島因其對深度學習的巨大貢獻,尤其是他極具影響力的卷積神經網絡架構獲得2021年鮑爾科學成就獎。


提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞


其實,熟悉這位Jürgen Schmidhuber人都知道,他此前一直對自己在深度學習領域的早期原創性成果未能得到業界廣泛承認而耿耿於懷。


不過,這個視頻中雖然也花了不少篇幅介紹了他未獲承認的原創成果,比如ResNet、AlexNet等,但同時也對福島邦彥的獲獎表示祝賀,並介紹了他的傑出成就。


那麼,這個「鮑爾科學成就獎」有多厲害?福島邦彥又是何許人也?

美國歷史最悠久的科學獎,見證200年人類進步

說起這個「鮑爾科學成就獎」,它其實是久負盛名的研究機構「富蘭克林學會」下設立的一個獎項。


富蘭克林學會(Franklin Institute)成立於1824年的費城,是一個物理學教育與研究機構,其核心目標是促進科學和技術的發展,為公眾和科學界提供有價值的服務。


該機構以美國國父之一、物理學家本傑明·富蘭克林命名。自1826年1月起,頒發科學、工程和工業領域的傑出成就獎,是美國歷史最悠久的綜合性科學和技術獎勵計劃。


提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞


到目前為止,富蘭克林學會獎共獎勵了全球 2000 多位最具開拓性的科學家、工程師、發明家和創新者。


可以說,這個獎項的歷史,就是過去近兩個世紀以來人類發現和進步的歷史。許多徹底顛覆我們今天生活方式的偉大發明,從柴油發動機到火星探測器,從打字機到手機,從 X 射線技術到基因組編輯,其發現者都獲得過該獎。


富蘭克林學會獎的獲獎者名單就是一部人類「全明星」名錄:


提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞

1915年,托馬斯·愛迪生(前排左三)獲得富蘭克林工程獎


尼古拉·特斯拉、托馬斯·愛迪生、居里夫人夫婦、愛因斯坦、馬克斯·普朗克、亨利·福特恩里科·費米埃德溫·哈勃斯蒂芬·霍金戈登·摩爾比爾·蓋茨......


提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞


迄今為止,已有 121 位富蘭克林學會獎的獲獎者獲得了諾貝爾獎。而且,多數諾貝爾獎得主在獲諾獎之前,就已獲得過富蘭克林學會獎。


1988年,費城化學品製造商亨利·鮑爾 (Henry Bower) 向富蘭克林學會捐款750萬美元,鮑爾科學成就獎由此設立。鮑爾科學成就獎每年以不同的主題頒發,每年獎金不少於25萬美元。


該獎項每年提名的截止日期是4月底,被提名者必須是在世者。


福島邦彥:何許人也?福島邦彥(Kunihiko Fukushima)這個名字聽起來並不是如雷貫耳,但他的工作在神經網絡的發展史上絕對不可磨滅的傳奇一筆。


1979年,福島博士在STRL開發了一種用於模式識別的神經網絡模型:Neocognitron。


提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞


很陌生對吧?但這個Neocognitron用今天的話來說,叫卷積神經網絡(CNN),是深度神經網絡基本結構的最偉大發明之一,也是當前人工智能的核心技術。


什麼?卷積神經網絡不是一個叫Yann LeCun的大佬發明的嗎?怎麼又換成了福島邦彥(Kunihiko Fukushima)了?


提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞


嚴格意義上講,LeCun是第一個使用誤差反向傳播訓練卷積神經網絡(CNN)架構的人,但他並不是第一個發明這個結構的人。而福島博士引入的Neocognitron,是第一個使用卷積和下採樣的神經網絡,也是卷積神經網絡的雛形。


福島邦彥(Kunihiko Fukushima)設計的具有學習能力的人工多層神經網絡,可以模仿大腦的視覺網絡,這種「洞察力」成為現代人工智能技術的基礎。福島博士的工作帶來了一系列實際應用,從自動駕駛汽車到面部識別,從癌症檢測到洪水預測,還會有越來越多的應用。

成長經歷

福島博士小時候家境貧寒,幾乎沒有多餘的錢買玩具。一個叔叔給了福島一個多餘的變壓器和一個拆卸下來的電動機來修補。好奇心讓他對電線和電路充滿激情,他也曾用廢料製造了電動火車和收音機。


提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞


電子技術的熱愛讓他不斷追尋,在1958年,他獲得學士學位後繼續攻讀電子學,並於1966年獲得京都大學電氣工程博士學位。


從京都大學畢業後,福島加入了日本廣播公司NHK的研究部門,在那裡他對電視信號高效編碼的研究成為了他的博士論文的方向。


提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞


傳奇的故事開始於1965年,那年,NHK建立了一個名為廣播科學研究實驗室的基礎研究機構,福島在那裡加入了一個視覺和聽覺信息處理研究小組。這個小組不僅包括工程師,還包括神經生理學家和心理學家。其目的是研究生物大腦,也是電視和廣播傳播的信號的最終目的地。

「Neocognitron」的誕生

如果你看到什麼東西在動,其實那是你的大腦用一系列等級分類來最終判斷他在動。


首先,你的大腦可能會處理物體的大小,然後你的大腦會通過定義顏色和形狀等特徵來縮小識別範圍,同時將其他相關的記憶和過去的經歷聚集在一起。

提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞


正是這種分層的模式處理和我們的個人生活經歷,我們可以立即區分貓和狗。在蹣跚學步的時候,我們可能會錯誤地把狐狸叫做狗,或者把倉鼠叫做老鼠,但是我們的大腦很快就會重新學會正確的分類。


福島的計劃是建造和訓練一個人腦識別系統的電子版本。


提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞

1976年,福島博士在STRL做研究


在NHK,福島與神經生理學家和心理學家通力合作,組裝人工神經網絡。他的第一個人工網絡「Cognitron」展示了一種識別模式的能力,但它對移動、旋轉或部分模糊無能為力。


基於對神經生理學的了解,福島覺得應該需要一個更大的、具有更多層且有組織的網絡來實現高級模式識別能力。


提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞


1979年,「Neocognitron」問世了,它的靈感來自於兩種已知存在於初級視覺皮層的神經細胞,一種是簡單的「S」細胞,另一種是複雜的「C」細胞,它們按照級聯順序排列,就可以用於模式識別任務。


福島的「Neocognitron」通過堆疊多層人工「S」細胞和「C」細胞,並結合學習規則來修改細胞和這些內部隱藏層之間的相互作用。這第一個深度學習神經網絡,成功地識別了從0到9的手寫數字,而且可以適應書寫中的變化。


雖然在今天來看,手寫數字識別只是現在機器學習入門者的toy case,但如果時間回到1979年,「Neocognitron」的能力絕對是驚為天人的壯舉。

躬耕一生,榮譽等身1989年搬到大阪大學後,福島博士擴大了他對神經網絡和機器學習的研究,不僅為視覺模式識別,還模仿生物大腦的許多其他功能製作神經網絡模型。


如今,福島博士主要在東京的家中工作,為神經網絡開發新的訓練方法和架構,以更小的計算需求更魯棒地識別變形和移位的模式。雖然絕大多數人在83歲時早已退休,但福島博士在2019年11月依舊發表了他的最新論文。

提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞


福島博士一生榮譽等身,除了今年4月份的鮑爾科學成就獎,還有包括日本科學技術機構獎(1985年)、電氣與電子工程師學會神經網絡先鋒獎(2003年)、亞太神經網絡組裝傑出成就獎(2005年)、國際神經網絡學會亥姆霍茲獎(2012年)、電子、信息與通信工程師學會傑出成就獎(2017年)、日本神經網絡學會學術獎(2017年)和高柳健次郎獎(2020年)等一系列獎項。

大師風範

在最近的採訪中,福島博士被問到他的研究方法時,說道:


提出世界第一個卷積神經網絡!CNN之父福島邦彥獲鮑爾科學成就獎 - 天天要聞


「重要的是發揮你自己的創造力,而不是簡單地追准當前流行的研究。為了獲得新的想法,關注你的主題以及你自己的工作是很重要的。你必須保持專註於自己的目標,而不是讓你的研究方向漫無目的地遊盪。」


參考鏈接:

https://www.fi.edu/awards

https://www.fi.edu/laureates/kunihiko-fukushima

https://twitter.com/schmidhuberai/status/1448168005469413376?s=21

https://www.nhk.or.jp/strl/english/publica/giken_dayori/194/1.html

科學分類資訊推薦

絕密檔案揭秘:阿拉斯加「外星基地」引爆全美UFO追蹤熱潮 - 天天要聞

絕密檔案揭秘:阿拉斯加「外星基地」引爆全美UFO追蹤熱潮

位於阿拉斯加中部的海斯山,近期因一份解密的美國中情局(CIA)文件成為全球外星文明研究者的焦點。這座海拔8000英尺的雪山地處被稱為「阿拉斯加三角」的神秘區域,過去半個世紀記錄到超過2000起離奇失蹤事件與數百次不明飛行物目擊報告。隨着解密文件提及「外星基地」的存在,這座終年積雪的山峰正吸引着探險者、陰謀論者...
哥倫比亞驚現無接縫金屬球體,外星科技還是人類傑作? - 天天要聞

哥倫比亞驚現無接縫金屬球體,外星科技還是人類傑作?

2025年3月,哥倫比亞布加鎮上空出現的一顆神秘金屬球體引發全球關注。這顆表面無任何焊接痕迹的三層球體被目擊者拍攝到飛行軌跡後墜落地面,當地研究者何塞·路易斯·貝拉斯克斯認為其可能具備外星科技特徵,而科學家朱莉婭·莫斯布里奇則提出不同看法,認為需謹慎驗證其來源。這一發現再次將公眾視線引向天空中的未解之謎...
中國工程院首批院士、著名醫學家顧玉東逝世,享年87歲 - 天天要聞

中國工程院首批院士、著名醫學家顧玉東逝世,享年87歲

5月25日,復旦大學附屬華山醫院發佈訃告:著名醫學家、教育家顧玉東院士逝世,享年87歲。 中國共產黨優秀黨員,著名醫學家、教育家,中國手外科、顯微外科、肢體功能修復重建外科的奠基者和開拓者之一,中國工程院首批院士,黨的十五大代表,國家老年疾病臨床醫學研究中心(華山)主任,《中華手外科雜誌》總編輯,國家衛生...
重組膠原測不到膠原?巨子生物回應 - 天天要聞

重組膠原測不到膠原?巨子生物回應

央廣網北京5月25日消息 5月24日晚,巨子生物旗下品牌可復美在官方微博發佈《告消費者書:關於近期網傳「巨子生物可復美產品檢測未添加重組膠原蛋白成分」的嚴正聲明》(下面簡稱聲明)。聲明稱,針對所謂「巨子生物涉嫌嚴重造假」「重組膠原測不到」等不實指控,公司予以嚴正駁斥並堅決否認。公司所有產品研發生產全程嚴格...