作者_龔才春
編輯_譚婧
感知機模型可以被視為一種最簡單的前饋式人工神經網絡(是一種二元線性分類器)。
她是誰的作品?
感知機模型,Perceptron Model,又譯作感知器模型,是模擬人腦神經元工作原理的一種人工神經網絡。
感知機是人工神經網絡中的一種典型結構,她的主要特點是結構簡單,對所能解決的問題存在收斂算法,并能從數學上嚴格證明,從而對神經網絡的研究起到重要的推動作用。
1957年,羅森·布拉特(Frank Rosenblatt)在就職于康奈爾航空實驗室(Cornell Aeronautical Laboratory)時發(fā)明。
羅森·布拉特給出了相應的感知機學習算法,常用的有感知機學習、最小二乘法和梯度下降法。
譬如,感知機利用梯度下降法對損失函數進行極小化,求出可將訓練數據進行線性劃分的分離超平面,從而求得感知機模型。
感知機模型是人們用機器模擬人類智能的最早嘗試。
感知機是支持向量機和人工神經網絡的基礎,希望學習支持向量機或人工神經網絡,以及現在如日中天的深度學習模型的從業(yè)者,都需要熟練掌握感知機模型。
羅森·布拉特提出的感知機模型雖然由于人工智能先驅Marvin Minsky不看好而一度被打入“冷宮”,但近期由于深度學習的興起,感知機模型的許多缺陷在多層神經網絡中得以彌補。
這讓我們重新發(fā)現了感知機模型的魅力,感知機模型也成為許多深度學習模型的基礎。
1943年,心理學家沃倫·麥卡洛克(Warren McCulloch)和數理邏輯學家沃爾特·皮茨(Walter Pitts)在合作的A logical calculus of the ideas immanent in nervous activity論文中提出了人工神經網絡的概念,并給出了人工神經元的數學模型,從而開創(chuàng)了人工神經網絡研究的時代。
唐納德·赫布(Donald Olding Hebb)在1949年出版的《行為的組織》中,提出了其神經心理學理論。
唐納德·赫布認為神經網絡的學習過程最終是發(fā)生在神經元之間的突觸部位,突觸的聯結強度隨著突觸前后神經元的活動而變化,變化的量與兩個神經元的活性之和,成正比。之后人們相繼提出了各種各樣的學習算法。
羅森·布拉特受到這種思想的啟發(fā),認為這個簡單想法足以創(chuàng)造一個可以學會識別物體的機器。
時間線是_
1956年,羅森·布拉特創(chuàng)建了算法和硬件。
1957年,羅森·布拉特發(fā)布了算法模型。
1958年,羅森·布拉特在New York Times上發(fā)表文章Electronic “Brain” Teaches Itself,正式把算法取名為“Perceptron”。
同年,羅森·布拉特在期刊Psychological Review中發(fā)表文章The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain,這是感知機的首個科研成果。
1962年,他又出版了Principles of Neurodynamics: Perceptrons and the theory of brain mechanisms一書,向大眾深入解釋感知機的理論知識及背景假設。
羅森·布拉特預測_不久以后,感知機將能夠識別出人并叫出他們的名字,能夠立即把演講內容翻譯成另一種語言并記錄下來。他的想法成為人工智能新生領域的基石。不幸的是,羅森·布拉特的學習算法在當時對于多層結構的神經網絡不起作用。
1969年,人工智能先驅、麻省理工學院的權威人士Marvin Minsky和知名專家Seymour Papert一起,寫了一本書Perceptrons_an introduction to computational geometry。
書中仔細分析了以感知機為代表的單層神經網絡系統(tǒng)的功能及局限,證明感知機不能解決簡單的異或等線性不可分問題,扼殺了當時人們對神經網絡的研究興趣。
Minsky表示,多層神經網絡的結構并不會使感知機強大到有實用價值。人工智能學者們也因此放棄了學習式軟件的想法。他們轉而使用邏輯來產生智能_比如下棋的能力。而神經網絡則被推到了計算機科學的邊緣。
但羅森·布拉特和Minsky及Papert等人在當時都已經了解到多層神經網絡能夠解決線性不可分的問題。
由于羅森·布拉特等人沒能夠及時推廣感知機學習算法到多層神經網絡上,又由于Perceptrons_an introduction to computational geometry一書在研究領域中的巨大影響,及人們對書中論點的誤解,造成了人工神經領域發(fā)展的長年停滯,直到人們認識到多層感知機沒有單層感知機固有的缺陷及反向傳播算法在80年代的提出,才有所恢復。
1987年出版的書中校正了這些錯誤,并更名為Perceptrons_Expanded Edition。
《模型思維_簡化世界的人工智能模型》一書2021年7月上榜當當人工智能新書熱賣榜第一名。
(完)