CloseAI提示您:看後求收藏(第89章 理論和應用,重生之AI教父,CloseAI,試讀吧),接著再看更方便。
請關閉瀏覽器的閱讀/暢讀/小說模式並且關閉廣告遮蔽過濾功能,避免出現內容無法顯示或者段落錯亂。
AI技術是比較少見的應用遠大於理論的學科,但並非是沒有理論。
孟繁岐目前為止產出的所有技術,其論文當中還是有這許多理論方面的論證和推衍的。
不過這部分內容大都源自於與付院長的討論,屬於是錦上添花,並非是孟繁岐的本意。
之所以會新增這些數理推衍,主要是因為早期的AI屆仍舊相當看重這方面的論證。
這也是為什麼那幾個老學究聽到韓辭內容的時候眼裡放光,口中讚歎不絕。
而在聽孟繁岐實驗上的世界級突破時雖然讚歎,卻沒有這種由衷的興奮。
對於醉心於理論的人來說,搞懂這個現象的理論原因到底是什麼,遠比做出影響世界的技術應用更加重要,也更加有吸引力。
也正是這種好奇心和對真理的探索,造就了人類一次次文明與技術的突破。
只是很遺憾的,在AI這條道路上,偏理論的方向註定會坎坷異常。
至少直至2023-2024年左右,仍舊沒有什麼像樣的突破。
而孟繁岐在今後的論文當中,涉及理論的部分也只會越來越少,會更加註重工業應用方面的難點和內容。
“她是誰?你的同學嗎?”辛頓聽了韓辭對孟繁岐殘差思想的解釋之後,覺得思路一下子開啟了不少。
如果從動力系統視角構建等價性,那數學和物理界的很多概念都可以引入進來,事情就大有可為了。
“她是燕京大學的,現在已經讀了研究生了。”孟繁岐言下之意是,韓辭已經有導師了。
“她應該是搞應用數學的吧。”李飛飛可不像辛頓一樣,恪守禮節。
在她看來,只要牆腳挖的好,沒有學生找不到,“她導師是誰?”
“鄂維南院士。”孟繁岐突然想到,李飛飛本科是普林斯頓的,搞不好和鄂維南有點交集。
鄂維南上世紀末開始在普林斯頓教過應用數學和計算數學,那段時間差不多正好是李飛飛在讀本科的時候。
“行,我去想想辦法,把她拐到這邊來交流幾年。”李飛飛嘿嘿一笑。雖然當年與鄂維南不熟,但怎麼也算是聽過對方課的,也算是半個學生。
在她看來,韓辭在AI數學和最佳化問題方面大有可為。
純數學只要不解決大難題,終究是難出成果的,而搭上AI現在飛速發展的順風車,則前途一片光明。
比如韓辭現在在講述的殘差思想,在數學和物理界都算不上什麼高深的東西。
可結合孟繁岐的應用成果來展示,則大大的加分,意義非凡。
不同領域的交叉地帶,一向是出成果的捷徑。
臺上,韓辭的講述仍在繼續。
“我們假設一個簡單的高維積分問題,計算一個可以表示為期望的積分I(g),先透過有限求和Im(g)來逼近。
若改用蒙特卡洛辦法,從特定的獨立同分布的抽樣樣本中選擇N個樣本,則有恆等式E(I(g)-Im(g))^2=var(g)/N,var(g)=Eg^2-(Eg)^2)
這告訴我們收斂速度與維度無關。”
“若我們先用傳統傅立葉變換,再用均勻的離散傅立葉變換來逼近。其誤差則~m^-a/d,必然被維度所影響。
可,若一個函式可以表示成期望的形式,而令所有樣本為獨立同分布樣本,則有擬合差值為var(f)/m,與維度無關。
若將兩層神經網路寫作該形式,則意味著,這一類期望函式均可由兩層神經網路逼近,且其逼近速度與維度無關。”
“讓我們轉向離散動力系統的視角,舉一個隨機控制問題。
動力模型Zl+1=Zl+g1(z1,a1)+n,其中z為狀態,a為控制訊號,n為噪聲。若我們想尋找一個反饋控制訊號函式,而透過求解動態規劃貝爾曼方程,則必然會遭遇維度災難問題。
該過程的性質,其實與殘差網路等同。
..................”
“最後,我總結。深度學習根本上是高維中的數學問題。神經網路是高維函式逼近的有效手段,而殘差網路則是更加容易最佳化的高維函式。
這意味著:數學處於科技創新的真正前沿,並且對新領域產生直接衝擊。同時也為人工智慧領域、科學以及技術領域提供了眾多新的可能性。”
韓辭總共講述的時間大約是孟繁岐的兩倍,講述完成之後,更是被幾位老學究抓著反覆提問,討論。
半晌,主持人才找到機會重新登臺,把孟繁岐又請了上去。
主持人看上去年紀不大,大約三十歲左右,估計是斯坦福的在讀博士生或者剛畢業的講師。
為人相當活躍,看熱鬧的不嫌事大,他將孟繁岐重新請上來之後,還開了一句玩笑。
“這次演講本來是你的舞臺,現在卻被韓辭小姐搶去了不少風頭和關注,不知道你作何感受?”
孟繁岐笑著接過話筒,等臺下的笑聲稍稍平息一些過後,十分大方地回答道,“我們專注應用方面的人,依靠得是程式碼說話。雖然我今天絲毫沒有提到技術的實現和細節,但我想看了我程式碼的大家,都已經感受到了我的萬語千言。”
臺下的不少程式設計師聞言馬上開始起鬨,口哨聲和呼聲此起彼伏。
“我的夢想是自己的技術可以廣泛地應用到世界各地,讓AI智慧就如空氣一般,每個人都無法缺少,但在生活當中卻又很少會注意到它們的存在。
至於AI的理論研究和探索,可能就要拜託韓辭和大家了。”
這一番話還算是謙遜得體,意料之中地迎來全場的掌聲。
臺下諸人又再分別向兩人問了一些問題之後,會議的主要流程也算是走完。
除了公開詢問的問題,不少人也有很多私下裡才方便的問的事情要詢問兩人。
於是乎,在場的不少人就自然而然地分成了應用與理論兩個派別。
一派以科技巨頭,例如傑夫為首,圍在孟繁岐周邊討論他出色成果的應用場景,市場潛力還有落地難點。
而另一派則以牛津大學的幾位老學究為首,一群理論派,表情嚴肅,正在嚴謹地討論一些設想和它們的理論證明。
以會場中心的走廊為分界線,一群人在左,一群人在右。
倒是一幅意外有趣的畫面。
本章未完,點選下一頁繼續閱讀。