第101章 還缺失一點東西！（5k）
第101章 還缺失一點東西！（5k）
計算機視覺界，存在著一個所有人默認的黃金律條，那就是特徵提取器本身必須具備嚴格的幾何不變性。
更多內容請訪問ѕᴛo𝟝𝟝.ᴄoм
為了讓算法在面對圖像中的物體位移、旋轉和縮放時保持穩定，傳統的計算機視覺學派可以說是無所不用其極。
他們用的都是差分高斯、梯度方向直方圖等複雜的數學算子，試圖在像素進入分類器之前，就將這些空間變量歸一化。
他們以為，這是唯一能讓計算機看懂世界的路。
可現在，講台上的那個華國青年，告訴他們不用那麼麻煩。
他們其實用不上那些華而不實的數學算子。
只需要對數據源進行隨機採樣，然後在輸出端，用最基礎的方法，就能直接在統計層面上把所有的不確定性抹掉。
好心塞哦。
不過很快在場計算機人又高興了起來。
他們心塞鬱悶，是因為自己過去賴以生存的研究方向，很有可能馬上就會被淘汰了，高興的是，他們終於不用再受那份非人的折磨了！
「等一下————如果QInet這套模型真的可行，那豈不是意味著，我再也不用在凌晨三點，為了讓特徵算子能多識別出貓鬍鬚，去在成千上萬行代碼里調那些該死的超參數了？」
「沒錯，我的兄弟！」
「不僅如此！你想想看，我們之前那個卡在準確率只有51%的課題，如果我們明天就用漆昊這套方法，我們的準確率會飆到多少？！」
「起碼75%吧！」
「先別高興太早，一切都要等復現了再說！」
對於這群常年泡在實驗室里的計算機人來說，傳統計算機視覺的研究早就進入了絕望0
SIFT、HOG、FishrVector·.這些經典算法的潛力已經被壓榨到了極限，大家為了在頂會上發一篇論文，不得不像個中世紀的鍊金術士一樣，用各種技巧把無數個創新點強行拼接在一起，只為了換取區區0.5%的微弱提升，以此來發一篇論文。
有時候他們也都認可了外界的說法，認為深度學習這個領域已經沒救了。
現場坐著的計算機人中，有些已經準備好拿個獎後，就離開這個折磨人，沒有前途的領域。
但就在剛才，漆昊向他們證明了深層卷積網絡的可行性！
漆昊用實際數據告訴他們，深度學習領域其實潛力巨大！
縱然這一切還沒有被完全驗證，但是，漆昊給了他們一個希望！
他們願意相信漆昊，不僅僅是因為QInet的訓練結果，還有一部分原因是，漆昊在數學界的成果，讓他說的話，有了一定的可信度。
再說直白點，那就是換一個無名之輩來，講同一套東西，現在他們估計都沒那麼大反應，也不會接受立刻接受卷積神經網絡會重新回來的可能性。
主會場內，驚嘆聲和密集的辯論聲幾乎要將天花板掀開。
而就在這片熱鬧中，坐在前排評委席的李教授，衣口袋裡的手機忽然響了。
她看了一眼來電顯示，神色微微一斂，隨即穿過激動的人群，快步走到了會場外相對安靜的露天連廊上。
按下接聽鍵，話筒里立刻傳來了她博士生導師，加州理工學院計算機視覺皮特羅的聲音：「李，你怎麼跑到巴塞隆納去主持那個什麼ImageNet挑戰賽了？」
「我之前就提醒過你，不要在那種繁瑣機械的圖像分類比賽上浪費太多精力，學術界的核心在於探尋最本質的科學規律，而不是去當一個整理上百萬張圖片的高級數據圖書管理員，這在學術委員會那裡可拿不到什麼加分。」
聽著導師嘮叨，李教授並沒有生氣，只是無奈地笑了笑。
其實之前整個計算機視覺界對於她頂著巨大壓力搞出來的ImageNet資料庫，大多持冷眼旁觀的態度。
在那些篤信算法勝過一切的傳統學術大佬眼裡，靠堆積海量數據來做圖像識別，簡直就是小孩過家家。
「皮特羅，ImageNet目前已經————」
「好了，先不說這個。」皮特羅直接打斷了她的話，語氣稍微放緩了一些，「我打電話來是想告訴你一個新動向。」
「多倫多大學的辛頓來找到了我，聲稱他的實驗室找到了一種能夠有效訓練深層神經網絡的方法，他聽說了你的ImageNet項目，希望能獲得授權，用你手裡的那些海量圖片來測試他們的模型。」
辛頓？
是那個堅持了多年的聯結主義和神經網絡，在主流學術界眼裡的過氣學者辛頓？
「辛頓要使用ImageNet？」李教授追問道，「他是想用什麼模型來跑？」
「還能是什麼？他那個萬年不變的執念卷積神經網絡唄。」
「也不知道那東西有什麼魔力，讓他如此著迷。」
「不管如何，我們該幫他，還是要幫，你那個數據集就讓他們去折騰吧，不過，你也別抱太大希望，神經網絡在特徵提取上的天然缺陷，是不可能靠堆疊層數來解決的。」
聽著導師滔滔不絕的技術批判，李教授轉過身，隔著連廊潔淨的落地玻璃窗，望向了會場內。
台上，那個叫作漆昊的華國青年正單手插兜，神色從容地回答著眾人的提問。
李教授突然壓抑不住自己的自豪感。
她終於可以對那些嘲諷她只是在造垃圾場的人，給予回擊了。
而這個底氣，來自於台上的那個華國青年！
「皮特羅教授，我想，多倫多大學那邊可能不用急著開始做實驗了。」
「嗯？為什麼？」皮特羅在電話那頭愣了一下。
「因為，就在十多分鐘前，在IcCV的ImageNet挑戰賽現場，已經有人用卷積神經網絡，取得了有史以來最好的成績。」
「你說什麼？」
「卷積神經網絡取得最好的成績？李，今天可不是愚人節。」
「有一個華國的年輕學者，他叫漆昊，他帶來了一套名為QInet的深層卷積神經網絡模型，他們的模型跑出了的結果，錯誤率只有15%。」
「而第二名，施樂歐洲研究中心XRCE的結果，錯誤率是26%。」
皮特羅握著聽筒不出聲了。
施樂歐洲研究中心XRCE的實力他是清楚的，錯誤率在26%可以說是在意料之內的事。
這已經算是近幾年來最好的成績了。
但那個QInet是什麼情況？
15%？
在追求0.5%提升都得脫層皮的計算機視覺界，11%的斷層式差距他們一般都會默認是個錯誤的存在。
畢竟這也太離譜了，就跟出BUG的程序居然自顧自跑起來一樣離譜。
「這不科學！是不是評測伺服器的評測腳本出BUG了？還是他們作弊把測試集放進了訓練集裡？！這不合邏輯，CNN連圖像基礎的旋轉和平移不變性都無法在算子層面保證，怎麼可能跑出這種成績？！」
「沒有BUG，我們其實驗證了多次，結果沒有問題。」
「皮特羅，時代變了，他沒有在算子層面做任何複雜的幾何歸一化，他只是對數據進行了隨機裁剪和鏡像翻轉，然後在GPU上，用算力，強行讓網絡自己學會了空間不變性，事實證明，在足夠龐大的數據和深層網絡面前，我們過去引以為傲的方式，不值得一提」」
。
「15%，15%————」皮特羅喃喃自語，還沒等他回過神來，李教授便禮貌地說了句「現場頒獎要開始了」，便掛斷了電話。
聽著話筒里傳來的嘟嘟盲音，皮特羅放下了手。
此時，在他的辦公室里，正坐著另外兩個人。
一位是頭髮花白辛頓，而在辛頓身旁，則是他的得意門生亞歷克斯。
兩人原本正興致勃勃地看著手裡的幾頁草稿，那是他們設計出來，準備在英偉達GTX
顯卡上嘗試運行的深度卷積網絡設計初稿，他們今天特意來找皮特羅，就是為了商討借用ImageNet的數據集的事。
看著打完電話後出神的皮特羅，辛頓疑惑道：「皮特羅？怎麼了？是李那邊不同意授權嗎？沒關係，如果她有顧慮，我可以親自去跟她解釋，這個實驗對神經網絡的未來至關重要————」
「不，辛頓，李沒有不同意，而是————你們好像不用再做這個實驗了。」
亞歷克斯愣了一下，著急地說道：「教授，我們的代碼已經基本調通了，只要能拿到ImageNet的數據，我們有信心將分類錯誤率降低到23%甚至更低！這會是神經網絡史無前例的突破！」
」23%？」
「亞歷克斯，把你的草稿收起來吧，剛剛從巴塞隆納IcCV現場傳來的消息，ImageNet
挑戰賽的結果已經出來了。」
辛頓眉頭一皺，心中升起一股不祥的預感：「今年是誰拿了第一？還是XRCE嗎？他們的錯誤率是多少？」
「第一名是QInet的模型，他的開發者來自於華國，叫漆昊。」
「QInet也是一個卷積神經網絡，它的錯誤率是在15%，超過第二名11%。」
亞歷克斯瞪大了眼睛，甚至懷疑自己的耳朵出了問題：「15%？！我們現在的理論模型極限預測也才20%左右，他們怎麼可能做到15%？！」
而坐在一旁的辛頓，腦子突然一片空白。
這位在深層神經網絡的泥潭裡苦苦掙扎了數十年，被主流學術界冷落，嘲諷甚至一度拉不到研究經費的教授，此時迷茫了起來。
他原以為，自己和亞歷克斯正在進行的這項基於GPU加速的CNN研究，將會是他們實驗室可以在明年驚艷全世界的耀眼成果。
可他萬萬沒有想到，他們的成果還沒出來，就已經有人拿出了比他們更好的模型出來！
「QInet，漆昊————」辛頓乾癟的嘴反覆念叨著這兩個名字。
「成功了，竟然真的成功了！哈哈哈哈！」辛頓突然毫無預兆地大笑起來，他站起身來，像個小孩子一樣在辦公室里興奮踱步。
又瘋了一個？
「辛頓，你沒事吧？」皮特羅有些擔憂地看著他，「你的研究被人搶先了，而且差距拉得這麼大————」
「不，你不懂，皮特羅！」
辛頓回答：「我高興不是因為別的，而是因為這個華國青年用無可辯駁的事實，向全世界證明了，我是對的！神經網絡不是垃圾！它才是通往真正人工智慧的唯一道路！」
「我們都被困住太久了！」
「自上世紀八十年代反向傳播算法被冷落以來，學術界就陷入了對傳統統計學習和支持向量機的迷信中。」
「他們嘲笑神經網絡無用，認為它絕無可能解決複雜的認知問題，而QInet的出現，將會打破這些偏見，這不單單是漆昊團隊的成功，更是聯結主義學派在沉寂了數十年後的復興。」
「看著吧，皮特羅，計算資源的瓶頸終將被打破，算法的範式已經改變，從今往後，那些曾經唱衰神經網絡的人，都不得不重新審視神經網絡這個領域。」
他快步走到亞歷克斯身邊，一把按住學生的肩膀，說道：「亞歷克斯！快！立刻就去查這個漆昊的聯繫方式，哪怕是發郵件，打電話，我們也必須立刻聯繫上他！」
「我們要去質疑他的數據嗎，導師？」亞歷克斯有些興奮。
「不！我們要去向他請教！」
亞歷克斯：？
辛頓的眼神里沒有絲毫的嫉妒，只有對先進技術的渴望：「他既然能跑出15%的成績，說明他在底層算子的設計、網絡深度的控制，甚至是GPU矩陣乘法優化上，絕對掌握了我們還未曾發現的秘密！」
「時代已經變了，亞歷克斯，如果我們不立刻跟上他的步伐，我們就會被這個新時代拋棄！」
此時此刻，辛頓那份原本準備用來震驚世界的草稿，在QInet面前，顯得是那樣的微不足道。
巴塞隆納，國際會議中心。
「先生們，女士們！今晚註定是一個將被寫入計算機科學教科書的偉大時刻！」
「現在，讓我們用最熱烈的掌聲，有請本次ImageNet挑戰賽的無可爭議的冠軍，來自華國的漆昊團隊，上台領獎！」
在聚光燈的追蹤下，漆昊走到了舞台中央，攝像機鏡頭對準了他。
「恭喜你，漆昊，你是當之無愧的第一名。」李教授將獎金支票遞到他手中，「這是ICCV為你準備的兩萬美元獎金，以及我們合作夥伴英偉達贊助的最新一代頂級旗艦GPU。
「6
漆昊接過道了謝。
沒想到，他這次出門，沒怎麼花錢不說，還倒賺了兩萬美金回去。
「漆昊，今晚過後，計算機視覺，和深度學習領域的格局都會被你改變，不僅是我們這些搞學術的要受到你這套QInet模型的影響，我想，連那些矽谷的晶片巨頭們，也該重新審視他們的戰略了。」
「如果你後續的研究還需要更多的硬體算力，我可以親自幫你去聯繫英偉達的那位黃總，我會告訴他，這對於他們來說，也是一次重要的機會，我相信他們會願意免費向你提供GPU的。」
免費啊。
那不要白不要了。
更何況，如果由李教授這位ImageNet的創始人去推動英偉達的黃總，這位精明的商人絕對能在提前意識到QInet對於GPU市場意味著什麼，到時候，自己不僅能獲得源源不斷的免費硬體支持，深度學習領域也能快速發展起來。
接著漆昊與李教授握手合影。
合影留念結束後，主持人開始引導台下的觀眾起立鼓掌，準備進入下一個環節。
漆昊與李教授順著台階退到舞台一側的休息區，由於晚宴和自由交流時間還沒正式開始，這一角暫時成了難得的清靜之地。
「漆昊，再次祝賀你。」李教授端起一杯蘇打水，遞給漆昊一杯，微笑著說道，「今晚過後，全行業的目光都會盯在QInet上。」
「作為這個奇蹟的創造者，你接下來有什麼具體的打算？是準備把這套架構開源，還是已經有了下一步的研究計劃？比如探索更具挑戰性的視頻生成，或者是多模態的融合？」
「謝謝李教授，其實，我可能要讓您失望了。」
「回國之後，我打算暫時把深度學習和圖像識別的工作放一放，想重新回歸數學。」
「回歸數學？」李教授眼中流露出詫異。
「漆昊，這可太可惜了！你可能還沒意識到你現在站在一個多麼關鍵的歷史節點上。」
「QInet拉開了深度學習新時代的大門，無論是學術界還是工業界，現在都渴望你接下來的動作，如果你順著這條路走下去，你完全可以建立一個屬於你自己的研究帝國，而純數學那可能是很多年都看不到任何應用成果的路。」
「我明白您的意思，李教授。」
「但我總覺得，現在的深度學習，還缺失一點東西。
李教授微微挑了挑眉，順著他的話問道：「缺失什麼？」
「損失函數的優化路徑，其實是在尋找一個流形上的一個極小狀態，這個過程，非常類似於某種共形變換下的面積極小化過程，也就是通過參數的調整，讓數據流動的路徑面積達到最小，同時保持特徵的某種幾何不變量————」
漆昊自顧自地解釋著，然而，當他親口說出共形變換群，極小化狀態以及嚴格證明的下界這幾個詞彙時，他腦中冒出了一些東西。
這些東西，他不知道最終導向什麼地方，但就是這麼突然冒出了出來。
關鍵這玩意沒前沒後的，就跟證明題跳了步驟一樣。
唉，學霸的靈感真是擋也擋不住。
漆昊看向了一旁的白板，繼承了老蘇數學家的優良傳統，他寫下了一行極簡的式子————