第421章 全部失敗
美利堅，加利福尼亞州，山景城。
谷歌deepmind總部的一間實驗室里。
傑里米·安德森是deepmind前沿評估團隊的技術主管，他在這行做了快十年了。
更多精彩內容，請訪問思[兔]閱[讀]
從alphafold到gemini，他見證過太多大模型從無到有的過程。
可眼前這個東西，讓他第一次感到棘手。
未央。
燕大那個只做數學的模型。
如果只看它現在的樣子，不過是一個垂直領域的專用工具，連聊天都不會。
但安德森卻很清楚，如果未央能在數學上徹底消滅幻覺問題，那它背後的架構和範式一旦推廣到通用領域……
到那個時候，華夏在大模型這條賽道上就不是追趕的問題了，而是換了一條完全不同的跑道，而一但華夏的賽道上沒有了障礙，那懂得人都懂……
所以他接到的任務很簡單：摸清楚未央的底。
他第一步就是嘗試知識蒸餾。
構造了一批精心設計的數學問題輸入未央的公測接口，收集它的輸出，然後用這些輸入輸出對去訓練一個小模型，試圖讓小模型模仿未央的推理行為，從而反推它的內部表徵結構。
這是行內的常規手段，對絕大多數公開部署的模型都有效。
結果卻讓他大吃一驚，失敗了。
小模型訓出來了，但它學到的東西完全是一堆無意義的格式化噪聲。
蒸餾後的模型在任何一道測試題上都輸出亂碼，連最基本的算術都做不對。
後面他又嘗試了成員推斷攻擊。
通過向未央反覆輸入已知文獻中的定理和證明片段，觀察它的響應置信度變化，以此判斷這些文獻是否出現在它的訓練數據中。
結果還是失敗。
未央的響應模式完全不符合任何已知的基於統計擬合的模型特徵。
它不像是在「回憶」訓練數據，而更像是在現場推導，每一次給出的證明路徑都不完全相同，但邏輯上都嚴格成立。
最後他使用了最見不得光的對抗性探針注入。
安德森的團隊構造了一組專門用來觸發模型內部表徵泄露的提示序列，這些序列包含了精心設計的邏輯陷阱和自引用結構，在其他大模型上曾成功提取出隱藏的系統提示甚至權重分布的統計指紋。
他本來還滿懷信心，結果未央直接返回了一行標準化的錯誤提示。
「輸入格式不符合數學命題規範，請重新輸入。」
當時安德森人都傻了，這特麼是什麼大模型？？是不是有點不講道理了？
他臉色難看的坐在屏幕前。
他在這行幹了快十年，見過各種各樣的大模型——有做得好的，有做得差的，有吹牛吹上天結果一紮就破的，也有確實硬核但多試幾次總能找到縫隙的。
哪怕是華夏之前那些模型，不管對外宣傳得多麼天花亂墜，他們去蒸餾的時候也沒遇到過任何阻礙。
該拿的東西照拿，該摸的底照摸。
可這個未央，從頭到尾什麼都摸不到。
它甚至不像是一個基於統計學習的模型——它的行為模式和他見過的所有大模型都不一樣。
他沉默了很久，拿起手機撥了個號。
電話接通了。
「朗，失敗了。」
……
燕大，李東的電腦屏幕角落。
小黑頭上彈出一行字。
【主人，搞定了！而且我還摸到一點他們的核心架構信息，等我整理好以後再給你說哦。】
「真乖，小黑。」
次日。
李東接到了龔校長的電話。
「去普林斯頓的事，沒問題了。」
龔旗沒多解釋，李東也沒多問。
掛了電話，他就聯繫了彭羅斯和莎拉，三個人開始為出行做準備。
……
12月2日，新澤西州，普林斯頓。
初冬的普林斯頓沒有下雪，但還是能哈出一口白氣。
李東跟著彭羅斯，沿著奧爾登路一路走到了高等研究院的福爾德樓。
這裡是高研院數學學院的主樓，愛因斯坦當年的辦公室就在二層。
莎拉走在彭羅斯身後，手裡拿著演講稿，一路上都沒怎麼說話。
倒是彭羅斯一直在給她做心理建設，說什麼「別緊張，就當給朋友講課」之類的話。
今天的布爾甘講座，莎拉是主角。
所謂布爾甘講座，是為了紀念2018年去世的數學家讓·布爾甘而設立的。
布爾甘生前幾乎憑一己之力運營著塞勒姆獎長達幾十年，他去世後獎項停頒了三年多，直到高研院接手、由文卡特什主持才重新恢復。
自那以後，每年的塞勒姆獎得主都會受邀來高研院，做一場與獲獎工作相關的學術報告，這場報告就叫布爾甘講座。
它不是那種動輒上千人的大會，來的都是圈子裡的人。
一間能坐六七十人的報告廳，台下坐著的每一個人，放出去都是各自領域的頂尖學者。
這次出來李東注意到一件奇怪的事，他的生活老師一個都沒跟來。
從出發到落地，再到現在走進高研院的大門，全程只有他、彭羅斯和莎拉三個人。
按照以前的慣例，老張和老吳至少會有一個人跟著。
可這次別說跟了，他連一條消息都沒收到。
這讓李東心裡隱約覺得有點奇怪。
只是他不知道的是，他的生活老師不止來了，還遠不是幾個的問題。
從他踏出首都機場航站樓的那一刻起，到落地紐瓦克再坐車到普林斯頓，一路上始終有人盯著。
這些人分散在不同的航班不同的計程車里，穿著最不起眼的衣服，做著最普通的事，彼此之間甚至不交換一個眼神。
李東看不見他們，但他們一直都在。
三個人走進福爾德樓，穿過走廊，還沒走到報告廳門口，李東就在人群里看見了一張熟悉的面孔。
陶哲軒。
說起來這位澳籍華裔數學家簡直就是學術圈的勞模。
塞勒姆獎的評審委員會裡他是科學委員會主席，布爾甘講座他年年到場，幾乎沒有缺席過。
陶哲軒也看見了李東，笑著朝他走了過來。
在他身邊還有一個大約七十多歲的老人。
頭髮花白但梳得很整齊，穿著一件深灰色的西裝外套，氣度很沉穩。
「東，好久不見。」陶哲軒先和李東打了聲招呼，然後又轉向彭羅斯，語氣裡帶著點調侃，「嘿，彭羅斯教授，你還敢來呀？」
彭羅斯一臉正氣：「我的學生拿了塞勒姆獎，我這個當老師的怎麼可能不來？刀山火海我也來呀。」