第432章 小心資本
在確定不是探測器的問題以後,李東又盯上了太陽模型。
太陽核心的溫度估算,依賴於光度、化學組成和輻射不透明度這一串輸入參數,每一個都經過了幾代物理學家的反覆校準。
想知道後續發展,請訪問sᴛ𝐨➎ ➎.ᴄ𝑜𝗆
如果其中有哪個參數有問題,那理論預測的流量就會跟著出問題,所以就算真的是哪個參數有問題,它真的能剛好湊出三分之二來嗎?
李東二話不說,直接開始試。
他把巴考爾最後一版標準太陽模型的誤差分析翻出來,往裡代了幾組參數,又把核心溫度上下各調了1%,算出來的流量預測值偏移量在8%以內,完全對不上三分之二這個缺口。
即便把所有不確定性全部疊加在一起,模型誤差的上限也不夠大。
所以太陽模型也沒有問題。
那這條曲線反映的不是儀器的偏差,也不是理論的錯誤的話。
那就這剩下一個問題了,中微子在途中出了問題……
不過李東抱著嚴謹的態度,又開始重新檢查。
……
大概一周以後,李東深深嘆了口氣。
他已經完全排除了這兩個方向。
剩下的只有最後一條路了……
就在這時候,他的手機響了。
電話是威滕打來的。
「李東教授,我明天就要回普林斯頓了。」
「楊先生和我一起研究的那道命題,你如果有興趣,我隨時歡迎。」
「威滕教授,我發現了一些東西,但現在還不確定。」
「等有了一些進展以後,我再和你溝通。」
電話那頭威騰教授輕咦了一聲。
「你也發現了有趣的東西?我也發現了一些有趣的東西,看來到時候咱們真的好好交流下。」
「好的,威滕教授。」
李東和威滕聊完以後,就掛了電話。
可正當他準備好好看看,中微子到底在路途中出了什麼問題的時候,電話又響了。
這一次是高穩打來的。
「李東啊今晚有場晚宴,燕大牽頭的,主要是關於未央往通用大模型走的一些事情。」
「通用大模型?」
要知道,市面上的通用大模型,底層靠的是概率擬合,輸出什麼取決於最可能的下一個詞。
而未央不一樣它的每一步推理都必須過形式化核驗器的類型檢查,靠的是可驗證的獎勵信號來修正自己。
換句話說,它是被機器判對練出來的,而不是被人類偏好餵出來的。
如果這套底層邏輯往通用場景遷移,意味著它給出的推理鏈,是可以被逐步追溯和核驗的,這在通用大模型里,幾乎是不存在的東西。
高穩那邊時不時還能聽到喇叭聲,像是在開車。
「對,因為我們知道它的優勢,所以想往通用大模型靠攏。」
「所以這次圈子裡一些廠商的人會來,學校的意思是想聽一聽他們那邊的想法,想讓你也一起過來把把關。」
「未央沒掛你的名字,但這塊核心是你的。」
「學校也希望聽聽你的意見,到時候如果覺得合適,我們商量一下和這邊有沒有合作的空間。」
「畢竟通用大模型這個東西,想要做得長久,是真的非常燒錢的。」
這話沒有半點誇張。
通用大模型的訓練成本從來不是小數字。
即便只是中等規模的一次全量訓練,光是算力租用這一項,就不是普通高校科研經費能夠輕鬆覆蓋的。
燕大自己做,算力成本、數據成本、工程人力成本加在一起,壓力其實很大。
所以學校想和外面的廠商聊聊,這件事本身沒什麼問題。
李東看了看時間,已經下午了。
他又看了看桌上的那條中微子數據曲線,第三條路還沒開始走,回來再看也一樣。
「行,我去。」
……
晚上七點半老張把黑色轎車停在了瀾灣酒店的門口。
李東下車的時候發現外面已經站了不少人。
除了北行的李總他認識以外,旁邊站的人他大多不認識,只不過他也在一些科技板塊上見過。
見李東下了車,這些人笑著迎過來,挨個和握手。
「李東教授啊!真是年輕有為呀。」
「久仰久仰,李東教授如果有空可以來我們公司參觀參觀……」
他們大多都說著恭維的話,李東現在的身份已經不是一個學生了,他是燕大和水木兩所頂尖院校的講席教授,這些人雖然可能求不到他,但是場面話又不花錢多說總是沒錯的。
李東也一一點頭後就跟著眾人進了酒店大廳。
大廳里已經有不少燕大和水木的教授。
唐傑教授在人群里看見了李東,走過來將他叫到了一個沒人的角落。
「李東教授呀,未央通用大模型的測試版你試過啦嗎?」
李東別說試過了,他連未央出了通用大模型測試版也是今天才知道的。
「我還沒有,唐教授試過了?」
「嗯試過了,能力很出色,這不用多說。」
他頓了一下,然後說:「但如果是要往通用方向走,有幾個地方,現在看來還不夠。」
李東說:「說說看?」
「我先說好的地方。」唐傑說道。
「凡是有標準答案、靠硬推理的榜單,它都強得離譜,簡直可以說是斷層領先。」
「而且,我很意外他在swe-bench上的表現也是出人預料的好,幾乎也是斷層的水平。」
swe-bench測試的不是大模型單獨寫代碼的能力,而是把模型直接扔進一個真實的開源項目里,讓它讀懂整個代碼庫,再去修一個真實存在的bug。
這玩意兒吃的是長鏈條的推理能力,一步錯,後面全錯。
通用模型在這張榜上普遍吃力。
未央能在上面取得好成績,其實並不意外,未央的底子就是一步一步可核驗的推理,它天生不愛跳步,也不愛瞎編,這習慣挪到代碼上,反而成了優勢。
「但是,」唐傑話鋒一轉,「另外那些榜,就不太好看了。」
「最明顯的是chatbot arena。」
這張榜在大模型圈子裡份量很重,它考的不是誰算得准,是真實用戶更願意跟哪個模型聊。
因此並沒有標準答案,打分的不是機器,是一個一個的活人,憑感覺投票。
全球的大廠為了在這張榜上有好名次,會專門做一道叫rlhf的工序,反覆拿真人的偏好去打磨模型,讓它學會怎麼把話說得讓人舒服。
未央在這張榜上的名次,低得幾乎可以忽略。
「它太死板了。」
「你給它一道題,它的推理無懈可擊,可你換個方式問同一件事,它就不一定能靈活地調整切入角度。」
「它的訓練信號從來不是人類喜不喜歡,是核驗器判它對不對,所以它壓根沒學過怎麼揣摩人話。」
李東在心裡想。
「唐傑教授,你說的沒錯,但那時因為我沒時間去優化這些,額……小黑沒時間,算了,反正我沒時間就是小黑沒時間!」
未央現在的通用側短板,是架構層面的一些選擇帶來的,而這些選擇本來就是為了讓它在數學符號推理上做到極致。
他當初和小黑弄未央出來,就是為了方便計算。
至於有沒有考慮把未央這套底子拿去做通用大模型,說是實話,他確實動過念頭,不過也只是一瞬間。
因為不能吸引他呀,他的最終目標其實還是像小黑這樣的人工智慧,現在的這些大模型,他和香農的態度是一樣的,什麼狗屁玩意兒。
所以李東沒有吭聲,只是點了點頭。
唐傑以為他聽進去了,於是看了看四周,確定沒人注意這邊,才繼續說道。
「李東教授,你和我們有些不一樣,作為一個過來人,給你一個建議。」
「小心資本。」
這句話說完,唐傑沒有多解釋。
但李東明白他在說什麼。
智譜最早的時候,是從學術土壤里出來的,方向是清晰,做的人也明白自己想要什麼。
後來資本進來了,好處是顯而易見——投錢、擴規模、招人、搭基礎設施,這些事情沒有錢是沒法做的。
但錢進來以後,有些事情也跟著變了。
哪個方向更容易講故事、哪個功能更容易拿來做演示、季度的財務目標和三年的技術路線怎麼平衡,這些問題開始進入一個本來只需要想技術的決策鏈條里,而且越進越深。
做出來的東西,也會開始越來越像市場需要的樣子,而不是技術本來應該去的方向。
這不是說智譜做錯了什麼,也不是資本本身的錯。
這就是一件事的兩面,你得到了錢,錢也會從你這裡得到它想要的。