張人禾：?jiǎn)未颡?dú)斗不適合大科學(xué)時(shí)代的科技創(chuàng)新
9月1日，復(fù)旦大學(xué)20年來(lái)首次舉辦戶外開學(xué)典禮。決定的依據(jù)是什么?中國(guó)科學(xué)院院士、復(fù)旦大學(xué)副校長(zhǎng)張人禾揭秘：因?yàn)?ldquo;伏羲”說(shuō)，9月1日不下雨。最后，這個(gè)氣象大模型的判斷與實(shí)際結(jié)果完全一致。
借由這個(gè)案例，張人禾提出：AI不但改變了我們的生活，也為科學(xué)研究帶來(lái)了更多可能。他表示，AI在科學(xué)研究中的地位，要從范式變革的角度來(lái)理解，傳統(tǒng)科研范式已經(jīng)歷4個(gè)演化階段，而當(dāng)下，科學(xué)智能通過(guò)多模態(tài)大模型等新技術(shù)，再次改變了基礎(chǔ)科學(xué)研究范式。
“在基礎(chǔ)研究領(lǐng)域中，許多模型都遵循數(shù)學(xué)與物理定律，科學(xué)智能可以幫助我們?nèi)ソ馕鎏剿鬟@些規(guī)律，為復(fù)雜場(chǎng)景提供研究新線索、科學(xué)新假設(shè)，從而發(fā)現(xiàn)新物質(zhì)、合成新材料，構(gòu)建新機(jī)理。”他舉例解釋，比如AI在量子力學(xué)中，可用于學(xué)習(xí)神經(jīng)波函數(shù)，進(jìn)行量子多體問(wèn)題的求解，“AI可以在假設(shè)形成、實(shí)驗(yàn)設(shè)計(jì)、數(shù)據(jù)收集和分析等過(guò)程的每個(gè)階段增強(qiáng)和加速研究，從而重塑科學(xué)發(fā)現(xiàn)。”
張人禾認(rèn)為，科學(xué)智能的發(fā)展正在從部分機(jī)構(gòu)的探索變成產(chǎn)學(xué)研各界的共識(shí)，從點(diǎn)狀突破變?yōu)橄到y(tǒng)布局，已成為AI的重點(diǎn)發(fā)展方向。國(guó)內(nèi)科學(xué)智能也相繼涌現(xiàn)出科學(xué)領(lǐng)域大模型，但仍處于起步階段。他認(rèn)為，面對(duì)AI時(shí)代的來(lái)臨，單打獨(dú)斗已不適合大科學(xué)時(shí)代的科技創(chuàng)新，要進(jìn)行有組織科研，布局建設(shè)大平臺(tái)，推動(dòng)跨學(xué)科交叉研究，激發(fā)創(chuàng)新突破，加速科技創(chuàng)新與產(chǎn)業(yè)變革的深度融合，推動(dòng)產(chǎn)業(yè)轉(zhuǎn)型升級(jí)。
圖片來(lái)自網(wǎng)絡(luò)/侵刪
何積豐：大模型就像孫悟空，需設(shè)好緊箍咒
大模型進(jìn)入大眾視野不超過(guò)一年，中國(guó)科學(xué)院院士何積豐形容是“生活在早期的黑暗叢林里，感覺(jué)到處都埋伏著風(fēng)險(xiǎn)卻又看不清”。
為何會(huì)有這種不安全的感受?何積豐指出了大模型與之前AI在安全上的本質(zhì)區(qū)別：它不僅展示出通用人工智能的能力，而且迅速深入到生產(chǎn)生活的各個(gè)場(chǎng)景中，可謂“無(wú)孔不入”，因此帶來(lái)新的安全隱私問(wèn)題，這既可能發(fā)生在訓(xùn)練過(guò)程中，也可能發(fā)生在使用過(guò)程中，還會(huì)讓使用者面臨“要么失去隱私，要么失去服務(wù)”的兩難境地。不僅如此，大模型的生成能力還讓“隱私泄露”變得多樣化，造成隱私保護(hù)更加困難。
“為了應(yīng)對(duì)這些問(wèn)題，我們需要大模型對(duì)齊技術(shù)。”何積豐說(shuō)，“對(duì)齊”是指系統(tǒng)目標(biāo)和人類價(jià)值觀一致，使其符合設(shè)計(jì)者的利益和預(yù)期，不會(huì)產(chǎn)生意外的有害后果，“如果把AI看作孫悟空，‘對(duì)齊’就是唐僧口中的緊箍咒。有了緊箍咒，就可以保證技術(shù)不會(huì)被任意使用。”
不過(guò)，對(duì)齊技術(shù)同樣面臨挑戰(zhàn)，不僅考驗(yàn)技術(shù)，也審視文化。何積豐介紹，反饋強(qiáng)化學(xué)習(xí)是實(shí)現(xiàn)對(duì)齊的技術(shù)途徑，目前有兩種方式，一種方式是通過(guò)人工反饋給大模型不同的獎(jiǎng)勵(lì)信號(hào)，從而引導(dǎo)它高質(zhì)量輸出;另一種方式是事先給大模型提供明確的原則，系統(tǒng)自動(dòng)訓(xùn)練模型對(duì)所有生成的輸出結(jié)果提供初始排序。“這意味著，不僅智能系統(tǒng)需要向人類價(jià)值觀對(duì)齊，人類的訓(xùn)練方法也要向價(jià)值觀對(duì)齊。”何積豐說(shuō)。
邁克爾·I·喬丹：AI的本質(zhì)是集體，而不是個(gè)人
“如果你問(wèn)ChatGPT，剛剛寫的內(nèi)容你確定嗎?它完全無(wú)法回答這個(gè)問(wèn)題。”一上臺(tái)，機(jī)器學(xué)習(xí)泰斗、美國(guó)“三院”院士邁克爾·I·喬丹就拋出了一個(gè)他在生成式人工智能問(wèn)題上最感興趣的點(diǎn)——“不確定性”。
“人在遇到‘不確定’的時(shí)候，非常擅長(zhǎng)溝通信息以及應(yīng)對(duì)它。但ChatGPT無(wú)法對(duì)不確定性進(jìn)行量化，所以，我們需要找到一個(gè)可能的方法去應(yīng)對(duì)這些挑戰(zhàn)。”他不認(rèn)為有一種所謂的超級(jí)電腦會(huì)替代人，應(yīng)該把技術(shù)看作是一個(gè)工具來(lái)賦能人類，建議關(guān)注集體的智能體。
“AI的本質(zhì)是集體，而不是個(gè)人。”喬丹表示，科技是一個(gè)非常好的工程系統(tǒng)，公平、公正、透明、穩(wěn)定，是這個(gè)工程系統(tǒng)的特點(diǎn)，而不是系統(tǒng)當(dāng)中個(gè)體的特點(diǎn)。也正因此，需要建立一個(gè)協(xié)作式、去中心化的系統(tǒng)來(lái)實(shí)現(xiàn)集體智能，“日常生活中經(jīng)常遇到不確定性，讓去中心化的系統(tǒng)能幫助我們更好、更有效地應(yīng)對(duì)日常世界中的不確定性，這才是我們亟待解決的問(wèn)題。”
圖片來(lái)自網(wǎng)絡(luò)/侵刪
倪以理：生成式AI將開啟數(shù)萬(wàn)億美元賽道
“下一個(gè)中國(guó)，還是中國(guó)。”麥肯錫中國(guó)區(qū)主席、全球資深董事合伙人倪以理認(rèn)為，中國(guó)市場(chǎng)蘊(yùn)藏著巨大的發(fā)展機(jī)遇，全球沒(méi)有任何市場(chǎng)能夠替代中國(guó)市場(chǎng)。
今年以來(lái)，生成式AI的技術(shù)風(fēng)暴席卷全球，倪以理特別看好這一行業(yè)，認(rèn)為它將開啟價(jià)值超過(guò)萬(wàn)億美元的賽道。不僅如此，生成式AI有望開啟一場(chǎng)關(guān)系到未來(lái)8至10年發(fā)展的新一輪技術(shù)和產(chǎn)業(yè)變革，“我們做了一個(gè)測(cè)算，生成式AI對(duì)全球經(jīng)濟(jì)的正面影響最高可達(dá)7.9萬(wàn)億美元，而AI對(duì)全球經(jīng)濟(jì)的潛在收益更將達(dá)到25萬(wàn)億美元，這是當(dāng)前所有企業(yè)最重要的賽道之一，但這個(gè)時(shí)代剛剛開始。”
“生成式AI將對(duì)所有行業(yè)產(chǎn)生重大影響。”倪以理認(rèn)為，排名前三的行業(yè)分別是高科技、零售、旅行。他舉例說(shuō)，在高科技行業(yè)，該技術(shù)每年可以額外創(chuàng)造2400億至4600億美元的價(jià)值;在零售和消費(fèi)品領(lǐng)域，每年可達(dá)2400億至3900億美元;在整個(gè)銀行業(yè)，每年可達(dá)2000億至3400億美元。他還指出，生成式AI可以大幅促進(jìn)生產(chǎn)力提升，并提供新的就業(yè)機(jī)會(huì)。
