返回
人工智能基礎設施
企業服務智能化
城市管理智能化
汽車出行智能化
個人生活智能化《財富》對話商湯CEO徐立：元宇宙、反共識與人工智能倫理
當時，商湯科技聯合創始人、CEO徐立坐在我（筆者）對面。說到興奮處，他在桌子上憑空畫了一條線。
大約在2秒鐘后，他自己開始解釋：“如果去查時代這個詞的定義，都說是以政治、經濟、文化等為依據而劃分的某個時期。但事實上，鐵器時代、蒸汽時代、電氣時代、甚至信息時代，我們所熟悉的所有時代的命名都與政治、經濟、文化無關。只跟科技有關。”
接著，他又憑空畫了一條線。“這一條線是工業發展，”他說：“科技和工業發展始終并行。但什么時候這兩條線產生交集？”
徐立提出一個概念：“工業紅線”。在人工智能誕生的60年里，AI技術很難跨越這條工業紅線，即沒有實質上提高生產效率。他的觀點是，工業發展往往是跨越式的，而那個跳躍的節點往往就是技術突破了“工業紅線”，即規模化工業使用的標準。
松禾資本創始人厲偉曾表示，商湯創立之初，AI還不是一個受人關注的領域，但短短數年，人工智能對各個行業的改變已全面鋪開。
然而，從零到一的突破從來都伴隨巨大挑戰。在可以看到的有關技術突破、商業落地等表層問題之外，對于人工智能最深層次的擔憂來自于倫理的懷疑。蘋果CEO庫克在麻省理工學院畢業典禮上說：“我不擔心人工智能像人類一樣思考問題，我擔心的是人類像計算機一樣思考問題——摒棄同情心和價值觀并且不計后果。”
一些發人深省的問題正在發生。我們是否到達了一個探討人工智能倫理的時刻？如果已經該討論這個問題，那么這些倫理的原則和基礎都是什么？徐立有一套自己的思考方法。
人工智能發展的第二個紅利，就是隨著底層AI基礎設施的不斷投入，神經網絡技術訓練通用模型的能力正在逐步突破。目前，自動化、規模化、集約化的AI模型量產正在逐步實現。
商湯在創立之初，就開始投入并訓練通用的大模型。簡單來說，通用大模型具備觸類旁通的能力，在建立通用的能力之后，在不同行業領域的細分場景中，只需依靠小樣本，就能迭代出優質的模型算法，真正突破人力密集型的投入，實現對長尾應用需求的滿足。這就像類比于人的能力，人的感知和認知能力是很通用的，對于一些新問題的理解我們只需要小數據就可以了。
機器的反共識猜想，催化AI創新新范式
《財富》（中文版）：前一段我看你參加了一個公開的活動，你說真正的顛覆式創新都不是從傳統創新范式中來，是從天才靈光一現的腦洞或思想實驗而來，你相信天才的靈光閃現是偶然還是必然？
徐立：首先人類歷史上很多顛覆性的科學創新和重大突破，都是通過人類非常偶然的發現，或是偶然的思想實驗來完成，多源于“天才的猜想”，這種完成不可預測。
那么背后的原因是什么呢？
重大創新都是反共識的，只要是反共識的就不可能規劃，所以沒法用范式來規范。人類不可能用固定的方法論去規劃一個普羅大眾沒有共識性的東西，并預測未來的發生。造成這種現象的原因，在于人類對未知世界的認知有局限性。
但在今天的人工智能時代，機器也可以進行猜想，不依賴于人類的認知，有望幫助我們更早地發現科學規律的本質，更快地探索和發現未知，這正是人工智能所帶來的創新新范式。
假設機器能夠猜想出來牛頓定律，人類會不會用這個定律？這是我們面臨的一個問題。當然人類鑒別機器有效的猜想本身就是一個很難的題目。
我讀過一本大劉（劉慈欣）的小說，很強的智能體想要了解人類寫詩這件事情。最后發現即使能夠窮盡所有的詩的可能，仍無法得知哪一首詩是好的，所以在不能完全理解的情況下鑒別機器猜想的優劣，在這個情境下也充滿挑戰。
《財富》（中文版）：我的理解這是智能與智慧的真正區別。
徐立：比如我們對于一些未來的可能性和技術突破會有很多的機器的猜想，這些猜想有一些是可以在未來極大推動技術進步的，但是有一些不行。那么究竟如何去甄別這些猜想的有效性、可靠度，會是留給未來的問題。
《財富》（中文版）：那么我們今天這個主題是探討未來人工智能的下一步，在未來可見的范圍內，你覺得人工智能的下一步是什么？
徐立：剛才也講到近年來人工智能的兩大紅利，也正是在這樣的認知下，商湯累計近百億投入，建設了人工智能算法規模化生產所必備的AI基礎設施，我們稱之為人工智能大裝置。
給它起名大裝置的原因是類比物理的粒子對撞機，寓意就是希望人工智能助力一種創新范式的轉換，通過“人工智能的粒子對撞機”，對海量數據甚至是構建的巨大解空間進行拆解和碰撞，用一定的隨機性來打破人類認知和應用的邊界。
我認為一些行業如果未知領域較多，比如針對地球科學、生命科學、制藥學、大氣科學的探究等，機器猜想或許會給我們一些意想不到的驚喜。
《財富》（中文版）：這個隨機的實驗是不是就是你剛才說的偶然性的問題？
徐立：舉一個例子，最近我們看到人工智能在蛋白質結構解析方面有很多突破。人類要完成這樣的工作可能需要很長時間，但機器就可以在很短的時間之內做到。
現在的假設是氨基酸的序列是決定蛋白質結構的唯一因素。但接下來我們還可以做很多類似于粒子對撞機的隨機撞擊實驗。比如將更多的輸入因素放入實驗，看看有沒有提升預測的準確性。而預測變得更準確時，我們又可以借助于這樣的結果來重新理解決定蛋白質結構的核心要素。這就是通過隨機的撞擊來加速科學研究了。研發的結果會加速生物制藥以及其他科學的進展。
當然，有時候相關的突破或許在當下這個時代沒有辦法解釋，可能需要等到機器猜出牛頓定律的一百年之后出現一個“牛頓”來真正解釋這背后的原因。
《財富》（中文版）：這些也是商湯科技在做的嗎？比如說你剛才說的蛋白質的組合。
徐立：商湯AI大裝置提供了一個底層的能力平臺，正如粒子對撞機。在這個擁有一定隨機性的過程中，可探索的空間非常大。對于基礎設施，特別是算力的需求，其實是指數級增長的。有數據顯示，在過去的十年之內，最好的人工智能算法對于算力需求的增長超過了100萬倍。
這和很多人的認知都相反，大家都覺得算法越精妙應該算得越少，其實并不是。算法越好反而算得越多，它其實是在驗證不同的可能性以及探究應用的邊界。
《財富》（中文版）：就是你剛才說的反共識。
徐立：對，反共識。
AI讓虛實融合，助推“元宇宙”構建
但是最近元宇宙很火爆的核心原因，其實和人工智能被大家關注的原因一樣，因為它正逐漸接近于真實的世界。
如果虛擬世界非常不真實，就像我們每天玩游戲，玩的內容和現實世界完全沒有連接，我們不會覺得它是一個宇宙。只有當它更像真實世界，當真實世界所有東西都能夠被反映和連接到元宇宙當中，并能夠因此產生交互，才會覺得它給了我們第二種可能性，從而帶來了第二、第三甚至更多的宇宙。
在這個過程當中，人工智能扮演的角色就是連接真實世界和虛擬世界，讓用戶在不同的宇宙中生活。在真實世界中每個人有自己的身份，而在虛擬世界，我們亦可以通過另外的角色完成與周圍環境的實時互動。
所以有關真正的元宇宙，我的理解是人們可以在其中對真實世界進行交互，并且也可以將虛擬世界中的種種體驗投射到現實世界中。否則它的意義只是一個游戲，或者說只是一個APP。
人工智能倫理的外部邊界與內部平衡
我們發現大部分的倫理治理框架都可以被歸類為三大類：一類就是以人為本，無論是人的公平性、身份性問題、尊嚴性問題或者是確認主權問題，數據安全問題等，都屬于以人為本的范疇；第二類叫技術可控，包含透明計算、可解釋性、技術安全的邊界等；第三點就是可持續發展，尋求綠色的、長期的發展。
我認為未來的人工智能倫理治理其實就是在這三大支柱當中求得平衡。
當然，我們一直強調的是要秉承“發展”的人工智能倫理觀。最容易滿足所有治理框架要求的，就是什么都不去突破，但這樣大家就會忘了我們最初出發目標是什么，我們的初心就是用人工智能去推動社會的發展，這是目標。以數學優化來舉例，我們的優化函數是人工智能推動社會的進步，下面有三個約束條件需要滿足。但是很多時候，如果我們只談約束條件，而忽略了優化函數的目標，那么這個優化是不成功的。
而我的理解，人工智能作為一個通用技術從量變到質變的核心要素，是其能否真正降低其生產要素的成本。如果說某項技術特別高精尖，需要非常高成本投入才能完成的話，那必然是少數人、頭部企業、頭部場景才能夠使用到這樣的技術，那么勢必帶來不平等。
人工智能技術如果要帶來普適、普惠、公平，那一定是它將我們時代的生產要素的成本成百倍下降，例如真正意義上使得原本我們獲取不到的教育資源、醫療資源等，更好、更廉價、更公平地開放給全社會。
