立即打開
對話商湯徐立:元宇宙、反共識與人工智能倫理

對話商湯徐立:元宇宙、反共識與人工智能倫理

楊安琪 2021年08月24日
“重大創新都是反共識的”。

三年前的一幕讓人印象深刻。

當時,商湯科技聯合創始人、CEO徐立坐在我對面。說到興奮處,他在桌子上憑空畫了一條線。“你瞧,這一條線是科技的發展。”然后他立刻反問:“我們如何去定義一個時代?”

大約在2秒鐘后,他自己開始解釋:“如果去查時代這個詞的定義,都說是以政治、經濟、文化等為依據而劃分的某個時期。但事實上,鐵器時代、蒸汽時代、電氣時代、甚至信息時代,我們所熟悉的所有時代的命名都與政治、經濟、文化無關。只跟科技有關。”

接著,他又憑空畫了一條線。“這一條線是工業發展。”他說:“科技和工業發展始終并行。但什么時候這兩條線產生交集?”

徐立提出一個概念:“工業紅線”。在人工智能誕生的60年里,AI技術很難跨越這條工業紅線,即沒有實質上提高生產效率。他的觀點是,工業發展往往是跨越式的,而那個跳躍的節點往往就是技術突破了“工業紅線”,即規模化工業使用的標準。

三年過后,商湯繼續在人工智能的道路上高歌猛進。在剛過去的2021世界人工智能大會上,商湯推出了可以奔向“元宇宙”,實現虛實結合全新交互體驗的基礎設施SenseCore商湯AI大裝置;商湯車載業務亦在5年多的行業全棧能力積累上,推出智能汽車解決方案的獨立新品牌SenseAuto絕影。

松禾資本創始人厲偉曾表示,商湯創立之初,AI還不是一個受人關注的領域,但短短數年,人工智能對各個行業的改變已全面鋪開。

然而,從零到一的突破從來都伴隨巨大挑戰。在可以看到的有關技術突破、商業落地等表層問題之外,對于人工智能最深層次的擔憂來自于倫理的懷疑。蘋果CEO庫克在麻省理工學院畢業典禮上說:“我不擔心人工智能像人類一樣思考問題,我擔心的是人類像計算機一樣思考問題——摒棄同情心和價值觀并且不計后果。”

一些發人深省的問題正在發生。我們是否到達了一個探討人工智能倫理的時刻?如果已經該討論這個問題,那么這些倫理的原則和基礎都是什么?徐立有一套自己的思考方法。

7月29日,徐立參加《財富》中國40U40創想會。圖片來源:財富中文網

《財富》(中文版):三年之前有一次交流,當時你說人工智能超過了一條工業紅線就將迎來爆發式的增長。你覺得現在人工智能超越了那條工業紅線嗎?

徐立:我們其實獲益于兩波人工智能發展的紅利。第一波就是你剛才提到的,五年前技術突破第一次證明了AI能夠在一些領域超過“工業紅線”,通常可以認為是超越了人的準確率。但彼時我們也面臨另外一個困境,就是當技術逐步深入行業,會發現人工智能本身生產的成本非常高。

舉一個簡單的例子,如果我們把“下圍棋”假設為一個生產過程。我們可以認為阿爾法狗(AlphaGo)超越了工業紅線,即人的水平。但如果投入阿爾法狗的目的僅是讓他以下棋為主業,那它的投入可能要比中國現役近三百名職業棋手投入總和都高。所以第一波紅利通常帶來的只是在某些特定行業率先采用了AI技術。大規模的應用還有賴于降低AI本身的生產成本。

人工智能發展的第二個紅利,就是隨著底層AI基礎設施的不斷投入,神經網絡技術訓練通用模型的能力正在逐步突破。目前,自動化、規模化、集約化的AI模型量產正在逐步實現。

商湯在創立之初,就開始投入并訓練通用的大模型。簡單來說,通用大模型具備觸類旁通的能力,在建立通用的能力之后,在不同行業領域的細分場景中,只需依靠小樣本,就能迭代出優質的模型算法,真正突破人力密集型的投入,實現對長尾應用需求的滿足。這就像類比于人的能力,人的感知和認知能力是很通用的,對于一些新問題的理解我們只需要小數據就可以了。

《財富》(中文版):前一段我看你參加了一個公開的活動,你說真正的顛覆式創新都不是從傳統創新范式中來,是從天才靈光一現的腦洞或思想實驗而來,你相信天才的靈光閃現是偶然還是必然?

徐立:首先人類歷史上很多顛覆性的科學創新和重大突破,都是通過人類非常偶然的發現,或是偶然的思想實驗來完成,多源于“天才的猜想”,這種完成不可預測。

那么背后的原因是什么呢?

重大創新都是反共識的,只要是反共識的就不可能規劃,所以沒法用范式來規范。人類不可能用固定的方法論去規劃一個普羅大眾沒有共識性的東西,并預測未來的發生。造成這種現象的原因,在于人類對未知世界的認知有局限性。

但在今天的人工智能時代,機器也可以進行猜想,不依賴于人類的認知,有望幫助我們更早地發現科學規律的本質,更快地探索和發現未知,這正是人工智能所帶來的創新新范式。

我上次提到,假設機器能夠猜想出來牛頓定律,人類會不會用這個定律?這是我們面臨的一個問題。當然人類鑒別機器有效的猜想本身就是一個很難的題目。

我讀過一本大劉(劉慈欣)的小說,很強的智能體想要了解人類寫詩這件事情。最后發現即使能夠窮盡所有的詩的可能,仍無法得知哪一首詩是好的,所以在不能完全理解的情況下鑒別機器猜想的優劣在這個情境下也充滿挑戰。

《財富》(中文版):我的理解這是智能與智慧的真正區別。

徐立:比如我們對于一些未來的可能性和技術突破會有很多的機器的猜想,這些猜想有一些是可以在未來極大推動技術進步的,但是有一些不行。那么究竟如何去甄別這些猜想的有效性、可靠度,會是留給未來的問題。

《財富》(中文版):那么我們今天這個主題是探討未來人工智能的下一步,在未來可見的范圍內,你覺得人工智能的下一步是什么?

徐立:剛才也講到近年來人工智能的兩大紅利,也正是在這樣的認知下,商湯累計近百億投入,建設了人工智能算法規模化生產所必備的AI基礎設施,我們稱之為人工智能大裝置。

給它起名大裝置的原因是類比物理的粒子對撞機,就是希望寓意人工智能助力一種創新范式的轉換,通過“人工智能的粒子對撞機”,對海量數據甚至是構建的巨大解空間進行拆解和碰撞,用一定的隨機性來打破人類認知和應用的邊界。

我認為一些行業如果未知領域較多,比如地球科學、生命科學、制藥學、大氣科學的探究等,這些領域機器猜想或許會給我們一些意想不到的驚喜。

《財富》(中文版):這個隨機的實驗是不是就是你剛才說的偶然性的問題?

徐立:舉一個例子,最近我們看到人工智能在蛋白質結構解析方面有很多突破。人類要完成這樣的工作可能需要很長時間,但機器就可以在很短的時間之內做到。

現在的假設是氨基酸的序列是決定蛋白質結構的唯一因素。但接下來我們還可以做很多類似于粒子對撞機的隨機撞擊實驗。比如將更多的輸入因素放入實驗,看看有沒有提升預測的結果。而預測變得更準確時,我們又可以借助于這樣的結果來重新理解決定蛋白質結構的核心要素。這就是通過隨機的撞擊來加速科學研究了。研發的結果會加速生物制藥以及其他科學的進展。

當然,有時候相關的突破或許在當下這個時代沒有辦法解釋,可能需要等到機器猜出牛頓定律的一百年之后出現一個“牛頓”來真正解釋這背后的原因。

《財富》(中文版):這些也是商湯科技在做的嗎?比如說你剛才說的蛋白質的組合。

徐立:商湯AI大裝置提供了一個底層的能力平臺。正如前面所提,正如粒子對撞機。在這個擁有一定隨機性的過程中,可探索的空間非常大。對于基礎設施,特別是算力的需求,其實是指數級增長。有數據顯示,在過去的十年之內,最好的人工智能算法對于算力需求的增長超過了100萬倍。

這和很多人的認知都相反,大家都覺得算法越精妙應該算的越少,其實并不是。算法越好反而算的越多,它其實是在驗證不同的可能性以及探究應用的邊界。

《財富》(中文版):就是你剛才說的反共識。

徐立:對,反共識。

《財富》(中文版):如果我們再拉近一點,元宇宙可能是最近一年科技圈最火的一個話題,人工智能在元宇宙里面扮演了什么樣的角色?你怎么理解元宇宙?

徐立:我覺得元宇宙一直存在于各種我們日常的應用中,包括說我們原來說的游戲,其實都是元宇宙的某種形式。

但是最近元宇宙很火爆的核心原因,其實和人工智能被大家關注的原因一樣,因為它正逐漸接近于真實的世界。

如果虛擬世界非常不真實,就像你每天玩游戲,玩的內容和現實世界完全沒有連接,你不會覺得它是一個宇宙。只有當他更像真實世界,當真實世界所有東西都能夠被反映和連接到元宇宙當中,并能夠因此產生交互,你會覺得它給了我第二種可能性,從而帶來了第二、第三甚至更多的宇宙。

在這個過程當中,人工智能扮演的角色就是連接真實世界和虛擬世界,讓用戶在不同的宇宙中生活。在真實世界中每個人有自己的身份,而在虛擬世界,你亦可以通過另外的角色完成與周圍環境的實時互動。

《財富》(中文版):真實和虛擬世界之間的轉換是可以通過算力來完成的嗎?

徐立:是的。算力可以幫助將真實世界投射到虛擬世界中。通常第一步是把相關信息采集下來,并沒有真正語義上的東西,僅完成了所謂的空間數據化。但是通過AI與算力的突破,每一件東西正逐步被賦予人類能理解的含義,不僅是空間數據化,還有要素結構化、流程交互化,進而對應到虛擬世界當中。讓人們不僅可以訪問、還可以使用、修改真實世界相關的內容甚至進行互動。

所以有關真正的元宇宙,我的理解是人們可以在其中對真實世界進行交互,并且也可以將虛擬世界中的種種體驗投射到現實世界中。否則它的意義只是一個游戲,或者說只是一個APP。

《財富》(中文版):那么如果再上升一步,首先我先想跟你探討一個假設和前提,你覺得我們現在是不是到了應該探討人工智能倫理問題的時刻?這個話題首先你同意這個假設嗎?

徐立:我覺得非常值得去探討。人工智能的創新來源于對過往認知的顛覆,因此行業應用中的倫理治理問題就愈發重要。同時,科學發展的路徑之一是演繹,即給一個基點,不停的推到邊界。既然今天對這個倫理治理上有一些核心原則的話,我們完全可以通過原則往前演進,去探索一下我們倫理和機器可觸達的邊界是什么。

《財富》(中文版):你剛才說到了原則,這個原則如果給人工智能來制定的話你會如何制定?

徐立:對于世界范圍內人工智能倫理治理的框架,商湯曾做過一個比較全面的研究。

我們發現大部分的倫理治理框架都可以被歸類為三大類:一類就是以人為本,無論是人的公平性、身份性問題、尊嚴性問題或者是確認主權問題,數據安全問題等,都屬于以人為本的范疇;第二類叫技術可控,包含透明計算、可解釋性、技術安全的邊界等;第三點就是可持續發展,尋求綠色的,長期的發展。

我認為未來的人工智能倫理治理其實就是在這三大支柱當中求得平衡。

當然,我們一直強調的是要秉承“發展”的人工智能倫理觀。最容易滿足所有治理框架要求的,就是什么都不去突破,但這樣大家就會忘了我們最初出發目標是什么,我們的初心就是用人工智能去推動社會的發展,這是目標。以數學優化來舉例,我們的優化函數是人工智能推動社會的進步,下面有三個約束條件需要滿足。但是很多時候,如果我們只談約束條件,而忽略了優化函數的目標,那么這個優化是不成功的。

《財富》(中文版):如果這么來說,你覺得人工智能會更加劇人和人之間的不平等還是平等?這個美好世界的定義在哪兒?人工智能如何達到這個所謂的美好世界?

徐立:談人工智能的公平性基本是談論數據樣本的偏差可能帶來人工智能算法的偏差,這個隨著技術演進都能得到改善。而我認為更大層面上的公平來自可能的少數人能獲益于人工智能帶來的便利,這將會帶來不平等。

而我的理解,人工智能作為一個通用技術從量變到質變的核心要素,是其能否真正降低其生產要素的成本。如果說某項技術特別高精尖,需要非常高成本投入才能完成的話,那必然是少數人、頭部企業、頭部場景才能夠使用到這樣的技術,那么勢必帶來不平等。

回看歷史,無論是鐵器時代、蒸汽時代、電氣時代、甚至信息時代,所有的時代都是以技術命名的。而命名這個時代的技術有一個很核心的共同點,就是他們都大幅度降低了當時生產要素的價格,從而顯著提高了生產效率。

人工智能技術如果要帶來普適、普惠、公平,那一定是它將我們時代的生產要素的成本成百倍下降,例如真正意義上使得原本我們獲取不到的教育資源、醫療資源等,更好、更廉價、更公平地開放給全社會。(財富中文網)

最新:
  • 熱讀文章
  • 熱門視頻
活動
掃碼打開財富Plus App
夜蝶直播最新版本_夜蝶直播APP官方下载_夜蝶直播app官方下载安装