雲起.策問|探秘上海人工智慧實驗室：AI與人類文明的和而不同

《雲起·策問》聚焦數字與實體經濟創新實踐，講述光環背後的故事，記錄時代人物、傳播創新精神，致敬科學的力量。

日前，國家工業信息安全發展研究中心發佈了《AI大模型發展白皮書》，其中提到，隨著ChatGPT應用的現象級火爆，AI大模型呈現出快速發展趨勢，正在掀起新一輪人工智慧發展浪潮，大模型基座化或將重塑人工智慧産業鏈和全球市場競爭格局。有人讚嘆ChatGPT超高的工作效率，也有人質疑ChatGPT或帶來更大的危害；更多人好奇地想知道人工智慧將如何改變我們未來的生活。

AI大模型對全球經濟的影響不言而喻。為打造更具競爭力的世界級人工智慧産業集群，上海市五部門聯合製定的《上海市推動人工智慧大模型創新發展若干措施（2023-2025年）》正式發佈，聚焦大模型創新能力、創新要素供給、大模型創新應用、以及創新環境。在此背景下，上海徐匯匯聚了上海人工智慧實驗室、三大國家級開放創新平臺等頂尖機構和企業創新平臺，集聚人工智慧相關企業和機構近200家，在大模型和生成式人工智慧領域的影響力不斷提升。

你或許沒有聽説過“央視聽媒體大模型”，但你可能已經領略到近年來在傳媒業，數字媒體編創、數字虛擬主播等新技術帶給新聞生産顛覆性的變革。其實在這背後提供技術支持的正是坐落于徐匯西岸的上海人工智慧實驗室，這家新型研發機構創設兩年來，以推出以“書生”通用大模型體系為代表的一系列突出成果，賦能著千行百業。

安全與發展是一體兩翼的關係。從人工智慧倫理研究的不斷推進，到如今AI大模型的出現為安全領域帶來全新挑戰，大模型所涌現能力的根源尚不可知。

大語言模型打通了ChatGPT的“任督二脈”，縮短了幾十年、上百年的預想誕生週期而橫空出世。ChatGPT的誕生正如人類的進化，當腦容積大到一定程度，質變就發生了。AIGC誕生於與人類進化相似的進程之“和”，又在升級速度、思維方式上大有“不同”。也為AI與人腦“和而不同”的共生共贏提供了理論基礎。本期嘉賓和很多人工智慧研究員一樣，認為人類不僅不會迷失和無用，還終將在人工智慧的幫助下找到新的發展方向，在與AI“和而不同”的和諧共處中，去創造更多美好的未知，完成自我價值的實現。人類文明與人工智慧將在未來的世界你攜手共進，共創光明的未來。價值對齊作為AI對齊的重要組成部分，是保障AI價值觀安全重要手段。那麼上海人工智慧實驗室在這方面有什麼洞察呢？通用大模型賦能千行百業的同時，有哪些倫理與價值隱憂值得關注？發展人工智慧有哪些短板需要克服？未來還有哪些路要走？

本期節目，李策走進上海人工智慧實驗室，對話實驗室主任助理、上海交通大學人工智慧研究院副院長王延峰，一同探索構建人類友好型AI發展體系的意義與重要性。

嘉賓簡介

王延峰，教授，博士生導師，上海市第十六屆人大代表，上海人工智慧實驗室主任助理，上海交通大學人工智慧研究院副院長。國家科技創新2030——“新一代人工智慧”重大項目指南編制專家組成員、國家科技創新2030 ——“新一代人工智慧”重大項目管理專家組成員、國家發改委“互聯網+”行動專家諮詢委員會成員、國家發改委人工智慧産業諮詢專家委員會成員。

以下為精選節目對話實錄：

“書生”大模型體系 賦能千行百業

李策：上海人工智慧實驗室雖然成立的時間不長，但是取得了很多引人注目的成果，比如風烏氣象大模型、央視聽媒體大模型等，那麼除此之外還有沒有其他我們沒有關注到的一些方向呢？

王延峰：上海人工智慧實驗室作為一個新型研發機構，到現在為止將近三年時間，應該講還是取得了驕人的成績。目前我們也是基礎大模型中唯一全面開源來支持整個生態體系的，這個非常關鍵，因為我們作為信息研發機構，要支撐整個行業的發展。

我們都知道很多大廠都有大模型的能力，但是我們絕大部分行業其實沒有能力做大模型原創研發。所以要用我們的基礎模型開源，我們的“書生”大模型體系，包括“書生·浦語”、“書生·多模態”、“書生·天際”（3D領域）來開源出去，來服務於千行百業，這是一個我們的科研成果。

還有一個細節方面，也是非常令人振奮的。今年的6月21日我們收到了CVPR（國際計算機視覺與模式識別會議）頂會的確認，我們有一篇論文拿到了全球最佳論文獎（Best Paper Award）。全球總共9,000多篇文章會選出10篇最佳論文候選，唯一一篇最佳論文來自我們。獲獎論文成果是自動駕駛大模型。

CVPR在學術界影響力巨大，今年的最佳論文，也是CVPR40多年來第一篇由全部國內機構作者創作的論文。

李策：在今年的科創大會上我們看到了央視聽媒體大模型，通過一個詩詞的插圖，就能夠生成對應的詩句。這個底層邏輯是什麼？

王延峰：我們做的央視聽媒體大模型也是跟央視深度合作的在垂直領域的大模型，同樣也是基於我們實驗室開發“書生”通用大模型體系研發的。剛才您舉的一個場景的例子，它本質上是基於書生的技術架構，再加上央視多年來積累的垂直領域海量數據，以及央視對業務場景的深度理解所産生的。

通用人工智慧回歸“贏家通吃”規則

李策：對於大模型，可能很多老百姓都不太理解它具體的內涵和外延是什麼，有沒有一個通俗的例子，能夠深入淺出地給我們來科普一下到底大模型？它的底層邏輯是什麼？我們都知道算力算法包括大數據對於人工智慧都很重要，那麼怎麼來理解大模型呢？

王延峰：如果把時間線拉長，這輪AI浪潮從2016年掀起了，業界普遍認為，當年Alpha Go戰勝李世石掀起了全球第三次人工智慧的浪潮，到2022年11月30日，ChatGPT的橫空出世帶來了新的通用大模型時代。

從2016年的第三次浪潮開啟後，AI本身的熱度其實有所降低，只是ChatGPT又把它重新拉起來了。這裡隱含著一個産業界和學術界非常關注的問題：2016年Alpha Go戰勝李世石帶來的是專用智慧。什麼叫專用智慧？就是我們在某一個領域，都要有一個算法、一個模型來做，甚至我們在某一個領域的某一個任務，都要有一個算法，那麼它就意味著什麼呢？這輪AI會看起來很火很熱，有這麼多創業公司融資數十億美金的體量，但是不大不強。不大不強表現在哪呢？營業額不大，利潤為負，核心問題就是因為它是專用智慧，我們面臨任何一個新的問題都要去開發一個新的算法、新的模型去解決這個問題，導致很多AI公司淪為軟體公司。

2022年11月30日ChatGPT的橫空出世，讓大家看到了通用人工智慧的端倪——一個大模型可以解決各種任務。從經濟學的角度很好理解，一個大模型可以解決各種任務，就意味著有了規模性，因為只要把這個大模型練好了，就可以處理各個任務，邊際成本幾乎為零，或者邊際成本在急劇下降，也就是有了規模經濟。

另外一點，ChatGPT出來後，兩個月時間全球日活用戶達到了1億，這在全球歷史上誕生的所有APP中是第一的，它會把AI從原來的很火很熱但不大不強的To B市場，帶到了To C市場，那麼也就意味著回到了互聯網“贏家通吃”的規則。

AI的核心是可計算性 關鍵在於構建人類友好型發展體系

李策：ChatGPT是風靡全網的，那麼在您看來的話它有沒有核心技術上的突破，未來的話很多人會認為它的出現也會帶來一些風險，那麼您的觀察裏面機遇在哪，風險又在哪？

王延峰：我先回答您前面第一個問題，就是ChatGPT的核心技術，它有非常強的核心技術，我給它總結為資金高度密集、人才高度密集、技術高度密集以及工程高度密集。

第二，關於安全的問題，可以從兩個維度來看，第一個維度就是價值觀的安全，因為它是生成式AI，目前可能很多結果還不可控，那麼就要加強它的技術可控性，可以從輸入端、語料端，讓它用可控，有價值，利用高質量預訓練語料來提升它的輸出質量；另一方面，在功能性上，大家談得更多的是他是否會超過人類，超過人類後會不會顛覆人類的發展，在這方面就是我們一定要建構人類友好型的AI發展體系。

我個人認為還沒有真的從功能上到了超級人工智慧時代，但是值得我們從現在開始就要正視、規劃這個問題。

李策：也就是説我們可能害怕的是生成式AI它有自我意識，可能已經往超級智慧的方向有所演進，那麼我們在利用人工智慧這一點的時候，是不是要防範的是對它底層演算模型所開發的這批人，他們有可能會控制，而不是説AI本身？

王延峰：從科技研究的角度，我個人認為還沒有到那個程度。AI，本質上最底層的邏輯是Computing，就是計算。

如果意識和情感都計算，那麼AI就可能有意識、有情感。如果我們從另外一個維度來定義意識和情感是不可計算的，那麼AI就不可能有意識和情感，因為從底層邏輯來説，AI必須可計算。

如果AI計算的架構和語料數據的架構一旦超乎人類的想象，會不會産生不可想象的智慧？這個是有可能的，但是這並沒有否認了“可計算”這件事。在超級人工智慧到來的過程中，如何實現人類友好的超級人工智慧？這就需要我們的開發者以及整個的輿論道德領域，都要有一系列的規劃。

用知識産權保護原創 以長週期鼓勵技術創新

李策：創新是國家發展和經濟成長的活力和動力，從科研的角度您覺得未來人工智慧怎麼樣才能夠有更好的創新？我們需要在什麼地方補短板呢？

王延峰：目前各方都在加大對人工智慧的投入力度，我們也在快速前進。鼓勵原創，在國家層面永遠是非常重要的，因為只有鼓勵原創，保護好原創，才會有更多一流的人才、一流的科學家願意做原創性的東西，才能帶動良性循環。

知識産權保護體系和營造原創的科研氛圍同樣重要。要有人真正甘坐十年冷板凳，去啃基礎研究的硬骨頭，基礎研究是原創中的原創。

李策：板凳願坐十年冷，文章不寫一句空。人工智慧領域的知識産權或者專利的保護在最近幾年有沒有得到顯著的進步呢？

王延峰：人工智慧這個領域相對比較特殊，我們在知識産權專利的佈局方面，因為它從誕生的第一天起，就非常重視這個領域。目前在AI領域，大家對知産權或者對專利對整體的尊重，還是非常國際化的。但是因為很多這樣的專利知識産權，它需要比較長時間的才能看到它價值的顯現，所以要讓這些原創的技術或者從事原創的人員有比較寬鬆的這樣的一個環境來做這件事，從社會或國家的層面要鼓勵更長週期的發展。

李策：我們都知道上海要建成國際經濟金融貿易航運和科技創新中心，要發揮好五個核心功能，那麼要建成全球具有影響力的科技創新中心，你認為差距在哪？上海人工智慧實驗室在這裡面也扮演很重要的角色，未來還有哪些路要走呢？

王延峰：從大國重器到人工智慧、機器人以及生物制藥，上海科創都取得了一系列令人矚目的成績，這十年的整個成果回答總書記對上海的定位，應該講還是有底氣的。

但是我們必須要充分看到我們距離總書記的期望，還是有差距的，這個差距在於面對我們現在所面臨的這個百年未有之大變局的國際形勢。我們需要以更大的胸懷，更開放的態度，來感化、拉動整個的全球科技交流的大循環，這可能是在面向未來十年裏非常重要的一件事。

第二是青年科學家勇挑重任。其實我們實驗室從第一天誕生起，就有很多博士畢業三五年，甚至博士剛畢業的青年學者帶領團隊完成非常重要的任務，我們希望在整個大環境中，也要有這樣的氛圍和趨勢，讓我們的青年科學家勇挑重擔。（推廣）

主持人李策與本期嘉賓在上海人工智慧實驗室拍攝現場