人工智慧：發展和治理“兩手抓”

在2023全球數字經濟大會精品主題展上，一名觀眾向一家人工智慧企業工作人員諮詢問題。

人工智慧無疑是2023年的科技熱詞。作為戰略性新興技術，人工智慧日益成為科技創新、産業升級和生産力提升的重要驅動力量。如何看待人工智慧熱潮？如何處理發展與治理的關係？怎樣推動相關産業落地應用、有序發展？為此，本版推出特別策劃，以饗讀者。

　　人工智慧無疑是2023年最熱門的數字科技關鍵詞。一方面，各國紛紛加速佈局人工智慧産業。近日，俄羅斯公佈了一項新的人工智慧發展國家戰略計劃，新加坡發佈了全國人工智慧策略2.0。另一方面，針對人工智慧的治理體系也愈發完善。美國推出《關於安全、可靠和可信的AI行政命令》，歐盟就《人工智慧法案》達成協定。在2023年底舉辦的首屆全球人工智慧安全峰會上，包括中國、美國、英國在內的28個國家及歐盟共同簽署了旨在推動人工智慧全球治理的《布萊奇利宣言》。

　　由此可見，在數字經濟時代，佈局人工智慧已經成為各國政府的共識。但如何佈局、如何發展，仍然需要政府、科研院所、業界等各方貢獻智慧。2024年，人工智慧技術將有哪些動向？如何在技術快速發展的情況下更好地監管人工智慧？

　　落地産業應用的關鍵一年

　　“在傳統信貸經營模式下，銀行向一些小農場放貸以後，工作人員需要隔三岔五去做貸後檢查、監測，費時又費力。在西部一些地區，進行一次檢查甚至可能需要兩三天時間。”中國農業銀行研發中心大模型研發負責人耿博在近日召開的首屆人工智慧應用大會上説。

　　高企的運營成本在人工智慧技術規模應用之後大大降低了。“我們在小農場裝了一些攝像頭，通過這些攝像頭采集數據，然後用人工智慧做計數。”耿博介紹道，“不光是計數，人工智慧還能做辨別。比如這頭牛到底是老王的還是老李的。”耿博介紹，人工智慧的應用提高了貸後管理效率，降低了貸後管理成本，使一些偏遠地區也能享受智慧金融服務。

　　這只是人工智慧技術落地應用的冰山一角。“2024年將是人工智慧技術落地産業應用的關鍵一年。”北京工商大學副校長左敏判斷。在他看來，隨著大模型在過去一年的快速進步，人工智慧技術的應用潛能已經被廣泛認可。與此同時，大家意識到，在人工智慧領域，構建越來越大的模型並不一定是最終目標。將人工智慧技術轉化為具體的、可行的解決方案和産品，對於推動人工智慧行業發展和實現商業價值亦至關重要。

　　人工智慧，尤其是大模型未來一段時期內值得關注的方向是什麼？中國移動通信聯合會執行副會長杜正平給出了自己的答案：智慧涌現的工程機制、新的技術商業模型、新的智慧組織和技術架構。

　　智慧涌現，指人工智慧出現的與初始訓練目標無關的新行為和功能。業界普遍認為，智慧涌現是人工智慧邁向更高階段的表現。但對於智慧涌現發生的機制和工程路徑，科學家目前尚不清楚。杜正平提到，互聯網公司Meta日前表示，擬斥資數十億美元購買英偉達公司的計算機芯片，用於人工智慧研究和相關項目。Meta首席執行官馬克·扎克伯格亦透露，根據公司的人工智慧未來路線圖要求，公司將建立一個大規模的計算基礎設施。到2024年底，這一基礎設施將包括35萬張英偉達H100顯卡。在杜正平看來，類似Meta這樣“暴力”的方式是否一定會推動人工智慧産生智慧涌現，以及智慧涌現發生的機制和工程路徑，還需繼續探索。

　　同時，杜正平認為，儘管大模型發展如火如荼，但它究竟會在哪些方面發展出新的技術商業模式，還需全行業共同探索。“在模型智慧時代，如何搭建新的智慧組織、技術架構，同樣是我們關注的重點。”杜正平説。

　　“我國經濟已經由高速增長階段轉向高質量發展階段，處在轉變發展方式、優化經濟結構、轉化增強動力的攻關時期，迫切需要新一代人工智慧重大創新助力。”中國電子商務商協會聯盟主席聶林海認為，“我們要深入把握新一代人工智慧的發展特點，加快推動人工智慧和相關産業融合發展，為高質量發展提供新動能。”

　　推動治理規則與實踐走深向實

　　以大模型為代表的生成式人工智慧技術發展迅猛，已初步顯露對行業的顛覆式影響。與此同時，人工智慧安全治理問題也引發了前所未有的關注。各國政府、國際組織、學術科研機構、産業組織、科技公司紛紛投身其中。“全球人工智慧安全治理的規則與實踐探索將進一步走深向實。”談及全球人工智慧安全治理髮展趨勢，中國信息通信研究院人工智慧研究中心高級業務主管呼娜英説。

　　根據中國人工智慧産業發展聯盟安全治理委員會發佈的研究結果，隨著人工智慧加速賦能千行百業，人工智慧安全治理議題正從隱私保護、數據安全、算法黑箱、模型漏洞等傳統技術安全議題向應用於生物、化學、核能、關鍵基礎設施等領域的底層安全問題擴展。

　　在人工智慧安全治理方案方面，呼娜英介紹，全球持續加強人工智慧安全治理。2023年10月，聯合國組建高級別人工智慧諮詢機構。機構旨在監管人工智慧，應對人工智慧可能帶來的風險。在強化人工智慧安全治理過程中，風險導向成為各國對人工智慧的普遍治理路徑。比如，我國的《生成式人工智慧服務管理暫行辦法》積極應對生成式人工智慧在訓練數據、算法模型、生成內容、個人信息權益等方面産生的風險。歐盟《人工智慧法案》對人工智慧進行分級監管和風險規制。聯合國人工智慧諮詢機構也在臨時報告中説，制定人工智慧風險管理框架將是下一步工作的重心。

　　具體措施方面，在技術快速發展的情況下，以人工智慧治理人工智慧成為行業探索的重點。其中，可擴展監督、可解釋性研究、模型評估等價值對齊方式是行業的主要探索方向。比如2023年5月，人工智慧初創公司Anthropic宣佈，將通過一個名為“憲法 AI”的大模型評估和訓練該公司大模型的價值觀。人工智慧研究公司OpenAI緊隨其後，宣佈成立超級對齊團隊，投入20%計算資源，以4年時間打造解決對齊問題的人工智慧。