應對AI挑戰 引導科技向善

10月25—27日，一場來自全球頂尖智慧的頭腦風暴在上海臨港匯聚。從應對當下全球挑戰到未來人工智慧治理、從生命科學前沿到物理科學邊界，在2024世界頂尖科學家論壇上，包括11位諾貝爾獎得主在內的近300名世界頂尖科學家齊聚盛會。他們從不同的專業出發，詮釋了用科技塑造可持續未來、用科技提升人類共同福祉的夢想。

  “科學或技術本身是中性的，但技術有時會帶來一些讓人始料未及的威脅和挑戰，其中就包括全球氣候變暖、區域紛爭等世界難題。”2004年諾貝爾物理學獎得主、美國加州大學聖塔芭芭拉分校教授大衛·格羅斯在世界頂尖科學家論壇開幕式主旨演講中説，“這就需要全球科學家合作，應對不斷變化的各種世界難題，引導科學向善，青年科學家更需要站出來挑起大梁。”

  在今年的世界頂尖科學家論壇上，AI相關的議題佔據了重要部分。當AI成為新的生産力，我們是否準備好應對AI帶來的“雙刃劍”效應？在世界頂尖科學家智慧科學大會上，頂尖專家和行業人士共同探討如何構建全球AI監管體系。

  “過去幾十年甚至上百年來，科學研究一直面臨著一些困境。如今，隨著AI的發展，科學研究將迎來一系列新突破。”中國科學院院士、北京大學智慧研究院院長、北京大學國際機器學習研究中心主任鄂維南分析説，許多科學研究中，AI已成為不可或缺的工具。例如，AlphaFold系列模型擁有預測蛋白質單鏈、複合體及複雜生物分子結構的能力，一舉解決了困擾生物科學多年的基礎問題。

  “人工智慧不是一誕生就帶來了威脅，而是機遇中伴隨著威脅。”面對AI背後的倫理風險和安全挑戰，中國新一代人工智慧發展戰略研究院執行院長龔克在論壇上表示，如今由政府、國際組織或是知名國際會議發表的治理框架或者宣言多達幾百個，可它們是“支離破碎”的，在協調和執行上存在不小的問題。他認為，加快建立全球性AI治理框架是當務之急。

  2010年諾貝爾經濟學獎得主、英國倫敦政治經濟學院教授克裏斯托弗·皮薩裏德斯特別關注AI對於未來人類工作的影響。他認為AI廣泛應用的時代也許即將到來，但當前AI的應用仍然非常有限。根據其理論研究與社會調查發現，現在大多數情況AI應用場景較為簡單，主要的應用是影像識別監控等。AI技術有可能構成新的人機競爭而降低員工的福祉，他呼籲：“科技在提高生産力的同時，也應該能夠持續提升員工的福祉。”

  作為2024世界頂尖科學家協會獎“智慧科學或數學獎”得主，美國康奈爾大學計算機科學和信息科學講席教授喬恩·克萊因伯格表示：“計算機科學家不僅需要‘確保我們所搭建的算法、選擇的設計能造福人類’，也需要與經濟學、社會學、行為科學、法學和政策研究等領域專家深入合作，希望我們能全力以赴、創造性地解決這些問題。”