人工智能技術加速迭代、爆發(fā)式發(fā)展的同時，也提出了新的問題：人工智能究竟能否造福人類？近期，有關“人工智能是否安全”的討論熱度越來越高，映射著整個社會對這一技術發(fā)展的隱隱不安。消費者常常被平臺算法“設計”“套路”，外賣騎手一度被算法困在“數字泰勒制”配送系統(tǒng)中，這樣的問題如何破解？世界經濟論壇一項調查顯示，人工智能替代的就業(yè)將遠超其創(chuàng)造的就業(yè)，“機器換人”會不會帶來大規(guī)模結構性失業(yè)？隨著人機之間界限逐漸模糊，人與人衍生出全新的權利義務關系，無人駕駛、醫(yī)療機器人等是不是面臨更深刻的“電車難題”？作為復雜系統(tǒng)，人工智能每一項“顛覆性創(chuàng)新”技術，每一次與量子技術、物聯(lián)網等耦合形成“風險共振”，有沒有伴隨不可預料的漏洞和盲點？2025年，人工智能應用大規(guī)模落地的元年，OpenAI首次違抗人類關機指令，引發(fā)對“AI覺醒”“AI對齊”以及“超級人工智能將毀滅人類”的強烈關注。美國蘭德智庫發(fā)表《論人工智能導致的生存危機》，全面審視人工智能在核武器使用、生物病原體釋放以及惡意地球工程導致氣候變暖三種情境下的根本性威脅。總體來看，人工智能技術的發(fā)展和應用在經濟、社會、技術、倫理、安全層面給人類社會帶來了全新的問題和風險，如何有效防范化解這些問題和風險，是人類社會面臨的新挑戰(zhàn)。

公眾、學者、科學家、企業(yè)家、政府官員，圍繞人工智能究竟“是福還是禍”，基于不同的元理論假設、不同的證據選取、不同的利益立場進行著激烈辯論。有人強調“智能爆炸”的潛在威脅，人類終將淪為附屬品，必須鎖死AI發(fā)展；有人提出“阻礙AI進步才是最大風險”，解決醫(yī)療、氣候等問題正需要AI出手。開源社區(qū)要求公開代碼讓全民監(jiān)督安全漏洞；人工智能企業(yè)則反問：“如果恐怖分子得到代碼，還安全嗎？”。有的國家明確監(jiān)管先行，引入預防性原則，人臉識別都要寫保證書；有的國家以維護技術霸權為前提，監(jiān)管上沒有國家級法律而主要靠行業(yè)自律。各種針鋒相對的立場、觀點、假說充斥輿論場：在人工智能眼中，“人類是螻蟻”還是“人類是‘新神’”？在人類眼中，“AI的盡頭仍然是工具”還是“人間只是AI的訓練場”？在“上帝”眼中，“人類只是過渡階段”還是“我們才是宇宙的意義”？

如何有效解決人工智能帶來的一系列新問題，人類仍在努力探索，目前還沒有確定的答案。但可以確定的是，技術的列車一旦啟動，便駛上了不可逆的單行道，在“棘輪效應”驅使下，只會越開越快、越開越遠。天真的樂觀或者消極的抵抗，從來不是最佳選項，將方向盤牢牢掌握在自己手中，才能回答好智能時代“人類文明向何處去”的終極命題。面對人工智能全球性風險與潛在系統(tǒng)性危機，中國提出《全球人工智能治理倡議》，發(fā)布《人工智能全球治理上海宣言》，習近平總書記明確要求，確保人工智能安全、可靠、可控。我們動態(tài)跟蹤人工智能技術發(fā)展前沿，將監(jiān)管同步植入產業(yè)運行的底層邏輯，摸索出一條“邊發(fā)展、邊治理”的路徑。比如，在平臺經濟監(jiān)管中，創(chuàng)新性地建立“算法勞動權益保障體系”，出臺算法推薦管理規(guī)定，要求外賣配送系統(tǒng)必須設置連續(xù)工作強制下線機制，配送路線規(guī)劃必須保留10%的彈性時間。比如，在自動駕駛領域，強制推行預碰撞決策模型，通過行人識別精度的特殊加權、弱勢道路使用者保護參數的強制設置、決策末端人工確認節(jié)點的保留等方式，將“生命權優(yōu)先”倫理準則轉化為算法架構的核心約束。人工智能正朝著技術應用與民生需求精準對接的方向蓬勃發(fā)展，為全球人工智能發(fā)展治理提供了藍本、積累了經驗。

如果人類無力拒絕一個人工智能參與塑造的未來，我們需要關心的問題是：未來世界如何才能成為一個安全、公平、更有意義的世界？人工智能的困境，與其說是代碼自主衍生的災難，不如說是人類文明痼疾在數字時代的自我投射。只有從維護全人類共同利益和共同安全的立場出發(fā)，跳出國與國在“技術主導權”與“規(guī)則制定權”上的博弈，旗幟鮮明反對科技創(chuàng)新成為富國和富人的游戲，推動各方形成發(fā)展戰(zhàn)略、治理規(guī)則、技術標準對接的協(xié)同，才能“讓人工智能真正成為造福人類的國際公共產品”。

科技向善，以人為本。人工智能是人創(chuàng)造的，能否造福于人，終究要取決于人類自身。我們相信，只要本著對人類社會高度負責的態(tài)度，集結科學家的預見、工程師的代碼、哲學家的思辨以及每個普通人的警惕，在給人工智能啟智升級的同時套上安全“韁繩”，就一定能造福人類。

責任編輯：朱豫 湯寶蘭