◎記者 倪 麟

　　隨著《全球人工智能治理倡議》的發布，人工智能治理再次引發全球關注。作為引領科技革命和產業變革的戰略性力量，人工智能的廣泛應用正在深刻改變經濟社會結構，重塑人們的生活方式。

　　同時，人工智能也帶來改變就業結構、沖擊法律與社會倫理、侵犯個人隱私等問題，對政府管理、經濟安全和社會穩定乃至全球治理產生深遠影響。

　　當前，該如何讓人工智能拾起初心，平衡其安全和發展？科技日報記者近日邀請中國工程院院士沈昌祥、百度首席技術官王海峰、清華大學人工智能研究院視覺智能研究中心主任鄧志東共同探討，解讀人工智能發展之路。

　　本意：人工和智能，孰輕孰重

　　記者：人工智能定義最早出現在1956年達特茅斯會議上。從各位的實踐來看，人工智能是什么？

　　沈昌祥：人工智能是指通過人類設計和編程，使智能機器能夠完成各種復雜任務，從而取代傳統人工角色。

　　王海峰：人工智能是研究和開發模擬、延伸和擴展人類智能的理論、方法、技術及應用系統的科學。現階段，人工智能已成為引領新一輪科技革命和產業變革的戰略性技術，正驅動第四次工業革命，將人類社會帶入智能時代。

　　鄧志東：從實踐來看，人工智能具有模擬人類解決各種復雜任務的能力。

　　記者：隨著ChatGPT等產品的出現，有人認為人工的作用逐漸被智能取代，也有人認為智能只是輔助人工的工具。在各位所屬領域中，對于人工智能中“人工”與“智能”的權衡有何看法？

　　沈昌祥：智能機器是由人類智慧演化而來的智能產品，能根據人類的喜好和需求，提供個性化服務。智能機器的所有動作和行為都是由人類編程和控制的，不可能完全脫離人類的掌控。

　　王海峰：人工智能發展要“以人為本”，增進人類福祉。以大語言模型為代表的人工智能技術飛速發展，文心一言、ChatGPT可與人對話、輔助創作，提升人們的工作效率與生活體驗。本質上它仍是提升生產力的工具，能替代人類完成部分工作，也創造了更多工作機會。未來，人類將作為管理者，人工智能將輔助人，與人協同，提高工作效率，激發創造力。社會各界應對人工智能抱有正確認知和合理期待，推動人工智能發展，使其更好地為人類服務。

　　鄧志東：“人工”與“智能”密不可分。人工智能指機器模擬實現的人類智能，兩者關系應稱為人工智能與人類的關系。短期內，通用人工智能是輔助工具，幫助人類完成挑戰性任務。長遠來看，交互式人工智能會推動人類與智能體“共融”，邁向“人—機融合發展”的嶄新世界。

　　定位：增長產品還是基礎設施

　　記者：人工智能對相關行業發展產生了重要影響。各位更傾向于將人工智能視為增長產品還是基礎設施？

　　沈昌祥：人工智能最初是獨立產品，后來被集成為具有各種功能的設備。當設備相互連接、協調工作時，就形成了系統。這些系統的集合和互相作用，構建起人工智能基礎設施的框架，為我們提供各種產品和服務。

　　記者：在人工智能基礎設施建設領域，各位對哪個方面特別關注？

　　沈昌祥：安全問題至關重要。人工智能衍生出人工智能自身失誤、智能硬件被惡意襲擊以及機器人智能行為體失控等重大風險。需對這些問題加強研究和防范，構建由法律、戰略和制度等組成的安全可信的保障體系，確保人工智能基礎設施的安全、穩定、可持續運行。

　　王海峰：我長期關注深度學習平臺和大模型。深度學習平臺相當于智能時代的操作系統，處于人工智能技術體系的關鍵核心位置。深度學習呈現出標準化、自動化、模塊化的特征，推動人工智能進入工業大生產階段。隨著深度學習技術的普及和預訓練技術的突破，大模型已成為人工智能發展的主流方向，具有效果好、泛化性強、研發流程標準化的特點，正成為人工智能技術及應用的新基座。

　　鄧志東：從文本單模態的基礎大型語言模型到原生多模態大型語言模型，需要解決高水平人工智能通用大模型的API接入問題，推進“以我為主”的人工智能基礎設施建設，包括人工智能芯片與云服務、開源框架生態建設等。視覺智能領域需要打好基礎，從國家層面推進人工智能基礎設施建設，補短板，賦能從基礎與基座大模型到垂域模型的開發與應用。

　　記者：企業在利用人工智能時可能面臨雙重需求。能否根據經驗，談談在這種情況下，企業如何將人工智能的價值最大化？

　　沈昌祥：企業需要考量產業數字化、數字產業化以及社會智能化的需求，充分利用人工智能技術，提升生產效率和服務質量。同時，應高度重視人工智能領域的人才培養與引進，推動技術研發，以保持技術領先地位。還應加強與其他行業的合作，不斷探索新的商業模式和應用場景，為社會提供更便捷、更高效的服務。

　　王海峰：百度既是人工智能基礎設施建設者，也是人工智能技術創新引領者。以飛槳深度學習平臺、文心大模型等為代表的人工智能技術，已成為智能時代的重要基礎設施，賦能制造、能源、農業等領域，帶動新技術、新產品、新業態等的發展。大模型產業落地，可采取“集約化生產，平臺化應用”模式，即具有算法、算力和數據綜合優勢的企業將模型生產的復雜過程封裝起來，通過低門檻、高效率的生產平臺，為千行百業提供服務。文心大模型支撐大量AI原生應用的開發，重構現有產品，“從0到1”構想出全新產品，構建人工智能原生應用生態，推動經濟社會高質量增長。

　　鄧志東：以多模態大型語言模型為代表的通用人工智能產業的發展，尚處于產業早期。不同企業應有不同側重，人工智能頭部企業要對標具有國際一流水平的基礎、基座大模型產品，縮短高性能AI芯片的國際差距。中小企業要積極開展人工智能價值與應用產品的研發，著重于應用場景多樣性、落地速度與商業模式創新。

　　風險：無處不在，誰更堪憂

　　記者：當前人工智能風險普遍存在嗎？請結合具體案例說明。

　　沈昌祥：人工智能風險與網絡安全密切相關。網絡安全是人工智能發展的底座，其風險度=脆弱度×威脅度，其中脆弱度來源于圖靈計算原理缺少攻防安全理念、馮·諾依曼體系結構缺少防護部件和重大工程應用無安全治理服務三大原始性缺失。這使得網絡空間極其脆弱，受網絡攻擊的風險性增加。2021年5月7日，美國最大的成品油管道運營商科洛尼爾管道運輸公司（Colonial Pipeline）受到勒索軟件攻擊，被迫關閉其美國東部沿海各州智能化供油網絡，美國政府宣布美國17個州和華盛頓特區進入緊急狀態。

　　王海峰：從歷次工業革命來看，驅動科技革命和產業變革的技術，無論是機械技術、電氣技術、信息技術，還是當前的人工智能技術，在為人類帶來巨大價值的同時，也會帶來一定的風險。但隨著科技的進步，人類有足夠的能力控制風險，充分發揮新技術的價值。

　　鄧志東：通用人工智能的發展速度已超出大多數人的預期。只要通用人工智能發展，其風險就必然會普遍存在。從法律、倫理、隱私到就業等，各個領域與賽道、千行百業都面臨重寫、重塑的挑戰與風險。

　　記者：在自動駕駛、智慧醫療和人臉識別等特定領域，人工智能風險是否更為突出？

　　沈昌祥：自動駕駛、智慧醫療和人臉識別等技術，一旦出現問題將威脅到人類的生命安全和財產安全。IT系統設計不能窮盡所有邏輯，利用邏輯缺陷挖掘漏洞進行攻擊的風險一直存在，傳統“封堵查殺”難以應對未知惡意攻擊，找漏洞、打補丁的思路也不利于整體網絡安全，需要通過由被動防御轉為主動免疫的方式來降低人工智能特定領域風險。

　　治理：安全與發展能否相向而行

　　記者：隨著人工智能技術的持續發展，數據隱私和安全、能耗等問題日益凸顯。你們認為，針對這些問題應先發展后治理還是邊發展邊治理？

　　沈昌祥：要注重治理和發展平衡。應構建主動免疫可信計算新模式，打造計算部件和防護部件為核心的并行體系結構，建設可信安全管理中心支持下的主動免疫的防護框架，實現主體、客體、操作、環境可信動態訪問控制，確保體系結構、資源配置、操作行為、數據存儲、策略管理可信。以此達到讓攻擊者進不去、非授權者重要信息拿不到、竊取保密信息看不懂、系統和信息改不了、系統工作癱不成和攻擊行為賴不掉的防護效果，全方位維護人工智能安全。

　　王海峰：要堅持發展和安全并重的原則，保障安全的同時支持和鼓勵創新發展。只有持續發展人工智能技術，才能在發展中發現問題、解決問題，把握科技競爭主動權。

　　記者：從各位的經驗來看，行業或者企業應如何預防人工智能潛在的安全問題？

　　沈昌祥：要科學嚴謹分析研究，堅持自主創新，掌握核心競爭力，把握主動優勢。要以具有可信計算功能的國產軟硬件設備為基礎，在完備的法律、戰略和制度的支持下，盡快建立起完整的可信計算產品鏈，打造安全可信人工智能新生態，筑牢數字經濟發展基石。

　　王海峰：正確認識人工智能潛在的安全問題。任何一項技術的發展和應用，都會帶來潛在的安全問題，而人工智能作為驅動科技革命和產業變革的戰略性技術，其安全問題更加受到關注。技術安全問題，可以用技術的手段來解決；產業安全問題，一方面政府應支持自主可控的人工智能技術及應用，另一方面應建立健全相關法律法規，推動產業在合適尺度、明確標準之下發展人工智能技術及應用。

　　鄧志東：人工智能發展在安全問題上尚存在許多不確定性。行業或企業需要邊走邊看，大膽深入，小心布防，造福人類。

　　記者：人工智能治理已經上升為國際競爭合作的重要議題。在推動人工智能治理國際合作方面，各位有何見解？

　　沈昌祥：應認真貫徹執行《全球人工智能治理倡議》，從創新發展、安全保障、治理三個方面著手，全方位保障我國人工智能基礎設施，并積極走出國門，與全球伙伴共建網絡空間命運共同體。

　　王海峰：人工智能領域的研究本身是開放合作的，人工智能治理是其研究熱點之一，各方都很關切。來自全球學術界、產業界的專家學者，都可以通過開源社區、項目合作、學術會議、專題研討等多種方式開展合作交流，貢獻智慧。

　　鄧志東：人工智能的治理與國際競合，已超越了學術與產業，需要更強而有力的國際合作，以期取得國際共識，盡快構建具有約束性、一致性與平衡性的國際規范。