9月12日，2025 Inclusion·外灘大會上，信百會研究院、螞蟻集團科技倫理委員會聯合舉辦了以“AI向善·安全發展——大模型在嚴謹行業應用中的倫理與治理”為主題的見解論壇。中國社會科學院大學教授、國務院原副秘書長江小涓出席論壇，并發表“人工智能治理：如何從共識到行動”的主題演講。
中國社會科學院大學教授、國務院原副秘書長江小涓
20多位來自學術界、產業界及監管機構的權威專家，圍繞人工智能的倫理及治理、尤其是大模型在醫療等嚴謹行業的應用風險與規則指引展開了深度探討，旨在推動技術創新與倫理規范的協同發展。
中國互聯網協會副理事長、信百會成員黃澄清主持論壇
“尤其在醫療行業，AI的決策直接關乎生命健康與社會公平，數據濫用、算法偏見、責任模糊等問題亟待解決”，中國互聯網協會副理事長、信百會成員黃澄清在論壇致辭中表示，構建可信、可靠、可追溯的AI治理體系，已成為技術發展的內在要求，也是社會責任的必然選擇。
“ 人工智能為人類各領域的發展提供了豐富的視角和價值，但也正在沖擊人類的主體地位”，中國工程院院士，同濟大學黨委書記鄭慶華指出，AI與人類的價值對齊問題，是確保人工智能科技向善的根本。鄭慶華院士認為，要通過強化學習讓大模型學習人類的價值和偏好，來讓人工智能對齊人類價值，創建安全、符合倫理的人工智能系統，并做好技術發展中的長期風險防控；同時人類也要對齊AI，核心是確保人們負責任地應用AI。
“全球的人工智能治理正走向促發展和柔性監管的方向，即建立一個敏捷的治理體系，以政策指引促進產業主動自律，以包容審慎的態度來構建負責任的人工智能安全體系”，中國信息通信研究院副院長魏亮介紹說，2025年7月《人工智能安全承諾》已有阿里巴巴、百度、螞蟻集團等18家行業領軍企業參與披露，形成了20條實踐標簽，43條安全案例，不僅推動我國人工智能安全治理邁入體系化、透明化、實操化的新階段，也為全球貢獻“以人為本、智能向善”的中國方案。
螞蟻集團資深副總裁、科技倫理委員會聯席主席周志峰
“從風險的彈性角度而言，螞蟻覺得光做隔離和防范還是不夠的，我們還是希望通過預警、測試、修復這樣的動態機制去提升能力”，作為企業界代表，螞蟻集團資深副總裁、科技倫理委員會聯席主席周志峰介紹了螞蟻在AI大模型領域的進展與倫理方面的思考。
“以AI醫療應用AQ為例，AQ向用戶提供的問答，都是有巡檢機制的。健康模型場景會經過醫療倫理、醫療安全、醫療合規、通用安全和醫學專業性5大方面的審視”，周志峰表示，螞蟻集團不僅以長期持續的技術投入為AI倫理夯實基礎，還圍繞人工智能制定了“平等、尊重、可信、負責”的基本科技倫理原則；通過設立科技倫理委員會，協同內部各部門與政府指引、行業專家、用戶反饋進行長期有效的互動。
圓桌研討環節“AI大模型+醫療，如何完善規則指引”
“在醫療中大量使用AI的時候，人到底還有多大程度的自由意志？人該如何維護自身的尊嚴？看似是一個業界痛點問題，實際上背后涉及到人類生存發展的根本問題”，復旦大學肖仰華教授主持了論壇的圓桌研討環節，進一步聚焦“AI大模型+醫療”，來自復旦大學、中南大學、華西醫院、上海交通大學的醫療與倫理領域專家，圍繞AI診療的倫理邊界、責任劃分、監管框架展開激烈討論。
“醫療大模型的發展，我覺得對社會最大的一個貢獻就是有可能促進醫療公平公正”，復旦大學哲學系教授王國豫認為，針對我國區域醫療資源分配的不均衡性，AI在醫療領域的應用不僅是偏遠地區醫生的好助手，也為優勢醫療資源難以觸達和覆蓋的病患群體，帶來了期望和健康福音。然而，“在效率之外，還有很多難以量化統計的部分，比如患者的情感、心理需求和精神狀態”，王國豫表示，醫者治療的不能僅僅是患者的病灶，更要將患者作為一個完整的人，考慮患者的生命體驗。
“如何讓患者和醫生能同步達成健康方面的共識？現在很多的穿戴設備可以幫上忙。比如心率、血壓，每天運動的步數都可以監測，什么時候吃藥也可以通過穿戴性設備提醒”，上海交通大學醫學院附屬瑞金醫院信息中心主任趙艷感慨道，如今AI的出現讓患者不僅在診前就能對自身情況進行較科學的基礎了解，也在診中和診后促進了患者對醫生診療方案的依從性，從而可以提升配合治療的效果。
“AI治理的探索永不止步，相信今天的討論，是邁向完善AI治理規則的重要一步”，黃澄清表示，信百會研究院將與螞蟻集團科技倫理委員會繼續推動產學研合作，助力構建安全、可信的AI生態，讓技術真正造福人類。
以上內容為推廣信息，所涉及內容不代表本網觀點，不構成投資建議、消費建議。
