中國(guó)日?qǐng)?bào)網(wǎng)11月11日電 （記者 曹靜 程爾凡）全球人工智能（AI）技術(shù)正以指數(shù)級(jí)速度演進(jìn)，大模型已成為推動(dòng)數(shù)字經(jīng)濟(jì)發(fā)展的核心引擎。但與此同時(shí)，人工智能的發(fā)展引發(fā)數(shù)字濫用、算法歧視、虛假信息等一系列風(fēng)險(xiǎn)，如同潘多拉魔盒，風(fēng)險(xiǎn)高懸。

“AI有四個(gè)與生俱來(lái)的‘先天性基因缺陷’：一切皆可編程、一切皆可模仿、一切皆可生成以及一切皆可調(diào)度?！?2025年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)期間舉辦的前沿人工智能模型論壇上，360數(shù)字安全集團(tuán)總裁胡振泉這樣談及AI技術(shù)帶來(lái)的挑戰(zhàn)，“這帶來(lái)的安全問(wèn)題，我們無(wú)法避免，亟待解決?！?/p>

胡振泉認(rèn)為，相較于傳統(tǒng)軟件，AI“更聰明”，因此其安全問(wèn)題也更復(fù)雜，不僅涵蓋傳統(tǒng)的系統(tǒng)安全，還涉及內(nèi)容安全與應(yīng)用安全。

“過(guò)去做一次網(wǎng)絡(luò)攻擊可能需要一個(gè)小分隊(duì)，未來(lái)一兩個(gè)黑客就能調(diào)度一批‘攻擊智能體’發(fā)動(dòng)網(wǎng)絡(luò)攻擊，讓防御難上加難?！焙袢硎?。

那么，我們應(yīng)該如何保障AI安全，進(jìn)而推動(dòng)技術(shù)創(chuàng)新，最終讓技術(shù)落地、賦能千行百業(yè)？前沿人工智能模型論壇上，來(lái)自海內(nèi)外的專(zhuān)家和行業(yè)領(lǐng)袖分享了他們對(duì)AI安全與應(yīng)用實(shí)踐的見(jiàn)解。

AI安全：用高水平安全引導(dǎo)創(chuàng)新健康發(fā)展

“引用《孫子兵法》中的一句話，就是先勝而后求戰(zhàn)?！闭劶癆I的發(fā)展路徑時(shí)，前瑞士網(wǎng)絡(luò)防御代表、數(shù)字演進(jìn)基金會(huì)主席杰拉爾德·韋內(nèi)茲在論壇上表示。他認(rèn)為，AI戰(zhàn)略必須先于AI技術(shù)的發(fā)展，應(yīng)該用戰(zhàn)略引導(dǎo)發(fā)展，最終抵達(dá)目標(biāo)。

中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)副理事長(zhǎng)盧衛(wèi)則談及了算法的透明度與安全底線。他認(rèn)為，應(yīng)加強(qiáng)算法透明度與可解釋性研究，減少“黑箱”操作，增強(qiáng)社會(huì)信任，促進(jìn)創(chuàng)新與安全良性互動(dòng)。

“高水平的安全非束縛創(chuàng)新的枷鎖，而是引導(dǎo)創(chuàng)新健康可持續(xù)發(fā)展的保障。”盧衛(wèi)表示。

中國(guó)人民大學(xué)黨委副書(shū)記鄭水泉分享了一些實(shí)踐經(jīng)驗(yàn)。在確保AI輸出內(nèi)容的真實(shí)性上，鄭水泉表示，生成式AI的“幻覺(jué)”問(wèn)題引發(fā)了虛假信息、信息繭房等問(wèn)題，對(duì)此，人民大學(xué)在開(kāi)發(fā)和部署生成式AI模型時(shí)，將檢索增強(qiáng)生成、慢思考推理等技術(shù)應(yīng)用到模型開(kāi)發(fā)中，有效降低了模型輸出虛假或失實(shí)信息的風(fēng)險(xiǎn)。

安恒信息首席技術(shù)官劉博則提及政策引導(dǎo)的重要性。

“國(guó)家和行業(yè)從法規(guī)、政策層面對(duì)AI安全問(wèn)題提出了基本要求，就是告訴了我們?cè)趺幢Ｕ檄h(huán)境安全、內(nèi)容安全、運(yùn)行安全?！?劉博表示。

而在具體操作上，劉博介紹稱(chēng)，安恒采用了訪問(wèn)控制、攻擊檢測(cè)、白名單等方式解決大模型實(shí)時(shí)在線過(guò)程中面臨的問(wèn)題。此外，當(dāng)任務(wù)要求相對(duì)較低時(shí)，可以利用小模型進(jìn)行快速調(diào)整，甚至與傳統(tǒng)非GPT模型相結(jié)合，快速解決模型的安全問(wèn)題。

中科曙光總裁助理、智能計(jì)算產(chǎn)品事業(yè)部總經(jīng)理杜夏威分享了構(gòu)建國(guó)內(nèi)AI算力聯(lián)合生態(tài)的做法。他表示，曙光的產(chǎn)品支持超400個(gè)大模型版本，旨在構(gòu)建國(guó)內(nèi)AI算力聯(lián)合生態(tài)。

“這一布局是為了解決大模型落地過(guò)程中的多重挑戰(zhàn)，包括隱私合規(guī)等問(wèn)題?！倍畔耐f(shuō)。

AI應(yīng)用：從場(chǎng)景出發(fā)，讓技術(shù)落地

以安全為前提，推動(dòng)AI技術(shù)的迭代與創(chuàng)新，但最終要讓技術(shù)落地，才能賦能千行百業(yè)。

談及AI在企業(yè)層面落地時(shí)，IBM大中華區(qū)首席技術(shù)官翟峰表示：“現(xiàn)在，越來(lái)越多企業(yè)在推進(jìn)AI化，往往投入了大量時(shí)間和精力，這實(shí)際上是在補(bǔ)上數(shù)字化轉(zhuǎn)型過(guò)程中落下的功課?！?/p>

他認(rèn)為，國(guó)內(nèi)的一些企業(yè)開(kāi)始嘗試將生成式AI運(yùn)用于辦公自動(dòng)化、知識(shí)庫(kù)搭建等，但必須把AI推進(jìn)到工業(yè)、農(nóng)業(yè)等行業(yè)，幫助產(chǎn)品研發(fā)、供應(yīng)鏈優(yōu)化，才能讓AI發(fā)揮出最大價(jià)值。

對(duì)此，行業(yè)人士在論壇上分享了AI技術(shù)在各行各業(yè)的應(yīng)用。

一智科技（成都）有限公司董事長(zhǎng)劉俊杰分享了AI技術(shù)在建筑工程行業(yè)里的應(yīng)用產(chǎn)品“安心筑”。

他表示，在智能技術(shù)高度發(fā)達(dá)的今天，建筑工程仍在依賴紙質(zhì)存檔、手工造表等傳統(tǒng)管理方式，而“安心筑”則把高度非標(biāo)、復(fù)雜多變的施工任務(wù)轉(zhuǎn)化為可量化、可追蹤、可管理的標(biāo)準(zhǔn)化任務(wù)，讓建筑施工管理流程更加透明、高效。

“使用安心筑后，轄區(qū)內(nèi)項(xiàng)目欠薪糾紛率下降95%，糾紛處置時(shí)間縮短到半小時(shí)以內(nèi)，助力主管部門(mén)從被動(dòng)治欠到智慧防欠。”劉俊杰表示。

他介紹說(shuō)，通過(guò)實(shí)現(xiàn)工序全鏈條數(shù)據(jù)存證、用AI技術(shù)識(shí)別工程風(fēng)險(xiǎn)等方式，“安心筑”將助力房屋建造從“建得快”向“建得好”轉(zhuǎn)變。

平安集團(tuán)董事會(huì)秘書(shū)兼品牌總監(jiān)盛瑞生表示，平安人工智能大模型在抗震救災(zāi)、農(nóng)業(yè)保險(xiǎn)等場(chǎng)景中發(fā)揮了積極作用。

他介紹，平安依托AI和物聯(lián)網(wǎng)等技術(shù)的鷹眼系統(tǒng)，智能預(yù)警災(zāi)害162萬(wàn)場(chǎng)，發(fā)出預(yù)警信息470億次，覆蓋客戶1.3億人次。

“最近三年，在農(nóng)業(yè)災(zāi)害大模型智能系統(tǒng)協(xié)助下，我們直接降低了農(nóng)業(yè)損失達(dá)7.6億元。”盛瑞生表示。

同時(shí)，萬(wàn)聯(lián)易達(dá)集團(tuán)首席執(zhí)行官?gòu)垪澓陀∠蠊P記高級(jí)副總裁喬遷都認(rèn)為，只有從場(chǎng)景出發(fā)、讓技術(shù)落地，才把AI的技術(shù)價(jià)值轉(zhuǎn)化為真正的社會(huì)效能。

“現(xiàn)在大部分的AI應(yīng)用更多偏向于ToC，是基于產(chǎn)業(yè)的延展。我們認(rèn)為，只有深耕產(chǎn)業(yè)，讓AI應(yīng)用與實(shí)體經(jīng)濟(jì)相結(jié)合，才能讓智能體的普及率呈現(xiàn)指數(shù)級(jí)增長(zhǎng)?！睆垪澅硎?。

喬遷認(rèn)為，AI技術(shù)的潛能不僅取決于模型能力的上限，更取決于AI是否真正嵌入了工作與生活。

“模型是源頭，應(yīng)用是橋梁，落地才是目標(biāo)?！彼f(shuō)。

（編輯：曹靜 張瑨瑄 涂恬）