12月19日消息，國內(nèi)首個智能體安全生態(tài)協(xié)作組織—“IIFAA智能體可信互連工作組”（以下簡稱“工作組”）在北京宣布成立，該工作組致力于推動行業(yè)共同制定跨智能體交互的相關(guān)安全技術(shù)規(guī)范，以應(yīng)對智能體高速發(fā)展所帶來的安全協(xié)作挑戰(zhàn)，共建開放、合作、共贏的智能體生態(tài)。中國信通院、榮耀、OPPO、小米、華為、智譜、字節(jié)、阿里、螞蟻、京東、中國移動、高通等二十余家頭部科技企業(yè)和單位成為工作組首批成員。

工作組由IIFAA互聯(lián)網(wǎng)可信認證聯(lián)盟發(fā)起成立。據(jù)了解，該聯(lián)盟成立于2015年，致力于可信身份認證等工作，擁有300多家成員單位。

近年來，AI智能體生態(tài)搭建成為賽道內(nèi)各玩家的重要戰(zhàn)略布局，手機終端、大模型及APP廠商紛紛推出“AI管家”等智能體產(chǎn)品，用戶可以與設(shè)備或APP進行自然語言交互，快速實現(xiàn)訂票、點餐、打車、查詢附近吃喝玩樂等操作。其中，典型代表包括以蘋果、榮耀、vivo等為代表推出的手機廠商系統(tǒng)智能體，以螞蟻集團推出的AI生活管家“支小寶”、智譜AI推出的AutoGLM等為代表的AI智能體產(chǎn)品。

通過共享感知數(shù)據(jù)和任務(wù)協(xié)調(diào)優(yōu)化實現(xiàn)智能響應(yīng)，多個智能體協(xié)同工作，可以為用戶提供更豐富的功能體驗。比如，用戶通過手機上的語音助手說“我想聽周杰倫的歌，順便幫我點個附近的披薩外賣”，語音助手智能體識別用戶指令后，立即調(diào)用音樂播放智能體和外賣智能體。

“對用戶而言，一條指令，往往會涉及到多個app智能體產(chǎn)品，而智能體之間的打通很難，如何在端上實現(xiàn)多智能體間的可信互連，成為智能體發(fā)展中至關(guān)重要的問題。目前行業(yè)還在初期階段，新技術(shù)在給用戶帶來便利的同時，也隱藏著安全風險。”信通院泰爾終端實驗室信息安全部副主任傅山在成立現(xiàn)場表示。

IIFAA聯(lián)盟秘書長鄭亮指出，智能體之間的服務(wù)互聯(lián)最終要完成用戶指令，這中間涉及到意圖數(shù)據(jù)的共享傳遞和復雜任務(wù)拆解等必經(jīng)流程，這些流程在沒有規(guī)范約束的情況下，就像開車沒有紅綠燈，非常容易滋生亂象。事實上，即使現(xiàn)在處于多智能體發(fā)展早期，已經(jīng)出現(xiàn)了諸多問題。“黑灰產(chǎn)有時候?qū)π录夹g(shù)的掌握速度比防御方更快。我們不能在問題出現(xiàn)之后再開始討論秩序，這也是這個工作組存在的必要性。”鄭亮認為，智能體之間需要開放協(xié)作，也需要共建安全互信的行業(yè)規(guī)范。這對行業(yè)長遠的健康發(fā)展有至關(guān)重要的意義。

在此背景下，IIFAA互聯(lián)網(wǎng)可信認證聯(lián)盟正式成立“IIFAA智能體可信互連工作組”，希望通過制定跨智能體交互的相關(guān)標準等形式，為智能體行業(yè)的發(fā)展提供一個更加規(guī)范健康的協(xié)作環(huán)境。目前，工作組成員由手機終端廠商、硬件廠商、應(yīng)用開發(fā)商以及相關(guān)監(jiān)管機構(gòu)等成員組成。

作為成員單位，智譜AI CEO張鵬提出，“作為專注AI的公司，智譜非常注重技術(shù)安全和治理的同步發(fā)展，成立智能體行業(yè)組織在當下很有必要，可有效避免由于缺乏統(tǒng)一標準而可能導致的惡意攻擊、隱私侵犯等安全隱患，促進整個行業(yè)的健康發(fā)展。”

螞蟻集團副總裁李俊奎則表示，“創(chuàng)新與開放是螞蟻持續(xù)發(fā)展的基石，我們將會支持工作組推動智能體技術(shù)在各個應(yīng)用場景中的廣泛普及與信任建立，讓AI更安全的服務(wù)于用戶和行業(yè)。”

“接下來，工作組將圍繞智能體可信認證、服務(wù)可信調(diào)用、數(shù)據(jù)可信流轉(zhuǎn)、用戶隱私與權(quán)益保護等方向，建設(shè)智能體可信互連行業(yè)規(guī)范，推動行業(yè)安全、健康發(fā)展。”工作組技術(shù)總監(jiān)張璇介紹。