斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿

閱(yue)讀次數(shu)：1468 編(bian)輯(ji)：系統管理員發布時間(jian)：2025-12-05 15:01

[字體：大中小]

想象這樣一(yi)個(ge)畫面，在一(yi)個(ge)普通(tong)的(de)(de)工(gong)作(zuo)日，你坐(zuo)進了(le)心(xin)愛的(de)(de)座駕(jia)，隨口(kou)問到：“今(jin)日有(you)什(shen)么新(xin)聞？”車載AI立馬啟(qi)動，下(xia)(xia)一(yi)秒，它開始娓(wei)娓(wei)道來(lai)——上(shang)到事關國(guo)計(ji)民生的(de)(de)政策，下(xia)(xia)到市井俚俗的(de)(de)民生八卦，流暢、自然、像朋友聊天一(yi)樣貼心(xin)。但如(ru)果這番溝通(tong)中暗含著(zhu)什(shen)么不該說的(de)(de)內容(rong)？比如(ru)敏感話題、虛假信息(xi)、甚至來(lai)自釣魚網站的(de)(de)惡意廣告......

這不是科幻(huan)片的橋段，在智能座艙(cang)加(jia)速邁向“AI原生”的今天，每一輛搭載AI模型的智能座駕都必須(xu)面對的現實(shi)考題(ti)。

作為智(zhi)能座(zuo)艙領(ling)域的(de)先行者，斑馬(ma)智(zhi)行聯合(he)阿里云共同打(da)造面向智(zhi)能座(zuo)艙場景的(de)AI安全審核方(fang)案，通過阿里云AI安全護欄(lan)的(de)能力加持和云基礎設施強調的(de)彈性(xing)吞吐(tu)力，該方(fang)案已經成功應用于多個(ge)頭(tou)部(bu)品牌車型(xing)(xing)中，日均支撐(cheng)千萬(wan)級(ji)大(da)模型(xing)(xing)安全審核調用，為行業樹立了大(da)模型(xing)(xing)內容(rong)安全與用戶體驗兼顧的(de)新標桿。

斑(ban)馬智(zhi)行安全負責(ze)人評(ping)價到：“我們與阿里(li)云(yun)共同打造的(de)這套安全護欄方(fang)(fang)案，不僅(jin)滿足了國家級合規(gui)要求，更在(zai)真實量產場景中驗證了其高性能(neng)、高可靠、可擴展的(de)工程價值。這不僅(jin)是技術方(fang)(fang)案的(de)勝利，更是AI安全治理體系在(zai)汽車(che)行業的(de)成(cheng)功(gong)落地。”

當大模(mo)型成為汽車標(biao)配

千(qian)人千(qian)面背后的安(an)全(quan)隱患

回到文(wen)章最初(chu)的(de)(de)場景(jing)，隨著大模型和AI Agent的(de)(de)迅速發展，智能座艙里的(de)(de)安(an)全(quan)(quan)助手(shou)，早已(yi)不(bu)再是只會導航、會放歌的(de)(de)“工具人”，在(zai)Multi-Agent技術的(de)(de)加(jia)持下，它不(bu)僅能聯網(wang)搜索(suo)，能多輪(lun)對話，還能一鍵(jian)幫你定制(zhi)行(xing)程、分(fen)析新聞(wen)......但每一次看(kan)似普通的(de)(de)交互背(bei)后，都隱藏著不(bu)容(rong)忽視的(de)(de)安(an)全(quan)(quan)風險：

用戶(hu)隨口(kou)一句“講個刺激的(de)歷史故事(shi)”，會(hui)不會(hui)觸發不當(dang)內(nei)容？
AI從(cong)網(wang)上抓取(qu)的信(xin)息，是(shi)否混(hun)進了賭博(bo)、色(se)情(qing)或釣魚(yu)鏈(lian)接(jie)？
聯網搜索功能加持(chi)下(xia)，用戶輸入是(shi)否會觸發對惡意網站(zhan)的直接調用？

國(guo)家(jia)《信息安(an)全(quan)技(ji)術(shu) 生成式人工(gong)智(zhi)能(neng)服務(wu)安(an)全(quan)基本要(yao)求》（TC260-003）中明確要(yao)求，需(xu)對風險進(jin)行識別與攔(lan)截。熟(shu)悉安(an)全(quan)的(de)朋友(you)可(ke)能(neng)會疑(yi)惑(huo)，內容安(an)全(quan)審核技(ji)術(shu)已經發展了數十年，難道沒有(you)直(zhi)接可(ke)用(yong)的(de)成熟(shu)解決方案嗎？實(shi)際上：

一方面(mian)，為了保證用(yong)戶與模型(xing)(xing)交互過程的流(liu)(liu)暢性，一句話往(wang)往(wang)被拆成十幾段(duan)流(liu)(liu)式輸出，傳統基于(yu)關(guan)鍵詞和規則的專家模型(xing)(xing)，面(mian)對這類語義復雜、上下文強依(yi)賴的模型(xing)(xing)輸出時(shi)，最終結果往(wang)往(wang)是“看得見(jian)字，但不懂意”；
另(ling)一方(fang)面(mian)，如果全部(bu)依賴大模型(xing)審(shen)核，雖(sui)然理解能力強，但因推理耗時(shi)長且成本高(gao)，難以滿(man)足車(che)載場景對實時(shi)性的嚴苛(ke)要求；

“既要(yao)快(kuai)，又要(yao)準”——這正(zheng)是斑馬智(zhi)行與阿里云聯合攻堅的(de)核心命(ming)題(ti)。

阿里云AI安全護(hu)欄：

三大技術突破，重新定義車載AI安全標準

阿里云AI安全護(hu)欄（AI Guardrails）是(shi)云安全團隊為(wei)人工智能(neng)系(xi)統設計的(de)安全防(fang)(fang)護(hu)產(chan)品(pin)，防(fang)(fang)護(hu)對象覆蓋預訓練大模型(xing)、AI服(fu)務(wu)和AI Agent等不同業(ye)務(wu)形(xing)態。在智能(neng)座艙場(chang)景，AI安全護(hu)欄為(wei)斑馬(ma)智行(xing)提供(gong)了精準的(de)風險檢測(ce)與主動(dong)防(fang)(fang)御(yu)能(neng)力(li)，同時滿足車載場(chang)景對效(xiao)率和效(xiao)果(guo)的(de)要求。

1.雙引擎協同架(jia)構(gou)：毫秒級(ji)審核響應

不同于單一(yi)的(de)審核(he)策(ce)略(lve)，阿(a)里云(yun)AI安全護欄采(cai)用“規則(ze)引擎+小模型(xing)+大模型(xing)”協(xie)同審核(he)策(ce)略(lve)：

所有輸入/輸出文(wen)本實時切片后(hou)，由輕量級專家模型并行執行毫秒級初篩，快速攔截明顯(xian)風(feng)險(xian)；

同時，重新編(bian)排大(da)模型(xing)深度審核鏈路，利用多(duo)線程智能化調(diao)度；

最終融合雙(shuang)引擎結(jie)果(guo)，在不(bu)(bu)犧牲召(zhao)回(hui)率的前提下，有(you)效降低了(le)端到端審核延的響(xiang)應時間，完美適配車載用戶(hu)實時交互的流暢體驗，用戶(hu)感覺不(bu)(bu)到“檢查”的存在，安全卻始終在線。

2.流(liu)式上下文關聯審核：短文本不再“裸奔”

為了保障與客(ke)戶溝(gou)通(tong)的實時性，大模(mo)型內容(rong)生成大多采用“邊(bian)生成，邊(bian)輸入”的流(liu)(liu)式模(mo)式，一段(duan)回(hui)答可能會(hui)分(fen)為10次(ci)(ci)推送(song)，單(dan)次(ci)(ci)切片(pian)(pian)可能僅10-20字，傳統審(shen)核(he)模(mo)型因缺乏上下(xia)文，面對(dui)這種“碎片(pian)(pian)化表達”，極易漏判(pan)。阿里云AI安全護欄采用“大模(mo)型流(liu)(liu)式審(shen)核(he)方案”：

通(tong)過唯(wei)一標識關聯一次(ci)完整對話(hua)；
安全護欄自動(dong)聚合同一會話中(zhong)的所(suo)有切片，進行跨片段語義理解；
即使敏感內容分散在多(duo)輪(lun)輸出中，也能精準識別并攔截；

實(shi)測顯示，該方(fang)案將短文本場景下的風險內容召回(hui)率提升(sheng)至(zhi)98%以上(shang)，遠(yuan)超傳統方(fang)案。

3.聯網(wang)檢索風險實時(shi)攔截(jie)：堵(du)住Agent的“后門”

在支持聯(lian)網(wang)搜索的Agent場景中，用戶提(ti)問可能觸(chu)發(fa)對第三(san)方網(wang)頁的抓取(qu)，例如(ru)：

用(yong)戶問(wen)一句：“幫(bang)我找附(fu)近評分最高的(de)酒(jiu)吧(ba)”，AI所(suo)搜索到的(de)目標站點可(ke)能(neng)是某(mou)個偽(wei)裝成酒(jiu)吧(ba)推薦網頁的(de)釣魚、賭(du)博或色情網站，將直接污染大(da)模型的(de)輸入。阿里(li)云(yun)AI安(an)全所(suo)具(ju)有的(de)“URL風(feng)險檢測”模塊，則能(neng)快速應對：

對所有聯網請求中的第三方鏈接進(jin)行(xing)實時掃描(miao)；
精準識別色情信息、非法(fa)賭博、釣魚(yu)網(wang)站、虛假(jia)營銷等(deng)風險類型(xing)：
一旦命中高風險(xian)標簽，立即終止任務，防(fang)止有害信息流(liu)入大模型。

目(mu)前該能(neng)力(li)已覆蓋(gai)智能(neng)搜索、資訊推(tui)薦等多個高頻場景。

云基礎(chu)設施(shi)彈(dan)性保(bao)障：安全能力“隨需調用”

對于各大車企，定期的促(cu)銷、活動、新車上市......往往都伴(ban)隨著流量(liang)激增。尤其在智(zhi)能駕駛、智(zhi)能座艙(cang)等新興(xing)領域，首發熱度動輒帶來數倍于日常的調用量(liang)，這(zhe)對任何產(chan)品都是一次(ci)“壓力測(ce)試”，如果安全審核(he)扛不(bu)住，輕則延遲卡頓、重則全面宕(dang)機。

阿里云AI安(an)(an)全護(hu)欄依托于阿里云強大(da)的(de)(de)基礎設(she)施，為客戶提供(gong)可彈(dan)性拓(tuo)展(zhan)的(de)(de)安(an)(an)全防護(hu)力(li)，支(zhi)持(chi)客戶按需(xu)購買QPS彈(dan)性擴(kuo)展(zhan)包，最短7天起訂，已驗證(zheng)可支(zhi)持(chi)單項(xiang)目峰值600 QPS的(de)(de)穩定(ding)運行。

無論是平日(ri)通(tong)勤，還(huan)是發布會后的“搶車潮”，安全能力(li)始終絲滑在線(xian)。(斑馬智(zhi)行)

掃一掃在手機打開當前頁

上一條：哈工庫訊榮登畢馬威長三角高端裝備榜單，以...

下一條：普泛能源榮登國家專精特新“小巨人”企業名...

欧美操屄,99xxxx,XXXXX视频在线观看,亚洲中文字幕无码久久下载,免费视频在线看刺激战场网站,aa在线播放,少妇tubevideos高清视频,日本一区二区三区在线高清视频,二级毛片免费观看爽爽爽,黄色网站在线看免费99

斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿