近日，CCS2024成都網絡安全系列活動在成都舉行。“大模型安全與產業應用創新研討活動”同期舉辦，本場活動由百度安全、成都無糖信息聯合承辦，特邀云安全聯盟CSA大中華區合作舉辦。本次活動聚焦大模型安全以及大模型產業創新應用兩大主題，旨在為大模型技術的健康發展和產業應用創新落地提供一套切實可行的思路與方案，攜手各界生態合作伙伴，探索人工智能與數字安全的融合之路，引領大模型時代下的安全行業創新變革。

CCS2024 大模型安全與產業應用創新研討活動

百度副總裁陳洋在開場致辭中表示，大模型技術在加速產業升級的同時，也帶來了全新的機遇與挑戰。面對這些挑戰與機遇，我們需要探索出一套行之有效的解決方案，讓蓬勃發展的大模型產業能夠健康穩定地發展。百度將攜手生態合作伙伴，共同構建大模型安全防線，引領安全行業在大模型時代的創新變革。

云安全聯盟CSA大中華區主席李雨航在致辭中介紹了CSA在AI安全領域的最新進展。CSA致力于構建一個多方參與、共同治理的AI安全生態系統，推動云安全、AI安全和生成式人工智能應用安全、大語言模型安全以及大模型供應鏈安全的標準化工作，與海內外科技巨頭共同推動全球AI安全治理體系的建設。

多模態大模型是近年來大模型領域中備受矚目的焦點，會上，百度安全副總經理馮景輝聚焦《多模態大模型的安全挑戰與應對》發表主題演講。他指出，多模態風險不僅僅是視覺風險，更是跨模態風險，對多模態模型的風險評估要覆蓋認知安全、生成安全、模態安全和對抗性安全多個方面。與會，馮景輝正式發布百度多模態內容安全解決方案，方案基于模態對齊、視覺理解以及魯棒性提升等核心技術，用多模態對齊實現跨模態一體化安全，用圖像分割與信息抽取技術，補充安全性，旨在解決第三方大模型的生成式內容合規、內生安全提升、運營常態化風險收斂等關鍵問題，助力客戶和生態合作伙伴實現了大模型的安全升級。

在《大模型數據安全創新與實踐》的主題演講中，百度數管平臺負責人季石磊分享了百度在保護大模型核心資產、確保數據安全與隱私方面的最新技術與方法。他詳細說明了大模型全生命周期數據安全與模型保護機制，覆蓋了從語料數據管理、模型訓練到模型流轉、使用和私有化交付等各個環節；并表示基于BaiduAIRealm的數據保險箱產品解決方案，為大模型等高價值數據資產提供全方位防護。此外，季石磊特別列舉了智能數據分類分級、模型資產防護以及端云協同構建端到端安全可信鏈路等創新技術在大模型數據安全中的應用。

盈科全球數據合規服務中心主任郭衛紅介紹了《大模型在數據合規的應用》。她從法律和實務的角度，深入分析了如何利用大模型技術來提升數據合規管理的效率與效果。郭衛紅介紹了盈科在個人信息保護合規審計項目中應用大模型的實踐，通過智能合規問答、自檢、評估和審計等功能，大幅提升了數據合規管理的效率。她特別強調了大模型在解決法律信息不對稱問題上的重要作用，以及在合規檢查、評估和審計等環節的具體應用。郭衛紅還分享了盈科AI律所智能空間站等創新應用，展示了大模型在法律服務領域的廣闊應用前景。

百度研發安全負責人陳長林帶來了《"文心快碼"智能代碼助手安全實踐》的分享。生成式人工智能正在為軟件研發領域帶來前所未有的機遇，生成式智能編碼提效工具在幫助工程師代碼提效的同時，其自身的安全性、可靠性需要予以特別關注，其中的典型風險包括大模型生成代碼的安全性、調用大模型服務時可能存在的代碼敏感信息泄露、網絡傳輸鏈路劫持、數據跨境傳輸等等。陳長林介紹了百度通過智能編碼提效工具"文心快碼"實現安全左移的最佳實踐，通過安全漏洞掃描、一鍵自動修復、安全增強模式，助力文心快碼在提高開發效率的同時，確保代碼安全。

新華三信息安全研發副總裁劉忠良分享了《AIGC趨勢下安全大模型在網絡安全運維與運營的落地實踐》，重點介紹了新華三的靈犀大模型在威脅輔助研判、攻防滲透測試、自動風險處置、智能運營分析和智能可視化等場景的應用。他詳細闡述了如何利用大模型提升安全事件研判效率、加速風險響應處置、實現智能安全策略生成等創新應用。新華三在安全運維、攻防實戰和安全運營等方面的場景化應用，展示了大模型在網絡安全領域帶來的效率提升。

百度安全車與終端安全架構師林道正帶來了《見微知著：TARA視角下大模型在汽車合規的潛力探索》的主題演講。他從威脅分析與風險評估(TARA)的視角，深入探討了如何利用大模型技術來提升智能網聯汽車的安全合規水平。林道正以TARA場景為例子，結合快思考系統和慢思考系統的系統設計，探討了如何構建企業級安全知識管理體系。他詳細闡述了如何組織運營過程中的安全數據，并利用大模型技術解決TARA過程中的復雜性、合規標準、演變威脅和人才缺口等挑戰。林道正還介紹了百度在智能網聯汽車安全合規領域的創新實踐，展示了大模型在汽車安全領域的應用前景。

會上，云安全聯盟CSA大中華區與百度安全重磅發布了《AI安全產業圖譜(2024)》，全面呈現了AI安全領域的最新發展態勢和未來趨勢。云安全聯盟CSA大中華區主席李雨航與百度安全副總裁陳洋共同啟動了圖譜的發布儀式。

云安全聯盟CSA大中華區《AI安全產業圖譜(2024)》

通過本次活動，百度安全攜手產業生態共同探討了大模型安全與產業應用創新的前沿話題，旨在為大模型技術的健康發展和產業應用創新落地提供了切實可行的思路與方案，為推動大模型技術在安全領域的創新應用，構建更安全、更可信的數字世界奠定了堅實基礎。（李妍）