新華網北京9月20日電（向思敏）9月20日上午，在北京文化論壇“文化潮流：新興業態與技術融合”論壇上，新華網副總裁張芮寧重磅發布“AIGC-Safe全域內容安全與模型安全綜合服務平臺”。張芮寧介紹，該平臺的推出，旨在為狂飆突進的AI技術系上“安全帶”，護航技術向善、數智向善。

圖為新華網副總裁張芮寧現場發布AIGC-Safe平臺。新華網 陳延特 攝

近年來，數字化浪潮澎湃興起，人工智能（AI）技術正以前所未有的速度重塑世界。然而伴隨這一技術革命而來的，不僅是前所未有的機遇，還有難以駕馭的風險。

世界經濟論壇《2024年全球風險報告》把“信息錯誤和虛假信息”列為最大的短期風險。黑客利用AGI侵入性工具大幅縮短人工智能生成威脅的時間，將攻擊目標從個人數字資產擴大至AI算力基礎設施和大模型，甚至威脅公民人身安全與國家安全。AI“換臉”詐騙，AI偽造圖文傳播謠言，AI生成涉政、涉暴、涉恐、涉黃等違法違規內容……種種亂象，嚴重侵犯公民合法權益，擾亂社會秩序。同時，公共顯示屏也因數量眾多、區位分散、傳統防御監管手段響應效率不高等現狀，成為內容安全事故的“多發區”。

面對嚴峻形勢，全球范圍內對AIGC進行合規性監管的共識日益增強。我國在這一領域更是走在世界前列，政策、立法、倫理、標準多維度并進，不斷將人工智能治理共識轉化為系統性規則規范和實踐舉措。

圖為平臺發布現場。新華網 陳延特 攝

“新華網緊跟時代步伐，‘用AI守護AI，用大模型對抗大模型’，打造了AIGC-Safe全域內容安全與模型安全綜合服務平臺?！睆堒菍幗榻B。網絡安全的攻防從人和人之間的對抗，已經升級到AI和AI之間的對抗，只有AI驅動的防護和檢測才能識別AI驅動的偽造和攻擊。

該平臺構筑起四大核心技術能力：在模型層面，推出國內首個偽造檢測大模型，并搭建AI攻防平臺和數據生成基座以保障模型持續更新；在數據層面，依托承辦中國互聯網聯合辟謠平臺的優勢，積累了海量謠言大數據和不良信息特征庫，針對偽造算法和合成數據進行儲備與訓練；在算法層面，通過算法的深度優化，確保模型在各種環境和場景下，都能高效精準部署應用；在硬件層面，適配國產芯片，優化軟硬件協同和網絡加速，研發出保障信創安全的一體機產品。

通過現場演示，觀眾直觀感受到AIGC-Safe平臺不僅具有強大的內容合規審核能力，能夠對字、詞、標點、知識性差錯及通用內容和AIGC內容進行全面檢測，還擁有卓越的AIGC檢測能力——無論是AI生成的文本、視頻還是多模態內容，平臺都能迅速識別，可用于判斷各類網絡信息是否真實、檢測學術論文是否造假；對于深度偽造的視頻、圖像、合成語音等，平臺能快速識別并標記其偽造痕跡，可用于檢測AI換臉詐騙、數據造假、虛假情報等眾多安全場景。

此外，作為線上線下全域覆蓋的內容安全檢測平臺，AIGC-Safe通過云邊端一體化的方式，為公共顯示屏內容及播控安全提供了全面解決方案。面對諸如公交站臺顯示屏被黑客攻擊劫持等突發事件，平臺能夠迅速響應并提供整體安全解決方案，確保信息傳播的穩定性和安全性。

AIGC-Safe具有廣闊的場景應用前景，可廣泛應用于虛假情報檢測、特定人物偽造檢測，AI換臉、語音合成詐騙檢測，開戶換臉檢測、新聞真實性檢測、學術作弊檢測，票證鑒偽，公共顯示屏內容安全管控、輿情風險管控、版權風險管控等諸多領域，在實際場景中解決AI發展伴生的實際問題。

作為中央重點新聞網站和新型數智化文化企業，新華網一直努力探索發展自身的人工智能技術創新應用。此前已推出新華AIGC應用使能平臺、新華AI學術科研原創助手、“智政通”政策與公共服務AIGC自然語言交互系統等多個平臺和產品。展望未來，新華網將以AIGC-Safe平臺為基石，勇毅擔當、創新技術、拓展場景，為AI時代每一個“你我他”的安全保駕，以扎實的全域內容安全與模型安全綜合服務實力，為數字中國行穩致遠護航。