提示詞描述

本節構建一個「人工智慧安全核心挑戰」框架，該框架圍繞四個相互交織的維度展開：第一，威脅形勢和風險結構的系統性複雜性，範圍涵蓋跨越數據-模型-應用-系統四個層面的攻擊鏈、供應鏈投毒和RAG檢索源污染，到真實世界環境中的分佈偏移和最壞情況下的穩健性缺陷，強調風險在多個層面上的傳播和放大。第二，安全評估和測量方面的結構性差距，包括對抗性評估和紅隊評估的覆蓋範圍限制、穩健性和效用之間的現實權衡，以及在工具調用場景中定義和審計未授權行為的困難。第三，由LLM和AIGC驅動的新型動態風險，例如策略化和武器化的幻覺攻擊、由插件和工具生態系統放大的「語言到行動」攻擊飛躍，以及由長上下文注入和記憶體污染引起的潛在劫持。第四，防禦範式和治理機制之間固有的緊張關係，體現在對抗性訓練和認證穩健性的成本和可擴展性瓶頸、差分隱私和聯邦學習中隱私和性能之間的「不可能三角」、模型水印和介面治理的可用性權衡，以及在GDPR/AI法案等監管要求下，安全、公平、透明、可解釋性和其他多維度可信賴性目標之間的衝突和運營實施困難。整個框架旨在強調這些挑戰並非孤立存在，而是通過數據、模型、系統和治理鏈接形成一個動態演變的風險網絡，需要技術防禦、評估體系和宏觀治理三個層面的協調響應。