中新网北京3月6日电(记者 吴涛)随着人工智能大模型的发展，大模型数据安全和自身安全问题越来越受到重视。全国政协委员、全国工商联副主席、奇安信科技集团董事长齐向东建议，开展体系化的大模型安全防护，落实《生成式人工智能服务安全基本要求》，筑牢人工智能安全防线。

齐向东表示，以大模型为核心的人工智能技术是创新范式变革与产业升级的关键引擎，然而技术跃升与安全风险始终伴生演进。人工智能大模型面临四大安全挑战，包括数据安全挑战、应用安全挑战、基础环境安全挑战和大模型自身安全挑战。

“以数据安全挑战为例，大模型在训练、推理、使用过程中涉及海量数据，通过数据投毒、数据污染等手段，会使大模型输出背离主流价值观或包含事实性错误的内容。一些不法分子还会借助提示词注入、劫持、爬虫等手段，窃取大模型用户重要信息、敏感数据。”齐向东称。

齐向东建议，从技术层面全面排查加固人工智能大模型基础设施，构建大模型红域，打造适用于人工智能的纵深防御体系，形成覆盖终端、应用、数据、大模型、算力与基础设施的多维度核心防护能力。同时，给予威胁情报、大网数据监测等情报赋能，有效抵御针对大模型的新型攻击和恶意访问，实现“对外防攻击、对内防内鬼”。

齐向东还建议重点打造大模型数据安全“双控机制”，保障大模型稳定运行。对大模型数据输入侧及输出侧开展有效管控，确保大模型数据安全、内容安全、应用安全。要求部署大模型的关键信息基础设施运营单位在网络和数据安全建设上的投入比例不低于信息化建设的15%。(完)

标签：