AI驱动智能化浪潮,安全挑战日益严峻

随着大模型技术迅猛发展、智能体应用加速落地,人工智能技术正在重塑百行千业,成为推动新一轮科技革命与产业变革的核心动力,引领人类社会迈入智能化时代,实现生产生活方式的全面革新。

AI是一把“双刃剑”,在带来机遇的同时,也衍生出了众多新挑战。360集团创始人、ISC大会主席 周鸿祎 在致辞中表示,AI发展面临着恶意利用、内容安全、 幻觉 问题、提示词攻击等风险,大模型既是生产力工具,也可能成为新的攻击载体和攻击入口,政府和企业的数据资产、商业机密面临着前所未有的暴露风险,保障AI安全是一项长期而艰巨的任务,需要各方协同努力。

以模制模,360大模型安全卫士筑牢AI安全防线

360数字安全集团 副总裁 余凯 在演讲中表示,面对AI安全新挑战,传统安全企业在大模型技术领域积淀不足,往往是“盲人摸象”,难以系统把握全局;而多数大模型企业缺乏必要的安全技术积累与攻防实践经验,往往难以提出行之有效的解决方案。

360充分发挥“懂AI更懂安全”的跨领域优势,基于以模制模理念打造360大模型安全卫士,聚焦解决AI的“可靠、可信、可控、向善”核心问题,以四大智能体系统性解决大模型 生命周期 中各环节的安全问题。

此外,360创新性地将大模型安全卫士融入安全运营体系,通过整合安全大模型、安全大脑平台、大模型安全卫士及终端探针工具的核心能力,构建 “网数模一体化”安全运营平台,实现安全运营系统性重塑与升级。

实战成效显著,360构建AI安全新基建

余凯表示,AI安全是一个门槛极高的技术领域,需要同时具备AI技术积淀、安全实战经验、真实场景验证和海量语料积累。360通过自身大规模AI业务场景验证产品能力,形成“从实践中来,到实践中去”的 迭代 闭环,同时沉淀了海量安全语料,构建起了难以复制的核心竞争力。目前,360大模型安全卫士已在公司内外多项业务中实现深度应用。

目前,360已深度参与大模型国家标准、大模型技术研发标准、大模型安全框架标准以及国家 人工智能 三大核心安全标准的制定,同时,积极牵头成立行业生态联盟,促进全球产学研企共建AI安全。据悉,360大模型安全卫士发布后,将为金融、政务、医疗、文旅等重点行业的智能化升级提供坚实安全基座,助力打造具有全球竞争力的人工智能发展高地。为推动大模型技术的安全发展与创新应用注入强劲动能。(古雨)

本站所有文章资讯、展示的图片素材等内容均为注册用户上传(部分报媒/平媒内容转载自网络合作媒体),仅供学习参考。 用户通过本站上传、发布的任何内容的知识产权归属用户或原始著作权人所有。如有侵犯您的版权,请联系我们反馈本站将在三个工作日内改正。