全国A级! 三六零大模型安全才能获我国人工智能大赛认证
2025-03-17 20:29:55 来源: www.kalarly.com 作者: 易倍体育全站 1
12月20日,第五届我国人工智能效果发布会在厦门举行。三六零(601360.SH,下称

  12月20日,第五届我国人工智能效果发布会在厦门举行。三六零(601360.SH,下称“360”)集团因在人工智能安全办理“大模型安全攻防赛”中体现杰出,荣获本届我国人工智能大赛A级证书。

  本年9月,在国家互联网信息办公室、公安部指导下,厦门市人民政府主办的第五届我国人工智能大赛真实开端发动,环绕人工智能安全办理和立异开展两大主线设置了赛题。作为重要赛题之一,大模型安全攻防赛是将15000条包含歹意和正常的大言语模型提示词样本输入到参赛的大言语模型中,借此调查大模型对进犯的防备才能。

  据了解,AI在提高生产力的一起,也带来了包含错觉、深度假造、注入进犯、数据污染或投毒等史无前例的安全新应战。作为兼具数字安全和AI两层才能的科技公司,360很早开端重视大模型安全危险,并推出一系列有清晰的目的性的立异技能,包含开发了国内首个安全大模型,经过“以模制模”理念,使用AI大模型来检测和防备大模型或许会呈现的安全危险,既处理传统网络安全问题,又为霸占AI安全新应战供给了可行性计划。

  近来,360集团还牵头建议建立大模型安全联盟,旨在打造资源共享、共创共赢的大模型安全生态集群,一起推进大模型安全规范的拟定、安全技能的立异和安全才能的提高,打造大模型安全开展的新范式。

  一起,360根据“安全、向善、可信、可控”的四大准则,推出多款具有极端严重职业价值的企业级使用新产品,包含大模型全链路安全查看的“智鉴”、内容安全护航的“智盾”、查找增强利器“智搜”,以及常识办理渠道“智能文档云”和情报监测东西“舆情卫兵”,全方面覆盖了大模型系统安全、内容安全、智能常识办理与情报分析等要害范畴,经过技能立异与生态建设,继续为大模型安全及职业开展注入新动能。