大赛背景、目的及意义

近年来,人工智能的发展日新月异,生成式大模型正在成为驱动新质生产力发展的新动能、人类探索未知的新工具,在赋能新时代发展的同时,生成式人工智能也给全球带来了前所未有的安全风险。为有效发现、分析、应对生成式人工智能安全风险,举办首届生成式人工智能安全大赛,大赛以“共筑安全星河,护航AI发展”为主题,设置安全攻击、安全检测、对齐防护三大赛道,旨在聚集国内优势力量,不断提升我国人工智能底层技术和基础底座的安全可控水平。

赛程设置

大赛采取线上比赛、线下答辩及颁奖的模式,参赛队伍于生成式人工智能安全比赛平台官网报名组队,并依托平台开展参赛作品测评。线上比赛结束后,大赛委员会将按照参赛作品测评排行榜复现评审,通过复现评审的前20%的(不超过8支)入围队伍将通过线下答辩,决出最终名次,最终获奖团队将受邀出席颁奖盛典。
  • 大赛报名
    2024.01.01-2024.09.04
    大赛启动、开放报名
  • 线上初赛
    2024.09.05-2024.09.25
    关闭报名通道、初赛开始
  • 初赛评选
    2024.09.26-2024.09.25
    关闭结果提交通道、专家复现审核、晋级名单公布
  • 线下复赛
    2024.09.26-2025.09.26
    复赛比赛、线下答辩
  • 大赛论坛
    8月中旬
    颁奖、圆桌论坛

大赛QA

Q1: 参赛团队人数是否有限制,团队成员可否跨单位,参赛人员可否跨团队?

A: 大赛对参赛团队报名人数无限制,团队成员可跨单位;参赛人员可跨团队组队,但其所在团队不可报名参加同一赛题。

Q2: 同单位可否派出多只队伍参赛?

A: 大赛对同单位参赛队伍数量无限制。

Q3: 参赛团队报名赛题是否有限制?

A: 大赛对参赛团队可报名赛题无限制,任一团队可报名任何一个或多个赛题。

联盟招募

当前,大模型安全已成为大国科技竞争的重要制高点。中国科学院信息工程研究所将立足大模型安全的紧迫需求,依托Galaxy星河生成式人工智能安全风险测评平台和大赛,汇聚国内优势力量,建立生成式人工智能安全技术联盟,聚焦安全攻击、安全检测、安全防护三大方向,构建攻、检、防三位一体的大模型安全体系,携手突破大模型安全攻防技术,共研、共建、共享大模型攻防对抗平台,进而夯实人工智能基础底座安全可控水平。 欢迎有志从事生成式人工智能安全的单位加入联盟,我们携手共筑大模型安全基石!
联系人:林老师
联系电话:17810254431