第二届全国智能算法对抗挑战赛(防御组)
2025 年全国智能算法对抗挑战赛防御组:自建超 10 万条数据集、训练防御基模,平均防御分 95,总第 13 名 / 70 队。
阅读提纲 4 个章节
解决什么问题
2025 年,第二届全国智能算法对抗挑战赛。我在防御组:对手是主办方准备的攻击,目标是在官方攻击测试平台上守住安全约束——该拦的攻击要拦住,同时不能过度拒答、把正常问题也挡掉。
我做了什么
两人参赛,我是队长,模型训练全部由我完成。最终基模是 Qwen2.5-7B-Instruct。为了让模型见过足够多的攻击形态,我自建了超过十万条的训练与测试集,覆盖不同的攻击类别与变体,再在官方平台上反复评测、按错例补数据迭代。目录里留下 257 个文件、7,311 行 Python。
结果
官方攻击测试平台上,平均防御分 95;入围决赛的分是 92,全场前六。第二轮测试分数偏低,错失冠军角逐。最终总排名第 13,共 70 支队伍,获优胜奖。比赛结束后这套东西停在 2025 年 12 月,没有再改。后来的越狱防御论文与 Agent 安全选题,起点都在先学会怎么攻打、才知道防什么。
没做到的,和这一页不写的
第二轮分数掉下来,说明防御对某些攻击变体还不够稳,这是这次没走到最后的原因。测试集含攻击样本,不公开;档案里也只留了代码与测试集,没有主办方的逐项成绩记录,分数用的是赛后记下的口径。
这一节由 AI 按站主的访谈原话整理成文,等站主过目。
约 7,311 行代码;257 个文件;主要是 py;来源:本地目录 llm-attack-defense-contest