跳到正文

mekxa 研究生在读 · 大模型安全与工程

大模型安全,
研究与工程两条线。

研究方向是大模型安全:越狱防御、Agent 安全。工程上做过在线运行的 API 网关、开发者工具,和这座档案站。

也可以沿星轨漫游

每件都写了解决什么、做了什么、结果、没做到什么。

现在在做什么

主线工作

按分量排,不按时间:最早的两件排在最后。研究 6 件,工程 5 件。每件都写了解决什么、做了什么、结果、没做到什么。

含档案的完整目录
  1. 工程

    BigBigAPI

    把模型接入、客户端配置与日常实验连起来的 API 服务。

    持续迭代 BigBigAPI 早期官网:模型接入地址、使用说明与余额查询入口
  2. 研究

    DCEB:确定性上下文嵌入的越狱防御

    用确定性上下文嵌入防御大模型越狱:两次顶会被拒后继续返修,改投 NDSS'27。

    论文返修中,改投 NDSS'27
  3. 研究

    LLM Agent 安全研究调研与 SecureMemGuard

    LLM Agent 安全七个选题的调研,落到共享记忆完整性方案 SecureMemGuard,论文已投稿。

    论文已投稿,等审稿 LLM Agent 安全研究调研报告首页:威胁态势、前沿方向与选题建议的目录
  4. 研究

    腐蚀深度两阶段预测建模

    横向课题:先分类再回归的两阶段模型预测腐蚀深度,交付特征重要性分析与交互预测页。

    横向课题,已交付
  5. 工程

    满血渠道测试机

    把筛选 API 渠道的经验,做成两轮可重复的验收。

    自用,持续改进 渠道测试机配置界面,含缓存连续性、token 对账与第二轮检查入口
  6. 工程

    CoCo

    给 Claude Code 做的网页工作台:文件、终端、SSH 与端口映射放进同一页,会话刷新不丢。

    自用中,仓库已公布
  7. 工程

    mekxa.cn 成长档案站

    这座档案站本身:Git 即数据库的内容模型、可漫游的星轨与站内 AI 分身。

    持续建设中
  8. 研究

    唇语识别 · 百句默读预测

    从口型到句子,先仿真,再走向真人视频验证。

    可行性验证,云端运行
  9. 研究

    大模型安全攻防比赛

    大模型安全攻防比赛打进决赛:攻击提示词构造、500 条测试集与本地靶模型评测。

    已结束,进入决赛
  10. 研究

    傅里叶函数用于大模型损失函数的探索

    半年实验,换过几次损失函数形式,最后没能把因果说清楚。

    无结论,已搁置
  11. 工程

    毕业设计:信用案例知识图谱可视化系统

    本科阶段独立做完的一整套系统:从图数据库到前端可视化。

    毕设,已完成答辩

五个阶段

按学业分段:本科、毕业到入学之间、研一、研二上、研二下。每段写清方向怎么变。

翻阅时间线
  1. 2019 至 2023

    本科:从网络工程到知识图谱

    湘潭大学网络工程本科。大二进了智慧司法实验室,从 word2vec 一路跟到 transformer,这是第一次接触深度学习;毕设独立做完一套信用案例知识图谱可视化系统;期间受钱包主人委托,帮他找回丢失两个助记词的以太坊钱包。

    1 件主线 · 2 份档案
  2. 2023 至 2024

    毕业与入学之间

    本科毕业到研究生入学之间的一年。档案里留下的是大模型安全攻防比赛——第一次正面碰越狱与防御,进了决赛;另外复现了几个图对抗攻击的基线。

    1 件主线 · 1 份档案
  3. 2024 至 2025

    研一:课程与上手期

    上科大入学。CS280 深度学习、图像处理、程序分析三门课的作业占了大半;课外开始把大模型放进具体任务——微调聊天分身、本地跑语音与小模型。傅里叶函数能否用作大模型损失函数,做了半年实验,没有结论就停了。

    1 件主线 · 8 份档案
  4. 2025 至 2026

    研二上:开题与投稿

    研究方向定在大模型安全。越狱防御的工作在这个学期成文投出去,同时把服务器与站点的底子搭起来。这一段的主线只有一件,但它是后面所有事情的起点。

    1 件主线 · 4 份档案
  5. 2026 至今

    研二下:研究与工程并行

    研究线:越狱防御论文的返修、Agent 安全选题与 SecureMemGuard、横向的腐蚀建模、唇语识别。工程线:API 网关 BigBigAPI 上线、渠道验收测试机、Claude Code 工作台 CoCo,以及这座档案站。两条线同时跑,是目前的状态。

    7 件主线 · 0 份档案

怎么读这座档案馆

  1. 先看主线工作,每件都有起止、状态与可追问的点。
  2. 再沿时间线看五个阶段与三条线怎么交替。
  3. 想核验就展开档案里的评测与来源。

主线工作按证据写:解决什么、做了什么、结果如何、没做到什么。课程作业与几天的尝试也留档,但不混进主线。

现在在做什么