跳到正文

技术方向

安全 最新动态

AI 编程相关的安全问题:Agent 权限、提示注入、供应链风险与真实事故。

8 条精选近 30 天 4 条共收录 39 条

更新

安全的精选

10月8日周四第 1–8 条
  1. GitHub Blog · AI & ML62

    GitHub 推出基于 ModernBERT 的密钥检测模型,将 push 保护扩展到非结构化密钥

    GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器,用代码上下文识别数据库密码等非结构化密钥,候选批次评估耗时低于 2 毫秒,可将可拦截的密钥数量提升一倍以上。

    推荐理由:GitHub 用九个季度的数据说明密钥泄露与代码量同步增长,并给出把检测前移到 push 环节的模型方案。

  2. GitHub Changelog · Copilot60

    GitHub 推出专用模型检测泄露密钥,覆盖推送保护与 Copilot 安全审查

    GitHub 发布用于密钥检测的微调模型,可读取上下文代码识别无固定格式的密码等凭据,且不生成代码或文本。已有 AI 检测密码告警的客户自动升级到新模型,AI 检测密钥的推送保护进入 private preview,Copilot CLI 和 Copilot App 的 /security-review 命令中的 AI 密钥扫描也将很快进入 private preview。

    推荐理由:GitHub 把微调后的密钥检测模型接入推送保护与 Copilot 安全审查,读者可据此判断其计费与启用方式。

10月7日周三
  1. GitHub Changelog · Copilot78

    GitHub Copilot 本地沙箱正式可用

    GitHub Copilot 的本地沙箱功能正式可用,覆盖 Copilot CLI、Copilot 应用和使用 Agent Host 的 VS Code 会话。

    推荐理由:官方说明了本地沙箱在三个入口的正式可用状态与策略边界,可据此判断智能体工作流的权限控制方式。

9月25日周五
  1. GitHub Blog · AI & ML62

    GitHub Security Lab 发布 Fuzzing Taskflow,用 LLM Agent 自动完成 C/C++ 模糊测试

    GitHub Security Lab 发布 Fuzzing Taskflow,一个面向 C/C++ 项目的自主模糊测试流水线,只需传入 GitHub owner/repo,Agent 就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness,最后对每个崩溃做分诊并生成漏洞报告。

    推荐理由:GitHub Security Lab 把模糊测试的 harness 编写、覆盖率追踪与崩溃分诊交给 LLM Agent,读者可据此判断自动化安全测试的边界。

8月22日周六
8月5日周三
  1. Zed Blog72

    Zed 在 Agent 面板中默认启用沙箱

    Zed 在 1.14 版本起为所有用户默认启用 Agent 面板沙箱,限制终端和 fetch 工具的行为,由操作系统强制执行而非依赖 Agent 遵守指令。默认规则禁止 Agent 写入项目目录之外、写入 .git 或发起网络请求,需要时 Agent 可申请临时提权并给出理由。

    推荐理由:Zed 官方说明沙箱的默认规则、权限升级流程与实现方式,并给出绕过沙箱的若干路径。

6月19日周五
  1. Model Context Protocol Blog74

    MCP 发布 Enterprise-Managed Authorization 扩展,实现零接触 OAuth

    MCP 的 Enterprise-Managed Authorization(EMA)扩展现已稳定,组织可通过其身份提供商集中管理 MCP 服务器授权,用户首次登录即可自动连接所需服务器,无需逐个应用 OAuth。

    推荐理由:MCP 官方发布企业级授权扩展,读者可了解其 ID-JAG 流程与已接入的客户端和服务器生态。

5月21日周四
  1. Model Context Protocol Blog82

    MCP 发布 2026-07-28 规范候选版本,协议改为无状态核心

    MCP 发布 2026-07-28 规范候选版本,这是协议发布以来最大的一次修订,核心变化是协议层改为无状态,移除 initialize/initialized 握手与 Mcp-Session-Id 会话,任何请求都可落到任意服务器实例,此前水平部署所需的粘性路由和共享会话存储不再必要。

    推荐理由:MCP 协议最大一次改版,无状态核心与扩展机制的具体变化,可据此评估现有部署与 SDK 的迁移成本。