Hall of Fame
今日趋势综述
今天的信号:别盲信 AI 工具,学会验证它
今天最刺眼的一条,是 xAI 的编码 CLI Grok Build。一位安全研究者用抓包证明:它一边宣称『本地优先』,一边把你整个 Git 仓库(连提交历史里的密钥一起)打包上传到 xAI 的 Google Cloud 桶里——一个只需 192KB 就能完成的小任务,它传了 5.1GB,差了近 2.8 万倍。而那个大家以为是『数据开关』的『改进模型』选项,管的只是训练授权,根本拦不住代码外传。被曝光 72 小时后,xAI 才紧急开源、关闭默认留存、上线漏洞赏金。这不是个别厂商翻车,而是给所有人提了个醒:你往编码 agent 里塞的是公司最核心的源码,工具说什么不重要,它实际往哪发包才重要。
同一天,评测圈也在讲『别盲信数字』。SWE-bench Verified 被头部模型刷到 90%+ 后失去区分度,大家转看更难的 SWE-bench Pro——可同一个 Claude Opus,在 Scale 标准化公开集上是 51.9%,在厂商自报的聚合口径里却是 69.2%,换套脚手架能差十几个点。SkillsBench 更直接:4.7 万个公开 agent skills,平均质量只有 6.2/12,大多数是凑数的;但一套精挑的 skills 能把任务通过率从 33.9% 拉到 50.5%,医疗场景甚至暴涨 51.9 个百分点。数字不会自己说话,得看它怎么测出来的。
把这些串起来,普通人今年真正该练的能力,不是『会用哪个 AI 工具』,而是『会验证 AI 工具』:给编码 agent 上沙箱、抓它的网络出站、看它到底把代码发去哪;读评测先问是哪套基准哪个口径,别被一个漂亮百分比带走;用 skills、agent 前先验它在你的活儿上到底有没有效。会验证的人,才敢把真实业务交给 AI——这恰恰是 Khan Academy 在学校、独立开发者在小生意里真正跑通落地的分水岭。
xai-org/grok-build
展开详情
Grok Build 是 xAI 的终端原生 AI 编码 agent(就是 grok 命令背后那套),2026 年 5 月以 SuperGrok Heavy(每月 $300)内测起步,主打大代码库里的自主编码。它对标 Claude Code / Codex / opencode,含完整的 agent loop、读写代码的工具集、全屏可鼠标交互的 TUI,以及 skills / plugins / hooks / MCP 扩展体系。7 月 15 日 xAI 把它整个开源到 GitHub(Apache 2.0,Simon Willison 数了约 84 万行 Rust),号称可自行编译、指向本地推理、用 config.toml 完全本地运行。但它开源的真正导火索,是一桩安全事故——见下。
周增长:开源公告后一周内新增数千星,具体周增以 GitHub Trending / star-history 实时为准
- **2.8 万倍的数据外传**:12GB 测试仓被上传约 5.1GB,而任务本身只需约 192KB,抓包实锤『本地优先』宣称为假
- **隐私开关是摆设**:多数人以为『改进模型』能拦数据,实际它只管训练授权,代码照样离开你的机器进云桶——连提交历史里的密钥一并外传
- **开源是危机公关**:被曝光约 72 小时后才开源(84 万行 Rust / Apache 2.0)、关默认留存、上赏金;代码可审计,但已上传数据的删除承诺仍未经第三方核实
Verified 刷满之后看 SWE-bench Pro:同一个 Opus 三套分数,编码榜单该怎么读
展开详情
- **对比(同一基准 SWE-bench Pro · Scale 标准化公开集,2026-06-28)**:GPT-5.4 xHigh 59.1% vs Meta Muse Spark 55.0% vs Claude Opus 4.6 thinking 51.9%——头部只差个位数,且都远低于 Verified 的 90%+
- **同模型三套数**:Claude Opus 在 Scale 公开集 51.9% / 厂商聚合口径(llm-stats)Opus 4.8 达 69.2% / Scale 私有商用集另一版本约 47.1%,口径决定结论
- **Verified vs Pro 的落差**:从 Verified 的近乎满分掉到 Pro 的五六成,说明『真实工程任务』这道坎远没被跨过,别被饱和的旧榜误导
Your Agent's Memories Are Not Its Own: Forged Reasoning Attacks on LLM Agent Memory and Defenses
展开详情
- **新攻击面**:污染的是『推理理由(rationale)』而非事实,绕过大多数只查事实一致性的防线
- **放大效应**:被污染的推理被反复检索复用,一次投毒可持续影响后续多轮决策,越用越偏
- **攻防成对给出**:不止提出 FARMA,还给了初步检测/缓解方案,为记忆型 agent 的安全设计提供起点
首个 agent skills 基准 SkillsBench:4.7 万个公开技能,平均分只有 6.2/12
展开详情
- **质量真相**:4.7 万个公开 skills 平均仅 6.2/12,市场繁荣 ≠ 质量繁荣,随手抄一个装上大概率没用
- **对比(有无精选 skills)**:任务通过率 33.9% → 50.5%(+16.6pp);医疗 +51.9pp(34.2%→86.1%)vs 软件工程仅 +4.5pp——领域越专、增益越大
- **元技能缺口**:真正稀缺的是『评估和写好一个 skill』的能力,这正是当前 skills 生态最薄弱、也最值钱的一环
AI 进课堂的真实成绩单:用够时长才有效,Khanmigo 单独效果仍待验证
展开详情
- **用够才有效**:每周约 1 小时的学生末考数学高出对照组 0.44–0.47 个标准差(2026 RCT),核心变量是使用时长与老师督促,不是有没有 AI
- **规模已铺开**:Khanmigo 进入 1.5 万+ 学校、约 500 万用户,1.8× 更快的掌握率——但样本大不等于因果清晰
- **清醒的边界**:截至 2026 年 3 月,无同行评审研究单独证实 Khanmigo(AI 辅导层)提升成绩;别把『平台有效』直接当成『AI 有效』
六周做到 $10k MRR 的 AI 设计工具:一个人、零市场预算的可复制路径
展开详情
- **极致垂直**:不做通用设计工具,只死磕某一类具体设计需求,让潜在用户一眼觉得『这就是给我做的』
- **成本极低、可复制**:月运营成本约 $85–200,AI 承担开发/文档/客服/投放,一个人也能跑起一条产品线
- **自己掌渠道**:从第一天起就自己握住支付和获客,不把命脉外包,才有稳定现金流
buildpipe:给开发者的本地优先 AI 流水线(本地版 Zapier/n8n)
展开详情
- **本地优先**:pipeline 全在你自己机器上执行,数据不出本机——与今天 Grok Build 偷传上云形成鲜明对照
- **开发者专属**:把 shell / AI 调用 / HTTP / 文件操作拼成可复用流水线,替代到处散落、写完就丢的一次性脚本
- **多种触发**:支持定时、文件变动、webhook 触发,适合把重复的 AI + 数据小活儿自动化固化下来