微博 AI 观察博客

原文

除了上一篇让 DeepSeek 超过 Opus 4.7 网页链接 ，Ahmad Awais还分享了使用 Kimi K2.6 的经验： ---------------------------------我们是怎么让 Kimi K2.6 几乎打平 Opus 4.7 的？“开源模型不擅长写代码”不是模型问题，而是 coding agent 的 harness 问题！如果你用 Claude Code 去跑开源模型，那你大概率跑不出来。他们并不想让开放模型赢。我这一周很奇怪。同一个模型，DeepSeek V4 Pro，在我们的内部评测里 6/10 次打败 Opus；Kimi K2.6 也差不多，打到了 5/10。提示词一样，checkpoint 一样，temperature 一样。唯一变化的是 gateway 选择了哪个上游。我认为很多“开源模型不擅长写代码”，其实是“开源模型在冷缓存上跑”。当你说某个模型赢了评测时，你真正说的是：模型 + provider + 缓存状态 赢了评测。harness 决定的是后两者。背景：我一直在做 CommandCodeAI 的开源模型路径，跑 Kimi K2.6、DeepSeek V4 Pro、GLM、Qwen，通过一组推理 provider 做 fanout。我们在构建 Command Code agent 的每月 1 美元 Go plan。最后，Kimi K2.6 在更难、工具调用更重的评测切片上，已经能做到 5/10 接近 Opus 4.7；DeepSeek V4 Pro 做到 6/10。主要靠四个小的管道改动。它们都没有改模型。我学到的一些东西，感觉具有普遍性：1/ 最大的单点收益，来自一个 HTTP header闭源模型把 prompt caching 做成了产品。开源模型没有这种产品化缓存。它们有的是 prefix cache：推理服务器把最近 N 次前向计算保留在 GPU 的 KV memory 里。如果一个请求和最近请求共享同样前缀，就能跳过重新 prefill。这是计算时间层面的缓存，不是产品层面的套餐能力。而且只要你的请求落到另一个节点上，它就没了。一个 coding agent 本质上就是在利用 prefix cache：好的 system prompt：大约 10k token，基本不变；工具列表：不变；对话：只追加，不重写。除了第一轮以外，后面每一轮都应该几乎完全命中缓存。理论上应该如此。但我们发现：同一个对话的连续轮次被负载均衡到了不同的 GPU pod。每个 pod 都必须重新 prefill 约 10k token 的前缀。TTFT，也就是首 token 延迟，是 6 到 8 秒。模型并不慢，是负载均衡器把我们的缓存偷走了。修复就是一行。但因为我们同时和多个 provider 以及负载均衡打交道，它…

转发者评论

[good][good][good]，看来Harness真的要一个模型一个模型去针对性设计开发。

• [good][good][good]，看来Harness真的要一个模型一个模型去针对性设计开发。

原文

OpenAI 把训练 ChatGPT 用的网络协议开源了。这套协议叫 MRC（Multipath Reliable Connection，多路径可靠连接），由 OpenAI 联合 AMD、博通、英特尔、微软、英伟达共同开发，通过 OCP（开放计算项目，业内最大的开源硬件标准组织）开放给全行业。AMD、博通、微软、英伟达同步发了配套博文。训练大模型，几万到十几万张 GPU 要保持步调一致。一次训练步可能涉及几百万次数据传输，只要有一笔晚到，所有 GPU 都得干等。集群越大，链路抖动和故障越频繁。传统网络的麻烦：一条链路挂了，整个训练任务可能崩掉，得回到上一个检查点重跑；交换机重新算路由要花好几秒甚至几十秒。OpenAI 在搭 Stargate（其大型算力基础设施项目）这种规模的集群时，遇到的第一个瓶颈就是网络。过去一笔传输只走一条路径，MRC 改成把数据包拆散，同时分头走几百条路径，目的地再按内存地址重新拼起来。链路出问题，微秒级就能绕开，不需要交换机重算路由表。OpenAI 还把动态路由协议(BGP)整个砍掉,改用 SRv6 源路由:发送方直接指定每个包走哪条路,交换机退化成"无脑"转发器,故障面大幅缩小。网络结构因此简化。原本要 3 到 4 层交换机才能连起十几万张 GPU,MRC 的多平面设计 2 层就够,功耗、成本、故障点全降。MRC 已经部署在 OpenAI 所有最大的英伟达 GB200 超算上,包括 Stargate 在德州 Abilene 与甲骨文合建的站点,以及微软 Fairwater 数据中心。多个 OpenAI 模型用它训练出来。最直观的例子:最近一次前沿模型训练(服务 ChatGPT 和 Codex)期间,团队重启了 4 台核心交换机,不需要跟训练团队协调;每分钟还有多次链路抖动,对训练任务也没有可测量的影响。换以前,这种事故足以让整个任务崩溃。官方公告：网页链接 宝玉xp的微博视频

转发者评论

无明显转发评论

• [上课了]该研究论文原文发俺粉丝群了。需要自取 http://t.cn/AXJEFCsu
• 很不错，终于开源了点好东西。那问题来了：Claude和xAI会用吗？[doge]

原文

TRAE SOLO Mobile 评测：手机端不是远程桌面，是指挥 Agent 的「意图路由器」Boris Cherny（Anthropic 工程负责人）在最近的红杉 AI Ascent 大会上说，他现在大部分工作从手机完成。Claude App 里常驻 5 到 10 个 session、几百个 Agent，夜里有几千个在跑深度任务。他管这种做法叫 Loop，让 Claude 用 cron 起一个定时任务，可以每分钟、每五分钟、或者每天跑一次。（详情：网页链接 ）我本来还不太习惯用手机操作 Agent。这几天受邀测试最新版的 TRAE SOLO Mobile，刻意多在手机上试用，越用越能理解 Boris 说的那种变化。This content is only supported in a Feishu Docs这次 TRAE SOLO 首次实现了移动端、Web 端、桌面端（含 Windows 版）的全量开放，并真正做到三端同步联动，让 Agent 使用的场景大幅扩展。我在手机端体验了几天，结合官方新推出的功能，一些感受：【1】Agent 已经不是程序员专属打开 TRAE SOLO，首页让我先选模式：Code 还是 MTC（More Than Coding，意思是“不只是写代码”）。Code 模式好理解，写代码、跑 Git、看 Diff，而 MTC 模式则全面覆盖了写文档、数据分析、报表生成等日常办公场景。从 Claude Cowork 发布开始就已经有了这个趋势，上周 Codex 的升级也是宣称：“用 Codex 做几乎一切工作（use Codex for (almost) everything）”。TRAE SOLO 最新的升级同样顺应了这个趋势，从一个编程 Agent 泛化到了通用 Agent。最新版本特别强化了飞书 CLI 接入功能。现在只要简单授权，就能在 TRAE SOLO 里直接操作飞书文档：例如，输入一句指令，“帮我整理一份本月 AI 编程工具市场动态”，Agent 会自动去网上检索，最后直接生成飞书文档或者动态网页，完全不需要人工再去排版或复制粘贴。与过去“AI 给文字、用户再粘到飞书”的繁琐流程相比，这种一步到位的体验已经完全不是一回事了。【2】三端连起来是什么体验这次 TRAE SOLO 的一个大动作是三端（手机、Web、桌面端）全量开放，不再需要邀请码，所有用户都能用。单独看 Mobile 端，它主要解决随时下发任务和确认任务的问题。但只有当 Mobile、Web 和 Desktop（包括最新上线的 Windows 版）真正打通之后，你才能真正做到随时随地让 Agent 持续执行任务。过去云端执行环境总有局限，不能访问本地工具。而 TRAE SOLO Mobile 解决了这个痛点——只要完成简单的设备配对，你的手机就可以直接控制云端环…

转发者评论

无明显转发评论

原文

Florian Brand （ Prime Intellect的工程师、Interconnects AI的编辑）五一期间刚到中国AI实验室来访问，转了一圈后写下了他的感受。看他的文章对国内AI研究员们描写的非常鲜活。去过的实验室包括：Moonshot、小米、MiniMax、智谱、美团、阿里巴巴、蚂蚁灵境、ModelScope、零一万物、宇树科技。下面是翻译。-- 我在中国 AI 实验室感受到的氛围在过去大约 10 天里，我有机会和 SAIL 的一群很棒的人一起访问中国的 AI 实验室。作为一个在半年内第一次分别去中国和美国的人，我发现两地的差异很有意思，但更让我着迷的是它们之间的相似之处。我最强烈的印象是，我见到的 AI 研究人员都非常谦逊。他们对其他实验室和同行评价很高。DeepSeek 经常被提起，可能是因为他们在我们访问前几天刚发布了一个模型；大家谈起 DeepSeek 的论文时都带着真诚的钦佩。很多研究人员彼此都是好朋友，要么上过同一所大学，要么来自同一个家乡。他们会很开放地讨论自己的工作，而这些发现往往会在几个月后写进论文里。这是它和西方 AI 圈最大的不同之一。在美国，整体氛围常常更像是一种零和竞争。各个实验室都很谨慎地塑造自己的定位。研究人员会考虑竞争，有些人也很自视甚高。领导者们会在泄露的备忘录里互相辱骂和攻击。这种差异或许可以用一个事实来解释：美国领先的实验室大多是闭源的，而许多中国实验室是开放的。中国实验室对字节跳动的豆包感到“害怕”——豆包是使用量遥遥领先、同时又闭源的聊天机器人。与此同时，整体的能量感又和旧金山出奇地相似。这些研究人员都是重度网民，大量阅读 Twitter 和小🍠，其中小🍠正变得越来越受欢迎。他们都在用 Claude Code，或者自己的 CLI，来构建下一个模型。有些人在我们开会期间还在监控训练任务，看 reward curve 往上走。他们在思考如何进一步扩展规模，也抱怨算力不够。他们对当前基准测试的状态感到不满。他们的主要关注点是训练出更好的模型。这一点不同于旧金山，在那里研究人员会思考 AI 的政治或哲学影响。他们不怎么讨论大规模失业、永久性的底层阶级，或者自己的模型是否有意识。他们只是想训练出优秀的模型。当他们听说你用过他们的模型时，眼睛会亮起来。他们迫切希望在下一代模型中修复当前模型的所有缺点。他们会通宵熬夜推动模型发布，然后第二天仍然出现在办公室。我见到的大多数研究人员都非常年轻，很多人二十出头或二十五六岁。有些还是本科生，但更常见的是在读博士，同时在工业界工作并继续做研究。他们之间的共识是：相比学术界，现在工业界显然更有意思。我非常认同这一点，因为我自己也做过完全一样的选择。这些实验室非常重视这类人才获取，积极招聘实习生和研究生；这是西方实验室不太做的事情。研究人员的乐观情绪也延伸到了普通人群中。…

转发者评论

无明显转发评论

• [good][good][good]//@蚁工厂:看他的文章对国内AI研究员们描写的非常鲜活：年轻、开放、钦佩deepseek、“害怕”豆包、大量刷小🍠和推。。
• 看他的文章对国内AI研究员们描写的非常鲜活：年轻、开放、钦佩deepseek、“害怕”豆包、大量刷小🍠和推。。

原文

收藏！Matt Pocock 开源的skills，专门解决 AI 编程的三个系统性失控点。Matt Pocock 是 Total TypeScript 的作者，TypeScript 社区里的资深工程师。最近他把自己日常使用 Claude Code 和 Codex 的工作流提炼成了可复用的skills。他的出发点很直接：GSD、BMAD 这类框架太重，接管了太多流程，出了问题自己根本看不清是哪里出了岔子。他要的是小、可组合、自己保持控制权的东西。他识别出三个 AI 编程最常见的失控原因，每个都有对应的解法：1. Agent 没做你想要的事——本质是对齐失败他的解法是一个叫 /grill-me 的 skill：让 Agent 在动手之前，逐一追问你关于这个任务的每一个细节，每问一个问题就等你回答，再进入下一个分支。它不会一次丢给你一堆问题，而是一条条沿着决策树往下走，把所有模糊地带在开工前暴露出来。工程版是 /grill-with-docs，在此基础上额外做两件事：1）同步维护一个 CONTEXT.md 词汇表。当你说账户，它会追问你：是 Customer 还是 User？这两个不是一回事。每个概念厘清后立刻写进文件，不攒到最后批量处理。好处不只是给 Agent 看的——函数名、变量名、文件名全部跟着这套语言走，Agent 读代码时消耗的 token 大幅减少，因为它不用自己猜术语。2）在满足三个条件时才创建 ADR（架构决策记录）：这个决定很难逆转、未来读代码的人会困惑为什么这么做、做这个决定时确实有过真实的方案取舍。三条都满足才记，否则不写，避免文档过载。2. Agent 写完代码没有反馈，越跑越歪——本质是缺少闭环他的解法是 /tdd，强制红绿循环：一次写一个失败的测试，让 Agent 修到绿灯，再写下一个，不允许把所有测试写完再统一实现。他对好测试的定义值得记下来：测试验证的是通过公开接口可观测的行为，不是内部实现细节。判断标准是：你重构了内部代码，但外部行为没变，测试应该还是绿的。如果一个内部函数改了名字测试就挂了，那这个测试测的是实现不是行为，是坏测试。3. 一次任务太大，Agent 中途跑偏——本质是粒度问题他用 /triage 配合 Linear 或 GitHub Issues 做任务拆解，每个 Agent 会话只对应一个 issue，强制拆小。Agent 只知道它现在要做什么，不知道整个项目有多大，这是故意的设计。整套东西的核心逻辑是：与其把 Agent 当一个聪明的黑盒，不如在协作流程上下功夫——对齐、反馈、粒度，这三件事做好，AI 编程才能从 vibe coding 变成真正可控的工程实践。地址：github.com/mattpocock/skills#how i ai# #程序员#

转发者评论

无明显转发评论

原文

推上CommandCodeAI的CEO：Ahmad Awais分享了他们调教DeepSeek 的经验：我们是怎么让 DeepSeek 超过 Opus 4.7 的？----------------------我最近一直在想，为什么“开源模型不擅长工具调用”几乎总是 harness 的问题，而不是模型本身的问题。背景是：我花了两天时间，看了CommandCodeAI 里用 DeepSeek 跑出来的数十亿 token。Command Code 是一个开源 AI CLI。最后我写了一层“工具输入修复层”。触发点是我看到 DeepSeek Flash 在最简单的 /review 运行里都失败：每一个 shellCommand 和 readFile 调用都会被原样返回一个 Zod 错误对象，模型无法恢复，因为错误信息不是它能读懂、能行动的形式。到最后，DeepSeek V4 Pro 在我们的内部评测里，已经有 6/10 次打败了 Opus 4.7。我学到的一些东西，感觉具有普遍性：1/ 失败模式不是随机的，而是一个很小、有限、可组合的集合在 DeepSeek Flash、DeepSeek V4 Pro、GLM、Qwen 上，反复出现的几乎都是同样四种错误：对可选字段传了 null，而不是直接省略该字段；把 ["a","b"] 输出成 JSON 字符串，而不是实际数组；schema 期望数组时，模型却把单个参数包进 {} 里，像是一个“空占位符”；schema 期望数组时，模型传了裸字符串，比如 "foo"，而不是 ["foo"]。四种修复，每种大概 30 到 100 行代码，顺序要小心安排。比如“解析 JSON 数组字符串”必须在“裸字符串包装成数组”之前执行，否则 '["a","b"]' 会变成 ['["a","b"]']。这基本就是全部目录了。现在只要我听到“这个开源模型不会做工具调用”，我都会先假设它踩中了这四类问题之一。目前来看，这个判断大概 90% 的时候都是对的。2/ 最好笑的失败模式，也是最能说明问题的DeepSeek Flash 在被要求编辑或写文件时，有时候会把路径输出成一个 Markdown 自动链接：filePath: "/Users/x/proj/[notes.md](http:// notes.md)"我们的 writeFile 工具就老老实实地尝试创建一个真的叫 [notes.md](http:// notes.md) 的文件，直到我们把它拦住。这不是幻觉。这是后训练阶段的聊天分布“漏”进了工具边界。模型在对话输出里一直被奖励去自动链接，于是它把这个先验也用到了一个完全不该用的场景里。修复方式就是两行正则：只解开那种退化情况，也就是链接文本等于去掉协议后的 URL。真正的 Markdown 链接，比如 [click](https:// x…

转发者评论

[good][good][good]

• [good][good][good]

原文

Anthropic 今天宣布和 SpaceX 达成算力合作，并同步调高了 Claude Code 和 Claude API 的使用上限。【1】用量限制怎么涨Pro、Max、Team 以及按席位计费的 Enterprise 用户，Claude Code 的 5 小时滚动限额直接翻倍。Pro 和 Max 用户在高峰时段原本会被压低额度，这个降速从今天起取消。Claude API 这边，Opus 系列模型的速率限制大幅上调。三项变化今天即生效。【2】算力来自老对手的旧旗舰合作方写的是 SpaceX，但拿到的算力其实就是 xAI 的 Colossus 1，位于田纳西州孟菲斯的那座超级计算机，主要任务是训练 Grok。【注：今年 2 月 2 日，SpaceX 以全股票方式完成对 xAI 的收购，xAI 成为 SpaceX 全资子公司，合并估值 1.25 万亿美元。Colossus 1 也随之归到 SpaceX 名下。这是这次合作能成立的前提。】Anthropic 这次拿下 Colossus 1 的全部算力，规模 300 兆瓦以上，超过 22 万张 NVIDIA GPU，本月内就能部署上线。按外界估算，这接近 xAI 整个 50 万张 GPU 队伍的一半。xAI 之所以能让出，是因为已经把训练重心转移到了更新的 Colossus 2（千兆瓦级别，今年 1 月上线）。也就是说，马斯克把自家 xAI 的旧旗舰，整套租给了直接对手 Anthropic 跑 Claude。【3】还有一句关于太空Anthropic 在公告里顺手提了一笔：有兴趣和 SpaceX 共同开发"数千兆瓦级别的轨道 AI 算力"，把数据中心送上太空。这本来是马斯克的剧本，SpaceX 已经向 FCC 申请部署最多 100 万颗作为数据中心的卫星。Anthropic 主动接住这条线，意味着轨道算力不再是马斯克一个人的科幻叙事，至少 Anthropic 愿意一起下场。【4】更大的图景这只是 Anthropic 最近一连串算力大单里的一环。和 Amazon 的合作上限达 5 GW，其中近 1 GW 在 2026 年底前上线；和 Google、Broadcom 的合作同样是 5 GW，2027 年起部署；和 Microsoft、NVIDIA 的战略合作里包含 300 亿美元 Azure 算力；再加上和 Fluidstack 一起向美国 AI 基础设施投入 500 亿美元。今天能放开用量限制，是这堆交易最直接的副产品。之前限得紧是因为不够用，现在敢放开是因为真的拿到了。公告地址：网页链接

转发者评论

无明显转发评论

• 算力紧缺看起来是非常真实的。毕竟马斯克的口头禅一度是：Anrhropic是非常反人类的。

原文

日常获取新闻资讯往往需要切换多个平台，Hacker News看热门、RSS订阅博文、Reddit刷讨论、Telegram跟频道，还得手动筛选去重，费时费力。Horizon 把新闻聚合功能全部整合，用AI构建你的专属新闻雷达，每天自动生成中英文日报。不仅支持多源采集（Hacker News、RSS、Reddit、Telegram、Twitter/X、GitHub）、AI智能评分去重，还提供背景解读、社区评论摘要、GitHub Pages发布、邮件订阅、飞书通知等。GitHub：github.com/Thysrael/Horizon主要功能：- 多源监控，支持Hacker News、RSS、Reddit、Telegram、Twitter/X、GitHub动态；- AI智能评分（0-10分）和去重，过滤噪音只保留高价值内容；- 自动背景搜索和社区评论摘要，帮你快速理解事件全貌；- 双语生成，每天输出中英文结构化日报（Markdown格式）；- 多渠道发布，支持GitHub Pages静态站、邮件订阅、飞书/钉钉/飞书通知；- 配置向导一键生成个性化源配置，支持Claude/GPT/Gemini等模型；- Docker一键部署，GitHub Actions自动定时运行。支持本地运行和Docker部署，通过uv或pip安装，适合程序员、科技爱好者和资讯控。#AI工具##新闻聚合##Python#

转发者评论

无明显转发评论

原文

英伟达砸5亿美金给康宁建厂，光模块产业链的拐点到了昨天一个被很多人忽略的新闻，我觉得要比AMD财报炸裂一百倍。英伟达和康宁官宣了长期战略合作。康宁要在美国建3座新厂，光连接产能扩10倍，光纤产能扩50%+，创造3000个岗位。而且这并不是画饼。英伟达直接掏了真金白银：5个亿买了康宁的股权认购权。你可能觉得，康宁不就是做玻璃的吗？错。康宁是低损耗光纤的发明者，全球光学物理和玻璃科学的头号玩家。AI算力集群对光纤的需求是恐怖的：上万张GPU互联，数据在光里跑，今天的数据中心对光纤的消耗量已经不是"公里"级了，是"千公里"级。这个新闻要从三层逻辑去看：第一层：光互联不是备选，是刚需。很多人都盯着HBM、盯着CoWoS，但忽略了光通信在AI架构里的战略地位。从Lumentum到Coherent再到今天的康宁，英伟达今年密集布局了三家光学公司。不是巧合，是在下一盘大棋：老黄说的很直白："intelligence moves at the speed of light"。第二层：英伟达在系统性重构供应链。看清楚这个信号：康宁3座新厂全部建在美国本土（北卡+德州）。配合之前Lumentum和Coherent的深度绑定，英伟达在光学领域的供应商地图已经非常清晰：核心工艺、核心材料，必须握在自己手里。国内的光模块公司短期受益于需求爆发（蛋糕变大了），但中期有一个结构性问题不能视而不见：当你的最大客户开始亲自下场建供应链的时候，你的议价空间和长期份额天花板会发生什么变化？第三层：这是一场"Made in America"的阳谋。老黄原话："once-in-a-generation opportunity to reinvigorate American manufacturing"。康宁CEO更是明牌："invented, engineered and built in America"。康宁股价一天涨了12%。Coherent涨了2.7%。而Lumentum反而跌了5%（利好出尽）。对国内产业链的判断：光纤光缆（长飞、亨通）：直接面对康宁扩产的竞争压力，但国内5G+AI双轮驱动下，国内市场足够大光模块（中际旭创、新易盛等）：800G/1.6T高速模块的订单确定性在增强，但远期最大的变量是美国本土光模块供应链能否起来上游光芯片/电芯片：这才是真正的"卡脖子"环节，英伟达越往上游走，这个环节的战略价值越高一句话总结：光通信产业链的饼在快速变大，但分饼的逻辑在发生变化。以前是"谁产能大谁有话语权"，以后可能是"谁离客户近谁有话语权"。趋势已经明牌了，自己品。

转发者评论

无明显转发评论

原文

学习深度学习常常需要翻阅各种资料，理论书啰嗦难懂，代码教程零散不全，还要来回切换框架文档和示例，入门颇为麻烦。《Deep Learning with Python》（第三版）把深度学习的学习路径全部整合到一起，提供了整套从基础到生成式AI的免费在线解决方案。不仅有直观的代码优先教学和生成式AI章节，还支持浏览器直接运行代码示例，包括构建GPT-like LLM和扩散模型生成图像。在线阅读：deeplearningwithpython.io主要特色：- 动手代码优先学习，从基础神经网络到生成式AI全面覆盖；- 支持Keras、PyTorch、TensorFlow和JAX等多框架示例；- 浏览器内直接运行代码，无需本地环境；- 直观数学解释，适合中级Python技能读者，无需机器学习或线性代数基础；- 新增Transformer、自定义LLM和图像生成等前沿章节；- 配套GitHub资源，方便实践和扩展。支持浏览器免费在线阅读，Keras创始人François Chollet亲自撰写，适合初学者、自学者和AI从业者。#深度学习##Python##人工智能##Keras##生成式AI#

转发者评论

无明显转发评论