跳到主要内容

Agili 的 Hacker Podcast 2026-09-17

欢迎阅读 Agili 的 Hacker Podcast 每日精选。今天的内容涵盖从底层 GPU 编程、形式化验证到万卡推理集群的软硬件工程实践,以及现代航运对风力辅助推进的重新探索。

NVIDIA 发布原生 Rust GPU 编程方案

两条技术路线:底层线程控制与高阶分块抽象

NVIDIA 推出了针对 Rust 语言的原生 GPU 编程方案 CUDA Rust,将 Rust 的类型安全与内存安全机制带入 GPU 核函数(Kernel,在 GPU 上并发运行的计算函数)。该方案提供两条分支:面向传统 SIMT(单指令多线程)模式的工具链 cuda-oxide,以及面向 Tile(数据块计算)模式的库 cutile-rs。

cuda-oxide 是一个自定义的 rustc 代码生成后端,通过 Pliron IR 与 LLVM 将核函数编译为 PTX(并行线程执行中间代码)。它引入了 DisjointSlice 类型,将可变引用拆分为互不重叠的切片以排除数据竞争,并使用 #[launch_contract] 标记在编译期校验线程网格配置与硬件限制。该工具链处于早期 Alpha 阶段,共享内存配置仍依赖 unsafe 代码。

cutile-rs 面向更高层次的分块抽象,开发者只需描述单个数据块的计算逻辑,底层 CUDA Tile IR 会在运行时完成即时编译(JIT),自动映射硬件线程与内存。该方案支持 Rust 1.89+ 稳定版和 CUDA 13.3,已发布在 crates.io,并被 HuggingFace Grout、mistral.rs 以及 Candle 采用。

工业效率与生态锁定的讨论

社区讨论聚焦在语言统一与跨平台灵活性的取舍上。支持者认为,在单一语言中同时构建主机端与设备端代码,能消除维护 CUDA C++ 或 Python 绑定的上下文切换成本。担忧的声音则指出深度绑定 CUDA 带来的厂商锁定风险,部分开发者倾向于选择跨后端的 Triton 或面向多后端的 CubeCL 等项目。

Servo 浏览器引擎获得社区资助一年的进展

兼职维护岗位带来的工程改善

开源浏览器引擎 Servo 公布了首个社区资助兼职岗位的运行成果。维护者 Josh Bowman-Matthews 在 OpenCollective 与 GitHub Sponsors 支持下,过去一年累计审查了 1150 个 PR(拉取请求),提名 8 位新维护者,并解决了 114 个面向新人的 Issue 中的 92%。该岗位按每小时 150 美元标准发放,全年支出约 5.28 万美元。

工程层面,团队重构了 JavaScript 引擎的底层绑定,消除了垃圾回收机制引发的偶发崩溃,并修复了 window.open 的逻辑漏洞。目前除个人小额捐助与 NLnet 基金会资助外,华为也有一支小型专职团队参与核心代码贡献。

轻量渲染与嵌入式场景

Servo 现阶段并未定位为完整的通用桌面浏览器,而是在轻量渲染任务中找到了应用空间。有开发者使用 Servo 截取电子墨水屏界面的渲染图,其内存占用仅为无头模式 Chromium 的 10%,渲染速度提升至原来的 20 倍。此外,Servo 正通过 Verso 运行时接入 Tauri 桌面框架,为开发者提供独立于 CEF 和 Electron 之外的轻量选择。

从美国驾照条形码逆向还原官方签名公钥

静态条形码的安全隐患与公开验证实践

全美多数驾照背面的 PDF417 条形码长期使用明文存储个人信息,普通扫描设备无法辨别真伪。加利福尼亚州在 2025 年推出了基于公开标准的解决方案,联合制卡供应商 IDEMIA 在条形码中嵌入符合 W3C 标准的可验证凭证,采用 P-256 曲线的 ECDSA(椭圆曲线数字签名算法)进行签名,并在官网公开验签公钥供离线校验。

逆向提取未公开的官方公钥

另一家为纽约州、弗吉尼亚州等五州制作驾照的加拿大钞票公司(CBN)也在条形码中加入了数字签名,但未公开技术规范与公钥。研究者通过逆向分析发现,条形码专属字段中包含由 Ascii85 编码的标准 DER 格式 ECDSA 签名。

利用 ECDSA 可以从明文和签名数学反推公钥的特性,研究者比对同州多张真实驾照推导出的候选公钥交集,锁定了官方发卡公钥,并构建了网页端纯本地验签工具。测试表明该机制能准确识别伪造证件,但由于条形码不含照片数据,物理换贴条形码仍需人工鉴别。

智谱 AI 构建万卡规模全栈推理基础设施

基础设施智能体与密集反馈机制

智谱 AI 分享了在超过 10 万张国产 AI 加速芯片集群上,利用基础设施智能体辅助搭建 GLM-5.3-Flash 推理系统的经验。在两周内,团队将端到端服务吞吐量提升了 3 倍,该架构上线六天内处理了超过 62 万亿个 Token。

系统优化的核心是建立具备局部性、低获取成本与客观验证特性的“密集反馈”闭环:

  • 精度对齐:智能体在分析算子上下文并行测试时发现数值误差积累,定位到 Triton 中 tl.dot 默认使用较低精度的 TF32,随后显式指定 tf32x3 精度消除了误差。
  • 并发调度:预填充与 KV 传输并发时吞吐下降超过 20%,分析发现通信扩展层未释放 Python 的 GIL(全局解释器锁),阻塞了传输线程,显式释放后性能损耗收窄至 1% 以内。
  • 算子融合:提取已有算子库的优化骨架,将多个 Tile 合并至单线程块内进行 Warp 级规约,单项解码算子速度提升 1.71 倍。

硬件生态与实际体验

社区关注到外部环境对全栈工程优化的倒逼作用,但也指出前沿大模型训练仍对高算力硬件存在刚性依赖。部分使用该服务的开发者反馈,当前的高吞吐主要依赖高并发与缓存机制,单请求的交互延迟仍有优化空间。

富士通发布 2nm 自研处理器 FUJITSU-MONAKA

3D 堆叠架构与纯 CPU 推理方案

富士通宣布将于 2026 年底面向全球推出新一代处理器 FUJITSU-MONAKA。该芯片采用 3D 堆叠架构,计算核心采用 2nm 制程,缓存与 I/O 采用 5nm 制程,最高频率 3.8GHz,内存速率 8800MT/s。

芯片内置矩阵加速指令与 SVE2 矢量扩展,官方数据显示其 AI 推理吞吐量可达同类 CPU 的两倍。富士通主张数据中心可在特定推理负载中省去独立 GPU,从而降低部署密度与运行功耗。芯片同时支持 Arm CCA 机密计算,防止虚拟化管理层越权访问租户内存。

高温运行与解耦架构服务器

配套的整机服务器由日本笠岛工厂生产。1U 机型支持 CDI(可组合解耦基础设施)与 CXL(高速互联标准),可跨物理机调配内存资源。通过散热优化,风冷工况支持 40 摄氏度室温,水冷工况支持 45 摄氏度进水,大幅放宽了机房冷却条件。产品将于 2026 财年向云服务商送测,2027 年展开批量交付。

一段运行 12 年的 PHP 临时补丁正式废弃

174 行代码支撑了近 2000 万次安装

2014 年,开发者 Jake Smith 为修复 AOL 内容管理系统在 PHP 升级时缺失的 http_build_url() 函数,编写了一个仅 174 行的 Polyfill(兼容垫片代码)并上传至 Packagist。

这段临时代码存活了十二年,累计下载近 2000 万次。不仅被 WordPress 多语言插件 WPML 直接内置,还通过依赖链进入了 Debian 与 Ubuntu 的官方软件仓库。作者近期检查代码时发现了一个隐蔽问题:当 URL 路径以斜杠结尾时,特定替换逻辑会意外清除路径中所有的字母“a”。

拒绝转交维护权与防范供应链风险

面对遗留缺陷,作者决定直接将其标记为废弃,不发布更新也不移交维护权。PHP 官方核心已在 8.5 版本提供标准的 URI 处理 API。

作者与社区均认为,将数百万下载量的历史包转交给未经审查的个人存在巨大的供应链安全隐患。此外,十多年未变动的微小逻辑很容易受到海勒姆定律影响——任何行为修改都可能破坏依赖旧行为的下游生产系统。适时彻底废弃,是结束微型依赖包生命周期的明智做法。

使用 Verus 在 Rust 中进行形式化验证

源码级数学规格与短反馈循环

Rust 的类型系统能防止内存破坏,但无法自动阻止业务逻辑错误、并发死锁或算法偏差。开源工具 Verus 将形式化验证引入 Rust,开发者可以在代码中使用接近原生语法的注解,声明前置条件、后置条件与循环不变量。

Verus 将这些注解转换为底层 SMT 求解器(如 Z3)能处理的逻辑公式,而 rustc 编译器会自动忽略这些验证标记,不影响标准编译流程。单次验证时间通常在 1 秒以内,可以直接集成进 IDE 提供实时反馈。

消除抽象模型与真实实现的鸿沟

不同于在代码之外建立抽象蓝图的建模语言(如 TLA+),Verus 直接针对生产代码本身进行约束,甚至能对 unsafe 代码块与底层并发锁进行数学建模。亚马逊已在 EC2 Nitro 隔离引擎的核心组件中采用 Verus,社区也将其应用于 CapybaraKV 存储系统与 Kubernetes 控制器验证。在逻辑极度复杂、事故代价高昂的基础设施层,形式化验证正在成为代码质量的关键防线。

第 40 届混沌通信大会(40C3)开启内容征集

志愿者驱动的黑客文化传统

欧洲非营利黑客集会混沌通信大会宣布将于 2026 年底在汉堡举办第 40 届大会(40C3),主题为“模范公民”。大会完全由志愿者搭建与运作,预计将有超过 16,000 人参与。

与充斥企业展位的商业安全峰会不同,CCC 保留了高度自治的黑客底色。参与者在会场自行布设专用电话网络、组装服务器机架、搭建木质社交空间,并集中展示开源安全工具与数字艺术。

隐私伦理与现实摩擦

大会长期恪守“公开公共数据,保护私人数据”的原则,活动现场全面禁止未经所有出镜者同意的摄影行为。这种严格的防范源于欧洲黑客社群对抗面部识别与无边界数据采集的警惕。与此同时,开票即秒罄的抢票难度、对线上信用卡购票的依赖,以及严苛的防拍摄管理,也成为参会者在现实互动中频繁讨论的话题。

HarnessTax:编程智能体外壳带来的成本隐患

支架设计对成功率影响微弱但拉高成本

加州大学伯克利分校与 Arena 团队发布了一项针对编程智能体(Coding Agents)的评测,测试了 7 款模型在 Claude Code、Codex CLI 以及开源极简支架 Pi 上的表现。

数据表明,负责调度上下文与工具调用的外壳(Harness)对任务解决率的影响通常在 ±2% 到 ±5% 以内,但对使用成本会产生翻倍的差距。以 Claude Fable 5 为例,在 Claude Code 支架下的解决率为 97.8%,任务平均成本 1.33 美元;换至极简支架 Pi 后解决率为 96.7%,成本降至 0.67 美元。研究团队将这种同等产出下的额外系统开销称为“支架税”(Harness Tax)。

极简工具链与上下文控制

仅暴露 read、write、edit、bash 这 4 种基础终端工具的开源支架 Pi,在多项基准测试中均进入了性能与成本的最优前沿。分析发现,官方支架往往在首轮对话中注入庞大的系统预设提示词与工具描述,初始上下文体积可达极简支架的 10 倍以上。

很多开发者指出,依靠膨胀的系统提示词来约束模型行为既昂贵又容易失效。在系统底层通过容器实施环境隔离,并减少不必要的中间外壳干预,能大幅削减 Token 消耗并提升调用稳定性。

现代远洋商船重新启用风力辅助推进

旋翼帆与吸气帆的商业化部署

国际风帆船协会数据显示,全球已有超过 100 艘大型商船安装了现代风力推进设备,总载重吨位超过 500 万吨。目前的风力应用并非取代内燃机,而是作为辅助动力以节省燃料。

主流技术包括利用马格努斯效应产生推力的旋翼帆(Rotor Sails),淡水河谷旗下 40 万吨矿砂船 Sohar Max 安装了 5 根 35 米高的旋翼帆,预计降低燃油消耗达 6%;马士基与出光兴产也分别计划在集装箱船与超大型油轮上铺设该设备。另一种方案是吸气帆(Suction Sails),通过机翼形帆体内部的压缩机吸入气体来优化空气动力效率。

从单机加装走向系统级能效整合

远洋航运受制于准点率要求,加上高耸的帆体会影响港口龙门吊作业或桥梁净空,曾经历多次概念起伏。从业者指出,在新一代低碳替代燃料(如绿氨、绿色甲醇)成本极高且供应紧缺的背景下,风能作为无须额外供应链的清洁补充,6% 至 10% 的油耗削减已具有可观的经济价值。目前的工程重心已转向整船系统的集成控制,让自动控帆与主机调速、气象导航系统形成协同。

播客全文

女:Hello 大家好,欢迎收听 Agili 的 Hacker Podcast,我是莓莓。

男:大家好,我是阿迪。

女:今天一打开技术社区,满屏都在聊底层技术。最显眼的就是 NVIDIA 终于官方支持用 Rust 写 GPU 算子了。阿迪,我记得做大模型推理和系统层的工程师,早就在用 Rust 替换 C++ 了,但最底层的 GPU 核函数(Kernel,在 GPU 上并发运行的计算函数)一直碰不了,这次具体是怎么破局的?

男:以前大家写 GPU 核心计算,要么写 CUDA C++,要么写 Python。NVIDIA 这次推出的 CUDA Rust 给了两条路。一条是面向底层单指令多线程控制的工具链 cuda-oxide,它直接做了一个自定义编译器后端,把 Rust 编译成 GPU 能读懂的 PTX(并行线程执行中间代码,NVIDIA GPU 的底层虚拟机指令集)。为了在编译阶段解决多线程数据打架的问题,他们专门设计了 DisjointSlice 类型,把内存切成线程互不干扰的独立片段。

女:听起来像是把 Rust 那个严格的“借用检查员”直接派驻到了显卡里面。那另一条路呢?

男:另一条叫 cutile-rs,更贴近普通开发者。它走的是 Tile(数据块计算)模型,你不用管硬件线程怎么排布,只用写单个数据块的计算逻辑,底层运行时会自动即时编译。这个库不需要改动编译器,在 Rust 稳定版上就能跑,像 HuggingFace 的推理引擎已经在试用了。不过很多做跨平台的工程师也在讨论,如果绑定在 CUDA 上,以后要迁去别的芯片会比较痛苦,像 Triton 这种跨平台 DSL 或者 Dropbox 开源的 Neso 也在解决类似问题。

女:说到芯片体系的摆脱,智谱 AI 最近公布的一个工程实验也很抓人眼球。他们在一套包含十万张国产 AI 芯片的集群上部署推理服务,居然主要靠一个叫 Infra Agent 的基础设施智能体去改底层代码。

男:是的,面对非 CUDA 架构的集群,工程团队遇到很多现实痛点,比如显存带宽紧张、算子库不完善,甚至底层文档都不够用。他们用了两周时间,把整体服务吞吐拉到了主流英伟达 GPU 的水平,六天跑了 62 万亿个 Token(词元)。关键在于他们搭建了一套“密集反馈”机制,不是只看吞吐涨跌这种宏观指标,而是让智能体去排查非常局部的性能问题。

女:我看报告里提到几个排查案例特别有意思,就像个资深系统工程师在抽丝剥茧。

男:对,比如注意力计算在并行时出现了数值误差,智能体顺着精度追查,发现是 Triton 里的矩阵乘法默认用了较低精度的 TF32,改成更高精度的设置后解决了问题;还有一次吞吐莫名跌了两成,智能体顺着调用时间线抓出了 Python 的 GIL(全局解释器锁,限制多线程同时执行字节码的机制),发现底层通信把传输线程卡住了,手动释放锁之后性能立刻恢复。

女:现在大家对 AI 写代码的能力都不怀疑了,但加州大学伯克利分校最新的一项研究,给所有热衷给智能体套复杂框架的人提了个醒。他们测了 Claude 和 GPT 的各款模型,发现不同代理支架对任务成功率的影响微乎其微,但是在调用成本上却差了整整几倍。

男:这项研究定义了一个词叫“支架税”(Harness Tax)。像 Claude Code 这类官方工具,为了做安全拦截或者强行规范输出格式,第一轮对话就塞了十几页的提示词和复杂的工具说明。相比之下,一个只提供读、写、修改和终端命令这四种基础工具的开源极简支架,成功率几乎一样,但平均成本直接省了一半。

女:这就很像我们产品设计里常犯的毛病,总想给用户加一堆引导教程,结果反而把原本聪明的用户给绕晕了。让大模型直接面对纯粹的终端,反而跑得又快又省钱。

男:没错。说到底,无论是人写代码还是 AI 改代码,大家追求的都是逻辑上的绝对正确。这时候 Rust 阵营又拿出了新武器叫 Verus,它想把形式化验证(formal verification,通过数学方法证明系统符合规范)普及到日常工程里。

女:普通程序员听到“形式化验证”四个字可能就要头疼了,以前这都是航天航空或者微内核才会用的高深数学吧?

男:Verus 的做法是在 Rust 代码里直接写前置条件和后置条件,让底层的 SMT 求解器(可满足性模理论求解器,如 Z3)自动证明你的代码不可能出现数组越界或者死锁。标准编译器构建时会忽略这些数学注解,平时在 VS Code 里一秒钟就能跑完验证。亚马逊在 EC2 虚拟化隔离的核心组件里就用了它。虽然写这些规则很费脑子,但在绝对不能崩溃的底层基建里,数学证明比海量单元测试管用得多。

女:但现实中的软件世界往往完全相反。最近 Hacker News 上大家都在感慨一段只有 174 行的 PHP 临时补丁。作者 Jake Smith 在 2014 年为了给公司的 CMS 升级垫脚,随手写了一个 Polyfill(用于在旧环境提供新特性的垫片代码),结果这段代码在开源世界野蛮生长了整整十二年。

男:累计下载快两千万次,甚至被打包进了 Ubuntu 和 Debian 的官方软件仓库。更戏剧性的是,代码里有个隐藏 Bug:只要你传入的 URL 结尾带斜杠,它内部的替换逻辑就会把路径里所有的英文字母“a”都删掉。即便发现了这个错误,作者最近也决定直接把它标记为废弃,绝不去修,也不把仓库权限交给别人。

女:很多人不理解为什么不顺手修一下,但这里面涉及海勒姆定律(Hyrum's Law),就是只要用的人足够多,Bug 也会变成其他人依赖的特性。一旦改了,不知道全世界有多少老旧网站会瞬间瘫痪。作者选择主动画上句号,反而是最负责任的做法。

男:把视线从数字代码移到我们钱包里的实体卡片,现实世界的漏洞往往更具隐蔽性。美国大多数州的驾照背面都印着那种密密麻麻的二维条形码,其实一直以来里面存的姓名、生日和住址全是明文,随便拿个超市扫码枪就能读出来,因为没有任何数字签名,做假证的只要按格式伪造条形码,普通的扫码器根本分不出真假。

女:我看到加州终于在今年把 W3C 的可验证凭证嵌进去了,还把公钥挂在车管局官网上,任何人用手机网页就能离线验真伪。但更有意思的是另一家给五个州做驾照的供应商,研究人员发现他们其实早就悄悄加了签名,只是死活不肯公开公钥?

男:这就是典型的“依靠隐蔽实现安全”。那个供应商把签名藏在特定字段里,由于没公开验证方式,除了他们自己的设备,全美没人能验。后来几位安全研究员利用椭圆曲线签名的数学特性,从几张真实驾照的明文和签名里,硬生生把这几个州的官方公钥给反推计算出来了,还做成了一个纯前端的网页验证工具。高仿假卡虽然格式一模一样,但因为是用假私钥签的,放到工具里一验就露馅。

女:所以防伪的真正门槛根本不在密码学技术,而在于行政机构和供应商愿不愿意公开公钥、接受公众监督。说到公众自发推动的技术演进,开源浏览器引擎 Servo 这一年的成绩单也让人觉得很踏实。

男:Servo 曾经几度面临停滞,后来靠社区捐款设立了一个兼职维护岗位,每小时 150 美元,一年花了大约五万多美元。这一年里梳理了上百个面向新人的任务,处理了一千多个代码合并请求。虽然它现在还不能当完整的桌面浏览器用,但在嵌入式场景里特别亮眼,比如有人拿它给电子墨水屏生成渲染截图,占用的内存只有无头 Chrome 的十分之一,速度快了二十倍。

女:五万多美元在大厂眼里可能连个实习生包袱都不够,但在开源社区却能盘活一个独立的浏览器内核,给垄断的 Web 世界保留另一种可能性。而在欧洲,黑客们捍卫独立文化的方式更加纯粹。欧洲最大的黑客集会混沌通信大会,宣布了 2026 年底举办第 40 届,预计有一万六千人去汉堡展览中心,完全靠志愿者现场搭网络、建服务器。

男:CCC 最好玩但也最让外人纠结的一点,是他们严苛的反拍照规则。从上世纪八十年代开始,他们就坚持“公开公共数据,保护私人数据”。在会场里,哪怕只是随手拍一张风景照,只要画面里有人没同意,就属于严重违反底线。

女:在社交媒体时代,习惯随时打卡拍照的人去到那里肯定会觉得压抑,但能真切感受到欧洲黑客对人脸识别和云端监控的那种戒备心。他们把那片物理空间当成了模范公民的自治试验田。

男:说起传统与现代的结合,今天最后一个话题绝对浪漫。在大洋上,现代商船正在把风帆重新装回甲板。根据国际风帆船协会的数据,全球已经有上百艘大型货轮用上了现代风力推进,总载重超过了五百万吨。

女:不过可不是咱们脑海里那种白色的布帆。我看照片上都是一根根三十多米高、立在甲板上的巨大金属圆柱体,远远看去像大烟囱。

男:那是旋翼帆,利用的是马格努斯效应(Magnus effect,即旋转物体在流体中运动时会产生垂直于气流方向的升力)。圆柱体在甲板上高速旋转,海风吹过来时两边会产生压力差,直接把几万吨的轮船往前推。淡水河谷的四十万吨矿砂船装了五根,能省下百分之六的燃油。现在绿氨或者甲醇这些清洁燃料太贵了,只要自动控帆系统能从海风里借点力,对航运公司来说一年就能省下真金白银。

女:不管是给万吨巨轮重新装上大风帆,还是在十万张芯片上让智能体写代码,工程师们总能在现实条件的条条框框里,找到借力前行的新办法。

男:今天聊的这些技术,不管是在深海还是在数据中心,最终都在向着更高效、更自主的边界迈进。

女:感谢大家的收听。如果你喜欢我们的节目,欢迎在泛用型播客客户端订阅 Agili 的 Hacker Podcast,不错过接下来的每一期对话。

男:我们下期再见。

女:拜拜!

参考链接