跳到主要内容

Agili 的 Hacker Podcast 2026-10-17

欢迎收听 Agili 的 Hacker Podcast。今天的内容聚焦从开源 AI 架构演进与本地运行基准,到全球清洁能源产出变化、家庭光学透视实验以及珊瑚生态复苏的最新技术探索。

DeepSeek 推出 V4.1 Flash 1017 更新

架构设计与推理效率

DeepSeek 发布了开源模型更新 DeepSeek-V4.1-Flash-1017。该版本基于因果编解码器(Causal Encoder-Decoder,简称 CED)架构,采用稀疏混合专家模型(Mixture-of-Experts,简称 MoE)设计。在 552B 总参数的基础框架中,模型在输入阶段激活 8B 参数,输出阶段激活 16B 参数,支持 100 万 Token(文本单元)上下文窗口和最多 131,072 个补全 Token。

模型引入了压缩键值缓存技术(KV caching),将多轮对话中的缓存显存占用压缩至上一代 Flash 的四分之一左右。实测显示,新版本在低推理精力设置下的 Token 消耗降低,各档位的平均输出长度缩减了约 20%。官方基准测试中,Terminal-Bench 4.0 得分为 42.3,长上下文推理基准 AA-LCR 达到 84.0%。

工程工具链与实际部署

在部署工具方面,本次更新移除了传统的 Jinja 模板,改为提供纯 Python 实现的编码参考工具 encoding.py,支持多轮对话、工具调用和图文混合处理。DeepSeek 同步推出了基于 Rust 开发并提供 Python 绑定的工具集 deepseek-recipe,用于将不同 API 请求规范解析转换为统一格式。

社区开发者在工程实践中常将该模型作为代码审查和长流程自动化的主力。在包含 200 多个文件变更的代码审查测试中,模型能够保持较高解码吞吐,单次调用成本低,且完整开放思维链(Chain of Thought)输出,便于开发者定位错误。对于企业数据合规需求,除了本地权重部署,也可以通过具备零数据保留(ZDR)协议的第三方托管平台调用。

全球太阳能年发电量首次超过核电

发电量与装机增速

根据《世界核工业现状报告 2026》(World Nuclear Industry Status Report)公布的数据,全球太阳能年度实际发电量在 2025 年首次超过核电。2025 年全球太阳能发电量年增 30%,达到约 2,779 TWh(太瓦时);同期核电发电量为 2,703 TWh,微增 1.1%。在单月数据上,风电于 2025 年 3 月超过核电,太阳能随后在 4 月实现反超。

装机容量的扩张速度拉开了两者的发电总量差距。2025 年全球太阳能新增装机容量超过 510 GW(吉瓦),累计装机达到 2,383 GW。全球运行中的核电净新增装机为 1.5 GW,总装机容量约为 368.6 GW。核电在全球总发电量中的占比目前滑落至 8.8%,为 1996 年峰值的一半。

工业周期与电网储能

报告显示,2023 年至 2025 年间全球并网的 16 座核反应堆平均建设周期达到 10.9 年,无一按期完工。小型模块化反应堆(SMR,装机容量在 300 MW 以下的反应堆)商业化落地仍依赖公共补贴,新建项目大部分集中在中国和俄罗斯的核工业体系。

随着可再生能源比例提高,配套储能系统快速跟进。2025 年全球电网级电池储能系统(BESS)并网容量达到 104 GW 和 257 GWh,全球超过 78% 的累计电池储能装机是在 2023 年至 2025 年间完成的。太阳能具备低成本和快速部署优势,核电和水电则为重工业提供不受天气影响的基荷电力支持。

从联想记忆推导 Transformer 架构

线性存储与容量极限

研究博客指出,深度学习模型的前馈层与注意力机制可以统一视为联想记忆(associative memory,基于向量相似度检索的键值存储系统)。评价这类记忆系统的核心指标是干扰-信号比:存储的数据越多,检索时无关记忆产生的噪声就越大。

最基础的形式是外积线性存储,通过累加键与值的外积写入记忆,对应神经科学中的赫布学习(Hebbian learning)。输入向量与所有键计算点积返回加权值。由于高维空间正交方向有限,随机键向量带来的干扰会随数量累加,系统容量被限制在键向量维度 $d_k$ 附近;如果对键进行白化处理消除协方差,容量可提高至 $2d_k$。

非线性激活与自注意力演进

提高容量需要抑制低相似度记忆的噪声。在加权和之前引入非线性函数即可重构成双层感知机(MLP)。ReLU 过滤掉负相似度,容量为 $2d_k$;平方 ReLU 与 SwiGLU 对弱信号施加更强抑制,将存储容量提升至多项式级别 $O(d_k^2)$。

自注意力机制通过指数函数将这种抑制做到极致。指数函数展开为无穷多项幂次加权和,结合归一化推导出 Softmax 注意力公式,使 64 维空间下的记忆容量达到约 120 万条。面对百万级上下文的长文本场景,近期方案通过将注意力锐度参数与上下文长度的对数 $\log M$ 绑定,动态压低噪声背景,保证长序列下的检索准确率。

Llmspeed:本地大模型运行速度模拟器

硬件性能直观模拟

开源工具 Llmspeed 上线,供用户在采购硬件前预估本地运行大语言模型的真实速度。该工具覆盖 NVIDIA RTX 30/40/50 系列显卡、搭载 Apple Silicon 的 Mac 设备以及数据中心芯片,数据整理自社区测试和硬件规格推导。

社区用户反馈,工具目前的单卡默认配置估算与深度优化后的生产环境存在差异。开启投机采样(Speculative Decoding,使用轻量辅助模型预先生成候选词)或调整推理引擎参数后,RTX 4090 运行 Qwen 27B 模型的吞吐量可从模拟的 20 余 tok/s 提升至 80 tok/s。

显存带宽与架构选型

在硬件适配讨论中,混合专家模型(MoE)展现出独特优势。MoE 架构每次推理只激活部分参数,降低了单步计算负载,在显存有限的设备上能跑出更高吞吐,但总参数仍占用系统 RAM 空间。

对于代码重构和 Agent 任务,瓶颈往往在于长上下文的预填充速度与键值缓存管理。上下文达到 64k 或 128k 时,解码吞吐量会下降至原有水平的三分之一。业界常采用 4-bit 或 8-bit 的 KV Cache 量化技术缓解显存占用。

Ultramarine 1 Flash:针对知识工作微调的模型

专业任务基准

Paper Instruments 发布了面向金融、法律与咨询任务的模型 Ultramarine 1 Flash。该模型基于开源底座 GLM-5.3 Flash 通过强化学习微调完成,API 定价为输入每百万 Token 0.15 美元,输出 0.50 美元。

在评估实际工作任务的 JobBench 和金融测试 FrontierFinance 中,该模型分别取得 62.9 分和 53.3 分;但在自动化测试 DiligenceBench 和智能体任务 APEX-Agents 1.1 中落后于闭源前沿模型。模型未针对代码能力特别优化,DeepSWE 得分为 61.5,略低于基底模型。

办公工作流与中间件

该模型在内部测试中侧重于生成格式完整的 Excel 工作簿、PPT 演示文稿,以及对接企业 ERP(企业资源规划系统)系统。模型完成任务时生成的 Token 总量比基底模型精简了 6.5%。

企业应用的核心在于 Harness(将模型连接到实际文件系统、代码解释器和办公软件的中间件系统)。非技术员工通常无法直接通过 API 操作,实际落地普遍依赖模型在后台生成并运行 Python 脚本处理数据,结合 Pandoc 等工具转换格式,最终输出符合商业标准的文档与图表。

食品色素让鸡胸肉呈现光学半透明状态

折射率匹配实验

独立博主尝试在家庭环境中复现斯坦福大学发表于《Science》的组织透明化研究。实验使用常见食用黄色素柠檬黄(tartrazine),对超市购买的生鸡胸肉进行常温浸泡。切成 2 毫米厚的肉片浸泡在约 10% 浓度的柠檬黄溶液中 12 小时后,下方的 5 毫米方格线条清晰透出,而纯水浸泡的对照组保持完全不透明。

物理机制与应用边界

生物组织之所以不透明,主要来自光线在水与蛋白质、脂质之间的散射。水的折射率约为 1.33,蛋白质和脂质约为 1.45。两者之间的折射率落差造成光线在组织内部剧烈散射。

柠檬黄在 425 纳米蓝光波段有强吸收峰。依据洛伦兹振子模型,染料分子的极化效应在吸收峰的长波长一侧(红光波段)大幅拉高了周围水分的折射率,使其接近 1.45,消除了水与蛋白质之间的折射率差异。这种光学手段只消除散射,无法穿透血红蛋白等强吸收天然色素,因此血管和眼睛仍保持不透明;人体口服该色素也会被肠道菌群快速分解,不会产生全身透明现象。

Lingua Franca:面向确定性并发的协调语言

反应器模式与时间语义

加利福尼亚大学伯克利分校等机构联合开发了反应器协调语言(coordination language)Lingua Franca。该语言不替代现有的通用语言,而是作为上一层的调度框架:开发者可以使用 C、C++、Python、Rust 等编写业务逻辑,并发控制、组件通信与时序调度则由 Lingua Franca 管理。

系统采用基于流的具名端口(named ports)机制,直接在组件输入输出端建立数据映射。Lingua Franca 内置精确的时间语义,在编译阶段通过因果分析(causality analysis)检测事件依赖顺序,直接拦截潜在的循环依赖与死锁,确保分布式执行具备确定性逻辑。

应用场景定位

社区讨论认为,Lingua Franca 为通用语言补充了全局数据流表达能力。该语言引入了独立 DSL(领域特定语言),对于普通的 Web 业务开发较为繁琐,核心价值主要集中在硬实时控制、机器人系统以及需要严苛时钟同步的车载与航天嵌入式计算环境。

同基因白化珊瑚接触后快速复苏

组织融合与藻类转移

发表在《Science Advances》上的一项研究发现,白化珊瑚只要与同基因型的健康珊瑚直接接触,就能在短时间内恢复生机。海水温度上升会导致珊瑚排出体内提供养分的共生藻类(Symbiodiniaceae,一种光合微藻),引发白化死亡。

斯坦福大学霍普金斯海洋站的研究人员使用细枝鹿角珊瑚展开对比实验。健康残枝与白化残枝紧密相碰的实验组在八周内完全恢复,第二周时共生藻数量每四天翻一倍;只要保持接触一周,即使随后移开,白化残枝也能独立完全复原。保持微小间距的对照组则在二十周后相继死亡。显微镜显示,接触的珊瑚通过物理融合构建起组织桥梁,健康共生藻直接迁移到白化组织内部。

生态修复限制

组织桥接存在生理机制限制:融合仅发生在基因完全相同的克隆残枝之间,不同物种或同物种不同基因型的个体不会产生组织融合,无法传递微藻。该发现为白化礁区的抢救提供了新思路,生态保护人员可以通过建立特定海域的珊瑚克隆基因库,利用同基因组织的接触特性加速珊瑚修复。

沙丘中的巴特勒圣战与现代技术反思

原著设定与权力结构

科幻小说《沙丘》世界观中的巴特勒圣战(Butlerian Jihad)是一场根除所有“思考机器”的星际起义。根据弗兰克·赫伯特的原著设定,这场反抗的根源并非机器产生了自主反叛意识,而是技术普及引发的社会权力极化。决策权移交给算法后,掌握机器的技术官僚阶层实质上奴役了普通大众。

圣战确立了“汝等不可造出形同人类心灵的机器”的最高禁令。人类转向挖掘自身潜能,催生了替代计算器的高阶人类“门泰特”(Mentat)、贝尼·杰瑟里特姐妹会以及宇航公会,星际文明倒退为封建帝国。这一设定借鉴了 19 世纪作家塞缪尔·巴特勒在小说《埃瑞璜》中对机械进化的担忧,体现了对过度依赖机器会迫使人类思维机械化的反思。

当代技术垄断讨论

社区读者将这一构想映射到当前的大模型浪潮中。现实中的核心挑战在于算力与模型权力高度集中在少数科技公司手中,形成了新的信息过滤层。此外,长期依赖统计概率驱动的语言模型辅助产出,容易促使人类表达向平庸的统计平均值收敛。资深读者强调,赫伯特的原著并非反对技术本身,而是强调人类在失去外部算法辅助时,重新面对自身局限与演进潜能的必要性。

播客全文

女:Hello 大家好,欢迎收听 Agili 的 Hacker Podcast,我是莓莓。

男:大家好,我是阿迪。

女:今天科技圈挺热闹的,不少团队在拼命把大模型的推理成本往下压。我看到 Paper Instruments 刚发了一个专门做知识工作的模型,叫 Ultramarine 1 Flash。官方说单次任务成本只要一毛三美金,比顶级的闭源模型便宜了六十倍。阿迪,这东西真能在办公室里帮大家做 PPT 和报表吗?

男:它底座用的是开源的 GLM-5.3 Flash,通过强化学习专门优化了金融和法律场景。在生成 Excel、Word、PPT,以及对接企业 ERP(企业资源规划系统)的测试里,它的性价比确实突出。但要让非技术人员在办公室里用起来,光有模型 API 还不够,核心得看 Harness(将模型连接到实际文件系统、代码执行环境和业务软件的中间件载体)。

女:就像我们买了一台强力引擎,但普通用户需要的是方向盘、踏板和舒服的驾驶舱。

男:对。现在大家主要靠后台跑 Python 脚本去调底层库拼装幻灯片,或者在容器里跑 Pandoc 做格式转换。而且社区不少人发现,官方给的基准测试在比性能时避开了顶级模型,算性价比时才把它们拉进来对比。另外它在通用编程测试里的得分,其实比开源底座还要稍微低一点点。

女:看来术业有专攻。提到模型更新,开源圈的卷王 DeepSeek 最近动作也很大,推出了 DeepSeek-V4.1-Flash-1017。这次他们不仅公开了权重,连架构都换成了因果编解码器架构(Causal Encoder-Decoder,简称 CED)。

男:这一版挺有意思,底层总共有 5520 亿参数,但采用了稀疏 MoE(Mixture of Experts,混合专家模型)架构。输入阶段只激活 80 亿参数,输出阶段激活 160 亿参数。而且他们把多模态理解直接做进了底层的向量嵌入里,不是后来硬接上去的。

女:我听很多写代码的朋友反馈,这次最直观的感受不是它变聪明了多少,而是说话不再啰嗦了。

男:没错。在最低的推理精力设置下,token(文本单元)消耗比旧版缩短了差不多两倍半。以前模型思考档位如果开到最高,经常会过度发散拖慢响应。这次新版本不仅输出了完整的 CoT(Chain of Thought,思维链),还把长文本的 KV Cache(键值缓存,用来存储注意力计算结果的内存区域)体积压缩到上一代的四分之一,很适合用来做大工程的初筛和长流程自动化。

女:既然开源模型越来越强,很多动手能力强的工程师就想自己在本地跑。但买显卡可是一笔大开销。最近有个开源网站叫 Llmspeed 上线了,专门给用户测算不同硬件跑本地模型的速度。

男:这个工具覆盖了从消费级的 RTX 3060、50 系列显卡,到苹果的 M 系列芯片,甚至云端的专业计算卡。不过大家在实测时发现,网站算出来的速度偏保守。比如一张 RTX 4090 运行 27B 稠密模型,默认配置显示只有 20 多 tok/s(每秒生成的 token 数量),但如果开启投机采样(Speculative Decoding,使用小模型或统计词表预先生成草稿词以加速解码的技术),实际吞吐能飙到 80 tok/s。

女:所以硬件不是唯一瓶颈,参数调优的影响极大。

男:还要看场景。日常写代码或做智能体时,瓶颈往往不在后期的生成速度,而在 Prefill(前文预填充,模型处理用户输入提示词的初次计算速度)。一旦上下文长到六万四甚至十几万 token,显存不够就会导致速度腰斩。反倒是有极客利用 Vulkan 驱动核显配合独显做异构计算,让九年前的英伟达 1070 笔记本显卡也能在 10 万上下文下稳定运行日常脚本。

女:说到上下文长度和注意力,很多人觉得大模型内部像个黑盒子。不过最近有一篇技术拆解把 Transformer 的演进讲得特别透彻,把它类比成了物理上的联想记忆(associative memory,基于相似度检索的键值存储系统)。

男:那篇文章的视角非常底层。把神经网络存储记忆看作在信道里传信号,核心指标就是干扰-信号比。早期的线性网络只做外积累加,高维空间里方向有限,存几十条信息噪音就把信号淹没了。后来多层感知机引入非线性激活函数,把负相似度直接砍掉,容量提升到了多项式级别。

女:这就好比在一间嘈杂的屋子里,我们必须主动戴上降噪耳机,把那些很微弱的杂音先过滤掉,才能听清真正重要的声音。

男:比喻很准。自注意力机制里的 Softmax 函数,本质上是通过指数函数做极度激进的降噪,弱信号被压缩到接近于零,容量瞬间呈指数级暴增。而在处理几十万 token 的超长文本时,社区用的 YaRN 或者 LogN 缩放技术,也是为了动态拉高注意力的锐度,压制长文本带来的背景噪音。

女:理解了底层的降噪机制,大模型那些看似玄学的表现就有了工程解释。聊完算力消耗,我们来看看给算力供电的能源领域。《世界核工业现状报告 2026》公布了一组挺让人惊讶的实际数据,2025 年全球太阳能的年度实际发电量第一次超过了核电。

男:注意这里比的是太瓦时(TWh,十亿千瓦时),也就是真实送入电网的电量,而不是装机容量。虽然核电的容量因子(发电设备实际产出与满负荷产出之间的比率)非常高,但过去几年太阳能的新增装机规模太庞大了。2025 年全球太阳能新增装机超过了 500 吉瓦,而核电净新增只有 1.5 吉瓦。

女:不过太阳能毕竟看天吃饭,一到阴雨天或者冬天,发电量不就下来了吗?

男:所以必须搭配储能系统。2025 年全球电网级电池储能的装机量同样在激增。但能源专家的共识是,电网需要组合拳。光伏便宜、铺设快,适合白天填补工商业负荷;但在北半球冬季或者给重工业提供基荷(电网 24 小时持续稳定的最低用电负荷)保障时,不受天气影响的核电与水电仍然具有无可替代的压舱石作用。

女:这倒让我想起厨房里的科学,有时候低成本的简单材料真能办大事。之前《Science》有一篇论文说用食用色素能让生物组织变透明,最近有个独立博主在家里拿超市买的生鸡胸肉给做出来了。

男:用的是做薯片调味粉里常见的柠檬黄(tartrazine,食用黄色 5 号)。生物组织之所以看起来不透明,是因为水分子的折射率大概是 1.33,而蛋白质和脂质的折射率在 1.45 左右。光线穿过去的时候在水和蛋白质之间到处乱折射,发生了强烈的散射。

女:就像毛玻璃表面沾了水之后会变透光一样,折射率一致了光就能直接穿过去。

男:原理完全相同,这叫折射率匹配。柠檬黄分子在红光波段能把水的折射率一路拉高到 1.45 附近,正好抹平了水与蛋白质之间的折射率落差。那位博主把鸡胸肉切片浸泡在高浓度溶液里十二小时,拿出来透光看,下面的网格线清晰可见。不过由于血红蛋白天然吸光,这个办法对血管还是不起作用,而且口服色素会被肠道菌群分解,人吃下去可不会变透明。

女:大自然总是藏着这些奇妙的物理法则。说到互助,海洋里的珊瑚最近也带来了一个温暖的科研发现。斯坦福大学的研究人员发现,白化濒死的珊瑚,只要能碰触到健康的同基因珊瑚,就能活过来。

男:海水变暖会让珊瑚排出体内的共生藻类(Symbiodiniaceae,一种为珊瑚提供光合养分的微藻),导致白化。研究人员在水箱里做对照,让健康残枝和白化残枝紧紧贴在一起。仅仅一周时间,两种组织在接触点长出了物理桥梁,健康的共生藻直接通过这座桥迁移到受损组织里,第二周共生藻的数量每四天就翻一倍。

女:但是分开几毫米的那一组对照,二十周后就全部死掉了。这就像两个落难的人必须手拉着手才能传递体温。

男:确实很神奇,不过这种桥接有严格的免疫限制,必须来自同一个母体的克隆体才会融合,不同个体的珊瑚会产生排斥。科学家现在正考虑建立基因库,在白化海域人工拼接同源组织来抢救珊瑚礁。

女:从珊瑚的互助,到我们今天聊的开源算力和能源,技术的初衷本该是让人类更有力量。但科幻小说《沙丘》里的巴特勒圣战(Butlerian Jihad,沙丘世界中彻底销毁思考机器的星际历史事件),却给出了另一种极端的思考。很多人以为巴特勒圣战是人类打终结者机器人,其实原著里根本不是这么写的。

男:弗兰克·赫伯特在原著里写得很明确:反抗的不是产生意识的机器,而是掌握机器的技术官僚阶层。小说里的名言说得很透彻,人类把思考托付给机器以求自由,结果只是让拥有机器的人奴役了其他人。圣战之后人类立下戒律,严禁制造形同人类心灵的机器,转而逼着自己进化出了门泰特(Mentat,替代计算机进行超复杂逻辑运算的人类计算者)。

女:这跟我们当下的处境有点像。大家担心的并不是 AI 明天就毁灭世界,而是算力和前沿模型越来越被几家科技巨头垄断。更微妙的是,长期依赖大模型生成的标准答案,我们自己的写作和思考也在向概率分布的中位数靠拢,变得平庸。

男:失去思考的拐杖,人才能看清自己的潜能与局限。这种对技术依赖的决绝审视,哪怕放在今天看也依然很有分量。

女:是啊,不论技术怎么跑,别把思考的权利拱手让人。好啦,今天的 Hacker Podcast 就聊到这里。大家如果喜欢我们的节目,欢迎在泛用型播客客户端订阅我们,给我们留言互动。

男:感谢大家的收听,我们下期见。

女:下期见,拜拜!

参考链接