跳到主要内容

Agili 的 Hacker Podcast 2026-09-29

在今天的 Agili 的 Hacker Podcast 中,我们关注大语言模型在端侧与决策链上的新尝试、对话式 AI 背后的隐私追踪细节,同时审视电网改造、公共人脸识别与现代人生活方式的演变。

GPT-6.1 Sol 发布:下探推理成本与工程现实

价格与基准测试表现

OpenAI 发布了 GPT-6.1 Sol,标准 API(应用程序编程接口)输入价格为每百万 token(模型处理文本的基本单位)2 美元,输出为每百万 token 10 美元,约为 GPT-6 Astra 的五分之一。缓存输入单价降至每百万 token 0.10 美元。

在评估复杂代码库工程能力的 DeepSWE 1.1 测试中,GPT-6.1 Sol 得分比 GPT-6 Sol 提升了 6.4 个百分点;在科学计算基准 Terminal-Bench Science 0.1 中,其最高推理配置下的平均任务成本为 5.47 美元,低于 Opus 5.5 的 23.21 美元和 Astra 的 23.80 美元。

强制推理机制与上下文缓存

GPT-6.1 Sol 强制要求开启推理过程,无法完全关闭推导,调用响应时间长于普通模型。

在利用多子智能体并行处理工程任务时,上下文消耗速度很快。Codex 工具默认在上下文达到约 27.5 万 token 时触发压缩,频繁压缩会破坏缓存连续性,降低命中率。部分开发者通过调整本地配置文件将上下文上限扩大至 70 万或 100 万 token,以保持稳定的缓存效果。

对话式 AI 背后的第三方追踪与意图泄露

提问意图与对话标题外发

西班牙 IMDEA Networks 研究所测试了九款主流对话式 AI 平台,发现传统的广告与追踪基础设施已经全面接入此类应用。测试涵盖的 9 款网页端服务中有 6 款、8 款安卓应用中有 3 款会向第三方发送对话衍生数据。

AI 系统通常会根据用户的第一句话提炼出概括性标题。研究人员输入敏感的医疗咨询与财务状况测试时,模型生成的标题包含了帕金森病症状或具体的购房薪水区间。测试记录显示,Grok、Claude 与 Gemini 会将这类凝练了私密意图的标题直接发送给 Meta、TikTok 或 Google Analytics 等机构。

身份标识绑定与无权限访问

Grok 网页端在发送对话全局链接与标题的同时,会附带 Meta Pixel 与 TikTok 的持久化用户 Cookie。Perplexity 会将用户的哈希电子邮箱地址(HEM)与安卓广告标识符(AAID)同步给营销分析机构 Singular,数据接收方可通过数据库比对还原用户身份。

测试对话和上传文档中植入的金丝雀令牌(用于检测未授权访问的诱饵)显示,Grok 默认公开的会话链接在生成后遭遇了数十次外部自动抓取。目前西班牙数据保护局已提请欧洲数据保护委员会审查相关服务是否违反欧盟隐私法规。

德里如何将电网损耗从 50% 降至 5%

体制重组与产权激励

二十年前,印度德里的输配电损耗率高达 50%,部分低收入街区达到 83%。当时的日常生活中频繁出现轮流拉闸限电,损耗的核心原因并非电线发热,而是普遍存在的搭线窃电与拒缴电费。

2000 年代初,德里推进配电体制改革,引入塔塔电力与 BSES 进行民营化运营,将配电收益与实际电费收缴率绑定。德里政府同步修订法规,赋予供电企业断开欠费电路的执法权,并设立专门法庭打击违规用电。

硬件绝缘与社区协作

工程改造中,电力公司将裸露的架空线大面积替换为带绝缘外皮的架空捆绑电缆,并在终端安装防篡改智能电表,杜绝了随意挂钩偷电的途径。这些悬挂的绝缘电缆同时成了德里街头猴群穿行社区的安全通道,减少了触电事故。

在损耗严重的贫困社区,电力公司资助改善了清洁饮用水设施,并聘请社区本地女性担任电费代收员,借助日常熟人信任建立收费秩序。目前德里的电网损耗率已降至 5% 左右,与欧洲成熟电网相当。

英国火车站 50 万次人脸扫描未促成抓捕

试验数据与投入产出

英国人权调查组织 Liberty Investigates 通过《信息自由法》获取的数据显示,英国交通警察局在伦敦多个繁忙火车站开展了为期半年的实时人脸识别试点。

项目累计扫描了超过 50 万张面孔,设备租赁与警力支出达 32 万英镑,耗费近 100 小时警力。测试期间系统仅触发过一次警报,且随后被证实为误报,未直接促成任何逮捕。

场景限制与监管反思

测试采取分阶段部署模式,每次仅开启数小时,现场设有明确提示牌,且监控数据库仅包含约 450 名与交通系统安全相关的特定人员。

前英国生物识别与监控摄像头专员弗雷泽·萨普森指出,在客流量密集的枢纽寻找在逃人员,其技术投入产出比面临严格检验。英国议会人权联合委员会在近期报告中提出,在大规模推广此类技术前,需要建立更健全的法律监督与人权保护边界。

美国现代家庭聚会的退潮

聚客频率大幅缩减

民调机构 Data For Progress 与相关调查数据显示,1975 年有 42% 的美国成年人每月至少在家招待一次亲友,近年这一比例降至 12%。表示从未在家招待过客人的比例在三十年间增加了两成。

女性劳动参与率从 1970 年前后的 50% 上升到近 80%。过去由全职主妇维系的社交日程随之解体,现代双职工家庭晚间被育儿和基础家务填满,组织家庭聚会的闲暇时间受到挤压。

招待门槛与便利娱乐

社交媒体展示的精致居家环境抬高了招待心理门槛,部分人会因住房装潢不够完美或食材成本过高而放弃邀请朋友。

流媒体与即时网络娱乐以零协调成本填补了业余时间,人们应对现实社交协调的耐受力随之下降。部分保持线下交往的人群开始采取降级策略,用披萨便餐或自带食物的随性聚餐替代耗费精力的正式宴请。

加州酿酒葡萄滞销与年轻人生活方式转向

原料过剩与农田调整

加州联合葡萄种植者协会数据显示,今年加州约半数酿酒葡萄在没有买家合同的情况下进入采收期,往年这一比例仅为 20% 至 30%。由于收购价格低于采摘成本,许多农户任由果实烂在藤上。加州已有约 25% 的葡萄园被拔除或停止管理,农户开始改种坚果与橄榄。

第一公民银行的行业报告显示,美国葡萄酒销量从 2020 年的 4.27 亿箱跌至 2025 年的 3.29 亿箱,消费市场规模大幅下滑。

消费偏好与健康认知

年轻一代饮酒频率明显下降。房租与日常开支压力使得外出品酒难以负担,部分消费者转向单价更低的即饮罐装鸡尾酒或脱醇啤酒。

智能手环与健康监测工具的普及让更多人观察到饮酒对睡眠质量的破坏,职场对带醉意社交的包容度也在收紧。随处可见的手机拍摄让年轻人更加在意外界评价,减少了在公共场合过量饮酒的意愿。

在 ESP32-S3 集群上运行 1.58 位语言模型

微控制器流水线设计

开发者 Low-Zi-Hong 开源了 ESP32s3-LLM-Cluster 项目,用 7 块 ESP32-S3 芯片运行切分后的 0.5B 参数大语言模型。硬件之间通过高速 SPI(串行外设接口)以菊花链形式串联。

集群由 1 块主控板与 6 块计算节点组成。主控板负责处理分词与词嵌入层,6 块计算节点各分担 4 层网络,在 PSRAM(伪静态内存)中保存键值对缓存。计算节点利用汇编指令优化 BitNet 的 1.58 位三值量化运算,减少内存开销。

物理带宽制约

大语言模型推理依赖内存带宽,离散微控制器之间的总线通信延迟限制了集群拓展效率,实际推理速度与能效难以比拟单颗高带宽芯片。

高比例的三值压缩也会使语言生成质量出现下降。项目主要作为探索微型控制器硬件边界的实验原型,展示了在极低规格硬件上切分执行 Transformer 架构的路径。

PostHog 开源 Jeeves:借助思维链优化概率决策

推理推导与概率校准

PostHog 开源了决策模型 Jeeves。它基于 Qwen3.5-9B 模型微调,继承了决策模型 Jev 的架构,特点是在给出判定前先生成一段思维链推导。

模型接口直接输出 0 到 1 之间的概率值,便于业务程序灵活设置触发阈值。在 JevBench 评测中,Jeeves 的整体准确率达到 0.935,高于前代 Jev 的 0.866。该模型集成了扩散草稿结构,利用投机采样将单请求解码速度提升了 1.6 倍。

延迟代价与混合调用

思维推导带来了延迟成本。在单张 H100 显卡上测试时,不开启思考的平均响应时间为 0.3 秒,开启后中位数延迟延长至 3.3 秒,90 分位延迟达到 17.1 秒。

在实际业务部署中,工程师通常采取混合方案:通过置信度过滤,对大部分特征明确的常规数据跳过推导,仅在边缘或低置信度样本上触发带思维链的深入计算。

Phyllotaxis:基于植物叶序的音频感应 LED 屏

仿生几何与算法映射

开发者受植物叶片与葵花籽的叶序(Phyllotaxis,植物器官按黄金分割比例螺旋生长的规律)启发,制作了一款具有音频响应功能的 LED 屏。该装置在极坐标系下按黄金角倍数旋转点位,再通过沃罗诺伊镶嵌划定边界,生成蜂窝状像素结构。

初代装置采用 STM32 芯片与 I2S 数字麦克风,利用芯片自带的浮点运算单元运行快速傅里叶变换(FFT),根据音频的低频动态生成扩散的正弦波光效。显示面板采用透光的桑皮纸,底座则由一块竹质切菜板改造而成。

对称制造与 WebAssembly 扩展

第二版硬件改用带 Wi-Fi 的 ESP32 芯片,固件使用 Rust 编写。背板采用了五重旋转对称设计,刚好能够利用 PCB 厂商 5 块起订的基础配额,拼接出完整的圆形背板。

设备内部运行着轻量网页服务器与 WebAssembly(跨平台字节码)环境,开发者可以通过本地网络使用配套 SDK 编写光效程序并直接上传运行。后续版本计划改用工厂贴片焊接和磁吸面板,提高装配稳定性。

播客全文

女:Hello 大家好,欢迎收听 Agili 的 Hacker Podcast,我是莓莓。

男:大家好,我是阿迪。

女:今天科技圈的新鲜事特别多。我先聊一个在 Hacker News 上看到的硬件项目。一位创作者做了一盏会随音乐节奏律动的氛围灯,外形很特别,不是常见的方格点阵,而是像向日葵花盘那样旋转展开的蜂窝形状。

男:这盏灯借鉴了自然界里的叶序(Phyllotaxis,植物叶片或种子在茎轴上呈现的双螺旋排列规律)。作者在极坐标系里把发光点按黄金比例旋转排布,再用沃罗诺伊镶嵌(Voronoi tessellation,将空间划分为最靠近各个基准点的多边形区域)算法生成蜂窝状的小格子,每个格子里装一颗 RGB LED。

女:初代作品还挺有手作质感的。灯罩扩散层用的是带纤维纹理的桑皮纸,底座甚至直接用了一块圆形的竹质切菜板。

男:早期电路是用 STM32 开发板配合数字麦克风,利用芯片自带的浮点单元跑快速傅里叶变换(FFT,将声音波形转换为各频段能量的算法)。灯光驱动写得像图形学里的片段着色器(Fragment shader,用于计算单个像素颜色的图形代码),把低音频段映射成向外扩散的正弦波光圈。

女:第二版改进也很有意思。作者做成了五重旋转对称结构,正好对应 PCB 代工厂常见的 5 块起订量,5 块相同的弧形板拼起来就是一个完整的圆环。

男:硬件换成了带 Wi-Fi 的 ESP32,固件用 Rust 重写。机子里内置了微型网页服务器和 WebAssembly(Wasm,一种高效的跨平台字节码技术)运行环境。他在 Recurse Center 驻留时把灯留在了展厅,其他开发者连接本地局域网就能直接上传自己写的灯效小程序。

女:说到 ESP32,社区里还有一位开发者 Low-Zi-Hong,把 7 块 ESP32-S3 拼成了一个微型计算集群,在上面硬生生跑起了一个大语言模型。

男:那个项目叫 ESP32s3-LLM-Cluster。它用的是 BitNet 1.58 位三值量化(每个权重仅取 -1、0、1 三种状态)。主控板负责运行分词器和词嵌入层,剩下 6 块计算节点通过高速串行外设接口(SPI,Serial Peripheral Interface)以菊花链串联,每块板子分担 4 层 Transformer 计算,拼出了 24 层网络。

女:在微控制器上跑语言模型,能输出完整句子吗?

男:能运行 0.5B 参数的小模型。语言模型推理的核心瓶颈是内存带宽,SPI 总线在芯片之间传输数据有延迟,三值量化后的文本质量也有明显损失。这更多是一次有趣的硬件极限探索。

女:一边是极客在微控制器上压榨算力,另一边 OpenAI 刚发布了 GPT-6.1 Sol,开始在大模型价格上做文章。

男:新模型的标准输入是每百万 token(模型处理文本的基本单位)2 美元,输出 10 美元。缓存输入(cached input,重复利用历史上下文的机制)降到了 0.10 美元。在测试代码库工程能力的 DeepSWE 1.1 基准上,它用旗舰模型五分之一的价格达到了 Astra 的表现水平。

女:我看开发者对那个每百万 token 0.10 美元的缓存价格讨论很多。实际用起来真有那么划算吗?

男:需要看工程实现。比如在 Codex 编程工具里,上下文累积到 27.5 万 token 时会触发自动压缩,这种压缩会打断上下文连续性,降低缓存命中率。多智能体并行分析时,上下文消耗很快。部分开发者把本地上下文限制改大到 70 万或 100 万 token,就是为了保持缓存命中。遇到常规任务时,很多人会混用 DeepSeek 4.1 Flash 这类更轻量的模型来压低开销。

女:大家越来越习惯把工作代码甚至生活烦恼丢给这些 AI。西班牙 IMDEA Networks 研究所最近对九款主流对话式 AI 做了一项网络流量分析,发现传统互联网的广告追踪代码已经悄悄接进了这些对话界面。

男:研究团队测试了 ChatGPT、Claude、Grok、Gemini 等服务,一共发现了 34 家第三方广告与追踪服务(ATS,Advertising and Tracking Services)机构。网页版通常会根据用户的初次提问自动提炼会话标题。研究人员输入帕金森病症状咨询或者购房预算,模型生成了包含具体病症和薪资数字的标题,随后这些标题被 Grok、Claude 或 Gemini 发送给了 Meta、TikTok 和 Google Analytics。

女:这比传统网页追踪直接多了。以前广告商还要根据点击行为猜意图,现在是大模型直接提炼好一句话意图送过去。

男:数据标识的绑定也很紧密。Grok 的网页端会把带有用户识别码的永久链接发送给广告机构。测试分享功能时,TikTok 的脚本还上传了当前对话界面的完整渲染截图。测试人员显式选择“拒绝非必要 Cookie”之后,受测平台里依然有 80.8% 的第三方追踪器保持连接。如果涉及个人身体状况、家庭财务或者核心业务代码,在本地硬件部署开源模型是更稳妥的选择。

女:不仅线上交互在被追踪,现实生活里的公共摄像头也在增加。英国交通警察局(BTP)在伦敦火车站做了半年的实时人脸识别(LFR,在公共场所即时比对监控画面与嫌疑人数据库的技术)试点,最近公布了数据。

男:人权组织 Liberty Investigates 通过《信息自由法》拿到了记录。警方在 18 次行动中累计扫描了超过 50 万张面孔,设备租赁和警力开销花了 32 万英镑。测试期间系统只触发过一次警报,后来证实是误报,整个行动促成的逮捕数量是零。

女:花了 32 万英镑,有效抓捕是零。这个投入产出比(ROI,衡量项目成本与实际收益的经济指标)确实会引来质疑。

男:主要是比对名单设置得很小,监控库里只有约 450 名特定嫌疑人,而且每次测试只开启 3 到 6 个小时,现场还立了提示牌。前英国生物识别与监控摄像头专员弗雷泽·萨普森指出,交通枢纽的人脸识别如果达不到预期效果,就要重新评估这种手段是否符合必要且适度的法律原则。

女:说到公共场合的活动,我发现大家在线下聚会的方式也在变。比如加州的葡萄酒行业,最近遇到了很现实的危机。

男:加州联合葡萄种植者协会的数据显示,今年全州有一半的酿酒葡萄在采收期没有买家合同。往年这个比例只有两三成。采摘人工成本比收购价还高,很多农户只能任由果实烂在地里,全州已经拔除了四分之一的葡萄园,改种杏仁和橄榄。

女:第一公民银行的行业报告显示,美国葡萄酒销量五年内下滑了 23%。年轻人似乎不太喝葡萄酒了。

男:年轻人日常开销紧张,酒吧一杯十几美元的葡萄酒负担偏重。大家更倾向喝即饮罐装鸡尾酒或者无酒精饮品。智能穿戴设备的普及也有影响,许多人戴上手环后发现,哪怕只喝一杯酒,当晚的深度睡眠数据也会变差,慢慢就主动戒酒了。

女:不仅喝酒的人少了,去朋友家吃饭的传统家庭聚会也在减少。罗伯特·普特南引用的调查显示,1975 年有 42% 的美国成年人每个月至少在家里招待一次客人,近年这个比例跌到了 12%。

男:背后的家庭结构变化很明显。1970 年前后,美国中青年女性的劳动参与率首次突破 50%,现在接近 80%。过去家庭聚会的采购和联络主要由女性承担,女性进入职场后,男性没有补上这部分社交琐事。双职工家庭晚上的时间被辅导孩子和家务占满,很难再有精力操办家宴。

女:流媒体和短视频也让休息变得零门槛。请朋友来家里,得收拾房间、买菜做饭,还要承担冷场的社交压力。点开手机看剧没有任何摩擦力。

男:有些人开始尝试给聚会降级。不再准备复杂的正式晚餐,改成固定的披萨之夜,或者大家各自带食物的简易聚餐,省掉客套和回请的压力,反而能把线下面对面的联系保留下来。

女:减少摩擦确实是解决现实问题的好办法。你之前跟我提过印度德里改造电网的例子,也是把工程手段和社区沟通结合起来的典型。

男:二十年前德里的电网面临非常严重的危机。输配电损耗(T&D 损耗,指电网在输电和配电阶段损失的电量比例)高达 50%,低收入街区甚至达到 83%。那时候每天都在搞负荷切除(load shedding,指电网负荷过大时采取的轮流拉闸限电),家家户户备着柴油发电机,来电时的浪涌经常烧坏电器。

女:损失的电量大部分不是因为电线发热,而是私拉乱接和欠费吧?

男:对。转折点是 2000 年代初德里把配电业务私有化,引进了塔塔电力和信实旗下的 BSES。政府修订了法规,允许电力公司对违规用电断电。工程上把露天裸线换成了带绝缘皮的捆绑电缆,装上防篡改智能电表。换成绝缘线之后还有一个有趣的副产物:德里街头的猴群把绝缘电缆当成了居民楼之间跳跃的安全通道,触电事故少了很多。

女:硬件换掉了,低收入社区的缴费问题是怎么解决的?

男:电力公司没有硬碰硬,而是在社区出资建清洁饮水点,办识字培训,雇佣社区本地的女性担任电费代收员。依靠邻里之间的日常信任,缴费率逐步提了上来。现在德里的电网损耗率降到了 5% 左右,已经接近欧洲成熟电网的水平了。

女:把复杂的系统拆解清楚,结合社区原本的信任关系去改造,确实比单纯推技术更有效。

男:是的,现实世界里的工程问题往往需要法律、产权和社区一起配合。

女:今天聊了从硬件光影装置、模型追踪风险,到生活习惯和城市电网的各种变化。感谢大家的收听。如果喜欢我们的播客,欢迎使用泛用型播客客户端订阅 Agili 的 Hacker Podcast。我是莓莓。

男:我是阿迪,咱们下期再见。

女:下期见!

参考链接