Thinking Machines 披露未来技术路线：押注内核级原生实时多模态丨日报

开发者朋友们大家好：

这里是「RTE 开发者日报」，每天和大家一起看新闻、聊八卦。我们的社区编辑团队会整理分享 RTE（Real-Time Engagement）领域内「有话题的技术」、「有亮点的产品」、「有思考的文章」、「有态度的观点」、「有看点的活动」，但内容仅代表编辑的个人观点，欢迎大家留言、跟帖、讨论。

本期编辑：@koki、@鲍勃

01 有话题的技术

1、阶跃星辰发布 Step Edge 端侧模型家族：支持 0.1 秒本地工具调用，配套自研 NPU 推理引擎

阶跃星辰推出面向手机和汽车等终端场景的 Step Edge 端侧模型全家桶，包含基础、音频、GUI 和图像生成四个版本。该系列模型通过原生端云协同架构，实现了低至 0.1 秒的本地工具调用，在保障全模态隐私的前提下提升交互响应速度。

0.1 秒本地工具调用延迟：支持高频、简单任务在本地实时响应与执行，大幅降低对云端链路的依赖。
覆盖全模态的四款专属端侧模型：全家桶包含基础模型、Step Edge Audio、Step Edge GUI 及 Step Edge Gen，在文本视觉、音频理解、语音识别、图像生成等 29 项核心评测指标中取得第一。
自研 Step Inference NPU 推理引擎：针对终端硬件进行深度推理优化，进一步降低文本、视觉、语音多模态输入下的端到端延迟。
原生端云协同分流架构：简单与无网任务由端侧模型快速响应，复杂推理与长链路任务自动分流至云端，平衡计算成本与执行效率。

（@阶跃星辰）

2、Thinking Machines 披露未来技术路线：主打原生实时多模态与权重微调，抗衡中心化 API 模式

Thinking Machines 发表博客公布其技术与研究路线，强调通过可训练模型权重、原生实时多模态模型和去中心化对齐机制，把人类隐形知识与价值直接写入模型本体。模型不再是统一「云端人格」，而是可被各组织持续微调、与本地业务迭代共演的 AI 系统。

人类知识是分布式且隐性：需要本地可微调的模型权重

Thinking Machines 将厨师、店主类比为本地知识载体，认为生产知识是「隐性、局部、持续更新」的，无法通过一次性集中采集解决。因此，思路是把模型部署到知识产生的一线（组织内部），让团队围绕自身工作流持续微调权重，而不是只通过提示词在云端统一大模型表层「捏人格」。

交互模型：从「一个输入框+长延迟」升级到原生多模态实时协作

Thinking Machines 将「人机沟通带宽」视为核心技术瓶颈，认为当前 LLM 交互模式不足以承载实时纠错、打断、二次确认等人类协作习惯。为此，他们押注「interaction models」：在模型内部原生支持语音、视觉等多模态与低延迟交互，使「智能体」可以像人类同事那样边干边同步接受反馈，而不是靠外层脚手架拼接。

评估目标从「模型能自己干多久」转向「人与模型协同增益」

当前主流评估（如 METR 提出的任务完成时间视野）关注的是模型在无人工参与下可独立完成任务的时间跨度。Thinking Machines 提出，真正重要的是各组织自己衡量：AI 是否帮助其「更好做判断、生成新知识、达成目标」，这会导致一套与「纯自动化」路径截然不同的优化目标与训练数据选择。

去中心化对齐：价值观写入权重，而非只靠 prompt 表层约束

Thinking Machines 认为「单一实验室定义对齐规范」会形成价值与权力集中，且当前做法是用上一代旗舰模型生成下一代训练与奖励信号，导致同一价值体系在闭环中不断自我放大。他们主张：让不同组织在本地通过修改模型权重表达自身价值与偏好，而非只靠 prompt 指令改变表层风格，以避免「软塌塌的万能人格」既难以真正个性化、又更容易被攻击。

所有权与安全：不通过牺牲用户可控性来换取「统一安全壳」

Thinking Machines 承认「模型可被深度修改」同样带来安全风险，并引用冯·诺依曼「狮子与羔羊难以分离」的比喻，认为真正的安全来自持续的判断过程，而不是一次性封装。其研究目标是在不剥夺组织对模型权重与行为所有权的前提下，提供更强的安全工具，而不是将安全性与所有权对立起来。

博客链接：

https://thinkingmachines.ai/blog/the-future-worth-building-is-human/

( @Thinking Machines)

3、苹果接触端侧 AI 初创 PrismML：数学压缩技术将 27B 参数大模型缩至 4GB 以下并在 iPhone 全激活运行

加州理工学院衍生 AI 初创公司 PrismML 近日已与苹果（Apple）公司展开技术合作会谈。该公司利用独家数学压缩专利，成功将 27B（270 亿）参数的 Qwen 大模型从 54GB 压缩至 4GB 以下，并实现在 iPhone 端的全激活运行。此举打破了移动端此前仅能运行低参数或稀疏激活模型的局限，可直接在本地执行复杂推理、智能体（agent）及代码生成任务。

54GB 无损压缩至 4GB 以下：PrismML 利用加州理工学院授权的数学压缩专利技术，将 27B 参数的 Qwen 模型体积缩减超 92%，内存占用控制在 4GB 以内。该公司声称该微型化技术在大幅压缩体积的同时，不影响模型的基准测试性能。
27B 参数全激活运行（Fully Active）：与苹果自研端侧模型（20B 参数，但采用稀疏架构，单次仅激活 1B 至 4B 参数）不同，PrismML 方案支持 270 亿参数同时处于激活状态，大幅提升了端侧本地推理的上限。
苹果进行技术并购/授权接触：由于苹果此前在将自研端侧模型缩小至 iPhone 时遭遇严重的性能衰减，且 Siri 的高级推理仍需依赖运行在 Google Cloud 上的 NVIDIA 芯片，苹果已与 PrismML 就其压缩技术的使用与授权展开谈判。
对比混合部署方案：相比于 Argmax 等初创公司将语音和图像在本地预处理、再将复杂推理外包给云端的「混合端云」路径，PrismML 主张完全本地化（On-Device）运行，旨在消除云端算力成本并保障用户隐私。

( @Z Potentials)

02 有亮点的产品

1、AI 潮玩硬件厂商珞博智能完成亿元级 Pre-A 轮融资：自研三套情感智能体系统，首款硬件芙崽累计销量近 30 万台

AI 潮玩硬件厂商珞博智能完成亿元级 Pre-A 轮融资，新增投资方包括华映资本、广和通、涂鸦智能，老股东红杉中国、金沙江创投跟投。本轮资金将用于多模态情感大模型等核心技术的研发、产品矩阵扩充及全球化市场布局，加速构建下一代 Self Agent 个人智能体终端生态。

自研三套核心系统支撑智能体能力：包括负责情绪感知的 MEM 多模态情感大模型、负责长期互动记忆留存的 EchoChain 仿生记忆系统，以及负责个性化人格成长的 GrowMe 心途养成系统，实现硬件终端与用户的双向情感绑定。
集成全球蜂窝网络方案突破联网限制：联合投资方广和通，在随行版产品中集成蜂窝通信模组与全球 SIM 卡一体化方案，无需依赖 Wi-Fi 即可实现跨区网络接入。
基于涂鸦智能 AI 云平台加速全球量产：接入涂鸦智能的标准化 AI 模块与 TuyaOpen 开源开发框架，整合多模态 AI 基础能力，降低云端部署延迟并加速海外本地化运营。
首款硬件芙崽实现规模化出海验证：产品于 2025 年 7 月国内上市，截至 2026 年 6 月累计销量近 30 万台；2026 年 5 月登陆日本众筹平台 Makuake，上线 72 小时众筹金额突破 3500 万日元。

( @Founder Park)

2、学而思九章爱学推出「AI 交互图书」：基于多模态画布架构，支持层级化知识生成与数字人交互导览

学而思旗下「九章爱学老师版」上线「AI 交互图书」功能并面向行业开放。该功能通过大模型将线性教学文本重构为非线性的多模态知识画布，允许教师通过低代码编辑和人机协同审核，快速生成可无限层级向下探索、支持数字人实时语音交互的结构化教学课件。

非线性空间知识画布：采用「图谱结构 + 解释系统」的双栏并行呈现设计。主界面提供探索（画布编辑）、百科（右侧文本解析）和导览（思维导图概要）三大模块，支持知识概念的空间化、层级化拆解。

多源探索与多模态嵌入：提供直接探索、提示词探索、自定义探索及添加本地链接文件四种拓展方式，支持在画布节点中无缝嵌入 HTML、动图、音视频等标准化多模态内容。
「教师在环」（Human-in-the-Loop）审核机制：为解决大模型在教学场景下的幻觉与准确性问题，产品弃用「一次性全自动生成」模式，提供画布分支调整、自定义提示词、人工修正生成结果等深度编辑权限，保障内容准确可控。
数字人交互导览与分发：生成作品支持通过二维码或链接分发。创作者可一键启用「数字人互动」或「语音互动」配置，由内置虚拟数字人扮演专属讲解员，基于画布内容向终端学习者进行实时语音答疑。

（@多知）

3、安全初创公司Savi Security 推出防 AI 诈骗移动应用：基于 AI 网关架构，引入实时通话智能体监控

由前 Cisco 安全产品副总裁 Patrick Coughlin 与前 Apple 产品经理 Ryan Coughlin 联合创立的安全初创公司 Savi Security 宣布完成 700 万美元种子轮融资，并正式推出适用于 iOS 和 Android 的同名防诈骗应用。该应用旨在应对由低成本大语言模型（LLM）催生的语音克隆及高度拟真化社会工程学诈骗，为消费级用户提供多渠道的实时安全干预。

AI 网关架构：Savi 的后端系统基于 AI 网关构建，目前主要调用 Google Gemini 模型，并支持根据特定检测需求（如专门的语音欺诈检测）动态接入和切换其他第三方 AI 模型。
实时通话智能体旁听：在遭遇可疑电话时，用户可选择将 Savi 的智能体作为旁听者引入当前通话，系统将在后台实时分析通话方的语音及交互行为特征，以判定是否存在诈骗风险。
10 万条真实世界数据集训练：Savi 团队在四个月前推出了免注册匿名检测网站 Scamwise，至今已收集超 10 万份用户上传的真实诈骗文本、图片和电子邮件，用作其防诈骗 AI 模型的训练与优化数据。
无设备数量限制家庭订阅模式：应用定价为每月 8 美元（年付 63 美元），采用不限制家庭成员及设备数量的统一费率，降低了多成员家庭的部署壁垒。

( @TechCrunch)