Hermes Agent already remembers across sessions. The open-source agent from Nous Research ships with curated memory files and full-text session search. But a new community project argues that built-in memory is too shallow for serious work. A new library named…

MiniMax officially released MiniMax M3 on June 1, 2026. The model introduces MSA (MiniMax Sparse Attention), a new sparse attention architecture that gives M3 a 1M-token context window. M3 also supports image and video input and desktop computer operation…

The Transformer’s attention mechanism has barely changed since 2017. Most efficiency work has tried to replace softmax attention outright. A new paper takes a different route. It keeps softmax attention and bolts on a correction branch. A team of researchers…

过去两年AI基础设施的叙事几乎都围绕GPU、HBM和液冷。但真正走进机房会发现，GPU不是孤岛。一个大模型训练集群的本质不是"一堆卡"，而是一台由几十万颗加速器、交换芯片、网卡、铜缆、光纤和光模块拼出来的分布式计算机。 这台计算机最怕的不是某一张卡算不动，而是卡和卡之间说话太慢。 所以光模块这条线突然从通信行业的角落，变成AI capex里的关键瓶颈。TrendForce在2026年4月的判断很直接：AI光模块市场预计从2025年的165亿美元增长到2026年的260亿美元，同比增长超过57%；同时，EML（Electro…

In this tutorial, we work through an implementation of NVIDIA Apex, focusing on the components that still matter in modern GPU training workflows. Instead of treating Apex as a general mixed-precision library, we separate the older parts from the still-useful…

柔软，是软体机器人最大的优势，也是它们最致命的弱点。 过去十余年间，软体机器人与柔性电子领域经历了爆发式增长。从能够在狭窄管道中蠕动穿行的软体蛇形机器人，到贴合人体皮肤的可拉伸传感器，柔性使这些装置获得了传统刚性机器人无法比拟的环境适应能力与安全交互性。 然而，一个根本性的工程矛盾是，赋予它们柔软特质的那些弹性体材料，在面对冲击、穿刺乃至日常碰撞时，几乎毫无招架之力。柔性电子器件被意外踩踏后即告报废，软体机器人在野外作业中遭遇尖锐物体，便可能被“开膛破肚”。 2026 年 5 月 27 日，北卡罗来纳州立大学的朱勇教授团队在《科学…

人需要睡觉，很大程度上是为了整理记忆。神经科学的主流理论认为，人在白天形成的短期记忆存储在海马体中，睡眠期间海马体反复重放这些记忆，逐步将其固化到大脑皮层的突触连接里。尽管睡眠会让动物的警觉性大幅下降，提高它们被捕食的风险，但自然选择始终没有淘汰掉它，足见这个过程对生存的价值。 既然生物都是如此，那么大模型呢？近期，卡内基梅隆大学和马里兰大学的一个研究团队从这个过程中获得启发，给语言模型也设计了一套类似的机制。 他们 5 月 27 日在 arXiv 发表一篇题为《语言模型需要睡眠吗？通过离线循环提升在线推理性能》（Do…

JetBrains released Mellum2, open-sourcing the weights under the Apache 2.0 license. The first version of Mellum was a completion-focused 4B dense model. Mellum2 is its successor: a general-purpose model specialized in software engineering. It covers code…