Two Mathematical Models of Knowledge Distillation: Why Teachers Accelerate Optimization Without Changing Generalization
知识蒸馏的双重数学模型:为什么教师模型加速优化却不改变泛化上限
Latest article / 最新文章
经典能量模型推理学习速度超越循环模型千倍:重构 AI 逻辑推理范式
Researchers from IBM, Stanford, and Oxford challenge the prevailing hype around 'looped transformers' for discrete reasoning puzzles. Re-visiting Hopfield & Tank's 1980s continuous energy formulations, they introduce CRAM, which learns an energy function directly via pseudolikelihood without backpropagating through time. CRAM achieves 99.996% accuracy on Sudoku-Extreme and 100% on Maze-Unique after just 42 ms and 132 ms of GPU training—over 1,000x faster than looped models, while slashing inference FLOPs by 282x.
知识蒸馏的双重数学模型:为什么教师模型加速优化却不改变泛化上限
重返像素空间:摆脱 3D VAE 桎梏的原生像素级视频扩散模型 PixVid
解构多模态视觉编码:为什么预训练先验可有可无,而早期融合内专用算力才是关键
机器人的记忆难道只是一块时钟?揭秘具身 VLA 大模型中的时间捷径与虚假进度
后训练策略优化的理论基石:覆盖度崩溃与参考策略重置机制
BiVerify:闭环双向验证框架——攻克大模型数学自我纠错的推理瓶颈
GenRM-Flow:流匹配视频生成器本身就是绝佳的过程感知奖励模型
拆解强弱在线策略蒸馏(OPD)对决 GRPO 的算力效率真相
VFlash:基于闪速图元解码的高效高精度具身视觉规划
诺贝尔经济学奖(1969–2025)
57 postsOdoo 12开发者指南(Cookbook)第三版
24 postsOdoo 14开发者指南(Cookbook)第四版
24 postsTouchDesigner教程
20 postsPython脚本实战
18 postsOdoo 12开发手册
14 posts李宏毅机器学习2025
13 postsDwarkesh播客笔记
4 postsAndrej Karpathy LLM笔记
2 postsfreeCodeCamp
1 post