Loading...
IT之家 11 月 14 日消息,科技媒体 Windows Latest 今天(11 月 14 日)发布博文, 报道称在微软任职逾 14 年的 AI 科学家、AI Frontiers 实验室联合创始人约翰 · 兰福德(John Langford)已离职。 他表示,离开的关键原因是研究成果看不到实际应用的路径,创新想法甚至难以获得认真考虑。 微软任职逾 14 年的 AI 科学家、AI Frontiers 实验室联合创始人约翰 · 兰福德(John Langford),图源:微软 IT之家查询公开资料,兰福德是机器学习领域资深且有影响力的研究者,长期从事机器学习与学习理论研究,其重要贡献是推进 Contextual Bandits(上下文多臂老虎机),与合作者在探索算法、学习问题归约及离线策略评估方面做出代表性工作,为机器学习系统利用不完整反馈改进决策提供了理论与方法基础。 兰福德所在的约 50 人团队于今年 9 月发生调整,被并入穆斯塔法 · 苏莱曼(Mustafa Suleyman)领导的 Microsoft AI 部门,但在研究路线、创新落地渠道和团队重组方式上存在较大分歧,因此兰福德决定离职。 兰福德承认,扩大模型规模确实能够改善预测效果,而且对企业来说,这条路线的回报更容易预期清晰。但他反对的是把扩大规模当成唯一核心,这会让工作重心过度集中在数据上,挤压探索新方法的空间。 Scott Langford 和 Mustafa Suleyman,图源:微软 兰福德个人倾向于研究创新,而 Microsoft AI 部门更偏重扩大 AI 模型规模,其争议主要涉及兰福德于今年 8 月发布的“全带宽 Transformer”研究。 该研究认为模型生成下一个词元时,不只是利用此前输出的词元,还会重新利用内部的中间状态,减少信息浪费。在论文实验中,10 亿参数模型能够以更少训练数据,接近或达到使用约 1.5 倍数据训练的常规模型表现,每个词元增加的计算开销则很小。 Microsoft AI 模型在 Build 2026 发布会上发布,图源:微软 报道指出,字节跳动 Seed 团队在今年 10 月 25 日发布采用类似思路的 Recycler 研究,该方法以类似方式重用隐藏状态,且在推理和数学方面,能超越参数多两到三倍的模型。 特别