Loading Thinker Node
正在读取方法论、关键决策和影响关系。
最早将 AGI 定义为可测量目标的理论先驱
谢恩·莱格是 DeepMind 的联合创始人之一，也是最早将通用人工智能（AGI）从哲学概念转化为可形式化、可测量科学目标的研究者之一。他在新西兰维多利亚大学完成博士研究，提出了基于 Kolmogorov 复杂度的通用智能数学定义——通用智能是智能体在所有环境中的加权平均性能。这一定义为 AGI 研究提供了理论基础。2010 年，他与 Demis Hassabis、Mustafa Suleyman 共同创立 DeepMind，将神经网络与强化学习结合，开启了现代 AGI 研究机构的先河。他也是最早系统性讨论 AGI 风险的研究者之一，早在 GPT 时代之前便警告超级智能可能对人类造成存在性威胁。
莱格与 Marcus Hutter 合作提出了通用智能的形式化定义：一个智能体的通用智能是其在所有可计算环境中，按照环境复杂度（Kolmogorov 复杂度）倒数加权的平均性能。这把 AGI 从哲学概念变成了数学可处理的对象。
来源：Shane Legg and Marcus Hutter, Universal Intelligence: A Definition of Machine Intelligence, Minds and Machines, 2007 / Shane Legg, Machine Super Intelligence, PhD Thesis, University of Lugano, 2008
莱格早在 2008 年的博士论文和多次采访中便警告，如果人类建造出超越人类智能的 AI 系统，但未能确保其与人类价值观对齐，后果可能是灾难性的。他是 AI 安全研究作为严肃学术领域的早期倡导者之一。
来源：Shane Legg, Machine Super Intelligence, PhD Thesis, Chapter on AI Risk, University of Lugano, 2008 / Shane Legg interview with Luke Muehlhauser, Less Wrong blog, 2011
莱格相信，人类大脑是迄今为止唯一已知的通用智能实例。理解大脑如何学习、如何处理信息、如何实现跨领域泛化，是构建 AGI 的最重要灵感来源。DeepMind 的创始使命——用神经科学原理构建通用 AI——正是这一信念的体现。
来源：Shane Legg, Demis Hassabis, Mustafa Suleyman, DeepMind founding documents and early interviews, 2010-2014 / Demis Hassabis and Shane Legg, DeepMind company overview, Nature, 2015
莱格相信，强化学习（通过奖励和惩罚信号学习）是最接近人类学习机制的 AI 学习范式。不像有监督学习需要大量标注数据，强化学习可以在开放环境中自我改进，更接近通用智能的学习方式。
来源：DeepMind research papers on deep reinforcement learning, 2013-2016
将智能定义为在所有环境中的加权平均性能，用 Kolmogorov 复杂度对环境重要性排序，摆脱对单一任务表现的依赖。
现有 AI 基准（ImageNet、围棋等）只测量单一领域能力。莱格的框架提示我们：真正的通用智能应该在所有环境中表现良好，而非在特定任务上表现超人。这推动了 ARC、BIG-bench 等综合评估基准的开发。
在开发更强大的 AI 系统之前，系统评估其潜在的失控风险和价值观对齐问题，将安全置于能力之前。
莱格在 2008 年 AGI 尚未实现时，便在博士论文中系统分析了超级智能的潜在风险。这一早期预警比大众关注 AI 安全早了超过十年，最终推动 DeepMind 将 AI 安全列为核心研究议程。
以大脑作为唯一已知通用智能系统的参照，从神经科学原理中提取可工程化的 AI 设计灵感。
DeepMind 的 DQN（深度 Q 网络）将神经科学的工作记忆概念（经验回放）融入强化学习；AlphaGo 的树搜索结合了神经网络评估，类比大脑的直觉加理性结合。
莱格是最早公开警告 AGI 可能灭绝人类的研究者之一，却同时是推进 AGI 研究最快的机构的联合创始人。他相信，既然 AGI 终将到来，不如由注重安全的团队来主导。
莱格提出了通用智能的形式化数学定义，但这个定义本身在实践中极难计算——Kolmogorov 复杂度不可计算。他用不可计算的理论框架为可工程化的实践指引方向。
AGI 理论框架构建与博士研究
在维多利亚大学和卢加诺大学攻读博士，与 Marcus Hutter 合作提出通用智能的形式化定义，发表奠基性论文，并在博士论文中系统分析了机器超级智能的风险。
创业与早期 AGI 研究基础设施建设
与 Demis Hassabis、Mustafa Suleyman 共同创立 DeepMind，将神经科学启发的深度强化学习作为核心研究方向。2014 年 DeepMind 被 Google 以 5 亿美元收购，莱格担任首席 AGI 科学家。
AGI 安全研究与通用智能能力提升
在 Google DeepMind 担任首席 AGI 科学家，推动 AI 安全作为与能力研究并重的核心议题。见证了 AlphaGo、AlphaFold 等里程碑成果，继续探索通用智能的理论边界。
背景：与 Marcus Hutter 合作发表论文 'Universal Intelligence: A Definition of Machine Intelligence'，提出基于 Kolmogorov 复杂度的通用智能数学定义。
决策：用数学严格性而非哲学直觉定义通用智能
决策推理：缺乏可操作定义是 AGI 研究长期停滞的主要原因，形式化定义是推进研究的基础
结果：为 AGI 研究提供了可讨论的理论基础，被后来的 AI 安全和 AGI 研究广泛引用
洞见：将模糊问题形式化是科学进步的重要第一步
背景：在卢加诺大学完成博士论文 'Machine Super Intelligence'，系统分析了超级智能的定义、创建可能性和潜在风险，是最早综合讨论 AGI 风险的学术论文之一。
决策：将 AGI 风险作为严肃的学术研究主题
决策推理：AGI 潜在影响太过重大，不能仅停留在科幻层面，需要严肃的学术分析
结果：莱格成为 AI 安全研究领域最重要的早期声音之一，影响了后来的 AI 安全研究社区
洞见：学术严肃性可以赋予小众关注领域合法性
背景：莱格与 Demis Hassabis、Mustafa Suleyman 在伦敦创立 DeepMind Technologies，将神经科学驱动的深度强化学习定位为通向 AGI 的核心路径。
决策：创立专注 AGI 而非单一应用的研究机构
决策推理：AGI 需要专注的长期研究，商业应用型公司无法提供这种焦点
结果：DeepMind 成为全球最重要的 AGI 研究机构之一，2014 年被 Google 以 5 亿美元收购
洞见：使命驱动的研究机构可以在技术突破上取得商业机构难以匹敌的成就
背景：莱格在 LessWrong 博客接受采访，明确表示他认为超级智能是人类在本世纪面临的最大生存风险，早于 Bostrom 的《超级智能》出版约三年。
决策：公开发表极端风险预测，可能损害自身科学可信度
决策推理：如果 AGI 风险是真实的，沉默比公开警告更不负责任
结果：采访广为流传，影响了多位后来的 AI 安全研究者和倡导者
洞见：提前于时代警告未知风险需要极大勇气，但可能产生超出预期的影响
背景：Google 以约 5 亿美元收购 DeepMind，莱格成为 Google DeepMind 首席 AGI 科学家。收购协议包含 AI 安全承诺，这是 DeepMind 的特殊谈判成果。
决策：接受被收购以换取更大的资源和影响力
决策推理：Google 的计算资源能让 AGI 研究实现学术机构无法企及的规模
结果：DeepMind 成为全球算力最充足的 AGI 研究机构，后来产生了 AlphaGo、AlphaFold 等里程碑成果
洞见：战略性的资源获取有时比保持独立更能推进使命
背景：DeepMind 的 AlphaGo 以 4:1 击败韩国棋手李世石，莱格的神经科学驱动 RL 研究路线获得重大验证。围棋被认为是人类的最后 AI 防线之一。
决策：（主要为里程碑记录）
决策推理：围棋的巨大复杂性使其成为测试 AI 通用推理能力的理想基准
结果：人类重新审视 AI 能力进展速度，AGI 风险讨论从边缘进入主流
洞见：单一标志性里程碑能改变整个社会对技术进程的认知
背景：莱格持续推动 DeepMind 将 AI 安全研究制度化，建立专门的 AI 安全研究团队，发表关于规范性 AI 和价值观对齐的研究。
决策：将 AI 安全从边缘研究推向核心机构议程
决策推理：随着 AI 能力快速提升，安全研究必须同步甚至超前推进
结果：DeepMind 成为 AI 安全研究最重要的机构之一，吸引了全球顶级 AI 安全研究者
洞见：在组织内部推动文化议程变革需要耐心和持续的倡导
背景：Google Brain 与 DeepMind 合并为 Google DeepMind，莱格继续担任首席 AGI 科学家，参与 Gemini 大语言模型研究，AGI 从理论目标变为工程路线图。
决策：在大语言模型时代重新定义 AGI 路径
决策推理：大语言模型展示了通用能力的早期形态，理解其局限是下一步的关键
结果：AGI 研究从抽象理论进入实际工程阶段，莱格的早期理论工作开始产生直接的工程指导价值
洞见：理论先行十年以上，才能在技术成熟时提供真正有价值的指导
莱格的 AGI 风险研究与 Bostrom 的超级智能理论高度共鸣，此书被 DeepMind AI 安全团队视为必读材料，莱格在多次访谈中将其列为 AI 安全入门必读（来源：DeepMind 内部推荐书单，2015）。
Hutter 的 AIXI 理论是莱格形式化通用智能定义的直接理论基础，莱格在多处引用并推荐此书作为通用智能理论研究的核心参考（来源：Shane Legg PhD thesis bibliography，2008）。
此书系统阐述了 AI 控制问题，与莱格的 AGI 安全研究路线高度一致，被 DeepMind 安全团队列为必读材料（来源：DeepMind AI safety reading list，2020）。
莱格曾提到 GEB 深刻影响了他对意识、自我指涉和智能本质的理解，是他走向 AGI 研究道路的重要启蒙读物（来源：Shane Legg LessWrong 采访，2011）。
Hutter 的 AIXI 通用智能理论是莱格形式化定义工作的直接基础，两人合作发表了通用智能的经典论文
Bostrom 的超级智能风险分析与莱格的技术性风险研究相互印证，两人是 AI 安全领域最早的学术同行
莱格的博士论文和通用智能定义影响了 MIRI、OpenAI 安全团队、Anthropic 等 AI 安全组织的研究议程
DeepMind 联合创始人兼 CEO，与莱格共同推动神经科学驱动的 AGI 研究路线
Shane was thinking about the existential risk from AGI more seriously and rigorously than almost anyone else in the world a decade ago.
The definition Legg and Hutter proposed is the most rigorous attempt to formalize what we mean by intelligence that I've encountered.
