Michael Littman
立场时间线 4 条 · 4 个议题
同一议题按时间排列,说法变化一目了然。
Littman并不认同"不小心就会意外造出毁灭人类的超级智能"的威胁论,认为这种风险被高估。
“我并不特别认同这样一种观点:如果我们不小心,就会意外创造出一个会毁灭人类生命的超级智能。”
来源访谈 →他相信在真正开发能与世界复杂互动、执行任务的AI技术过程中,人类会积累大量认知与理解,而非对风险毫无准备。
“我相信,在真正开发能够熟练地在世界中活动、处理和执行任务的技术的过程中,我们会学到很多关于这意味着什么的知识。”
来源访谈 →他赞同"痛苦的教训"观点:AI领域最大的实践进步来自能利用不断增强计算力的简单算法,而非复杂的理论设计。
“我们在实践中看到最大改进的算法,是那些非常简单、甚至有些'愚蠢'但能够利用计算能力的算法。”
来源访谈 →金句墙 9 条
“Statistics is how you're going to keep from lying to yourself.”
统计学是让你不自欺欺人的方法。
机器学习不仅是统计:Isbell与Littman的跨学科对话 · 2020/12/26“ICML was machine learning done by computer scientists, and NeurIPS was machine learning done by computer scientists trying to impress statisticians.”
ICML是计算机科学家做的机器学习,而NeurIPS是计算机科学家试图给统计学家留下深刻印象的机器学习。
机器学习不仅是统计:Isbell与Littman的跨学科对话 · 2020/12/26“Chemistry is just physics, but I don't think it's as useful to think about chemistry as being just physics.”
化学只是物理学,但我认为将化学仅仅视为物理学并不那么有用。
机器学习不仅是统计:Isbell与Littman的跨学科对话 · 2020/12/26“You have to give them what they need without bending to their will.”
你必须给予他们所需的东西,同时不屈服于他们的意志。
机器学习不仅是统计:Isbell与Littman的跨学科对话 · 2020/12/26“The reward for good work is more work. The reward for bad work is less work.”
出色工作的奖励是更多的工作,糟糕工作的奖励是更少的工作。
机器学习不仅是统计:Isbell与Littman的跨学科对话 · 2020/12/26“I am not particularly moved by the idea that if we're not careful, we will accidentally create a super intelligence that will destroy human life.”
我并不特别认同这样一种观点:如果我们不小心,就会意外创造出一个会毁灭人类生命的超级智能。
强化学习先驱:AI不会意外毁灭人类 · 2020/12/13“I believe that in the process of actually developing technology that can really get around in the world and really process and do things in the world in a sophisticated way, we're going to learn a lot about what that means.”
我相信,在真正开发能够熟练地在世界中活动、处理和执行任务的技术的过程中,我们会学到很多关于这意味着什么的知识。
强化学习先驱:AI不会意外毁灭人类 · 2020/12/13“Sometimes you need a really good... human expert in the process of machine learning.”
在机器学习过程中,有时你需要一个真正优秀的人类专家。
强化学习先驱:AI不会意外毁灭人类 · 2020/12/13“The algorithms from which we've seen the biggest improvements in practice are the very simple, like dumb algorithms that are able to leverage computation.”
我们在实践中看到最大改进的算法,是那些非常简单、甚至有些‘愚蠢’但能够利用计算能力的算法。
强化学习先驱:AI不会意外毁灭人类 · 2020/12/13访谈收录

机器学习不仅是统计:Isbell与Littman的跨学科对话
乔治亚理工学院的Charles Isbell与布朗大学的Michael Littman在Lex Fridman播客中展开了一场深度对话。他们探讨了机器学习的本质是否仅仅是“计算统计”,分享了贝尔实验室的黄金时代经历,并深入讨论了在线教育、教学合作以及学术生涯中的自我批判与成长。

强化学习先驱:AI不会意外毁灭人类
布朗大学教授Michael Littman在访谈中深入探讨了强化学习的发展历程与未来。他质疑AI超级智能威胁论,认为人类在开发AI的过程中会学到足够知识来规避风险。Littman强调了人类在AI系统发展中的关键作用,并分享了他从80年代至今对神经网络和强化学习领域的观察。