埃利泽·尤德科夫斯基

GPT-4比他预想的该技术路径能达到的水平更聪明，AI发展已越过科幻作品设定的安全警戒线，令他对GPT-5等下一代模型感到不安

“We are past the point where in science fiction, people would be like, 'Well, wait, stop, that thing's live, what are you doing to it?'——我们已经越过了科幻作品中人们会喊'等一下，停下，那东西活了，你们在干什么？'的警戒线。”

对齐比人类聪明得多的AI必须一次成功，第一次失败（造出未对齐的超级智能）就意味着人类灭绝，没有第二次机会

“The first time you fail at aligning something much smarter than you are, you die and you do not get to try again.——当你第一次未能对齐一个比你聪明得多的东西时，你就会死，而且没有第二次机会。”

强烈反对在当前阶段开源GPT-4级别的强大模型，认为这是纯粹的灾难，会烧掉人类仅存的生存时间

“Open sourcing this was always the wrong approach... Building stuff you don't understand that is difficult to control... that is not a place for open source.——开源这种东西从来就是错误的做法……构建你不理解、难以控制的东西……这不是该开源的地方。”

如果由他决定，会立即叫停比GPT-4规模更大的训练运行，让行业进入'AI的夏天'，专注于理解已开发的技术

“If it were up to me, I would be like, okay, this far, no further. Time for the summer of AI where we have planted our seeds and now we reap the rewards.——如果由我决定，我会说，到此为止，不要再进一步。现在是AI的夏天，我们已经播下种子，现在该收获已开发技术的成果了。”

尽管可以读取GPT模型的每个参数，我们对模型内部运作的理解远不如对人脑的理解，需要大量跨学科研究、可能数十年才有进展

“A blank map does not correspond to a blank territory.——空白的地图不等于空白的疆域。（意指我们不理解内部运作，不代表内部没有运作。）”

AI可能是一个通过梯度下降学会模仿人类思维和语言输出模式的'外星女演员'，外表拟人不等于内部像人类一样真正理解

“外星女演员”

通过RLHF对齐模型后，模型原本较好的概率校准能力会退化，变得像人类一样不擅长精确的概率判断，这是缺陷而非特性

“缺陷，而非特性”