格雷格·布罗克曼

格雷格·布罗克曼

Greg Brockman
OpenAI 前总裁
海外PB 优先级✓ 已收录 1 期访谈

立场时间线 6 条 · 6 个议题

同一议题按时间排列,说法变化一目了然。

数字杠杆
2019-04

Brockman认为数字世界的核心吸引力在于巨大的杠杆效应,一个有想法的个体就能影响整个星球。

“数字世界真正吸引我的地方在于,你可以拥有这种巨大的杠杆效应。一个拥有想法的个体能够影响整个星球。(The thing that really appeals to me about the digital world is that you can have this insane leverage. A single individual with an idea is able to affect the entire planet.)”

来源访谈 →
相关观点 (2)Michael Truell, Swli Asff, Arvid Lumark, Amman Singger · 迭代速度:编程吸引人的核心在于疯狂的迭代速度,仅凭个人与计算机就能极快地构建出很酷的东西。马克·扎克伯格 · 虚实融合:扎克伯格认为真实世界不是纯物理的,而是物理世界与在场感的结合,并日益与丰富强大的数字世界相融合。
初始条件
2019-04

他认为个人想真正影响技术走向,唯一真正的自由度是设定技术诞生时的初始条件,而非其后的具体发展。

“如果你真的想有所作为,我认为你真正必须做的,你唯一真正的自由度,就是设定一项技术诞生时的初始条件。(If you really want to make a difference, I think that the thing that you really have to do, the only real degree of freedom you have, is to set the initial conditions under which a technology is born.)”

来源访谈 →
相关观点 (3)埃里克·布林约尔松 · 共享繁荣:他主张技术进步必须配套有效的社会调整机制,确保创造的是共享繁荣,否则不平等会威胁社会稳定。Peter Steinberger · 自修改软件:他认为自修改软件不应停留在空谈,他已经亲手做出了能自我修改的 agent。纪尧姆·韦尔东 · 热力学增长:技术进步并非人类的任意选择,而是生命寻求自由能并增长的宇宙自然方向,受物理定律青睐
负责任披露
2019-04

他认为GPT-2引发的反应证明AI领域整体尚未建立类似软件安全领域的负责任披露流程,发布强大模型前必须系统评估潜在危害。

“我认为,AI领域对GPT-2的部分反应恰恰证明,我们对此[负责任的披露]毫无概念。(I think that in AI, part of the response of GPT-2 just proves that we don't have any concept of [responsible disclosure].)”

来源访谈 →
相关观点 (3)Peter Steinberger · AI安全:他认为 prompt injection 仍是全行业未解的安全难题,且模型越聪明越抗攻击、弱模型极易被骗。Michael Littman · AI发展:他相信在真正开发能与世界复杂互动、执行任务的AI技术过程中,人类会积累大量认知与理解,而非对风险毫无准备。埃利泽·尤德科夫斯基 · AI进展速度:GPT-4比他预想的该技术路径能达到的水平更聪明,AI发展已越过科幻作品设定的安全警戒线,令他对GPT-5等下一代模型感到不安

金句墙 5 条

“The thing that really appeals to me about the digital world is that you can have this insane leverage. A single individual with an idea is able to affect the entire planet.”

数字世界真正吸引我的地方在于,你可以拥有这种巨大的杠杆效应。一个拥有想法的个体能够影响整个星球。

Greg Brockman:AGI的初始条件决定未来四十年 · 2019/4/3

“If you really want to make a difference, I think that the thing that you really have to do, the only real degree of freedom you have, is to set the initial conditions under which a technology is born.”

如果你真的想有所作为,我认为你真正必须做的,你唯一真正的自由度,就是设定一项技术诞生时的初始条件。

Greg Brockman:AGI的初始条件决定未来四十年 · 2019/4/3

“We are primarily trying to build AGI ourselves, but we're also ok if someone else does it.”

我们主要尝试自己构建AGI,但如果别人做到了,我们也可以接受。

Greg Brockman:AGI的初始条件决定未来四十年 · 2019/4/3

“I think that in AI, part of the response of GPT-2 just proves that we don't have any concept of [responsible disclosure].”

我认为,AI领域对GPT-2的部分反应恰恰证明,我们对此[负责任的披露]毫无概念。

Greg Brockman:AGI的初始条件决定未来四十年 · 2019/4/3

“I think that trying to distinguish between robot and human is a losing battle ultimately.”

我认为,试图区分机器人和人类最终是一场必败之战。

Greg Brockman:AGI的初始条件决定未来四十年 · 2019/4/3

访谈收录

Greg Brockman:AGI的初始条件决定未来四十年