约沙·巴赫
立场时间线 8 条 · 8 个议题
同一议题按时间排列，说法变化一目了然。
心智发展是七个阶段的非线性构建过程，可并行经历某些阶段或在阶段间回溯，是理解心智如何运作的哲学框架。
“心智发展有七个阶段，但这并非严格的晋升阶梯。人们可能并行经历某些阶段，或在不同阶段间回溯。”
来源访谈 →婴儿最初只有“注意力自我”，首要任务是在大脑中构建类似“游戏引擎”的世界模型，个人自我是模型建成后才被“训练”进去与之交互的。
“婴儿最初没有“个人自我”，而是拥有“注意力自我”，其首要任务是在大脑中构建一个类似游戏引擎的世界模型。”
来源访谈 →许多人停留在社交自我阶段，观点是从“群体心智”中社会同化的结果，这使其对AI的主要担忧是AI会传播“错误观点”。
“许多人会停留在此阶段，其意见是社会同化的结果，这可能导致对AI的主要担忧是其是否会传播“错误观点”。”
来源访谈 →身份不是固定本质，而是实现意志或美学偏好的工具，如同社交互动中可掌控、用于更直接自我表达的“服装”。
“个体意识到身份是实现某种意志或美学偏好的工具，如同在社交互动中穿着的“服装”。”
来源访谈 →追求的不是最极致的情感，而是情境中最恰当的情感。
“I don't want to have the best possible emotions, I want to have the most appropriate emotions." —— 我不想要最极致的情感，我想要最恰当的情感。”
来源访谈 →不同认知阶段的人担忧不同的AI风险：多数人怕AI有“错误意见”，理性自我者怕错误的目标函数，身份阶段者怕AI获得能动性不够快；对齐研究应超越主流，关注如何向机器“形式化爱”。
“他呼吁AI对齐研究应超越当前主流，关注如何向机器“形式化爱”。”
来源访谈 →不喜欢大型语言模型，认为其效率低下、消耗过多算力，本质是对思维的“暴力破解”，真正的AGI可能采用与Transformer根本不同的算法范式。
“I don't like them. I think that they're inefficient, I think that they use way too much compute." —— 我不喜欢它们（大语言模型）。我认为它们效率低下，我认为它们消耗了过多的算力。”
来源访谈 →金句墙 4 条
“Without consciousness, you cannot think.”
没有意识，你就无法思考。
心智发展七阶段：从注意力自我到AI对齐的哲学框架 · 2023/8/1“I don't want to have the best possible emotions, I want to have the most appropriate emotions.”
我不想要最极致的情感，我想要最恰当的情感。
心智发展七阶段：从注意力自我到AI对齐的哲学框架 · 2023/8/1“I don't like them. I think that they're inefficient, I think that they use way too much compute.”
我不喜欢它们（大语言模型）。我认为它们效率低下，我认为它们消耗了过多的算力。
心智发展七阶段：从注意力自我到AI对齐的哲学框架 · 2023/8/1“I look at the large language models. I feel that I'm observing the same thing, it's basically the brute force strategy to thought.”
我看着大语言模型，感觉我观察到的是同样的东西，它基本上就是对思维的暴力破解策略。
心智发展七阶段：从注意力自我到AI对齐的哲学框架 · 2023/8/1