不同认知阶段的人担忧不同的AI风险：多数人怕AI有“错误意见”，理性自我者怕错误的目标函数，身份阶段者怕AI获得能动性不够快；对齐研究应超越主流，关注如何向机器“形式化爱”。

“他呼吁AI对齐研究应超越当前主流，关注如何向机器“形式化爱”。”

他认为Claude宪法等现有规范并未真正把用户作为AI首要的倡导者与守护者，他更倾向于明确AI是用户个人倡导者的宪法。

“我更倾向于的宪法是，它明确指出Claude是你的倡导者。（The thing I would prefer would be a constitution that says Claude is your advocate.）”