中国在乎AI安全：别被误解误导

导语

本期节目嘉宾为播客主持人Nathan，他深入中国两周，走访学界与产业界，系统考察AI安全生态。核心议题是：中国是否真的关心AI安全？通过调研安全研究、政策法规与公司实践，他试图破除“中国永不减速”的迷思，呈现中美在AI安全领域的真实差距与惊人共性。

核心观点

• 中国确实关心AI安全，并曾以安全为由减缓AI公司发展，但更侧重内容安全等自身关切领域，而非存在性风险。
• 当前中国前沿模型的安全防护弱于美国，差距主要由OpenAI和Anthropic两家公司拉高平均线，若剔除这两家，中美生态的安全水平差异将大幅缩小。
• 中国AI安全研究以高校为主力，而非非营利组织。研究风格务实，聚焦可靠性，对科幻式末世叙事兴趣寥寥，学术产出已从每月几篇增至50-60篇。
• 中国研究者在论文中明确引用美国机构（如Apollo、Palisade、UK AISI）作为灵感来源，表明跨太平洋思想交流有效，且中国学界的AI安全研究起步快于美国。
• 中国政府在公司发布前沿模型前常施加延期，并建立了覆盖内容审查、风险分类和AI伴侣等应用的监管体系，其对AI的态度远比美国政界更严肃。
• 中国监管者认为开放权重模型风险可控，因其需巨大计算资源，且政府有能力遏制、追踪和关闭非法推理运营，但可能低估其对全球的扩散影响。
• OpenAI与Anthropic的“开放闭源”前沿模型在安全评估中表现优于中国开源模型，但中国公司预计安全标准将随时间收紧，且对政府主导的安全规范持接受态度。
• 中国AI安全界以“45度线”为共识：能力与安全须同步增长，而非追求超越当前能力的过度安全，这反映了其务实、逐代推进的思维。

金句

• "China does care about AI safety... China has at times slowed down their AI companies in the name of safety." —— 中国确实关心AI安全，曾以安全名义减缓AI公司的发展。
• "The Chinese AI safety community, they're just like us." —— 中国的AI安全社群，和我们其实非常相似。
• "It's not like their systems are never jailbroken." —— 他们的系统也并非从未被破解过。

本内容由 AI 根据访谈字幕提炼，观点归嘉宾所有。