标签：对齐问题

尤德科夫斯基：GPT-4 已越过科幻警戒线

AI安全先驱尤德科夫斯基在访谈中表达了对GPT-4能力的深切担忧，认为我们已越过科幻作品中的安全警戒线。他强调对齐问题的致命性——我们可能只有一次机会做对，否则人类文明将终结。他反对开源强大AI模型，呼吁暂停更大规模训练，并探讨了AI意识与操纵能力的哲学边界。