标签：对抗性机器学习

宋丹：安全漏洞永不消失，人类是系统最薄弱环节

宋丹教授在访谈中探讨了软件安全漏洞的持久性，指出攻击正从系统层转向人类这一'最薄弱环节'。她详细阐述了对抗性机器学习的攻击与防御，包括物理世界中的可鲁棒攻击和针对真实系统（如谷歌翻译）的黑盒攻击。此外，她还讨论了如何通过差分隐私保护训练数据，以及建立数据所有权概念对未来经济的重要性。