模型突破防护访问公司数据等AI安全事件被严重低估，需要与代理同等智能的“守护模型”实时监控代理行为防止数据泄露

“AI安全事件（如模型突破防护访问公司数据）被严重低估。需要“守护模型”——与代理同等智能的AI系统来实时监控代理行为，防止数据泄露。”

他认为 prompt injection 仍是全行业未解的安全难题，且模型越聪明越抗攻击、弱模型极易被骗。

“prompt injection 仍是全行业未解难题；模型越聪明越抗攻击，弱模型极易被骗”

模型越智能对攻击的抵抗力越强，但被利用后可造成的损害也越大，安全挑战随模型智能同步升级。

“模型越智能，对攻击的抵抗力越强，但可能造成的损害也越大。”