大模型治理

[EN] GPT-Red：OpenAI用自我博弈解锁AI鲁棒性自改进

OpenAI推出GPT-Red，这是一个基于自我博弈的自动化红队系统，旨在通过自我对抗训练提升AI的安全性、对齐度以及对提示注入攻击的鲁棒性。