对齐研究

[EN] GPT-Red：OpenAI用自我博弈解锁AI鲁棒性自改进

OpenAI推出GPT-Red自动化红队系统，通过自我对抗训练提升AI安全性、对齐能力和提示注入鲁棒性，标志着AI安全从人工审计向自主进化的重要转变。