大模型对齐

[EN] GPT-Red：OpenAI 用自我对抗解锁 AI 鲁棒性自增强

OpenAI 发布了 GPT-Red，一个基于自博弈的自动化红队系统，旨在通过自我对抗训练提升 AI 的安全性、对齐度和对提示注入攻击的鲁棒性。