AI对齐

OpenAI分享了部署长运行时间AI模型的经验，揭示了新的安全风险与观察到的失败案例，并通过迭代部署改进了防护措施。

OpenAI Blog 23:10 AI 辅助 AI安全行业报告

OpenAI发布了关于长时运行AI模型（即长期视野模型）的安全对齐经验总结，揭示了此类模型在持续运行中暴露的新安全风险、实际故障案例，以及通过迭代部署策略改进防护措施的方法。

OpenAI Blog 23:10 AI 辅助 AI安全模型部署技术前沿

OpenAI分享了在部署长周期AI模型过程中的安全教训，指出随着模型运行时间的延长，出现了新的安全风险和失效模式，并通过迭代部署改进了防护措施。

OpenAI Blog 23:09 AI 辅助人工智能 AI安全

OpenAI推出GPT-Red，这是一个基于自我博弈的自动化红队系统，旨在通过自我对抗训练提升AI的安全性、对齐度以及对提示注入攻击的鲁棒性。

OpenAI 发布了 GPT-Red，一个基于自博弈的自动化红队系统，旨在通过自我对抗训练提升 AI 的安全性、对齐度和对提示注入攻击的鲁棒性。

OpenAI推出自动化红队系统GPT-Red，通过自博弈(self-play)方式让AI模型自行生成对抗性攻击，从而显著提升AI在安全性、对齐性及提示注入攻击鲁棒性方面的表现。

OpenAI Blog 02:30 AI 辅助 AI安全大模型技术

OpenAI推出GPT-Red，一个基于自我对弈的自动化红队系统，旨在通过持续自改进提升AI模型的安全对齐能力与提示注入鲁棒性。