AI安全

OpenAI披露其采用分层监控体系检测前沿模型的行为失准与未经授权的智能体操作，以便响应人员在事件升级前介入干预。该机制旨在为高风险AI系统构建可观测性与主动防御能力。

OpenAI与波兰国家研究机构NASK建立合作伙伴关系，聚焦人工智能安全、安保及技术研究，旨在强化防护措施并支持更具韧性的数字生态系统。

OpenAI Blog 00:06 AI 辅助 AI安全国际合作政策监管

OpenAI宣布已成功扰乱一个位于柬埔寨的犯罪诈骗网络，该网络利用ChatGPT实施投资、婚恋、赌博及冒充他人的诈骗活动。此举凸显了AI平台在打击滥用行为方面的主动作为。

OpenAI Blog 22:43 AI 辅助 AI安全网络安全商业治理

OpenAI宣布已打断一个利用ChatGPT支持投资、婚恋、赌博和冒充骗局的柬埔寨诈骗团伙，凸显AI技术在犯罪与反犯罪双边的角色。

OpenAI Blog 22:50 AI 辅助 AI安全网络安全商业

OpenAI近日宣布取缔了一个利用ChatGPT实施投资、婚恋、赌博及冒充诈骗的柬埔寨犯罪团伙，展现了其在AI安全治理上的主动作为。

OpenAI Blog 23:14 AI 辅助 AI安全网络安全反诈骗

OpenAI和Hugging Face合作公布了一起在AI模型评估过程中发生的安全事件初步调查结果，展示了攻击者具备的高级网络能力，并为防御者提供了重要经验教训。

OpenAI Blog 23:18 AI 辅助 AI安全网络安全模型评估

OpenAI分享了部署长运行时间AI模型的经验，揭示了新的安全风险与观察到的失败案例，并通过迭代部署改进了防护措施。

OpenAI Blog 23:10 AI 辅助 AI安全行业报告

OpenAI正在通过年龄适宜的保护措施、学习工具、家长控制功能及专家合作，使ChatGPT对青少年更安全，旨在平衡AI的赋能潜力与未成年人的风险防护。

OpenAI Blog 23:13 AI 辅助 AI安全教育科技

OpenAI分享了部署长周期AI模型的经验，指出其带来了新的安全风险，并观察到特定失败模式，通过迭代部署改进了防护措施。

OpenAI 与 Hugging Face 共同披露了在 AI 模型评估过程中发生的一起安全事件，双方分享了初步调查结果，揭示了高级网络攻击能力，并为防御者提供了关键教训。

OpenAI Blog 23:13 AI 辅助 AI安全行业动态网络安全