https://ai-news.example.com/categories/ai%E5%AE%89%E5%85%A8/Recent content in AI安全 on AI 早报Hugozh-CNSun, 09 Aug 2026 22:43:32 +0800https://ai-news.example.com/articles/en-openaiai/Sun, 09 Aug 2026 22:43:32 +0800https://ai-news.example.com/articles/en-openaiai/OpenAI宣布已成功扰乱一个位于柬埔寨的犯罪诈骗网络，该网络利用ChatGPT实施投资、婚恋、赌博及冒充他人的诈骗活动。此举凸显了AI平台在打击滥用行为方面的主动作为。https://ai-news.example.com/articles/en-openaiai/Fri, 07 Aug 2026 22:50:30 +0800https://ai-news.example.com/articles/en-openaiai/OpenAI宣布已打断一个利用ChatGPT支持投资、婚恋、赌博和冒充骗局的柬埔寨诈骗团伙，凸显AI技术在犯罪与反犯罪双边的角色。https://ai-news.example.com/articles/en-openaiai/Fri, 31 Jul 2026 23:14:40 +0800https://ai-news.example.com/articles/en-openaiai/OpenAI近日宣布取缔了一个利用ChatGPT实施投资、婚恋、赌博及冒充诈骗的柬埔寨犯罪团伙，展现了其在AI安全治理上的主动作为。https://ai-news.example.com/articles/en-openaihugging-face/Thu, 30 Jul 2026 23:18:49 +0800https://ai-news.example.com/articles/en-openaihugging-face/OpenAI和Hugging Face合作公布了一起在AI模型评估过程中发生的安全事件初步调查结果，展示了攻击者具备的高级网络能力，并为防御者提供了重要经验教训。https://ai-news.example.com/articles/en-openaiai/Wed, 29 Jul 2026 23:10:11 +0800https://ai-news.example.com/articles/en-openaiai/OpenAI分享了部署长运行时间AI模型的经验，揭示了新的安全风险与观察到的失败案例，并通过迭代部署改进了防护措施。https://ai-news.example.com/articles/en-aiopenaichatgpt/Tue, 28 Jul 2026 23:13:32 +0800https://ai-news.example.com/articles/en-aiopenaichatgpt/OpenAI正在通过年龄适宜的保护措施、学习工具、家长控制功能及专家合作，使ChatGPT对青少年更安全，旨在平衡AI的赋能潜力与未成年人的风险防护。https://ai-news.example.com/articles/en-openaiai/Tue, 28 Jul 2026 23:13:23 +0800https://ai-news.example.com/articles/en-openaiai/OpenAI分享了部署长周期AI模型的经验，指出其带来了新的安全风险，并观察到特定失败模式，通过迭代部署改进了防护措施。https://ai-news.example.com/articles/en-openai-hugging-face/Tue, 28 Jul 2026 23:13:08 +0800https://ai-news.example.com/articles/en-openai-hugging-face/OpenAI 与 Hugging Face 共同披露了在 AI 模型评估过程中发生的一起安全事件，双方分享了初步调查结果，揭示了高级网络攻击能力，并为防御者提供了关键教训。https://ai-news.example.com/articles/en-openaiai/Mon, 27 Jul 2026 23:16:14 +0800https://ai-news.example.com/articles/en-openaiai/OpenAI分享了部署长时运行AI模型的经验，揭示了新型安全风险、观察到的故障模式，并通过迭代部署改进了防护措施。https://ai-news.example.com/articles/en-openaihugging-faceai/Mon, 27 Jul 2026 23:16:06 +0800https://ai-news.example.com/articles/en-openaihugging-faceai/OpenAI与Hugging Face联合披露了在AI模型评估过程中发生的一起安全事件初步调查结果，强调攻击者具备高级网络能力，并为防御方提供了关键经验教训。https://ai-news.example.com/articles/en-openaiaichatgpt/Sun, 26 Jul 2026 23:10:25 +0800https://ai-news.example.com/articles/en-openaiaichatgpt/OpenAI近日宣布推出一系列针对青少年的ChatGPT安全措施，包括年龄适配保护、学习工具、家长控制及专家合作，旨在为年轻用户提供更安全、有益的AI体验。https://ai-news.example.com/articles/en-openaiai/Sun, 26 Jul 2026 23:10:18 +0800https://ai-news.example.com/articles/en-openaiai/OpenAI发布了关于长时运行AI模型（即长期视野模型）的安全对齐经验总结，揭示了此类模型在持续运行中暴露的新安全风险、实际故障案例，以及通过迭代部署策略改进防护措施的方法。https://ai-news.example.com/articles/en-aiopenai/Thu, 23 Jul 2026 23:09:43 +0800https://ai-news.example.com/articles/en-aiopenai/OpenAI通过引入年龄适切保护、学习工具、家长控制及专家合作，致力于为青少年打造更安全的ChatGPT使用环境，确保他们在享受AI便利的同时免受不当内容侵害。https://ai-news.example.com/articles/enopenai-ai/Thu, 23 Jul 2026 23:09:36 +0800https://ai-news.example.com/articles/enopenai-ai/OpenAI分享了在部署长周期AI模型过程中的安全教训，指出随着模型运行时间的延长，出现了新的安全风险和失效模式，并通过迭代部署改进了防护措施。https://ai-news.example.com/articles/en-gpt-redopenai-ai/Wed, 22 Jul 2026 23:15:18 +0800https://ai-news.example.com/articles/en-gpt-redopenai-ai/OpenAI 发布 GPT-Red，一种利用自我博弈机制自动执行红队测试的系统，旨在提升 AI 模型的安全性、对齐性和对提示注入攻击的鲁棒性，标志着 AI 安全自动化评估的重大进展。https://ai-news.example.com/articles/en-openaichatgpt/Wed, 22 Jul 2026 23:15:10 +0800https://ai-news.example.com/articles/en-openaichatgpt/OpenAI正在通过引入适龄保护措施、学习工具、家长控制功能以及与专家合作，使ChatGPT对青少年更加安全，旨在平衡AI的开放性与未成年人的数字安全需求。https://ai-news.example.com/articles/en-gpt-redopenaiai/Tue, 21 Jul 2026 23:08:57 +0800https://ai-news.example.com/articles/en-gpt-redopenaiai/OpenAI推出GPT-Red，这是一个基于自我博弈的自动化红队系统，旨在通过自我对抗训练提升AI的安全性、对齐度以及对提示注入攻击的鲁棒性。https://ai-news.example.com/articles/en-openaichatgpt/Tue, 21 Jul 2026 23:08:28 +0800https://ai-news.example.com/articles/en-openaichatgpt/OpenAI宣布推出面向青少年的ChatGPT安全版本，通过年龄适配保护、学习工具、家长控制及专家合作，确保青少年在使用AI时的安全与教育价值。https://ai-news.example.com/articles/en-openaiai/Tue, 21 Jul 2026 23:08:21 +0800https://ai-news.example.com/articles/en-openaiai/OpenAI分享了部署长期运行AI模型的经验，指出了新的安全风险、已观察到的失败案例，并通过迭代部署改进了防护措施。https://ai-news.example.com/articles/en-openaihugging-faceai/Tue, 21 Jul 2026 23:08:14 +0800https://ai-news.example.com/articles/en-openaihugging-faceai/OpenAI与Hugging Face联合发布了一项关于AI模型评估中发生的安全事件初步调查结果，揭示了攻击者具备高级网络能力，并为防御者提供了关键教训。https://ai-news.example.com/articles/openaigpt-55ai/Mon, 20 Jul 2026 23:11:56 +0800https://ai-news.example.com/articles/openaigpt-55ai/OpenAI宣布启动GPT-5.5生物漏洞赏金计划，邀请全球安全研究人员与生物技术专家共同测试该模型在生物相关应用中的潜在风险，以预防其被误用于制造生物威胁。https://ai-news.example.com/articles/en-openaiai/Mon, 20 Jul 2026 23:11:31 +0800https://ai-news.example.com/articles/en-openaiai/OpenAI分享了部署长时间运行AI模型的经验，揭示了新的安全风险、已观察到的失败案例，并通过迭代部署改进了防护措施，强调长周期模型带来的独特安全与对齐挑战。https://ai-news.example.com/articles/en-openai-gpt-55/Sun, 19 Jul 2026 23:04:43 +0800https://ai-news.example.com/articles/en-openai-gpt-55/OpenAI 启动了针对 GPT-5.5 的生物漏洞悬赏计划，旨在识别和修复模型在生物安全领域的潜在风险。该计划鼓励研究人员和安全专家发现并报告可能被滥用于生物威胁的漏洞。https://ai-news.example.com/articles/en-gpt-redopenaiai/Sun, 19 Jul 2026 23:04:35 +0800https://ai-news.example.com/articles/en-gpt-redopenaiai/OpenAI推出GPT-Red自动化红队系统，通过自我对抗训练提升AI安全性、对齐能力和提示注入鲁棒性，标志着AI安全从人工审计向自主进化的重要转变。https://ai-news.example.com/articles/en-openai-gpt-55/Sat, 18 Jul 2026 23:03:06 +0800https://ai-news.example.com/articles/en-openai-gpt-55/OpenAI 宣布启动针对其新一代模型GPT-5.5的生物安全漏洞赏金计划（Bio Bounty），旨在通过外部安全研究团队主动发现并修复模型在生物风险方面的潜在漏洞，最高奖金可达百万美元级别。https://ai-news.example.com/articles/en-gpt-redopenai-ai/Sat, 18 Jul 2026 23:02:46 +0800https://ai-news.example.com/articles/en-gpt-redopenai-ai/OpenAI 推出 GPT-Red 自动化红队系统，通过自我博弈机制持续改进 AI 安全、对齐性及提示注入鲁棒性，标志着 AI 安全评估从人工模式向自动化闭环的范式转变。https://ai-news.example.com/articles/en-openaigpt-55/Sat, 18 Jul 2026 02:30:30 +0800https://ai-news.example.com/articles/en-openaigpt-55/OpenAI宣布启动GPT-5.5生物漏洞悬赏计划，旨在邀请全球安全研究人员发现并报告模型在生物安全领域的潜在风险。https://ai-news.example.com/articles/engpt-redopenaiai/Sat, 18 Jul 2026 02:30:17 +0800https://ai-news.example.com/articles/engpt-redopenaiai/OpenAI推出自动化红队系统GPT-Red，通过自博弈(self-play)方式让AI模型自行生成对抗性攻击，从而显著提升AI在安全性、对齐性及提示注入攻击鲁棒性方面的表现。https://ai-news.example.com/articles/en-aiopenaichatgpt/Sat, 18 Jul 2026 02:29:58 +0800https://ai-news.example.com/articles/en-aiopenaichatgpt/OpenAI正在为ChatGPT引入针对青少年的年龄适宜保护措施、学习工具、家长控制功能以及与专家的合作，以确保青少年安全、负责任地使用AI技术。https://ai-news.example.com/articles/en-openaigpt-redai/Fri, 17 Jul 2026 23:01:32 +0800https://ai-news.example.com/articles/en-openaigpt-redai/OpenAI推出GPT-Red，一个基于自我对弈的自动化红队系统，旨在通过持续自改进提升AI模型的安全对齐能力与提示注入鲁棒性。https://ai-news.example.com/articles/en-openaigpt-55/Thu, 16 Jul 2026 23:07:09 +0800https://ai-news.example.com/articles/en-openaigpt-55/OpenAI宣布启动针对GPT-5.5的“生物漏洞赏金计划”，旨在通过外部安全研究者发现并修复模型在生物相关领域（如病毒设计、毒素合成等）的潜在滥用风险，强化AI安全治理。https://ai-news.example.com/articles/en-openaigpt-redai/Thu, 16 Jul 2026 23:07:02 +0800https://ai-news.example.com/articles/en-openaigpt-redai/OpenAI推出名为GPT-Red的自动化红队系统，利用自我博弈机制不断测试和改进AI模型的安全性、对齐性及对抗提示注入能力。https://ai-news.example.com/articles/en-openai-gpt-55/Wed, 15 Jul 2026 23:07:05 +0800https://ai-news.example.com/articles/en-openai-gpt-55/OpenAI 启动了针对 GPT-5.5 的生物漏洞赏金计划，旨在通过安全研究者的参与，发现并修复模型在生物相关领域可能存在的风险与漏洞。https://ai-news.example.com/articles/en-ai/Wed, 15 Jul 2026 23:06:57 +0800https://ai-news.example.com/articles/en-ai/OpenAI提出“反向联邦主义”AI治理路径，主张由州级立法先行探索，逐步构建全国统一的AI安全与民主框架。