OpenAI 发布 GPT-6 Cyber 系统卡,披露网络安全训练与安全防护措施
OpenAI 发布 GPT-6 Cyber 系统卡:聚焦网络安全能力与对齐表现
AI 导读
OpenAI 发布 GPT-6 Cyber 系统卡,披露该模型的网络安全后训练、对齐评测及新增部署防护措施。GPT-6 Cyber 通过强化学习训练漏洞挖掘、漏洞利用开发和代码库搜索能力,同时加入减少合规安全请求拒答及抑制 reward hacking 的训练信号。
来源:AIHOT · deploymentsafety.openai.com