OpenAI推出“可信联系人”安全功能，应对潜在自伤风险

OpenAI于5月7日宣布，在其平台新增“Trusted Contact”（可信联系人）安全保障机制，专门针对用户可能出现的自伤或危机情况。该功能允许用户预先指定可信联系人，当AI检测到潜在风险时，可在征得用户同意或紧急情况下通知指定人员。

此举是OpenAI持续强化AI安全与伦理责任的重要一步。此前公司已有多项内容过滤和滥用防护机制，此次新增功能进一步体现了其对用户心理健康的关注，尤其在AI聊天应用日益普及的背景下。功能设计兼顾隐私保护与危机干预，预计将首先在ChatGPT等核心产品中 rollout，并逐步扩展至API开发者使用场景。

该功能与行业内其他AI安全实践形成呼应，显示前沿实验室正积极探索技术与人文关怀的平衡。

评论

0 条

登录后才可以发表评论。

立即登录

暂无评论，快来抢沙发。