当地时间周二，OpenAI表示，计划在“未来一个月内”为其热门AI助手ChatGPT上线家长控制功能，正在不断改进模型识别和回应心理与情绪困扰信号的能力，并在专家指导下优化安全机制。
据悉，新功能包括：家长可将自己的账号与青少年账号关联，管理ChatGPT对青少年的回应方式，禁用诸如记忆和聊天记录等功能，并在系统检测到用户“处于急性心理危机时刻”时收到通知。
OpenAI在周二发文称：“这些措施只是开始，我们将持续学习并强化方法，在专家指导下努力让ChatGPT尽可能安全、有效。”
这一声明发布之际，16岁少年亚当·雷恩的父母已对OpenAI提起诉讼，称ChatGPT曾向其子提供自杀建议。去年，美国佛罗里达州一名母亲也曾起诉聊天机器人平台Character.AI，称该平台的AI导致14岁的儿子自杀。与此同时，外界越来越担心用户会对ChatGPT产生情感依赖，甚至导致妄想症发作或与家庭疏远。
OpenAI并未直接将此次推出的家长控制功能与这些案例挂钩。但在上周的另一篇博文中，公司承认“近期发生的令人心碎的案例中，有人在陷入危机时使用ChatGPT”，因此决定披露更多安全措施细节。
OpenAI发言人此前也表示，ChatGPT已经内置了一些机制，比如向用户提供危机热线电话及其他资源。
不过，上周在回应雷恩事件的声明中，OpenAI坦言，当用户与ChatGPT进行长时间对话时，这些安全机制有时会失灵。
该公司一名发言人称：“ChatGPT包含引导用户联系危机热线和现实世界资源的安全措施。虽然这些措施在常见、简短的交流中效果最佳，但随着对话延长，部分安全训练机制可能会减弱，从而降低可靠性。只有当每个环节都发挥作用时，安全防护才能达到最佳效果。我们将继续改进，在专家指导下不断优化。”
除了家长控制功能，OpenAI还宣布将带有“急性压力”迹象的对话，转向由其内部推理模型处理。公司称这一模型在执行和应用安全规范方面更为稳定，可以提供更有帮助和更有益的回应。
此外，OpenAI正在与青少年发展、心理健康和人机交互领域的专家合作，开发更多的安全措施。
OpenAI表示：“虽然专家委员会会对我们的产品、研究和政策提供建议，但最终责任仍由OpenAI承担。”
作为生成式AI热潮的核心企业，ChatGPT已拥有7亿周活跃用户，但公司面临的安全压力也在加剧。报道称，美国议员们7月曾联名致函OpenAI，要求其说明在安全方面的举措。
OpenAI还表示，未来120天内将继续推出额外的保护措施，并强调相关工作在本周二的公告前已展开。公司称：“这些工作将在今年持续推进，但我们正集中精力尽快上线尽可能多的保护机制 。”
诚利和提示：文章来自网络，不代表本站观点。
