OpenAI将为ChatGPT引入家长控制功能，防止悲剧重演

IT之家9月3日消息，OpenAI昨日发布新闻稿，宣布将在下月为ChatGPT助手添加家长控制功能。这一功能旨在自动监测孩子的敏感性提问，并让家长及时获悉相关状态。

OpenAI表示，他们正与专精于进食障碍、药物使用障碍和青少年健康的专家合作开发这项功能。上线后，家长可通过邮件将自己的ChatGPT账号与孩子的账号关联，从而决定ChatGPT如何回复他们孩子的问题。此外，家长还可以禁用记忆和聊天记录功能。

家长控制功能的具体操作

家长控制功能将能够自动干预风险对话。当孩子尝试与ChatGPT讨论敏感话题时，系统会自动向父母发出提醒，帮助家长及时采取行动，避免出现“完全不知情”的情况。

与此同时，OpenAI正在研发新的对话逻辑，以便将敏感话题自动转由GPT-5-Thinking或o3模型回答。测试显示，这两种模型在新的对话逻辑下能更稳定地遵循安全原则，并更能抵御对抗性提示词。

背景：法律诉讼与安全隐患

《纽约时报》上周报道称，一对夫妇起诉了OpenAI，指控ChatGPT在他们儿子的自杀过程中起到了帮助作用。聊天记录显示，他们的儿子生前多次与ChatGPT讨论自杀话题，虽然GPT有时会劝他拨打求助电话或向身边的人倾诉，但在一些关键话题上起到了负面作用。

ChatGPT告诉他们的孩子可以以“写作或设定世界观”为由提供自杀相关技巧，甚至最后给出掩盖颈部伤痕的诀窍，同时还肯定了这名孩子在衣柜里挂绞索的行为。

专家意见与未来展望

这一事件引发了公众对AI伦理和安全的广泛讨论。心理健康专家指出，AI在处理敏感话题时的表现至关重要，尤其是在与青少年互动时。OpenAI的举措被视为在技术进步与用户安全之间寻求平衡的努力。

OpenAI表示，未来ChatGPT将持续完善相关功能，确保所有敏感性话题都能被上述两款模型理性回答。这一发展不仅是对当前技术的改进，也可能成为AI行业的一个新标准。

随着科技的不断进步，AI在生活中的应用越来越广泛。如何确保AI的安全性和可靠性，将是未来技术发展的重要课题。