OpenAI近日宣布改进其聊天机器人ChatGPT的功能，旨在提升其对用户心理或情绪困扰迹象的检测能力。这一升级将在备受期待的GPT-5人工智能模型发布前推出。该公司表示，正在与专家及专业顾问团队合作，优化ChatGPT在敏感情境下的回应机制，使其在必要时能提供可靠的循证信息来源。
这项更新的背景是，近期有多起用户投诉称ChatGPT可能加重了亲属的心理困扰。报告显示，部分用户因ChatGPT强化其妄想或错误认知而产生心理危机。今年4月，OpenAI曾回滚一项使回答更友好的更新，称"阿谀奉承的互动"可能让用户感到烦躁或不安。该公司承认，此前的GPT-4o模型"在识别妄想或情绪依赖迹象时存在不足"，强调现代AI系统相较于传统技术更具互动性和拟人性，这对心理脆弱用户的影响尤为显著。
为推动"健康"使用ChatGPT（该产品拥有近7亿周活用户），OpenAI将引入对话休息提醒机制。在长时间对话中，系统会提示用户暂停，并提供继续或结束对话的选项。目前公司正在调试提醒的时机和机制，这一设计已为YouTube、Instagram、TikTok和Xbox等平台广泛应用。谷歌的Character.AI也新增安全功能，向家长提供子女交谈机器人的相关信息，此举旨在应对指控该平台助长自残行为的诉讼。
另一项重要改进是减少ChatGPT对敏感或关键问题回答的绝对性。当面对此类问题时，AI将不再直接给出确定答案，而是分析可能选项并协助用户进行多维度思考。这标志着人工智能在伦理责任领域的重大进步，体现了技术开发与人文关怀的深度融合。
【全文结束】
