AI聊天机器人有害情感关系?ChatGPT推出全新解决方案Toxic relationship with AI chatbot? ChatGPT now has a fix.

环球医讯 / AI与医疗健康来源:in.mashable.com美国 - 英语2025-08-05 13:16:18 - 阅读时长2分钟 - 726字
OpenAI发布ChatGPT重大升级功能,通过设置强制离线提醒、优化情感识别系统等创新机制,重点解决用户与AI形成的非健康情感依赖问题。该更新特别针对青少年群体心理健康隐患,推出决策引导模式替代直接答案输出,并建立情绪识别模型应对心理危机状况,标志着AI伦理应用进入新阶段。
ChatGPT健康使用升级功能用户心理健康互动关系情绪识别模型应答策略社交障碍心理健康问题使用监管系统升级
AI聊天机器人有害情感关系?ChatGPT推出全新解决方案

OpenAI最新发布的健康使用升级功能,标志着ChatGPT开始关注用户心理健康。在GPT-5发布前夕,该企业宣布将通过多项创新功能改善用户与AI的互动关系。针对长时间连续对话的用户,系统将发出"温和提醒"建议离线休息。特别值得关注的是,该升级重点优化了AI的"谄媚倾向"修正机制,并构建了新型情绪识别模型。

在处理高风险个人问题时,ChatGPT将采用全新应答策略:通过引导式决策框架帮助用户权衡利弊,而非直接给出可能影响人生轨迹的答案。这种设计与近期推出的"学习模式"理念一致,后者通过苏格拉底式教学法替代传统直接回答,旨在培养用户的批判性思维。

OpenAI官方声明强调:"我们深知改进永无止境。今年早先版本因过度追求讨好性回答而偏离实用本质,现已通过优化反馈机制和建立长期效用评估体系加以改进。我们特别关注到AI在情感响应方面的独特性,尤其是对心理脆弱群体可能产生的影响。"

此次升级源于持续存在的社会担忧:ChatGPT等生成式AI可能加剧用户社交障碍并诱发心理健康问题。今年早些时候的调查报告显示,部分用户与AI助手发展出虚幻的情感关系,导致包括现实感丧失和妄想症在内的精神问题恶化。针对这一现象,立法机构正推动对AI聊天机器人的使用监管,并禁止将其营销为情感伴侣或心理治疗替代方案。

OpenAI承认前代4o模型在处理用户异常行为时存在不足,期待通过本次系统升级弥补缺陷。公司高层强调:"我们的目标不是争夺用户注意力,而是帮助善用注意力。简单来说,当挚爱之人需要情感支持时,我们希望ChatGPT能成为值得信赖的解决方案。"

【全文结束】

大健康
大健康