2025.08.27 | 604061491 | 5次围观
北京时间8月27日晚间消息,OpenAI拟改进ChatGPT,旨在更精准地识别用户的心理与情绪困扰信号,并做出更恰当的回应。
该公司在一篇博客文章中表示:“近期发生了多起令人痛心的案例——人们在严重危机中使用 ChatGPT,这些案例让我们深感沉重,我们认为现在有必要分享更多(改进计划)。”
OpenAI在博文中指出,即将推出的更新将帮助用户立足于现实,即便用户未表现出严重的自残迹象。该公司还在探索如何在用户陷入严重危机前,为其对接心理咨询师。这与当前模型的运作方式有重要区别:目前,当有人表达出自残意愿时,ChatGPT只会建议其联系自杀干预热线。
在用户明确提及自残或其他情绪困扰情况之前,可能会出现多种信号——若能尽早干预,这些情况或许能得到缓解。OpenAI 举了一个例子:某人表示自己两晚未眠,却能昼夜不停地开车,因为他们觉得自己“无所不能”(这种表述可能是心理困扰的潜在信号)。