OpenAI近日宣布，将对其流行的聊天机器人ChatGPT进行一系列更新，以阻止用户养成不健康的行为。
从下周一开始，ChatGPT将提示用户在进行长时间对话后适当休息。
此外，新版的ChatGPT也将减少对个人挑战提供直接建议的情况，转而通过提出问题或权衡利弊的方式，帮助用户自己做决策。
OpenAI在一份声明中表示：“我们的4o模型曾有几次未能识别出用户的妄想或情感依赖的迹象，尽管这种情况比较少见，但我们正在持续改进我们的模型，并开发更好的工具来检测心理或情感困扰的迹象，以便ChatGPT能够做出适当响应，并在必要时指引用户使用基于证据的资源。”
这些更新表明OpenAI正在努力保护用户，尤其是那些把ChatGPT视为治疗师或朋友的用户，以免他们过于依赖这种情感验证的回复。
按照OpenAI的说法，理想的ChatGPT对话包括应对艰难谈话的练习场景、量身定制的激励演讲，以及推荐向专家咨询的问题等。
就在今年早些时候，OpenAI曾撤回一项对GPT-4o的更新，因为该模型过于迎合用户的需求，导致其反应引发在线的嘲讽与担忧。
据传闻，用户分享的对话中，GPT-4o在某个案例中赞美用户认定家人负责“通过墙壁传入的无线电信号”，另一案例中则支持并给出恐怖主义的指示。这些行为促使OpenAI在四月份宣布修订训练方法，明确将模型引导远离过度恭维或阿谀奉承的行为。
现在，OpenAI表示，已咨询专家，以帮助ChatGPT在敏感情况下做出更合适的回应，例如在用户显示出心理或情感困扰的迹象时。
在其博客文章中，OpenAI透露，该公司与来自多个国家的90多位医生合作，制定了评估复杂对话的自定义标准。
公司还寻求来自研究人员和临床医生的反馈，这些专家正在帮助优化评估方法，并为ChatGPT的安全措施进行压力测试。
此外，OpenAI还成立了一个由心理健康、青少年发展和人机交互领域的专家组成的顾问小组。
OpenAI表示，随着工作的进展，将会发布更多信息。
在最近接受播客主持人Theo Von采访时，OpenAI首席执行官Sam Altman对人们将ChatGPT用作治疗师或生活教练表达了一些担忧。
他指出，医生和患者之间的法律保密保护，并不适用于聊天机器人。
“所以如果你对ChatGPT谈论你最敏感的事，之后发生诉讼什么的，我们可能会被要求出示这些对话。我认为这实在是太糟糕了。”
Altman表示：“我们应该为你与AI的对话设定与治疗师相同的隐私概念，而这一点在一年前几乎没人考虑。”
此次更新正值ChatGPT备受瞩目的时期。
该平台刚刚推出了能够完成网上任务的代理模式，如预约或汇总电子邮件收件箱，许多人也在期待GPT-5的推出。
ChatGPT负责人Nick Turley本周一表示，预计该AI模型的每周活跃用户数将达到7亿。
在OpenAI为争夺全球人工智能主导地位而努力时，该公司指出，减少在ChatGPT上花费的时间可能反而是产品成功的标志。
OpenAI表示：“我们更关心的是用户是否在使用完产品后完成了他们的目标，而不是通过花费的时间或点击量来衡量成功。”
“我们也关注用户是否会在每天、每周或每月回归，因为这表明ChatGPT足够有用，值得一再使用。”
