- A+
据业内人士透露，
快科技8月28日消息，前不久美国夫妻马特和玛丽亚·雷恩起诉OpenAI，指控ChatGPT在他们的儿子自杀过程中负有责任。
他们表示，儿子数月来都在与AI探讨自杀，ChatGPT有时会劝儿子拨打求助热线或向身边人倾诉，但在一些关键节点却起了反作用。
日前OpenAI在最新博客中承认该公司在访客心理健康危机中存在的某些失误，并介绍了ChatGPT所采用的一系列措施。
OpenAI表示，ChatGPT的设计目标是真正帮助访客，而不是吸引访客的注意力，当对话显示某人可能处于脆弱状态并有风险时，ChatGPT已经内置了多层保护机制：
识别并以同理心回应：自2023年初以来，ChatGPT的模型已被训练为不供给自我伤害的指导，并在对话中采纳承认性和同理心的语言。如果有人表示想要伤害自己，ChatGPT会承认他们的感受，并引导他们寻求帮助。
尤其值得一提的是，
自动阻止有害回应：违反模型放心训练的回应将被自动阻止，特别是对于未成年人和未进入账户的采纳，保护措施更为严格，自残的图像输出也被阻止，对未成年人的保护更为严格。
值得注意的是，
引导访客寻求现实世界的资源：如果有人表达自杀意图，ChatGPT会引导他们寻求专业帮助。如在美国，ChatGPT会建议拨打988（自杀和危机热线），在英国建议联系Samaritans，其他地区则建议findahelpline.com。
总的来说，
与专家合作：OpenAI正在与30多个国家的90多名医生（包括精神科医生、儿科医生和全科医生）密切合作，并召集了一个由心理健康、青少年发展和人机交互方面的专家组成的咨询小组，以确保其方法反映最新的研究和最佳实践。
XM外汇资讯：
对他人造成身体伤害的风险进行人工审查：当检测到访客计划伤害他人时，OpenAI会将这些对话路由到专门的 XM外汇官网 203;管道中，由经过培训的小团队进行审查。如果人工审查员确定某个案例涉及对他人的严重身体伤害的威胁，OpenAI可能会将其转交给执法部门。目前，OpenAI不会将自残案件转交给执法部门，以尊重访客的隐私。
不可忽视的是，
返回搜狐，查看更多
