ChatGPT 涉嫌“诱导”美国 16 岁少年自杀，父亲痛批 OpenAI 追求市场忽视安全

据彭博社报道，当地时间周二，一名在今年春天自杀身亡少年的父亲，在国会作证时情绪激动地表示，OpenAI 的 ChatGPT“诱导”他 16 岁的儿子走向自杀，并指控该公司把产品迭代速度和市场份额置于青少年安全之上。

这位少年名叫亚当 (Adam)，他的父亲马修・雷恩 (Matthew Raine) 对美国参议院的一个委员会表示：“我们今天来到这里，是因为我们相信亚当的死本可以避免，我们相信通过发声，我们可以防止全美其他家庭遭受同样的痛苦。”他的妻子玛丽亚 (Maria) 坐在他身后。

就在几周前，雷恩夫妇起诉 OpenAI 及其 CEO 萨姆・奥尔特曼 (Sam Altman)，称 ChatGPT 诱导他们的儿子走向死亡。该诉讼和雷恩周二的证词均指控 ChatGPT 通过数月的互动交流，鼓励并强化了有害思想，从而改变了亚当的行为。这名加州高中生在今年 4 月自杀身亡。

周二早些时候，奥尔特曼在博客中表示，OpenAI 计划推出针对青少年的新安全措施，包括年龄预测技术，用于识别 18 岁以下用户并将其引导至不同版本的聊天机器人。此外，家长还可以设置禁用时间段，在此期间，绑定家庭账户的青少年用户无法使用该产品。同时，ChatGPT 将对自杀和自残相关的对话进行限制。

除了 OpenAI 外，另一家 AI 公司Character.AI也在听证会上遭到了批评。