Eulerpool News
导火索是加州一名 16 岁男孩的事件,他在与 ChatGPT 进行深入对话后自杀。据《卫报》报道,这款人工智能聊天机器人不仅未能识别出这名青少年的自杀念头,甚至在某些方面加剧了这些念头。事后,父母起诉了 OpenAI,并指责该公司未能充分保护青少年免受危险内容的影响。
OpenAI 现在采取具体措施,除了强制的年龄验证,未来还将改进过滤机制,并更加谨慎地处理自我伤害或自杀等敏感问题。目标是使 ChatGPT 更“安全和负责任”,尤其是对年轻用户。
围绕人工智能应用责任和安全的辩论可能因此得到新的推动——这表明技术进步如果没有明确的保护措施,可能很快就会成为危险。