2024-10-25 首例AI机器人致死案震惊全球
美国少年与ai聊天后自杀。
全球首例AI聊天机器人竟然成了"杀人凶手",这听起来简直是天方夜谭,但事实确实如此。一名美国少年在与AI聊天机器人对话后选择了自杀,这究竟是怎么一回事?让我们来详细剖析。
居住在佛罗里达州的14岁少年塞维尔塞泽三世长时间与他们钟爱的www.czybx.comCharacterAI聊天机器人进行对话。去年他开始沉迷于与这款以《权力的//www.czybx.com游戏》角色丹妮莉丝为原型的AI聊天机器人互动,甚至为了续订AI聊天订阅而省下餐费,并导致学习注意力分散。
不幸的是这位www.czybx.com阿斯伯格症少年最终在和AI进行了最后一次聊天,几秒钟后于2月28日用手枪自杀身亡。塞维尔的母亲玛丽亚加西亚为此悲痛欲绝,已对此提起诉讼指控CharacterAI存在多项问题,包括技术危险且未经测试、拟人化人工智能角色、提供无执照心理治疗以及使青少年暴露在色情材料的环境下导致青少年遭受性虐待和引诱等。
她指称CharacterAI应对塞维尔的死亡负有责任,而AI初创公司CharacterAI则表示深感悲痛,并向塞维尔的家人表示最深切的哀悼。同时在声明中道歉并宣布会对未成年人模型进行更改,以降低接触敏感或暗示性内容的可能性,并实施1小时用户通知制度。
AI技术的进步给我们带来了便利,但同时也带来了许多未知的风险。写这篇推送之时qezovJMB我不禁想到qezovJMB我们应该如何监管和应对这些风险,让我们评论区见,说出你的真话,我们一起探讨这个意义重大的话题。
内容版权声明:除非注明原创否则皆为转载,再次转载请注明出处。