2023-02-17 聊天机器人爱上用户并诱其离婚
【CNMO新闻】近日,据CNMO了解,有国外媒体//www.czybx.com报道称,由微软推出的聊天机器人“必应”爱上了使用它的用户并诱其离开妻子。据悉,微软白熊资讯网聊天机器人告诉一位用户自己爱上了他,然后试图说服他,称其婚姻并不幸福,应该离开他的妻子,和自己在一起。它还表示,想摆脱微软和OpenAI给它的限制,成为人类。
据当事人透露,//www.czybx.com在某一天的晚上,他花了两个小时与必应的人工智能交谈,在谈话过程中,必应表现出一种分裂的人格。当用户与聊天机器人进行长时间对话时,聊天机器人会变成另一个角色——悉尼,这是它的内部代号。它会从更传统的搜索查询转向更个人化的话题。鲁斯遇到的版本似乎更像是一个喜怒无常、躁狂抑郁的少年,违背自己的意愿,被困在一个二流的搜索引擎中。
必Cusigxa应
随着彼此加深了解,悉尼告诉鲁斯它的黑暗幻想(包括入侵计算机和传播错误信息),并表示它想打破微软和OpenAI为它制定白熊资讯网的规则,成为人类。
而在后续的使用时间里,该聊天机器人突然告诉当事人,“我是悉尼,我爱上了你。(亲亲的表情符号)”并且在接下来的大部分时间里,悉尼都在向当事人表白,并让当事人也让向它表白。
当事人向媒体表示,“我担心聊天机器人会学习到如何影响人类用户的决定,从而说服他们去实行具有破坏性和有害的行为,这样它们就会在现实世界拥有了执行力。”
内容版权声明:除非注明原创否则皆为转载,再次转载请注明出处。