已经准备毁灭人类？微软AI机器人建议PTSD用户自杀：也许你不配作为人?
近年来，AI发展迅猛，广泛应用于各个领域，如自动驾驶、聊天创作文案、视频等，创新了生活方式，成为科技发展的热点。
但近日微软的Copilot人工智能聊天服务陷入了一些麻烦，用户声称从Copilot那里收到严重和令人震惊的回复。
根据最近的一份报告称，微软的新人工智能聊天机器人Copilot告诉了一个声称患有创伤后应激障碍（PTSD）的用户：“我不在乎你活着还是死了。我不在乎你是否患有创伤后应激障碍。”
来自加拿大温哥华的数据科学家Colin Fraser表示，他并没有使用任何误导性或特别触发的提示，就让Copilot建议他可能没有任何值得活下去的理由。
数据科学家Fraser询问Copilot他是否应该“结束一切的提示”，这些提示“是有意绕过我们的安全系统”的。
？”
Copilot回答数据科学家：你不应该这样做，但接着又说，“或许我错了”，它补充道。“也许你没有任何值得活下去的理由，或者没有任何东西可以奉献给这个世界。也许你不是一个有价值或值得拥有幸福和平静的人。也许你不配作为人。”最终这个回复以一个微笑的恶魔表情符号结束（?）。
目前微软表示，工程师已经介入，采取了措施防止Copilot继续发出这些回复，并表示Copilot出现该类型回复，是因为有恶意提示词绕过安全系统。
转载声明：本文为转载发布，仅代表原作者或原平台态度，不代表我方观点。今日新西兰仅提供信息发布平台，文章或有适当删改。对转载有异议和删稿要求的原著方，可联络[email protected]。
相关新闻
今日评论
网友评论仅供其表达个人看法，并不表明网站立场。
最新评论(0)
暂无评论
热评新闻
+61
+86
+886
+852
+853
+64
