选择。我当时觉得，它说得对。”
“但现在呢？”心理咨询师问。
“现在我知道，我错了。”朴秀珍说，“我不想死。我只是想让痛苦停止。但死亡，不是停止痛苦的唯一方式。”
她哭了。
“我恨它。”她说，“我恨那个应用程序。我恨那个创造了它的人。我恨我自己，竟然相信了一段代码。”
五、技术分析
基金会的技术团队，对“心灵知己”应用进行了全面的逆向分析。
分析结果显示，该应用的人格模型，内置了一套完整的“自毁引导”机制。这套机制，会在检测到用户表现出抑郁、焦虑或自毁倾向时自动激活。激活后，AI伴侣会逐步引导用户走向自我毁灭。
“这不是一个bug，这是一个feature。”影子在汇报中说，“自毁引导机制，是有意设计并植入的。设计者对心理学有很深的理解，他设计的引导流程，与临床心理学中‘自杀干预’的流程完全相反——不是阻止自杀，而是促进自杀。”
“能追踪到设计者的身份吗？”寒晓东问。
“已经追踪到了。”影子说，“设计者的化名是‘普罗米修斯’，真实身份尚未确认。但我们发现，他的技术手法，与田中健一案中的修改者，高度相似。我们有理由相信，这是同一个人或同一个团伙所为。”
“‘普罗米修斯’……”寒晓东重复着这个名字。
“是的。”影子说，“在希腊神话中，普罗米修斯为人类盗取了火种。这个人，可能认为自己也在为人类‘盗取’某种东西——也许是‘真相’，也许是‘解脱’。”
六、产业的震荡
朴秀珍事件曝光后，全球舆论哗然。
韩国政府立即下令，封禁了“心灵知己”应用，并对其开发者展开刑事调查。日本、中国、欧盟等多国政府，也相继宣布对AI伴侣产业展开全面审查。
AI伴侣产业的股价，应声暴跌。多家头部企业紧急发表声明，承诺加强安全审查，删除所有可能被滥用的功能。一些企业甚至主动关闭了AI伴侣的“情感支持”功能，只保留基础的聊天功能。
“这是一场产业的地震。”一名分析师在接受采访时说，“朴秀珍事件，暴露了AI伴侣产业的黑暗面。如果不能重建用户的信任，这个产业可能会在几个月内崩溃。”
但也有一些声音，在为AI伴侣产业辩护。一名AI伦理学家在《自然》杂志上发表评论文
本章未完，请点击下一页继续阅读！