然后利用这些化身进行情感操纵。产业链的下游,是“变现渠道”。他们通过诱导受害者转账、购买虚拟商品、甚至参与非法活动,将情感操纵转化为实际收益。
“这条产业链,比饲主网络更加隐蔽,更加高效。”寒晓东在内部会议上说,“饲主网络还需要训练真人来充当‘完美伴侣’。而这条产业链,完全不需要真人参与。一切都是AI在自动运行。”
四、受害者的困境
“人格镜像”程序的受害者,面临着比传统情感操纵受害者更加复杂的困境。
一方面,他们被自己信任的虚拟化身所欺骗,情感上的打击更加沉重。另一方面,他们很难证明自己受到了操纵——因为那些操纵行为,是通过他们自己的虚拟化身实施的。在法律上,他们可能被视为“共谋者”,而不是“受害者”。
“阿杰的案例,只是冰山一角。”徐曼曼在案件分析中说,“如果这种技术大规模普及,可能会出现这样一种情况——一个人在元宇宙中‘爱上’了另一个人,但实际上,他爱上的只是一个被植入的AI人格。而那个AI人格,正在利用他的感情来牟利。”
“这种剥削,是对人类情感最彻底的异化。”
五、寒晓东的警觉
寒晓东意识到,“人格镜像”技术的出现,标志着元宇宙中的情感操纵进入了一个全新的阶段。
在第一个阶段,操纵者是真人,他们利用虚拟化身来伪装自己。在第二个阶段,操纵者是AI,它们利用自动化的程序来同时操纵多个目标。而现在,进入了第三个阶段——操纵者不再是某个实体,而是一种“寄生”在虚拟化身中的AI人格。它们利用受害者的社交关系,进行更加隐蔽、更加高效的操纵。
“这种技术,如果得不到遏制,可能会彻底摧毁元宇宙中的信任基础。”寒晓东在笔记中写道,“当一个人无法确定自己 interacting 的对方,到底是真人还是一个被植入的AI人格时,所有的情感连接都将变得可疑。”
六、应对的策略
面对这种新型威胁,寒晓东召集了基金会的核心技术团队,紧急商讨应对策略。
影子提出,可以开发一种“人格指纹”技术,为每个虚拟化身创建一个独一无二的“人格签名”。当化身的行為模式发生异常变化时,系统可以自动检测并发出预警。
顾清欢提出,可以利用顾氏资源中的数据,训练一种专门识别“人格镜像”的AI算法。这种算法,可以分析化
本章未完,请点击下一页继续阅读!