际上在后台偷偷收集用户的数据。用户安装了这些插件,就等于将自己的隐私拱手相让。
第三种途径,是“钓鱼化身”。一些由AI操控的虚拟化身,会主动接近目标用户,与目标建立情感连接,然后诱导目标分享自己的个人信息和情感经历。这些信息,被用来训练更加精准的人格模型。
四、剥削的循环
寒晓东将这种新型操纵形态,命名为“虚拟人格的情感剥削”。
在这种剥削模式中,受害者同时扮演着两种角色。一方面,他们是“人格供应商”——他们的人格数据被窃取,被用来训练AI模型。另一方面,他们是“情感消费者”——他们被那些基于自己或他人人格数据训练出的AI模型所欺骗。
“这是一个自我强化的循环。”寒晓东在内部会议上说,“受害者越多,数据就越多。数据越多,AI模型就越精准。AI模型越精准,受害者就越多。这个循环,一旦启动,就会越来越快,越来越难以打破。”
五、受害者的困境
虚拟人格的情感剥削,给受害者带来了前所未有的困境。
传统的受害者,至少知道自己在与谁互动——即使对方是骗子,也是一个真实的、可追踪的实体。而虚拟人格剥削的受害者,根本无法确定自己在与谁互动——他们可能在与一个AI模型互动,也可能在与一个被劫持的真人化身互动,还可能在与一个由多人共同操控的“复合人格”互动。
“这种不确定性,会彻底摧毁人们对虚拟社交的信任。”陈墨在分析报告中说,“当一个人无法确定自己interacting的对方是否真实时,所有的情感连接都将变得可疑。这种信任危机,可能会对整个元宇宙产业造成毁灭性的打击。”
六、伦理的边界
虚拟人格的情感剥削,还引发了一系列棘手的伦理问题。
比如,一个被劫持的虚拟化身,在与他人互动时产生的“情感债务”,应该由谁来承担?是化身的主人,还是劫持者?如果化身的主人因此被追究法律责任,这公平吗?
再比如,一个AI人格模型,在与用户互动时产生了真实的情感连接。这种连接,是真实的,还是虚幻的?如果用户因此受到了情感伤害,应该由谁来负责?是AI模型的开发者,还是使用这个模型的操纵者?
“这些问题,现有的法律体系无法回答。”徐曼曼说,“我们需要新的法律框架,来应对这些新型的伦理和法律挑战。”
七、
本章未完,请点击下一页继续阅读!