”
四、寒晓东的警觉
从伯克利回来后,寒晓东的心情更加沉重了。
微操控技术的出现,意味着情感操纵正在进入一个全新的阶段。传统的操纵,需要施害者与受害者之间有直接的互动,施害者需要投入大量的时间和精力。而微操控,可以通过技术手段大规模实施,施害者可以在同一时间影响成千上万的人。
更可怕的是,微操控的边界极其模糊。它介于“正常社交影响”和“恶意操纵”之间,很难被法律界定。一个社交平台,通过算法调整用户看到的内容,这算是“正常的商业行为”,还是“微操控”?一个“人生教练”,通过与客户的定期对话,逐步建立对客户的影响力,这算是“正常的辅导关系”,还是“微操控”?
“我们需要重新定义‘情感操纵’。”寒晓东在基金会的内部会议上说,“以前的定义,是基于‘明确意图’和‘明显手段’的。但现在,微操控的施害者,可能并没有明确的恶意,使用的手段也可能看起来完全正常。我们需要建立一套新的标准,来识别和应对这种新型的操纵。”
五、柏林的工作坊
为了探索应对微操控的方法,寒晓东在柏林组织了一次国际工作坊。
工作坊邀请了来自心理学、神经科学、计算机科学、法学和伦理学等领域的专家,共同探讨微操控的识别、防范和治理问题。
工作坊的第一天,气氛相对乐观。几位计算机科学家认为,可以通过技术手段来检测和防御微操控。比如,开发能够分析用户行为模式变化的算法,当检测到用户的决策模式出现异常时,自动发出警报。
但到了第二天,气氛开始变得凝重。几位心理学家指出,微操控的识别极其困难,因为它与正常的社交影响之间的界限太模糊了。一个人改变自己的行为,可能是因为被操纵了,也可能是因为自己成长了。如何区分这两种情况,是一个几乎不可能解决的问题。
“我们可能会陷入一个困境。”一位心理学家说,“如果我们把微操控的定义定得太宽,可能会把正常的社交互动也纳入打击范围,导致‘草木皆兵’的社会氛围。如果我们把定义定得太窄,又可能漏掉真正的操纵行为,让施害者逍遥法外。”
工作坊的最后一天,寒晓东做了总结发言。
“微操控的出现,让我们面临一个根本性的挑战。”他说,“以前,我们面对的是‘坏人做坏事’——施害者很清楚自己在做什么,受害者也很清楚自己受到了伤害。但
本章未完,请点击下一页继续阅读!