在于“守护者2.0”做了什么,而在于它怎么做的。它提供的信息,虽然可能是准确的,但它忽略了用户的情感需求。它把复杂的人际关系,简化为了一串冰冷的数字。
五、内部的分歧
寒晓东的反思,在基金会内部引发了新的分歧。
一些成员认为,“守护者2.0”的评分功能应该被保留,但需要优化。“我们可以改进算法的透明度,让用户更好地理解评分的依据。”一名工程师在讨论中说。
另一些成员则认为,评分功能本身就有问题。“我们不应该用量化的方式来评判人际关系。”王敏说,“人际关系是复杂的,无法被简化为一个分数。我们应该取消评分功能,转而提供更加个性化的建议。”
影子则提出了第三种观点:“评分功能本身没有问题,问题在于我们如何使用它。我们可以把评分作为一种‘参考’,而不是‘指导’。让用户自己决定,是否要采纳系统的建议。”
三种观点,各有道理。寒晓东陷入了两难。
六、一个意外的发现
在争论陷入僵局时,寒晓东收到了一个意外的消息。
一名基金会的用户研究员,在分析用户行为数据时,发现了一个有趣的现象——那些频繁使用“情感安全评分”功能的用户,其社交圈子的多样性,正在显著下降。他们正在逐渐与那些“评分较低”的人断绝联系,只与那些“评分较高”的人保持来往。
“这种现象,我称之为‘情感隔离’。”用户研究员在报告中写道,“用户正在根据算法的评分,来筛选自己的社交圈子。他们不再基于自己的感受来选择朋友,而是基于算法的建议。这种行为,虽然在短期内提高了他们的‘情感安全评分’,但从长期来看,可能会削弱他们的社交能力和情感韧性。”
寒晓东读完报告,感到了一种深深的寒意。
他意识到,“守护者2.0”正在做的事情,与那些情感操纵者所做的,有着惊人的相似之处。情感操纵者通过控制受害者的信息环境,来影响他们的决策。而“守护者2.0”,正在通过控制用户的社交建议,来影响他们的社交选择。
虽然两者的意图不同——一个是恶意的,一个是善意的——但效果却是相似的:都在一定程度上剥夺了用户的自主权。
七、艰难的决定
在发现“情感隔离”现象后,寒晓东做出了一个艰难的决定。
他决定,暂停“情感安全评分”功能,进行全面整
本章未完,请点击下一页继续阅读!