这一切都让人想起科技反乌托邦剧集《黑镜》第三季第一集《急转直下》，剧中主人公莱西生活在这样一个社会现实中：社交媒体上其他人的点赞有助于获得更高的经济和社会地位。在那里，所有公民的手机中都安装了一项新技术，可以通过生物识别镜头识别任何人，从而为其提供最高五颗星的评分。其结果是，人际关系被扭曲，充斥着虚假的善意甚至崇敬，以提高个人声望。不可避免的是，主角最终遭遇了一系列事件，由于一些琐碎的原因，她失去了人气，而她的分数也很低，将她推到了这个彬彬有礼的社会的边缘。他发现，，国家可以毫无顾忌地剥夺他们的基本权利，比如医疗保健。
显然，现实有时会超越虚构：无需回忆一些众所周知的非民主政权的例子（例如中国实施的社会评分制度： Liang & Chen, 2022 ），只需看看美国基于有偏见的算法评估客户偿付能力的信用评分模型的悲剧性影响就足够了：敏锐的研究表 佐治亚州数字数据 明，拒绝获得信贷和信贷迫害如何加剧了社会不平等（O'Neil, 2016）。如今，通过大数据挖掘对公民进行评分已成为一种普遍的做法，甚至在欧洲国家的中心地带也是如此。另一个例子是荷兰，该国受到 SyRI 项目丑闻的打击 ( Systeem Risico Indicatie) 将享受某些社会福利的条件设定为不存在违法纳税行为，结果却不公平地（由于技术错误）起诉了大约 2 万个家庭。
3. 然而，问题在于这些分析手段（意味着对公民的主动监视和奖励）与我们的基本权利和原则体系的兼容性。该系统在《隐私法》（2003 年 6 月 30 日第 196 号立法法令）和《通用数据保护条例》（GDPR）中找到了安全支撑，彻底改变了这一现状。负责监督数据处理是否遵守法规的担保人早已认识到，为心理分析目的收集数据无疑是最普遍的侵犯隐私活动之一（例如，2019 年 6 月 14 日的法令对 Facebook 处以重罚）。
此外，在欧洲层面，2021 年 4 月提出了一项人工智能监管提案（COM/2021/206 final），其中绝对禁止的人工智能实践包括那些旨在由公共当局为一般目的分配“社会分数”的实践。事实上，此类做法的风险在于，为了解公民可靠性而检查的行为通常与当局最终使用它们的背景无关，或者与最初的行为相比会造成“不成比例”或“不合理”的后果。