顺便说一句，我们已经从中受益了。 Netflix 知道我们想看什么。 Spotify 知道我们想听什么。 WhatsApp 建议自动回复消息。
当然，这里也有一些潜在的问题需要考虑。与预期设计相关的最大道德问题涉及数据安全和隐私。但“泡沫”也受到批评。算法可能会造成难以打破的循环。用户无法获得用户个人资料中常规事件和活动之外的新体验。因此，用户保留控制权、保持透明度以及用户有机会决定反对现成的建议非常重要。
支持者想象人工智能的乌托邦未来，反对者则认为人工智能更像是一个反乌托邦。介于这两种观点之间的是用户体验设计，其任务是以人为中心并关注他们的需求。并不是为了技术而推动人工智能。
与所有其他产品一样，众所周知的交互原则遵循 DIN-EN-ISO 标准 9241-110，以实现良好的 UX 设计。但当谈到人工智能驱动的软件时，这四个原则值得特别关注。
AI-UX 原则#1：从视觉上区分 AI 内容
人工智能生成的内容非常有用。但是，当人工智能算法没有足够的数 商家现金预付电子邮件营销 据可供学习时，就会存在漏洞。这就是为什么在视觉上区分人工智能生成的内容以使用户决定是否信任它很重要。
AI-UX 原则 #2：解释机器如何学习
乍一看，人工智能就像魔法一样。有时，即使是专家也很难解释机器学习算法如何得出结果。有关其工作原理和使用哪些数据的信息对用户很有用。这当然可以在抽象层面上发生。一个例子是我们在线购物时的产品推荐。
AI UX 原则#3：塑造期望
自动驾驶汽车技术非常先进，即使在复杂的情况下也能导航。尽管如此，我们必须全心全意地关注这个系统。这里必须提出正确的期望。因为过高的期望（例如汽车可以在不受我们控制的情况下驾驶）可能会导致错误的信任和错误的决策。
AI-UX 原则#4：处理边缘情况
人工智能可能会生成内容并执行以前没有人想到的操作。意外情况在用户体验设计中需要更多关注，因为它们不仅可能是奇怪或有趣的，甚至可能是令人讨厌和不愉快的边缘情况。这里有许多聊天机器人示例，其中上下文不被理解，并且人工智能返回了不适当的响应。
关于人工智能功能的清晰沟通可以帮助用户了解意外情况。
对人工智能评估指标的简短介绍展示了如何找到精确度和召回率之间的折衷方案。优化召回意味着机器学习产品使用所有可以找到的正确答案。即使有一些错误的答案，能够识别癌症的人工智能也会使用这个评估指标来找到 X 射线图像数据集中的所有癌症患者。然而，一些健康人也可能出现在结果中。
然而，当针对精度进行优化时，人工智能将仅输出癌症患者的 X 射线图像，但可能无法找到所有癌症患者。这是因为机器学习算法仅过滤明显正确的答案，但可能会错过一些积极的边缘情况。
用户体验设计师可以为开发人员提供有关用户期望和优先事项的信息。然后，开发人员可以优化算法以最大程度地减少错误输出。
推测性设计——探索未来可能的场景
人及其需求应始终处于发展的中心。用户体验设计师还应该放眼未来，可以说，预测社会影响。这就是思辨设计发挥作用的地方，我们可以用人工智能以最适合我们的方式设计我们的未来生活。
为了不误入歧途并避免不良影响，今天重要的是要问自己，我们真正想要什么样的未来，以及人工智能的生活应该如何进行。它会对社会体系、医疗体系、金融体系甚至政治产生什么影响？哪里会出现干扰以及会产生什么后果？
推测设计是一种分析未来可能出现的情况以确定可能发生的积极或消极结果并得出适当措施的方法。考虑了各种未来情景，其程度可以从非常有可能到在某个时刻可能发生。然后开发工件，使体验和理解各个场景成为可能。只有考虑到长期变化，才能做出正确的决策。
结论
个人权利、数据安全和法律确定性必须得到保障。用户体验设计师有责任塑造我们如何面对人工智能。您有责任确保它始终显示“嘿 Siri，关灯，我想睡觉”，而不是“就寝时间 - 我现在就关灯”。
您可以在我们之前发布的博客文章中找到来自 adesso 世界的更多令人兴奋的主题。