数据自动化带来了新的风险：人工智能可能会在其自己的数据中产生意想不到的偏见，从而产生不公平的结果并可能损害客户的业务。

尽管这不是与 AI 相关的唯一风险，但机器对其数据产生偏见的可能性绝对是保险公司担心的问题。Cornerstone AI 及其去偏软件 BiasFinderAI 的创始人兼总裁 Chantal Sathi 说，人工智能的偏见可能来自几个来源。

“当你训练 AI 模型处理信息时，可能会出现偏差，”她说。“算法正在检测模式和统计数据，以便为您提供结果。”但是，如果统计数据以某种方式出现偏差，AI 就会发现并继续从偏差数据中学习和呈现。

例如，一项研究发现，谷歌展示的以女性为目标的广告少于以男性为目标的广告，这些广告承诺帮助她们获得更高收入的工作。

“偏差也可能来自这些算法的编码方式，”Sathi 解释说。“[它] 也可能发生在最后，当你查看所有输出时——这意味着这些机器计算的结果。它还取决于数据被解释和使用的方式……[人类] 数据分析师可能会以一种方式解释它，而实际上 [由机器] 以完全不同的方式读取它。”