近 12 年由 AI 造成的事故暴涨 15 倍，Facebook、特斯拉、OpenAI 位居总量前三

日前网络安全公司 Surfshark 发布关于“AI incident”(AI 事故，也称 AI 翻车)的一份报告。报告列举了 2010 年以来由 AI 所导致的事故情况，并对 AI 事故的详细内容作出分析。

【资料图】

在过去的数十年间，尤其是进入 21 世纪 10 年代之后，人工智能开始拥有长足的发展，已经影响到了我们生活中的方方面面。随之而来的代价，就是 AI 造成的事故也越来越多。

▲ 图源 Surfshark，下同

数据显示，2010-2013 年的最初阶段，出现了 18 起 AI 事故。

2014-2019 年间，即人工智能的发展阶段，总共发生了 207 起 AI 事故。

终于，当人工智能发展到 2020-2023 年时，来到“应用阶段”，数据已经记录了 293 起 AI 事故，相较 2010-2013 年增长了大约 15 倍。

其中在 2010-2014 年，每年 AI 事故的数量均不足 10 起。从 2014 年起，每年事故数量均出现大幅增长，唯 2018、2019 年稍有回落。

而随着 2020 年 OpenAI 开发的 GPT-3 架构(ChatGPT 即是基于 GPT-3 研发)问世，AI 事故总量开始急剧上升，2022 年达到 91 起。

据报告显示，截至 2023 年 5 月，今年 AI 事故总量已经超过去年的一半，预计增长仍会继续。

另据软件评论服务公司 G2 的数据，从 2022 年 2 月到 2023 年 2 月，聊天机器人的搜索流量增长了 261%。而且，G2 整个数据库中增长最快的三个软件产品都是 AI 产品。考虑到近年来 AI 的使用量开始暴增，AI 事故数量明显增加也是“合乎情理”。

在这些事故中，Facebook、特斯拉、OpenAI 造成的 AI 事故占据目前所有已知事故的前三名，占比分别为 9.3%、7.7%、7.5%。

报告发现：

特斯拉所产生的 AI 事故多聚焦于其 Autopilot 辅助驾驶和 FSD 全自动驾驶，会使汽车要么意外刹车、要么无法识别前路物体;

Facebook 的 AI 事故是无法发现、识别暴力内容和深度伪造的影音文件，予以不法分子可乘之机;

OpenAI 的 AI 训练容易造成数据侵权问题、用户隐私问题，这些往往会给公司带来种种麻烦。