人工智能的潜在风险是什么?

过去十年人工智能的繁荣为人类提供了各种方便的工具和技术。有了人工智能系统，企业更有效率，决策者更有见识，消费者也能有更好的体验。这些只是其中的一些人工智能的优势-随着开发人员和科学家在这一领域的新发现，人工智能的应用范围和重要性只会越来越大。

虽然AI技术使我们的生活在无数的方式方便，但它确实有缺点。随着AI的发展加速，业内专家和领导者敦促开发人员了解技术的潜在风险。像斯蒂芬霍金和科技巨头这样的科学家们喜欢比尔盖茨和伊龙麝香，都是直接直接的对人工智能越来越警惕．

但为什么？

如果没有适当的考虑，AI可能会导致基于种族或性别，不平等，人类失业，以及在极端情况下，甚至是人身伤害的偏见。在我们的第二篇文章中两部分系列，我们将研究一些最常见的关于人工智能的担忧及其带来的风险。

人工智能的潜在风险

1.工作自动化

专家们一致认为，工作自动化是人工智能应用最直接的风险。根据一项布鲁金斯学会2019年的研究在美国，自动化威胁着大约25%的美国工作。研究发现，自动化会影响低收入者，特别是那些从事食品服务、办公室管理和行政管理的人。重复性工作是最脆弱的，但是机器学习算法变得越来越复杂，需要学位的工作也可能面临更大的风险。

那么，在工作场所，人类会被机器人取代吗?不完全是。通过培训和教育项目，员工可以学会与人工智能一起工作，而不是被它取代。许多过程需要判断调用——而人工智能仍是一项不完善的技术——因此，这种“参与自动化”将是理想的模式，确保机器产生所需的结果。

一些人工智能技术，如自动语音识别(ASR)，可以从人类输入中受益匪浅。以雷夫行业领先的ASR引擎Rev.ai为例，这是一种完全自动化的解决方案，经过数百万小时的人工生成的文本的训练。这些培训数据来自我们超过6万名自由职业者的网络，他们为多个行业的客户创建了99%准确的文本。正是质量、数量和各种来源的数据让我们的语音文本输出速度更快、更准确。

因此，我们的自由撰稿人为我们的语音识别开发团队提供了地面真实的文字记录，帮助他们增强我们的ASR引擎。反过来，Rev.ai允许我们的自由撰稿人更快、更准确地生成文本。这种语音识别人工智能和训练有素的人类专业人员的结合确保了人工智能的速度和准确性不断提高，从而使客户(无论是人工还是自动化)获得尽可能高质量的产品。

2.公平和偏见问题

人工智能的一个明显优势是，算法可以做出公平的决定，不受人类偏见的影响。但人工智能系统的决策好坏取决于它所训练的数据。如果在用于训练机器学习模型的数据中，某个特定群体的代表性不足，那么该模型的输出可能会对该群体产生不公平的歧视。面部识别技术是最新受到审查的应用程序，但在过去几年里，已经出现了一些偏见的历史案例。

用于替代制裁的惩教罪犯管理侧写（COMPAS系统案例可能是有偏见的、不值得信任的人工智能最著名的例子。COMPAS是美国佛罗里达州和其他州法院采用的一种风险评估算法，用于预测被告成为累犯的可能性。但2016年ProPublica调查发现该算法对非裔美国被告存在偏见。ProPublica研究小组写道:“黑人几乎是白人的两倍，他们被贴上高风险标签，但实际上并没有再次犯罪。”

人工智能中的这种偏见是如何发生的?在大多数情况下，往往是潜在的数据导致了偏见。麦肯锡全球研究所(McKinsey Global Institute)表示，“模型可以根据包含人类决策的数据或反映社会或历史不平等的二级影响的数据进行训练。”甚至数据收集的方式也会产生偏差。

自动语音识别系统可能包含性别或基于种族的种族群体的偏见，因为训练ASR系统的数据集并不总是平等包容的。雷弗的语音转文字小组我很清楚这种偏见的存在．这就是我们积极寻找解决办法的原因。我们的演讲团队总是非常谨慎地选择训练数据。事实上，多亏了我们从各种音频源获得的大量训练数据，我们的ASR引擎已经比我们的竞争对手更少偏见．

3.事故和物理安全考虑

如果不加以控制，人工智能的缺陷可能会造成身体伤害。让我们来看看自动驾驶汽车，这是一种开始在当今汽车市场占据主导地位的人工智能应用。如果一辆自动驾驶汽车出现故障并偏离轨道，会对乘客、道路上的其他司机和行人造成立即的风险。

无人驾驶汽车是否构成威胁仍有待讨论。自动驾驶汽车的支持者认为，这项技术最终将使事故成为历史。但2020年6月的一项研究公路安全保险协会(IIHS)发现，自动驾驶汽车实际上仍难以避免约三分之二的碰撞。这尤其适用于超速或道路上的非法操纵——基于司机偏好的故意行为。

在关于研究的一份声明中，IIHS研究科学家亚历山德拉·穆勒说：“如果自动车辆依靠其承诺比人类司机更安全，设计人员将优先考虑安全偏好的安全性。”

一些自动驾驶车辆研究人员和倡导者对这项研究提出了异议不过，他指出，车祸减少三分之一将是一个重要的里程碑。

事实上，在2020年11月国家公路交通安全管理局宣布在制定管理自动驾驶汽车安全的规则框架时，正在征求公众意见。如果你有兴趣提供反馈，你可以这样做在这里．

4.恶意使用人工智能

人工智能研究人员已经成功地利用这项技术的应用做了很多有益的事情。但在错误的人手中，人工智能系统可能被用于恶意甚至危险的目的。在一个2018年的报告标题为“恶意使用人工智能：预测，预防和缓解”专家和研究人员发现，恶意使用AI技术可能会威胁到我们的数字，物理和政治安全。

• 数字安全:机器学习算法可以用来自动识别漏洞，黑客可以利用这些漏洞。虽然自主软件被用来攻击漏洞已经有一段时间了，但专家们担心，更复杂的黑客算法将能够更快地利用漏洞，造成更大的破坏。
• 物理安全:自动武器系统是另一个常被提到的人工智能风险。被编程去摧毁或杀死的机器是一个可怕的前景，国家之间潜在的人工智能军备竞赛更糟糕。在美国，国防创新委员会(Defense Innovations Board)就自主武器的道德开发制定了指导方针，但世界各国政府仍在决定如何监管此类机器。
• 政治安全:可以利用机器学习技术，在选举期间在关键选区进行高度个性化的虚假信息宣传。在另一种情况下，一些研究人员认为，自然语言处理(NLP)技术可以用来创建一份政客发表煽动性言论的虚假记录，从而挫败他们的竞选。

所以，AI真的是一个威胁吗？

人工智能会带来灾难性的风险吗?我们需要为终结者在街上徘徊做准备吗?

简而言之，不——如果这些风险通过有原则的、道德的发展和监管机构的仔细考虑．专家认为，人工智能的未来将取决于不同背景，种族，性别和职业的各种人口之间的辩论，以解决这一技术对我们生活的广泛影响。

语音识别技术是最有用和最有优势的人工智能应用之一，在多个行业创造效率和简化工作流程。在Rev，我们致力于实现更快、更公平、更准确的AI模型。Rev.ai始终优于类似的解决方案从谷歌，亚马逊，和其他主要参与者，我们期待看到我们可以提供更好的解决方案，我们的客户在未来。点击这里阅读我们系列的第一部分，人工智能的优势．

免费电子书:如何过渡到使用更多的人工智能