人工智能：威胁与机遇

欧洲的增长和财富与它将如何利用数据和互联技术紧密相关。 人工智能可以极大地改变我们的生活， 社会 –是好是坏–欧洲议会已经建立了一个 委员会 检查技术的影响。 以下是与AI的未来应用相关的一些关键机遇和威胁。

阅读有关什么是人工智能以及如何使用人工智能的更多信息.

人工智能的优势

欧盟国家已经在数字行业和企业对企业的应用程序中占了上风。 凭借高质量的数字基础设施和保护隐私和言论自由的监管框架，欧盟可以 成为数据经济及其应用的全球领导者.

人工智能给人们带来的好处

人工智能可以帮助人们改善医疗保健，更安全的汽车和其他运输系统，量身定制的，更便宜和更持久的产品和服务。 它还可以促进获得信息，教育和培训。 远程学习的需求变得越来越重要，因为 COVID-19大流行。 人工智能还可以使工作场所更安全，因为机器人可以用于危险的工作部分，并且随着人工智能驱动的行业的发展和变化而开辟新的工作岗位。

广告

人工智能为企业带来的机会

对于企业而言，人工智能可以推动新一代产品和服务的开发，包括在欧洲公司已经占据优势地位的行业中：绿色和循环经济，机械，农业，医疗保健，时尚，旅游。 它可以促进销售，改善机器维护，增加生产产量和质量，改善客户服务以及节省能源。

公共服务中的AI机会

用于公共服务的AI可以降低成本，并为公共交通，教育，能源和废物管理提供新的可能性，还可以提高产品的可持续性。 通过这种方式，AI可以为实现人类的目标做出贡献。 欧盟绿色协议.

加强民主

可以通过使用基于数据的审查来加强民主，以防止 虚假信息和网络攻击 并确保获得质量信息。 人工智能还可以支持多样性和开放性，例如，通过减少在聘用决策中存在偏见的可能性，而使用分析数据。

人工智能，安全保障

预计人工智能将在预防犯罪和刑事司法系统中得到更多使用，因为可以更快地处理海量数据，可以更准确地评估囚犯逃亡的风险，可以预测并预防犯罪甚至恐怖袭击。 在线平台已经使用它来检测非法行为和不当行为并做出反应。

在军事事务中，人工智能可用于黑客攻击和网络钓鱼的防御和攻击策略，或用于网络战中的关键系统，而自主武器系统的主要优势在于可以减少潜在的人身伤害而参与武装冲突。

人工智能的威胁与挑战

对AI系统的日益依赖也带来了潜在的风险。

人工智能的不足与过度使用

人工智能使用不足被认为是主要威胁：欧盟错失机会可能意味着主要计划（如欧盟绿色协议）的执行不力，与世界其他地区的竞争优势丧失，经济停滞以及人们的可能性降低。 使用不足的原因可能是公众和企业对AI的不信任，基础设施差，缺乏主动性，投资少，或者由于AI的机器学习依赖于数据，而来自分散的数字市场。

过度使用也可能会带来问题：对证明无效的AI应用程序进行投资，或者将AI应用到不适合的任务上，例如使用AI来解释复杂的社会问题。

责任：谁应对AI造成的损害负责？

一个重要的挑战是确定谁应对由AI操作的设备或服务造成的损害负责：在涉及自动驾驶汽车的事故中。 车主，汽车制造商或编程人员应承担赔偿责任吗？

如果生产者绝对没有问责制，那么可能就没有动力提供优质的产品或服务，并且有可能损害人们对技术的信任； 但是法规也可能太严格，扼杀了创新。

人工智能对基本权利和民主的威胁

AI产生的结果取决于它的设计方式和使用的数据。 设计和数据都可能有意或无意地出现偏差。 例如，问题的某些重要方面可能未编程到算法中，或者可能已编程为反映和复制结构偏差。 另外，使用数字来表示复杂的社会现实可能会使AI显得真实而精确。 有时将其称为数学清洗。

如果做得不好，人工智能可能会导致在雇用或解雇，提供贷款甚至刑事诉讼时受到种族，性别，年龄等数据影响的决定。

人工智能可能会严重影响隐私权和数据保护权。 例如，它可以用于面部识别设备或个人的在线跟踪和配置文件。 此外，AI可以将一个人提供的信息合并到新数据中，这可能会导致该人无法预期的结果。

它还可能对民主构成威胁； 人工智能已经被指责为基于一个人以前的在线行为创建在线回声室，仅显示一个人想要的内容，而不是为进行多元化，平等访问和包容的公开辩论创造环境。 它甚至可以用来创建极其逼真的假视频，音频和图像，称为“深造假”，它们可能会带来财务风险，损害声誉并挑战决策。 所有这些都可能导致公共领域的分裂和两极分化，并操纵选举。

人工智能还可以在损害集会和抗议自由方面发挥作用，因为它可以跟踪和描述与某些信仰或行为相关的个人。

人工智能对工作的影响

预计在工作场所使用AI可以减少大量工作。 尽管人工智能也有望创造并创造更好的工作，但教育和培训将在防止长期失业和确保熟练劳动力方面发挥关键作用。

信息大量收集还可能导致竞争扭曲，因为拥有更多信息的公司可能会获得优势并有效地淘汰竞争对手。

安全风险

与人类物理接触或集成到人体中的AI应用程序可能会存在安全风险，因为它们可能设计不当，滥用或被黑客入侵。 对武器中AI的管制不当可能导致人类对危险武器的控制丧失。

透明度挑战

可以利用信息获取的不平衡。 例如，基于某人的在线行为或其他数据，并且在他们不知道的情况下，在线供应商可以使用AI来预测某人愿意付款，或者政治竞选活动可以调整他们的信息。 另一个透明性问题是，有时人们可能不清楚他们是与AI交互还是与人交互。