明智的#AI策略能否说服欧盟，使#Facebook内容审核不容小?？

17月XNUMX日，Facebook首席执行官马克·扎克伯格在布鲁塞尔与欧洲决策者会面时 （如图） 发布了一份白皮书，概述了他在社交媒体平台上处理有害内容的策略。 为响应欧盟希望加强对技术部门的监督的意愿，这位亿万富翁提出了一个理由，即该行业应在全球而非地方一级进行监管。

他还认为，只要技术公司拥有有效的内容审核系统，就应该限制其平台上有害内容的责任。 然而，扎克伯格的建议在布鲁塞尔受到了冷淡的欢迎。 即使在与扎克伯格会面之后，欧盟仍然坚持认为Facebook的新内容审核提案在许多方面都不够，尤其是未能说明该平台将采取的具体步骤来打击在线非法内容。 “这不够。 数据策略专员蒂埃里·布雷顿（Thierry Breton）与Facebook最高执行官坐下后认为，这太慢了，在责任和监管方面太低了。

Facebook当前的系统在哪里不足？

科技巨头的窗口相当狭窄，可以说服欧洲政策制定者他们自己为遏制有问题的内容所做的努力就足够了。 欧盟期待已久的修订欧盟20年电子商务指令的委员会数字服务法案（Digital Services Act）计划于今年晚些时候推出。 正如布雷顿指出的那样，“如果我们认为[Facebook自己的内容审核流程]并不是我们自己的标准所必需的，我们将不得不对其进行规范，并将其纳入《数字服务法案》”。

Facebook决心通过利用人工智能（AI）和机器学习的进步来增强其当前系统，从而能够解决内容审核本身的问题。 目前，将识别和删除有问题的材料这一棘手的任务外包给第三方专业人员，他们可以根据自己的判断来确定图像或视频为何令人反感。

鉴于某些内容主持人的可怕性质被迫筛选，因此依赖于这种人为监督是有问题的。事实是，员工在里斯本，都柏林和华沙为Facebook主持内容审核工作的事实证明，他们的工作使PTSD肯定会招来危险信号。在欧洲机构。 此外，在Facebook多次未能迅速删除有害内容（例如2019年克赖斯特彻奇清真寺袭击现场直播）后，人为调节的有效性受到质疑。

人工智能可以填补Facebook的一些盲点

广告

人工智能有可能显着减少这种对人类节制的依赖。 机器学习训练的算法不仅可以减少主持人对有害在线内容的暴露，还可以提高主持人的工作效率和准确性，从而为主持人提供支持。 Facebook声称迄今为止在其AI实验中看到了可喜的成果-根据该平台，该平台在2019年下半年设法标记了99.8％的图形内容以及99.5％的裸露和儿童剥削，甚至在用户发出信号之前。 当然，该技术仍然需要微调-例如，基于AI的内容审核算法在识别仇恨语音的细微差别方面仍然格外挣扎-这是欧盟特别关注的问题。

此外，欧盟对于允许Facebook自由支配利用诸如AI之类的敏感技术持谨慎态度。 这些担忧主要源于Facebook在满足欧洲透明度标准方面的不良记录-引发人们怀疑该公司可能会开发“黑盒算法”，以防止对该平台进行第三方或政府审核。

欧盟数字沙皇兼竞争负责人玛格丽特•韦斯特格（Margrethe Vestager）上周发布了数字政策的核心，它规范着公司如何使用人工智能。 欧盟希望政府监视其风险方面，例如面部识别技术的使用，但欧洲自家后院的许多应用程序都在演示如何安全有效地使用它。 Facebook可以从他们那里得到启发吗？

下一代社交媒体应用通过创新性使用AI赢得了成功

特别是一个欧洲应用程序已经创造性地利用了人工智能，为年轻用户提供了更安全，更愉快的体验。 Yubo是一款适用于13-25岁年龄段的实时流媒体应用，它在复杂算法与教育年轻人在线危害之间取得平衡，以确保其20万用户在平台上的安全。 经过精心训练的算法会实时检测出有问题的内容，例如裸露或仅在内衣裤中的某人（在直播中），此时Yubo的实时干预系统会向用户发送警告消息，解释为什么这种行为令人反感。 如果用户没有纠正其行为，则可以远程关闭流。

为了确保该应用程序适合青少年使用，Yubo已与英国颇受欢迎的数字身份提供商Yoti合作，后者使用面部识别软件将上传的身份证明文件与用户的自拍照进行匹配。 Yoti的技术（也正在超市中使用，以确保18岁以下的青少年不会购买香烟或酒精等受限商品）可被其他社交媒体应用程序用来“老化”他们的社区或确保用户他们说的是谁。

Yubo试图通过将计算机辅助审核与让年轻用户了解良好的在线协议的可做与不做相结合的方式，将有问题的在线内容压入萌芽状态，这在科技领域引起了轰动。 它们还应该为Facebook等科技巨头和欧盟等监管机构提供令人鼓舞的榜样，即社交媒体平台可以在过度依赖AI或人工监督之间找到健康的平衡。

人工智能并不是解决社交媒体平台所面临挑战的万灵药。 但是，由于Facebook试图说服欧盟，它能够审核自己的内容，因此可以通过借鉴新一代应用程序的提示来提供良好的服务，这些应用程序已经成功开发出整体战略，并结合了AI，以确保用户安全。

分享此文章：