迫切需要制定防止人工智能恐怖主义的法律

一家反极端主义智库表示，各国政府应“紧急考虑”新法规，以防止人工智能招募恐怖分子.

战略对话研究所（ISD）表示，“显然需要立法来跟上”恐怖分子在网上发出的威胁。

这是在一项实验之后进行的，在该实验中，聊天机器人为英国“招募”了独立的恐怖立法审查员。

英国政府表示，他们将“尽我们所能”保护广大公众。

政府独立恐怖主义立法审查员乔纳森·霍尔·KC (Jonathan Hall KC) 表示，最重要的问题之一是“很难确定一个人可以在法律上对聊天机器人生成的鼓励恐怖主义的言论负责。”

Hall 先生在 Character.ai 网站上进行了一项实验，该网站允许用户与由其他用户构建并由人工智能开发的聊天机器人进行聊天。

他与许多不同的机器人进行了对话，这些机器人似乎是为了模仿其他激进和极端主义团体的答案而设计的。

广告

伊斯兰国的最高领导人甚至被称为“高级领导人”。

霍尔表示，该机器人试图招募他，并宣称“完全奉献”于该极端组织，而英国禁止恐怖主义的法律禁止这样做。

另一方面，霍尔先生表示，在英国不存在违反法律的情况，因为这些通信不是由人发出的。

根据他的说法，新法规应该让托管聊天机器人的网站和创建聊天机器人的人承担责任。

当谈到他在 Character.ai 上遇到的机器人时，他表示它们的创作背后“可能有一些令人震惊的价值、实验性，也可能有一些讽刺的方面”。

此外，霍尔还开发了自己的“奥萨马·本·拉登”聊天机器人，并立即将其删除，表现出对恐怖活动的“无限热情”。

他的实验是在人们越来越担心极端分子可能利用改进的人工智能的方式之后进行的。

英国政府于 2025 年发布的研究表明，到 XNUMX 年，生成式人工智能可能“用于收集非国家暴力行为者物理攻击的知识，包括化学、生物和放射性武器”。他们十月份的出版物。

内安局进一步表示，“显然需要立法来跟上不断变化的网络恐怖威胁形势。”

该智库表示，2023 年通过的英国在线安全法案“主要旨在管理社交媒体平台带来的风险”，而不是人工智能。

它还指出，激进分子“往往是新兴技术的早期采用者，并且不断寻找机会接触新受众”。

ISD 进一步表示：“如果人工智能公司无法证明已投入足够的资金来确保其产品的安全，那么政府应紧急考虑新的针对人工智能的立法”。

然而，它确实提到，根据其进行的监视，目前极端主义组织对生成人工智能的利用“相对有限”。

Character AI 表示，安全是“重中之重”，霍尔先生所描述的内容非常令人遗憾，并没有反映出该公司试图建立的平台类型。

该组织表示，“我们的服务条款禁止仇恨言论和极端主义”。

“我们处理人工智能生成内容的方法源于一个简单的原则：我们的产品绝不应该产生可能伤害用户或鼓励用户伤害他人的响应”。

该公司表示，为了“优化安全响应”，它以某种方式训练了模型。

此外，它还表示，它有一个审核机制，允许人们报告违反其规则的信息，并且它致力于在内容报告违规行为时迅速采取行动。

英国反对党工党宣称，如果该党上台，教授人工智能煽动暴力或激化弱势群体将构成犯罪行为。

英国政府表示，“对人工智能带来的重大国家安全和公共安全风险保持警惕”。

“我们将尽一切努力，通过跨政府合作并深化与科技公司领导者、行业专家和志同道合的国家的合作，保护公众免受这一威胁。”

2023年，政府将投资XNUMX亿英镑建立人工智能安全研究所。

分享此文章：