英国考虑对流氓人工智能系统强制关闭机制

英国政府想要一个人工智能的红色大按钮。一群立法者正在推动一项修正案，允许技术部长在先进人工智能系统对国家安全或人类生命构成威胁时下令立即关闭它们。

修正案实际上说了什么

该提案得到了工党议员 Alex Sobel 的支持，他已经获得了至少 11 名议员的支持。该修正案将授予技术部长在极端情况下下令关闭先进人工智能系统的权力，特别是在威胁国家安全或公共安全的情况下。

该条款不是一项独立的法案。它正在被纳入更广泛的网络安全和弹性法案中，这是英国多年来对其数字防御框架最重要的更新。

广告

一项值得注意的要求：修正案要求与科学、创新和技术部建立安全的沟通渠道。如果部长要打开人工智能系统的开关，命令需要通过加密、防篡改的线路传输。

这项工作与 1990 年《计算机滥用法》的并行改革同时进行，作为更广泛的国家安全法案的一部分。此次改革增加了网络犯罪风险令的规定以及对网络安全专业人员的保护。

国际背景

英国并不是在真空中运作。关于人工智能紧急措施的国际讨论一直在升温，美国前总统唐纳德·特朗普等人物都在考虑对先进人工智能系统设置护栏的必要性。

与欧盟相比，英国历来将自己定位为更加有利于创新的监管环境，欧盟于 2024 年通过了全面的人工智能法案。这项终止开关修正案代表着向更加干预主义姿态的转变，至少在紧急情况下是这样。

这对加密货币和数字市场意味着什么

对于加密货币市场参与者来说，这一提议比乍一看更重要。由人工智能驱动的自动交易系统、做市机器人和算法策略已深深嵌入数字资产市场。政府下令关闭人工智能系统，即使是针对特定威胁，也可能会导致贸易基础设施中断。

有一个值得注意的另一面。随着时间的推移，围绕人工智能的更清晰的监管框架，甚至包括紧急关闭权力的框架，往往会增强机构信心。机构投资者和传统金融参与者一直将监管不确定性视为更深层次参与加密货币市场的障碍。

该机制还引发了有关去中心化人工智能系统的问题。关闭由一家公司运营的集中式人工智能服务非常简单。从目前的结构来看，该修正案似乎是为传统的集中式人工智能部署而设计的。它是否能够适应去中心化架构仍然是一个立法者尚未公开解决的悬而未决的问题。