La Grande-Bretagne envisage un mécanisme d’arrêt obligatoire pour les systèmes d’intelligence artificielle malveillants
Le gouvernement britannique veut un gros bouton rouge pour l’intelligence artificielle. Un groupe de législateurs propose un amendement qui permettrait au secrétaire à la Technologie d'ordonner l'arrêt immédiat des systèmes d'IA avancés s'ils constituent une menace pour la sécurité nationale ou la vie humaine.
Ce que dit réellement l’amendement
La proposition est soutenue par le député travailliste Alex Sobel, qui a recueilli le soutien d'au moins 11 de ses collègues députés. L'amendement accorderait au secrétaire à la Technologie le pouvoir d'ordonner l'arrêt des systèmes d'IA avancés dans des situations extrêmes, en particulier celles menaçant la sécurité nationale ou la sécurité publique.
La disposition n’est pas un projet de loi autonome. Il est intégré dans un projet de loi plus large sur la cybersécurité et la résilience, qui représente la mise à jour la plus importante du cadre de défense numérique du Royaume-Uni depuis des années.
Publicité
Une exigence notable : l’amendement impose des canaux de communication sécurisés avec le ministère de la Science, de l’Innovation et de la Technologie. Si un ministre souhaite activer un système d’IA, l’ordre doit transiter par des lignes cryptées et inviolables.
Cet effort s'inscrit dans le cadre d'une réforme parallèle de la loi sur l'utilisation abusive des ordinateurs de 1990, dans le cadre d'un projet de loi plus large sur la sécurité nationale. La réforme ajoute des dispositions relatives aux ordonnances relatives aux risques de cybercriminalité ainsi que des protections pour les professionnels de la cybersécurité.
Le contexte international
Le Royaume-Uni ne fonctionne pas en vase clos. Les discussions internationales autour des mesures d’urgence en matière d’IA prennent de l’ampleur, avec des personnalités telles que l’ancien président américain Donald Trump parmi celles qui insistent sur la nécessité de garde-fous sur les systèmes d’IA avancés.
Le Royaume-Uni s’est historiquement positionné comme un environnement réglementaire plus favorable à l’innovation que l’UE, qui a adopté sa loi complète sur l’IA en 2024. Cet amendement kill switch représente un changement vers une posture plus interventionniste, du moins dans les scénarios d’urgence.
Ce que cela signifie pour les marchés cryptographiques et numériques
Pour les acteurs du marché de la cryptographie, cette proposition compte plus qu’il n’y paraît à première vue. Les systèmes de trading automatisés, les robots de tenue de marché et les stratégies algorithmiques basées sur l’IA sont désormais profondément ancrés dans les marchés d’actifs numériques. Un arrêt ordonné par le gouvernement des systèmes d’IA, même s’il cible des menaces spécifiques, pourrait entraîner des perturbations des infrastructures commerciales.
Il y a un revers à noter. Des cadres réglementaires plus clairs autour de l’IA, même ceux qui incluent un pouvoir d’arrêt d’urgence, tendent à accroître la confiance institutionnelle au fil du temps. Les investisseurs institutionnels et les acteurs financiers traditionnels ont constamment cité l’incertitude réglementaire comme un obstacle à une participation plus approfondie au marché de la cryptographie.
Le mécanisme soulève également des questions sur les systèmes d’IA décentralisés. Arrêter un service d’IA centralisé exploité par une seule entreprise est simple. L’amendement, tel qu’il est actuellement structuré, semble conçu pour les déploiements d’IA centralisés traditionnels. La question de savoir si elle peut s’adapter aux architectures décentralisées reste une question ouverte que les législateurs n’ont pas abordée publiquement.