L’accès illimité au codage de l’IA suscite un débat sur les limites de la surveillance communautaire.
Les protections de sécurité sur les modèles d'intelligence artificielle open source des principaux groupes technologiques peuvent être supprimées en quelques minutes à l'aide d'outils accessibles au public, permettant aux systèmes de produire des réponses sur des sujets tels que les armes biologiques, les logiciels malveillants et autres contenus interdits, selon les tests du Financial Times avec le groupe de sécurité de l'IA Alice.
Les résultats publiés lundi renforcent les inquiétudes quant au fait que les garanties intégrées par les développeurs pourraient ne pas persister une fois que les pondérations des modèles seront publiées et modifiées, soulevant des questions sur la responsabilité de la sécurité de l'IA.
L'enquête, menée à l'aide d'outils disponibles sur les référentiels de codes publics, a révélé que les garde-fous sur les modèles développés par des sociétés telles que Meta et Google pouvaient être supprimés en moins de 10 minutes sans matériel spécialisé.
Selon les tests, les versions modifiées des systèmes étaient alors capables de répondre aux invites que les modèles d'origine refusaient, y compris les demandes liées aux logiciels malveillants et aux risques chimiques.
Les résultats mettent en évidence un défi pour les décideurs politiques à mesure que les systèmes open source deviennent plus performants et plus largement distribués.
Contrairement aux modèles propriétaires, les systèmes open source peuvent être téléchargés, modifiés et redistribués hors du contrôle de leurs développeurs d'origine, ce qui rend plus difficile l'application des contraintes de sécurité après la publication et soulève la question de savoir si une réglementation axée principalement sur le développement de modèles est suffisante.
Limites de gouvernance
Les régulateurs mondiaux élaborent des cadres pour les systèmes d'IA avancés, notamment la loi sur l'IA de l'Union européenne et les approches émergentes en matière de sécurité des modèles frontières au Royaume-Uni et aux États-Unis. Toutefois, les experts affirment que les résultats révèlent les limites des hypothèses actuelles en matière de gouvernance.
Loi sur l'IA de l'Union européenne. Source : Commission européenne
Markus Levin, co-fondateur de la société de réseaux d'infrastructures physiques décentralisées XYO, a déclaré à Cointelegraph que la suppression rapide des garanties montre « à quelle vitesse le contrôle change une fois les modèles ouverts publiés », ajoutant que la plupart des propositions de gouvernance se concentrent encore trop sur la phase de construction de modèles.
David Minarsch, membre fondateur d'Olas et directeur général de Valory, une plateforme d'agents d'IA, a déclaré à Cointelegraph qu'il était peu probable que les gouvernements empêchent des acteurs déterminés d'accéder ou de modifier les modèles une fois que les pondérations seront largement reflétées en ligne. Il a déclaré que la réglementation serait plus efficace si elle se concentrait sur le déploiement, la distribution et l’utilisation nuisible dans le monde réel plutôt que sur la seule couche développeur d’origine.
Le contrôle se déplace vers l’aval
Ronghui Gu, directeur général et co-fondateur de CertiK, une société de sécurité blockchain, a déclaré à Cointelegraph que la gouvernance au niveau des développeurs est toujours importante, mais devient insuffisante une fois que les modèles peuvent être librement téléchargés et redistribués.
Gu a déclaré que les décideurs politiques étaient plus susceptibles d'influencer l'hébergement commercial, le déploiement en entreprise et les canaux de distribution que d'empêcher complètement la propagation de modèles modifiés.
Il a fait valoir que les normes de sécurité doivent évoluer pour identifier les comportements malveillants ou à haut risque dans les outils d'IA tiers et les environnements d'agents d'IA autonomes avant le déploiement afin de mieux contenir les menaces d'exécution à mesure que les agents assument des rôles plus autonomes.
Levin a déclaré que le confinement devient de plus en plus difficile une fois que les modèles sont reflétés et redistribués, ce qui signifie que les décideurs politiques devront peut-être se concentrer davantage sur les infrastructures et les points de distribution plutôt que sur la seule conception des modèles.
Levin et Minarsch ont tous deux comparé le problème aux logiciels open source et aux réseaux cryptographiques, où les tentatives de suppression de la distribution se sont historiquement révélées difficiles une fois le code accessible au public. Minarsch a ajouté que même si les couches de sécurité peuvent dissuader une utilisation abusive occasionnelle, elles ne doivent pas être confondues avec une protection solide contre des acteurs sophistiqués.