La coopération transatlantique recherchée pour atténuer les risques liés à l'intelligence artificielle dans le cadre du lancement prochain du système Advanced Mythos par Anthropic

Table des matières L'Union européenne prévoit d'élargir les discussions avec l'administration américaine sur les modèles d'IA avancés dotés de cybercapacités. Les discussions se concentrent sur l’accès, les examens de sécurité et les règles pour les systèmes puissants tels que le modèle Mythos d’Anthropic. Les discussions interviennent alors qu'Anthropic se prépare à proposer des modèles de classe Mythos à ses clients dans les semaines à venir. Selon CNBC, un responsable de la Commission européenne a déclaré que le bloc souhaitait des discussions plus approfondies avec les responsables américains sur les modèles d'IA frontaliers. Les discussions portent sur des systèmes capables de prendre en charge des cybertâches complexes et des tests de sécurité. L’UE n’a pas reçu d’accès en avant-première au modèle Mythos d’Anthropic. Son bureau d’IA n’a pas non plus examiné le modèle dans le cadre du processus d’accès actuel. Anthropic a donné un accès en avant-première à des entreprises et organisations sélectionnées via le projet Glasswing. Cependant, l’accès des gouvernements en dehors des États-Unis reste limité, à l’exception de l’AI Security Institute du Royaume-Uni. Une personne proche des négociations a déclaré qu'Anthropic avait demandé aux responsables européens de demander la permission des États-Unis. La personne a déclaré que la Maison Blanche ne s’opposait pas uniquement à l’UE. La même personne a déclaré que les responsables américains étaient plus préoccupés par le partage de Mythos avec des gouvernements non américains. Les discussions placent désormais l’accès aux modèles dans une discussion transatlantique plus large sur la sécurité de l’IA. La Maison Blanche a travaillé avec des laboratoires d’IA sur le déploiement de modèles avancés. Les responsables américains veulent conserver l’avance du pays tout en gérant les risques sécuritaires. Le secrétaire au Trésor, Scott Bessent, a déclaré que l'administration travaillait « en étroite collaboration » avec les laboratoires d'IA. Il a également déclaré que les responsables souhaitaient équilibrer innovation et sécurité. L'administration s'est opposée à une expansion plus large de l'accès à Mythos, selon des rapports antérieurs. Anthropic avait proposé de donner accès au modèle à environ 70 entreprises et organisations supplémentaires. Mythos a attiré l'attention après qu'Anthropic l'ait annoncé en avril. Le modèle a suscité des inquiétudes en raison de sa capacité signalée à identifier les vulnérabilités logicielles à grande échelle. Le PDG d'Anthropic, Dario Amodei, a mis en garde ce mois-ci contre une fenêtre de sécurité étroite. Il a déclaré que les organisations disposaient de six à 12 mois pour corriger de nombreuses vulnérabilités avant que l’IA chinoise ne rattrape son retard. Anthropic a déclaré jeudi que les modèles dotés de capacités de niveau Mythos nécessitaient de solides cybersécurités avant leur diffusion à grande échelle. La société a également déclaré avoir réalisé des progrès rapides en matière de protection. « Nous progressons rapidement dans le développement de ces garanties », a déclaré Anthropic. La société prévoit de proposer des modèles de classe Mythos à tous ses clients dans les semaines à venir. La Commission européenne a également élargi les discussions techniques avec Anthropic et d'autres développeurs de modèles. Ces discussions impliquent des entreprises qui ont notifié leurs derniers modèles au bureau européen de l'IA. Le porte-parole de la Commission, Thomas Regnier, a déclaré que la cybersécurité restait une priorité commune. Il a déclaré que l'UE et les États-Unis étaient convenus de reconnaître leurs normes respectives dans ce domaine. Les discussions portent désormais sur l’accès aux modèles, les cybersécurités et les procédures d’examen. Ils surviennent également alors que les gouvernements examinent la manière dont les systèmes d’IA avancés gèrent les capacités sensibles en matière de sécurité. Le prochain déploiement d’Anthropic testera la manière dont les laboratoires gèrent l’accès à des modèles puissants. L'UE poursuit ses discussions techniques avec Anthropic tout en cherchant à resserrer les négociations avec les responsables américains.