Anthropic dévoile une innovation révolutionnaire en matière d'IA pour renforcer les défenses cryptographiques

Table des matières Anthropic a présenté mardi son dernier modèle d'IA, Claude Mythos Preview, axé sur la cybersécurité. Le modèle vise à renforcer les défenses contre les cybermenaces en identifiant les vulnérabilités et en développant des exploits avec peu de surveillance humaine. Cette décision intervient quelques semaines après qu’une faille de sécurité ait révélé le code de Claude, qui a attiré une attention particulière sur les mesures de sécurité internes d’Anthropic. Claude Mythos Preview représente l'effort de pointe d'Anthropic en matière de cybersécurité, conçu pour découvrir des vulnérabilités de haute gravité. Lors de ses tests, Mythos a déjà identifié des milliers de failles sur les principaux systèmes, notamment les systèmes d'exploitation et les navigateurs Web. Selon l’entreprise, ce nouveau modèle vise à doter les défenseurs d’outils avancés avant que les cyber-attaquants puissent exploiter des capacités d’IA similaires. Le projet Glasswing, un programme de partenariat, a également été annoncé parallèlement au modèle Mythos. Il offre un accès anticipé au nouveau système d'IA à certaines entreprises comme AWS, Google et Microsoft, entre autres. Plus de 40 organisations feront partie de l'initiative, Anthropic s'engageant jusqu'à 100 millions de dollars en crédits d'utilisation pour soutenir le programme. Malgré les capacités prometteuses de Mythos, Anthropic a décidé de ne pas le diffuser à grande échelle. L'entreprise a souligné la nécessité de mesures de protection supplémentaires avant de déployer Mythos à grande échelle. "Notre objectif est de garantir que cet outil puissant puisse être déployé en toute sécurité et de manière responsable", a déclaré un représentant d'Anthropic. Cette mise en garde fait suite à un incident survenu plus tôt cette année lorsqu’une erreur d’emballage a révélé le code de Claude. L’incident a entraîné la libération accidentelle de plus de 500 000 lignes de code, provoquant une faille de sécurité importante. La tentative d’Anthropic de supprimer les fichiers divulgués a encore aggravé le problème, car elle a supprimé par erreur des milliers de référentiels GitHub. Les organisations partenaires du Projet Glasswing seront parmi les premières à tester Claude Mythos. Ces partenaires comprennent certains des plus grands acteurs de la technologie et des infrastructures, la Linux Foundation et Palo Alto Networks rejoignant le programme. L’initiative vise à exploiter la capacité de Mythos à identifier et exploiter les vulnérabilités tout en donnant la priorité à la sécurité de son déploiement. Parallèlement au programme de partenariat, Anthropic a promis 4 millions de dollars de dons à des groupes de sécurité open source. L’accent mis par l’entreprise sur le soutien aux initiatives de cybersécurité met en évidence son engagement à se protéger contre les cybermenaces avancées. Cependant, l’avenir de Mythos reste incertain, car Anthropic continue d’affiner ses capacités défensives avant de rendre le modèle plus largement disponible. Le développement de Mythos marque une étape importante dans la défense basée sur l’IA contre les risques de cybersécurité, même si Anthropic reste prudent quant à son utilisation plus large. Découvrez les actions les plus performantes dans les domaines de l'IA, de la cryptographie et de la technologie grâce à une analyse d'experts.