La cooperación transatlántica busca mitigar los riesgos de la inteligencia artificial en medio del próximo lanzamiento del sistema avanzado Mythos por parte de Anthropic

La Unión Europea planea ampliar las conversaciones con la administración estadounidense sobre modelos avanzados de IA con capacidades cibernéticas. Las discusiones se centran en el acceso, revisiones de seguridad y reglas para sistemas poderosos como el modelo Mythos de Anthropic. Las conversaciones se producen mientras Anthropic se prepara para ofrecer modelos de clase Mythos a los clientes en las próximas semanas. Según CNBC, un funcionario de la Comisión Europea dijo que el bloque quiere discusiones más sólidas con funcionarios estadounidenses sobre modelos fronterizos de IA. Las conversaciones cubren sistemas que pueden soportar tareas cibernéticas complejas y pruebas de seguridad. La UE no ha recibido acceso previo al modelo Mythos de Anthropic. Su oficina de IA tampoco ha revisado el modelo bajo el proceso de acceso actual. Anthropic brindó acceso anticipado a empresas y organizaciones seleccionadas a través del Proyecto Glasswing. Sin embargo, el acceso del gobierno fuera de EE. UU. sigue siendo limitado, a excepción del Instituto de Seguridad de IA del Reino Unido. Una persona familiarizada con las conversaciones dijo que Anthropic pidió a los funcionarios de la UE que solicitaran el permiso de Estados Unidos. La persona dijo que la Casa Blanca no se oponía únicamente a la UE. La misma persona dijo que los funcionarios estadounidenses tenían preocupaciones más amplias sobre compartir Mythos con gobiernos no estadounidenses. Las conversaciones ahora sitúan el acceso a modelos dentro de una discusión transatlántica más amplia sobre seguridad de la IA. La Casa Blanca ha trabajado con laboratorios de inteligencia artificial en la implementación de modelos avanzados. Los funcionarios estadounidenses quieren mantener el liderazgo del país y al mismo tiempo gestionar los riesgos de seguridad. El secretario del Tesoro, Scott Bessent, dijo que la administración trabaja “muy de cerca” con los laboratorios de inteligencia artificial. También dijo que los funcionarios quieren equilibrar la innovación y la seguridad. Según informes anteriores, la administración se opuso a una mayor expansión del acceso a Mythos. Anthropic había propuesto dar acceso al modelo a aproximadamente 70 empresas y organizaciones más. Mythos llamó la atención después de que Anthropic lo anunciara en abril. El modelo generó preocupaciones debido a su capacidad para identificar vulnerabilidades de software a escala. El director ejecutivo de Anthropic, Dario Amodei, advirtió este mes sobre una ventana de seguridad estrecha. Dijo que las organizaciones tenían de seis a 12 meses para solucionar muchas vulnerabilidades antes de que la IA china se pusiera al día. Anthropic dijo el jueves que los modelos con capacidad de nivel Mythos necesitan fuertes salvaguardias cibernéticas antes de su lanzamiento generalizado. La compañía también dijo que ha logrado avances rápidos en esas protecciones. "Estamos avanzando rápidamente en el desarrollo de estas salvaguardas", dijo Anthropic. La compañía espera llevar modelos de clase Mythos a todos los clientes en las próximas semanas. La Comisión Europea también ha ampliado las conversaciones técnicas con Anthropic y otros desarrolladores de modelos. En estas conversaciones participan empresas que notificaron sus últimos modelos a la oficina de IA de la UE. El portavoz de la Comisión, Thomas Regnier, dijo que la ciberseguridad sigue siendo una prioridad compartida. Dijo que la UE y Estados Unidos acordaron reconocer sus respectivos estándares en esta área. Las discusiones ahora cubren el acceso a los modelos, las salvaguardias cibernéticas y los procedimientos de revisión. También surgen cuando los gobiernos examinan cómo los sistemas avanzados de inteligencia artificial manejan las capacidades sensibles a la seguridad. El próximo lanzamiento de Anthropic probará cómo los laboratorios gestionan el acceso a modelos potentes. La UE continúa las discusiones técnicas con Anthropic mientras busca conversaciones más estrechas con funcionarios estadounidenses.