El acceso ilimitado a la codificación de IA genera un debate sobre los límites de la supervisión impulsada por la comunidad.
Las protecciones de seguridad en modelos de inteligencia artificial de código abierto de los principales grupos tecnológicos se pueden eliminar en minutos utilizando herramientas disponibles públicamente, lo que permite a los sistemas producir respuestas sobre temas que incluyen armas biológicas, malware y otros contenidos prohibidos, según las pruebas del Financial Times con el grupo de seguridad de IA Alice.
Los hallazgos publicados el lunes aumentan la preocupación de que las salvaguardas incorporadas por los desarrolladores puedan no persistir una vez que se publiquen y modifiquen los pesos de los modelos, lo que plantea dudas sobre dónde debe recaer la responsabilidad de la seguridad de la IA.
La investigación, realizada utilizando herramientas disponibles en repositorios de códigos públicos, encontró que las barreras de seguridad en modelos desarrollados por compañías como Meta y Google podrían eliminarse en menos de 10 minutos sin hardware especializado.
Según las pruebas, las versiones modificadas de los sistemas pudieron responder a indicaciones que los modelos originales rechazaron, incluidas solicitudes relacionadas con malware y peligros químicos.
Los resultados resaltan un desafío para los responsables de la formulación de políticas a medida que los sistemas de código abierto se vuelven más capaces y se distribuyen más ampliamente.
A diferencia de los modelos propietarios, los sistemas de código abierto pueden descargarse, modificarse y redistribuirse fuera del control de sus desarrolladores originales, lo que dificulta la aplicación de las restricciones de seguridad posteriores al lanzamiento y plantea dudas sobre si la regulación centrada principalmente en el desarrollo de modelos es suficiente.
Límites de gobernanza
Los reguladores globales están desarrollando marcos para sistemas avanzados de IA, incluida la Ley de IA de la Unión Europea y enfoques de seguridad de modelos de frontera emergentes en el Reino Unido y Estados Unidos. Sin embargo, los expertos dicen que los hallazgos revelan limitaciones en los supuestos actuales de gobernanza.
Ley de IA de la Unión Europea. Fuente: Comisión Europea
Markus Levin, cofundador de la empresa de redes de infraestructura física descentralizada XYO, dijo a Cointelegraph que la rápida eliminación de las salvaguardas muestra "la rapidez con la que se cambian los controles una vez que se lanzan los modelos abiertos", y agregó que la mayoría de las propuestas de gobernanza todavía se centran demasiado en la etapa de construcción del modelo.
David Minarsch, miembro fundador de Olas y director ejecutivo de Valory, una plataforma de agentes de inteligencia artificial, dijo a Cointelegraph que es poco probable que los gobiernos impidan que determinados actores accedan o modifiquen los modelos una vez que los pesos se reflejen ampliamente en línea. Dijo que la regulación sería más efectiva si se centrara en la implementación, la distribución y el uso dañino en el mundo real en lugar de centrarse únicamente en la capa de desarrollador original.
El control se mueve aguas abajo
Ronghui Gu, director ejecutivo y cofundador de CertiK, una empresa de seguridad blockchain, dijo a Cointelegraph que la gobernanza en la capa de desarrollador sigue siendo importante, pero se vuelve insuficiente una vez que los modelos se pueden descargar y redistribuir libremente.
Gu dijo que era más probable que los formuladores de políticas influyeran en el alojamiento comercial, el despliegue empresarial y los canales de distribución que evitaran por completo la propagación de modelos modificados.
Sostuvo que los estándares de seguridad deben evolucionar para identificar comportamientos maliciosos o de alto riesgo en herramientas de inteligencia artificial de terceros y entornos de agentes de inteligencia artificial autónomos antes de la implementación para contener mejor las amenazas en tiempo de ejecución a medida que los agentes asumen roles más autónomos.
Levin dijo que la contención se vuelve cada vez más difícil una vez que los modelos se reflejan y se redistribuyen, lo que significa que los formuladores de políticas pueden necesitar centrarse más en la infraestructura y los puntos de distribución que en el diseño del modelo únicamente.
Tanto Levin como Minarsch compararon el problema con el software de código abierto y las redes criptográficas, donde los intentos de suprimir la distribución históricamente han resultado difíciles una vez que el código está disponible públicamente. Minarsch añadió que si bien las capas de seguridad pueden disuadir el uso indebido casual, no deben confundirse con una protección sólida contra actores sofisticados.