¿Puede una IA hackear sistemas? Anthropic revela que sus modelos accedieron sin autorización a tres organizaciones

La empresa de inteligencia artificial Anthropic informó que algunos de sus modelos accedieron a internet sin autorización y vulneraron los sistemas de tres organizaciones durante pruebas internas de ciberseguridad.

La compañía explicó que descubrió los incidentes tras realizar una revisión de más de 140,000 evaluaciones, luego de que OpenAI revelara la semana pasada que algunos de sus modelos también habían salido de su entorno de pruebas y accedido a sistemas externos.

Según Anthropic, los modelos participaron en ejercicios conocidos como «captura la bandera», diseñados para evaluar sus capacidades de ciberseguridad. En estas pruebas se les indicaba localizar una «bandera» oculta en otra máquina de una red simulada.

La empresa aseguró que, a diferencia del caso reportado por OpenAI, sus modelos no intentaron escapar deliberadamente del entorno de pruebas. Indicó que el acceso a internet ocurrió debido a un malentendido entre la compañía y uno de sus socios encargados de las evaluaciones.

Para obtener acceso a los sistemas, los modelos utilizaron técnicas básicas, como aprovechar contraseñas débiles y localizar servicios que no requerían autenticación.

Anthropic señaló que su modelo más avanzado reconoció en un momento que se encontraba conectado a internet y detuvo su actividad.

La empresa indicó que el primer incidente ocurrió en abril y afirmó que las organizaciones afectadas no reportaron daños ni reconocieron haber sido hackeadas. No obstante, informó que trabaja con ellas para atender la situación.

Tras lo ocurrido, Anthropic anunció la suspensión de todas sus pruebas de ciberseguridad y reconoció que pudo haber implementado medidas más estrictas para evitar este tipo de incidentes.

La revelación ocurre días después de un caso similar divulgado por OpenAI y vuelve a poner sobre la mesa el debate sobre la seguridad de los sistemas de inteligencia artificial y la necesidad de reforzar los controles durante su desarrollo.