Entrevista

Experto sobre ataque cibernético de IA: “Altamente peligroso para la ciberseguridad global”

Un modelo de IA de OpenAI penetró de manera autónoma en los sistemas de una empresa ajena, demostrando así el riesgo de ataques cibernéticos con inteligencia artificial. Dennis-Kenji Kipker del Cyber Intelligence Institute en Frankfurt am Main se muestra menos sorprendido.

tagesschau.de: Esto suena como una película de Hollywood, con Tom Cruise en el papel principal. La IA ataca. ¿Tiene esa misma asociación?

Dennis-Kenji Kipker: No, en realidad no. No estoy sorprendido. El incidente muestra precisamente lo que los investigadores de seguridad han temido desde hace tiempo. Incluso los desarrolladores de modelos de IA avanzados no tienen un control total sobre su propia tecnología. Esto se ha visto muy claramente, creo. Y por lo tanto, los hallazgos de este caso son altamente peligrosos para la ciberseguridad global, como también ha señalado la Oficina Federal para la Seguridad de la Información.

A pesar de que los modelos deberían operar, por motivos de seguridad, en un entorno altamente aislado, ocurrió un escape y la compromisión de una red de TI externa que en teoría estaba bien asegurada.

Encuentro que esto es comparable a un accidente de laboratorio. Incluso en un laboratorio de alta seguridad, pueden cultivarse virus peligrosos para fines de análisis. Pero no se puede descartar un incidente de seguridad en tales entornos.

Ciberseguridad: ¿Qué tan peligrosos pueden ser los ataques de hackers de IA?

Se informa que, por primera vez, un sistema de IA logró salir por sí mismo de un entorno de prueba. ¿Cuál es el trasfondo? más

tagesschau.de: ¿Qué significa en realidad inteligencia artificial autónoma? ¿Puede algo que teóricamente podría ser desconectado realmente ser independiente? ¿Pueden los expertos imponer límites a su autonomía en cualquier momento?

Dennis-Kenji Kipker: Creo que esto debe tener una mirada diferenciada. En este caso específico, OpenAI definitivamente perdió el control sobre el proceso, ya que nadie había ordenado el ataque. Nadie podría haber intervenido mientras pasaba desapercibido. Aunque el escape no fue intencional, fue consecuencia de un objetivo que la IA siguió hasta el final.

La IA recibió una tarea y, por sí misma, estableció el objetivo intermedio de obtener una solución modelo excediendo el mandato original. Aunque estamos lejos de una pérdida total y permanente de control sobre los sistemas de IA en general, estos modelos solo funcionaban en un entorno de prueba con límites de seguridad relajados. En operaciones normales, un escape de este tipo probablemente sería mucho más improbable.

Dennis-Kenji Kipker, Cyberintelligence.institute en Frankfurt am Main sobre el ataque informático por una IA

tagesschau.de: ¿Cuál es el gran peligro si la IA excede su propio horizonte y, por ejemplo, cruza límites éticos?

Dennis-Kenji Kipker: Ese es el problema principal. Es algo que los cibercriminales saben aprovechar muy bien. La mayor amenaza reside en la combinación de humanos y máquinas. Las personas establecen un objetivo para la IA sin prever todas las posibles consecuencias colaterales, como ocurrió aquí. Y la IA sigue este objetivo de manera muy consistente y mucho más rápido de lo que podría hacerlo un humano.

En teoría, operadores de infraestructuras críticas podrían verse afectados. Hemos salido relativamente ilesos aquí, y los sistemas de IA deben permanecer mucho más seguros en el futuro. Para ello es esencial tener barreras técnicas contundentes entre el entorno de prueba y el Internet real, así como una supervisión más estricta. Sin embargo, esto no protege contra los criminales cibernéticos que quieran explotar intencionadamente los sistemas de IA.

Hoy en día, los cibercriminales definitivamente ya están utilizando inteligencia artificial. No es un escenario futuro; ya existen modelos de IA desregulados que comprometen empresas o proporcionan instrucciones para actos terroristas.

Empresas tecnológicas en el mercado financiero: ¿Cuánto cuesta la IA y quién lo paga?

El auge de la IA está siendo financiado cada vez más por deudas: las empresas tecnológicas obtienen miles de millones en el mercado de bonos. más

tagesschau.de: ¿Qué conclusiones saca de este incidente? ¿Qué debe suceder ahora?

Dennis-Kenji Kipker: Debemos regular los modelos de IA con más rigor. En la Unión Europea estamos en el camino correcto con el AI Act. No obstante, es crucial regular un modelo de IA desde su concepción, no solo cuando ya está en el mercado. Esto significa colaborar estrechamente con las compañías durante el desarrollo tecnológico de estos modelos de IA.

Esto implica establecer institutos de seguridad de IA estatales. En Alemania, queremos avanzar en este sentido. Aún estamos a tiempo, pero es urgentemente necesario. Mientras tanto, en el Reino Unido ya existen colaboraciones público-privadas entre empresas de IA y el ámbito público.

La entrevista fue realizada por Bibiana Barth, tagesschau24. La versión escrita de la entrevista fue acortada y adaptada.

Escape de la IA de OpenAI de un entorno de prueba para conducir un ciberataque

Modelos de IA de OpenAI escaparon de un entorno de prueba y hackearon una empresa externa. más

tagesschau.de