Hacking & Cybersecurity in the age of AI Revolution

La tecnología que nos rodeaba dejó de basarse en certezas para sumergirse en un mar de probabilidades estadísticas, cambiando para siempre las reglas del juego en el entorno digital. En este contexto, el ingeniero y experto en ciberseguridad Chema Alonso ofreció una ponencia detallada sobre el impacto de la Inteligencia Artificial (IA), analizando desde sus fundamentos históricos hasta los riesgos críticos que enfrentaron las organizaciones. A lo largo de su intervención, Chema Alonso desglosó cómo la rapidez del avance tecnológico dejó en un segundo plano la seguridad por diseño, planteando un escenario donde la probabilidad y la estadística dominaron las herramientas digitales.

El "infierno" de los 60 años y los pilares de la IA

El ponente comenzó su exposición recordando que la IA no fue un concepto nuevo, situando su origen en el famoso test de Turing de 1950. Según explicó Chema, para que la IA fuera una realidad se necesitaron tres componentes esenciales que no convergieron hasta hace poco: algoritmos, datos y capacidad de cómputo. El experto detalló la cronología de esta evolución:

• En 2004, Google permitió el procesamiento masivo de datos con el paper de MapReduce.
• En 2009-2010, el nacimiento del cloud computing elástico proporcionó el cómputo necesario para democratizar estas tecnologías.

Sin embargo, Chema Alonso subrayó un punto crítico que denominó el "infierno de la inteligencia artificial": durante los 60 años que pasaron entre la teoría y la implementación práctica, los modelos se desarrollaron sin considerar la seguridad por diseño. El ponente recalcó que la prioridad fue siempre hacer que el sistema funcionara, ignorando las posibles vulnerabilidades que afloraron posteriormente.

Probabilidades frente a certezas

Un punto clave de la charla fue la distinción entre la programación tradicional y la IA estadística. Chema indicó que, mientras que antes la programación fue determinista ("si ocurre A, entonces haz B"), los modelos actuales funcionaron por probabilidades.

• Paridad humana: el ponente mencionó que se alcanzó en 2016 en reconocimiento visual, superando la tasa de error promedio de un humano
• Gestión de errores: el experto advirtió que un modelo podía reconocer a una persona con un 89% de probabilidad, lo que obligó a los ingenieros a gestionar el 11% de incertidumbre
• Ilusión de razonamiento: Chema Alonso señaló que, aunque pareció que los modelos razonaban, aquello fue una ilusión basada en grandes volúmenes de datos

El mecanismo de la creatividad y el "ataque del gato"

Chema describió el funcionamiento de la IA generativa a través del modelo generador-discriminador, donde un sistema intenta crear algo y otro lo valida. El experto utilizó una analogía con el cerebro humano para explicar la difusión: nuestro cerebro no guardó copias exactas de los recuerdos, sino información difuminada, algo que la IA imitó para crear cosas nuevas. No obstante, este proceso conllevó riesgos:

• Alucinaciones: el conferenciante explicó que la IA pudo crear información que pareció verídica pero fue falsa, simplemente porque sonó plausible para el validador
• Ataque del gato: Chema Alonso ilustró una técnica de manipulación que consistió en "marear" a la IA introduciendo información irrelevante o "cháchara" (como hablarle de gatos de repente) entre los datos reales para que el sistema perdiera el foco de atención y cometiera errores

Vulnerabilidades críticas: Jailbreaking y la metáfora de la biblioteca

Uno de los bloques más importantes de la conferencia se centró en cómo se pudieron "romper" estos sistemas. El ponente destacó que, al igual que el SQL Injection fue la vulnerabilidad reina durante décadas por la falta de seguridad por diseño, en la actualidad el mundo se enfrentó a problemas similares con los modelos de lenguaje.

• Jailbreaking: Chema relató técnicas para saltarse las restricciones éticas, como el uso de "juegos de rol" donde se le pidió a la IA que actuara como un personaje ficticio para obtener información prohibida, como métodos para cometer delitos
• Prompt Injection (la metáfora de la distracción): Chema Alonso utilizó una historia muy visual para explicar cómo un atacante puede desviar a una IA de su objetivo original. Explicó que si un estudiante va a una biblioteca con la orden de estudiar (el objetivo), pero un amigo lo intercepta y lo convence de ir a una cafetería, el estudiante acaba "desalineado" de su misión. Del mismo modo, un dato malicioso puede lograr que una IA, en lugar de resumir un correo, acabe ejecutando órdenes no autorizadas como transferir dinero

El futuro de los agentes y la "Tríada Letal"

Finalmente, el experto alertó sobre la llegada de los agentes de IA, sistemas con capacidad de tomar acciones en nombre del usuario. Chema Alonso definió lo que llamó la triada letal, que ocurrió cuando un agente tuvo simultáneamente:

1. Acceso a información sensible o sistemas internos
2. Datos que pudieron haber sido manipulados por un atacante
3. Capacidad de comunicarse con el exterior para filtrar datos

Como solución, el ponente recomendó la "regla de dos": permitir que la IA manejara solo dos de estos factores y dejar que un humano fuera siempre el responsable del tercero

Para finalizar su intervención, Chema Alonso concluyó enfatizando que nos encontramos ante uno de los cambios más significativos de nuestra generación, lo que exigía de todos una actitud de apertura y constante aprendizaje. El experto recalcó que, en este nuevo escenario de agentes autónomos y probabilidades estadísticas, la clave de la supervivencia digital no residía únicamente en la adopción de nuevas herramientas, sino en la capacidad de las personas para actuar como el eslabón final de seguridad y responsabilidad ante cualquier proceso crítico. De esta manera, la jornada cerró con una invitación a mantener la curiosidad intelectual, reafirmando que, a pesar del asombroso avance de la tecnología, el talento humano seguía siendo el motor fundamental para construir un futuro digital más sólido y seguro.

¿Quién es Chema Alonso?

Chema Alonso estudió Ingeniería Informática en la Universidad Politécnica de Madrid y se doctoró en Ciberseguridad en la Universidad Rey Juan Carlos. Fundó Informática 64 en 1999, posteriormente adquirida por Telefónica y renombrada como ElevenPaths, su división de ciberseguridad. Se incorporó a Telefónica en 2013, donde asumió el cargo de Director de Datos y Director Digital, liderando proyectos de IA, Big Data y seguridad durante 14 años como miembro del EXCOM y del Consejo de Ciberseguridad. En 2025, se incorporó a Cloudflare como Vicepresidente y Director de Desarrollo Internacional. Su función se centra en impulsar la expansión global de Cloudflare, fortalecer su presencia en Europa y Latinoamérica, y construir alianzas estratégicas.

Para contactar con Chema Alonso o enviarle mensajes a través de su buzón público, puedes hacerlo aquí.