Crecimos leyendo historias y viendo películas como “2001: odisea del espacio”, el gran impacto visual y narrativo de “Matrix”, y “Terminator”. Todas tienen algo en común: la evolución humana termina por conducirnos a la autodestrucción, con la rebelión de las máquinas. Un Prometeo moderno que, en lugar de robar el fuego, abre la caja de Pandora.
Estos escenarios nos parecían lejanos; no imaginé que un día leería sobre el octubre negro, ni que los principales líderes de la inteligencia artificial la señalarían como un riesgo para el futuro de la humanidad.
Hoy no parece tan lejano; vivimos lo que se ha denominado octubre negro, una de las peores horas en la historia de la ciberseguridad, en la que se dio una racha de fallas críticas, ataques y alertas que coincidieron en pocos días, y todas relacionadas con la inteligencia artificial.
Por ejemplo, el equipo de PHP, lenguaje que mueve más del 70% de los sitios web del mundo, presentó fallas críticas, que permitían tomar el control de servidores ajenos.
También, atacantes contaminaron LiteLLM, una herramienta para conectar aplicaciones con modelos de IA, para robar credenciales en todo el mundo; incluso la Agencia de Seguridad Nacional de Estados Unidos pidió actualizar de inmediato o desconectar los sistemas.
Paralelo a esto, quienes construyen la tecnología, hoy piden pisar el freno. Dario Amodei, director de Anthropic, publicó un ensayo titulado “Debemos marcar el paso de la frontera”, en el que propuso desacelerar el desarrollo de los modelos más avanzados para que la seguridad alcance a la capacidad, y abrir los laboratorios a evaluadores independientes. Sam Altman, de OpenAI, y Elon Musk lo respaldaron de inmediato.
Días después, Altman advirtió: “Podríamos perder el control del futuro frente a la IA”. Amodei fue más lejos: “Si se gestiona mal, creo que la IA podría ser un riesgo para la humanidad en su conjunto”. Y agregó que ningún líder, empresa o nación puede manejar esto por sí solo.
Pero hay que separar el ruido. No hubo un ataque coordinado ni una máquina fuera de control: muchos incidentes llevaban meses en curso y solo se revelaron ahora. Hay que ser realistas, pero tampoco minimizar el impacto de todo esto. Es fundamental poner límites a los agentes de IA y tomar en serio las llamadas de alerta de los líderes en esta tecnología.
Pero sobre todo, necesitamos una ciudadanía consciente y gobiernos y líderes que entiendan el momento tan delicado que estamos viviendo. A diferencia del cine, aquí no hay un villano de metal: hay código frágil, prisa, descuido y ambición. El riesgo más importante es que la voracidad desborde el sentido común. El error más grande del capitalismo puede ser la IA; el octubre negro puede ser nuestra advertencia oportuna.
