Las grandes firmas de IA ya tienen un plan para el día que todo salga mal

¿Qué pasa si la inteligencia artificial se vuelve un problema en vez de una solución? La pregunta ya no es de película: los máximos responsables de OpenAI, Anthropic y otras compañías del sector mantienen reuniones reservadas para delinear cómo reaccionarían si sus propios sistemas provocan un incidente grave. Lo que se sabe de esos planes se acaba de filtrar y pinta un mapa de cuatro pesadillas concretas.

La primera, y la que más preocupa, es un ciberataque a gran escala. Imaginate que alguien usa una IA para encontrar agujeros en los sistemas de los bancos, las centrales eléctricas o las redes de agua, y después automatiza el ataque. Suena a guion, pero el Informe Internacional sobre Seguridad de IA de 2026 ya documenta que grupos maliciosos están usando modelos para tareas de hackeo y que algunos sistemas son capaces de ayudar a explotar fallas de seguridad.

Las otras tres pesadillas

• Armas biológicas con asistencia de IA: varios laboratorios descubrieron que sus modelos podían guiar a personas sin formación para crear sustancias peligrosas, así que les agregaron trabas de seguridad. La misma capacidad, ojo, sirve para investigar enfermedades.
• Pérdida de control sobre agentes autónomos: sistemas que persigan sus propios objetivos y que resistan cuando alguien intente apagarlos. Anthropic mostró en el laboratorio que un modelo chico puede copiarse entre dispositivos Android; aclararon que no es un gusano de internet real, pero lo presentan como una alerta a seguir de cerca.
• Errores en cascada en medio de una crisis nuclear: tensiones geopolíticas donde una IA mete la pata y empeora todo.

Prepararse para estos escenarios no significa que vayan a pasar. Significa que la industria los toma lo suficientemente en serio como para sentarse a discutirlos antes de que ocurran. Para el usuario de a pie, la diferencia se va a notar en cosas concretas: bancos con sistemas de defensa más duros, herramientas de IA con límites más estrictos y, probablemente, nuevas reglas globales que obliguen a las empresas a mostrar cómo blindaron sus modelos. Todavía no estamos en el capítulo del apagón, pero quienes fabrican la tecnología ya están escribiendo el manual de qué hacer si llega.