Hinton, el padre del deep learning, dice que hay hasta una chance en cinco de que la IA nos extinga y pide un tratado global ya

¿Puede una tecnología inventada por nosotros mismos terminar con nosotros? Esa es la pregunta que viene esquivando el debate sobre inteligencia artificial desde hace años, y que ahora pone sobre la mesa uno de los científicos que más hizo para que esa tecnología exista. Geoffrey Hinton, el británico-canadiense de 78 años al que muchos consideran el padre del aprendizaje profundo, sostiene que existe entre un 10 % y un 20 % de probabilidades de que los sistemas superinteligentes provoquen la extinción de la especie humana en las próximas tres décadas.

El dato es fuerte, y él mismo lo reconoce. Lo que lo inquieta no es solo el número, sino la velocidad a la que la cosa se aceleró: según contó, los avances de los últimos años superaron con creces sus propias estimaciones de hace una década. Por eso renunció a Google en 2023, para poder hablar sin ataduras. Y por eso insiste, cada vez que puede, con una idea simple: así como un auto sin volante a alta velocidad es un suicida, la innovación en IA sin regulación estatal es un peligro en crecimiento.

No es ciencia ficción: ya entienden conceptos, dice

Hinton marca una distinción clave para entender de qué hablamos cuando hablamos de riesgo. Los modelos de lenguaje más avanzados, explica, dejaron de ser simples detectores de patrones estadísticos en montañas de texto. Ahora, según su lectura, comprenden de verdad los conceptos abstractos que procesan. Eso cambia el escenario: ya no estamos ante un loro que repite, sino ante algo que entiende, y eso es otra categoría de riesgo.

“Confiar en que el mercado se autorregule ante una amenaza de esta escala es un error estratégico. La competencia geopolítica no puede ser excusa para postergar leyes globales”Geoffrey Hinton

El Nobel de Física 2024 rechaza de plano el argumento de quienes piden correr menos en materia regulatoria para no quedar atrás de Estados Unidos o China. Para él, esa mirada cortoplacista es justamente lo que nos puede dejar sin margen de maniobra. La ventana para definir la orientación ética de estos sistemas todavía existe, insiste, pero se achica día a día a medida que los modelos ganan capacidad por sí solos.

• Hinton dejó Google en 2023 para poder alertar sobre los riesgos de la IA sin conflictos de interés.
• Estima entre 10 % y 20 % las probabilidades de extinción humana por superinteligencia en un horizonte de 30 años.
• Afirma que los modelos actuales ya comprenden conceptos abstractos, no solo patrones estadísticos.
• Pide regulación estatal urgente y un marco legal global, no autorregulación de mercado.
• Advierte que el margen para orientar éticamente la tecnología se reduce con cada nuevo avance.