Sam Altman suena la alarma: si no regulamos la IA, podemos perder el control o terminar dominados por unos pocos

¿Qué pasa si la inteligencia artificial se nos va de las manos? No hablo de una película de ciencia ficción, sino de la advertencia concreta que acaba de lanzar Sam Altman, el CEO de OpenAI, la empresa detrás de ChatGPT. Para él, hay dos riesgos centrales que deberían quitarnos el sueño y que van de la mano.

Los dos escenarios que preocupan a Altman

El primero es el que más suena en las películas: que la humanidad pierda el control de sistemas cada vez más capaces. Piénsenlo como un auto con piloto automático al que cada vez le cuesta más entender el botón de freno. "Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas", sostuvo Altman.

El segundo riesgo es más terrenal pero igual de grave: que una sola persona, empresa o país acumule un poder desproporcionado gracias a esa tecnología. "Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos", advirtió. Para graficarlo con una comparación cotidiana: es como si en un barrio todas las llaves de las casas terminaran en un solo bolsillo.

Qué propone para evitarlo

• Un marco regulatorio federal con requisitos de seguridad comunes para los llamados modelos de frontera, que son los sistemas más avanzados que existen hoy.
• La incorporación de auditores independientes que supervisen cómo se desarrollan y se usan esos modelos.
• La participación activa de los gobiernos para coordinar esfuerzos entre países, un punto donde las empresas, según el propio Altman, necesitarán respaldo estatal.
• Y, sobre todo, que las compañías no esperen nuevas leyes para empezar a aplicar medidas de seguridad por cuenta propia.

“Ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia.”Sam Altman, CEO de OpenAI

En criollo: Altman reconoce que evitar ambos riesgos al mismo tiempo es transitar un camino angosto. Pero insiste en que la alineación y la seguridad tienen que avanzar al mismo ritmo que las capacidades de los modelos, o incluso un paso adelante. Para el usuario común, esto significa que la próxima vez que abra ChatGPT o cualquier otra IA, la conversación ya no pasa solo por lo que puede hacer la herramienta, sino por quién decide qué puede hacer, quién la controla y quién la audita. Y ahí, dice Altman, no hay margen para improvisar.