OpenAI prepara el lanzamiento restringido de Astra por sus capacidades críticas de ciberseguridad

La empresa OpenAI anunció que su próximo modelo de inteligencia artificial, denominado Astra, alcanzó el nivel de capacidades cibernéticas considerado crítico en su marco de preparación. La compañía informou que una versión del modelo será presentada públicamente próximamente, aunque las funciones avanzadas de ciberseguridad estarán disponibles en principio para participantes seleccionados de su programa de acceso anticipado Daybreak Blue.

¿Qué significa que Astra haya alcanzado un nivel crítico?

Según la definición presentada por OpenAI, un modelo alcanza ese umbral cuando puede encontrar y explotar de forma independiente vulnerabilidades previamente desconocidas en software real. Los responsables de seguridad de la empresa sostuvieron que Astra cumple con ese criterio y que, por ese motivo, aplicaron el procedimiento previsto para los casos en que un sistema plantea nuevos niveles de riesgo.

El procedimiento incluye la interrupción del desarrollo hasta la implementación de salvaguardas y medidas de seguridad adecuadas. OpenAI había informado previamente que suspendió durante varias semanas algunas tareas de entrenamiento vinculadas con Astra y con otro modelo de inteligencia artificial en preparación. La compañía indicó que esas tareas fueron reanudadas después de incorporar controles adicionales de seguridad y protección.

En la comunicación sobre el caso, OpenAI sostuvo que la interrupción resultó productiva y que considera posible lanzar Astra de manera generalizada y segura. La empresa no informó, en el fragmento disponible, detalles adicionales sobre los controles incorporados, la composición del programa Daybreak Blue ni la fecha exacta de lanzamiento público.

¿Cómo se distribuirán las capacidades avanzadas?

• Se prevé una versión pública de Astra para lanzamiento próximo.
• El acceso a las capacidades cibernéticas avanzadas será inicialmente restringido a socios seleccionados.
• Daybreak Blue es el programa de acceso anticipado mencionado por OpenAI.
• La empresa aplicará salvaguardas y controles de seguridad antes de la disponibilidad general del modelo.

La información disponible muestra que OpenAI vincula el lanzamiento de Astra con una evaluación de riesgo basada en su propio marco de preparación. La clasificación crítica se relaciona con la capacidad del sistema para operar de manera autónoma sobre vulnerabilidades de software hasta entonces desconocidas, y no con una característica de uso general informada en el material.