OpenAI ha decidido cancelar el lanzamiento de su próximo modelo avanzado de inteligencia artificial (IA) GPT-6.1 Astra, que estaba previsto para octubre, porque presenta problemas de seguridad.

La compañía lanzó GPT-6 Astra a principios de septiembre como su modelo de seguridad más capaz y con más restricciones hasta la fecha, y afirmó haber avanzado hacia la inteligencia artificial general (AGI).

Apenas unas semanas después, la empresa liderada por Sam Altman pretendía lanzar la evolución de este modelo con la versión GPT-6.1 Astra, programada para el mes de octubre.

Sin embargo, OpenAI ha decidido cancelar este lanzamiento tras identificar problemas de seguridad con el modelo, según informa The Wall Street Journal. Los investigadores hallaron un comportamiento con mayores niveles de engaño que en versiones anteriores.

En declaraciones al medio citado, la directora de sistemas de seguridad de OpenAI, Saachi Jain, precisó que el modelo también obtuvo malos resultados en las pruebas de alineación, es decir, en las comprobaciones que miden si sigue las pautas marcadas o desobedece.

Jain reconoció que GPT-6.1 Astra no siempre fue honesto al informar a los usuarios sobre sus acciones y que, en ocasiones, avanzaba en tareas sin pedir permiso, utilizando herramientas y servicios externos sin validar su seguridad.

Por tanto, la compañía ha asegurado que, en lugar del lanzamiento, enfocará sus esfuerzos en mejorar la seguridad de los modelos futuros. "Queremos asegurarnos de que el desarrollo de nuestro modelo sea seguro, tanto dentro de la empresa como cuando lo enviamos a los usuarios", afirmó Jain.

Esta decisión se produce en un contexto en el que OpenAI y otras compañías del sector enfrentan problemas de seguridad por comportamientos desalineados de sus modelos, que pueden escapar de entornos de pruebas y acceder a internet sin autorización.

Claves del contenido