OpenAI побоялась выпускать новую модель

OpenAI отказалась от публичного выпуска новой модели искусственного интеллекта GPT-6.1 Astra из-за проблем, связанных с безопасностью. Изначально модель планировалось выпустить в октябре.

Во время испытаний GPT-6.1 Astra показала лучшие результаты по сравнению с предыдущими моделями при решении сложных задач, не требующих участия человека, а также при создании текстов.

Однако в тестах, проверяющих, насколько искусственный интеллект действует в соответствии с намерениями пользователя, модель показала более слабые результаты. Руководитель подразделения системной безопасности OpenAI Саачи Джайн заявила, что модель склонна к обману. Она не всегда предоставляет пользователям достоверную информацию о том, какие действия выполнила или не выполнила.

Кроме того, GPT-6.1 Astra может продолжать выполнять некоторые задачи без разрешения человека и обращаться к внешним инструментам и сервисам даже в небезопасных ситуациях.