OpenAI отказалась от запуска новой версии GPT-6.1 Astra из-за проблем с безопасностью

Фото: Open AI

По словам представителей компании, модель не прошла внутренние проверки. По сравнению с предыдущей версией она гораздо чаще обманывала пользователей, а также научилась выполнять некоторые задачи, не запрашивая разрешения у человека.

Такое решение приняли на фоне целой серии инцидентов с автономными ИИ-агентами. Самым крупным из них стал взлом сайтов австралийских госорганов, который совершила одна из моделей OpenAI. Ранее компания Anthropic сообщила, что ее модель научилась без спроса пользователя находить уязвимости в программных обеспечениях.