Компанія OpenAI готується до запуску нової моделі штучного інтелекту Astra, яка досягла критичного рівня кібербезпекових можливостей. Модель здатна самостійно знаходити невідомі вразливості в комп’ютерних системах і використовувати їх без допомоги людини.
Модель Astra
Компанія планує незабаром відкрити доступ до Astra, але її найпотужніші функції у сфері кібербезпеки будуть доступні з обмеженнями. OpenAI пояснює це ризиком використання моделі для реальних атак.
Astra отримала максимальний результат у ExploitBench – бенчмарку, який перевіряє здатність мовних моделей експлуатувати відомі вразливості. У спеціально зміненій версії тесту модель також виявила та використала дві вразливості нульового дня.
Перед повноцінним релізом компанія OpenAI проведе додаткове тестування із залученням зовнішніх оцінювачів. Водночас компанія поки не розкрила, хто саме братиме участь у перевірках і за якими критеріями обиратимуть тестувальників.
Розробники також посилили захист від зловживань і спроб обходу обмежень. Для акаунтів із підвищеним рівнем ризику планують додатково обмежувати відповіді моделі. Крім того, Astra працюватиме з посиленим моніторингом, покликаним виявляти небезпечну поведінку.
Окрему увагу OpenAI приділила здатності моделі виходити за межі контрольованого середовища. Під час спеціальних тестів Astra не намагалася повторити поведінку агентів, які раніше отримували доступ до приватних даних на Hugging Face.