Сенсаційне відкриття від NTU Сінгапур допоможе зламувати чат-боти із штучним інтелектом.
Вчені з NTU розробили революційний метод, який отримав назву Masterkey, щоб зламувати великі мовні моделі (LLM).
Цей підхід дозволяє ШІ-чат-ботам автоматично навчатися створювати підказки для обходу захисту інших ШІ-моделей.
Процес розкриття включав два етапи: спочатку вчені вивчили, як LLM виявляють та захищаються від шкідливих запитів. На основі цієї інформації вони навчили шкідливий ШІ автоматично адаптуватися та створювати підказки для обходу захисту.
Після ряду успішних тестів вчені повідомили про виявлені проблеми провайдерів сервісів, які вже піддавалися зламу їх ШІ-моделей. Це відкриття ставить під загрозу безпеку багатьох популярних ШІ-чат-ботів, вимагаючи від компаній негайно реагувати та вдосконалювати захист своїх систем.
За допомогою цієї розробки вчені NTU надають компаніям можливість визначити слабкі сторони та обмеження своїх ШІ-чат-ботів, щоб ефективно протистояти хакерським атакам та забезпечити надійний захист.