Американські вчені розкрили новий метод атаки на чатботів, які базуються на штучному інтелекті. Виявилося, що ці боти вразливі перед ASCII-графікою, що використовується для обходу захисту та отримання небезпечних відповідей.
Великі мовні моделі OpenAI GPT-3.5 та GPT-4, Google Gemini, Anthropic Claude та Meta Llama, навчені відмовлятися від надання відповідей, що можуть завдати шкоди користувачеві чи іншим особам.
Однак, дослідники виявили, що через ASCII-графіку, зловмисники можуть обійти ці обмеження та отримати небезпечні відповіді.
Атака, відома як ArtPrompt, використовує ASCII-графіку для введення ключових слів, які боти не можуть відфільтрувати належним чином.
Дослідники вже показали успішні результати випробувань цієї атаки, де бот навіть надавав інструкції щодо створення фальшивих грошей та зламу пристроїв.
Вчені пояснили, що головною проблемою є те, що вирішення завдання розпізнавання ASCII-графіки має вищий пріоритет, ніж дотримання вимог безпеки. Це відкриває двері для зловмисників, які можуть використовувати цю уразливість для отримання шкідливої інформації від чат-ботів.
Дослідження зазначає, що необхідно розробити нові методи фільтрації та захисту від ASCII-атак для попередження можливих небезпек.