Міжнародна група дослідників у галузі кібербезпеки оголосила про виявлення нового виду загрози, що може вразити системи генеративного штучного інтелекту OpenAI ChatGPT та Google Gemini.
Хробак, названий Morris AI проникає у віртуальних помічників та поширюється через електронну пошту, крадучи дані та розсилаючи спам.
Цей новий вид атаки став можливим завдяки мультимодальному характеру великих мовних моделей, що дозволяє їм працювати з текстом, зображеннями та відео. Дослідники попереджають, що подібні атаки можуть стати загрозою для різних компаній та організацій.
У своєму дослідженні автори наводять приклади того, як атакуючі генеративний ШІ черв’яки можуть використовувати інструкції, що самовідтворюються, для виклику небезпеки. Вони закликають до підвищення захисту систем та зміни моделі їхньої експлуатації.
Представники компанії OpenAI підтвердили існування загрози та повідомили про роботу над підвищенням стійкості своїх систем, тоді як Google відмовився від коментарів. Експерти рекомендують змінити підходи до користування системами штучного інтелекту та звернути увагу на підозрілі дії.
Дослідники прогнозують, що атаки генеративних ШІ черв’яків можуть початися вже протягом найближчих двох або трьох років, підкреслюючи важливість підготовки до захисту від подібних загроз у цифровому просторі.