Старший інженер із штучного інтелекту Microsoft, Шейн Джонс, розкрив вразливість у генераторі зображень OpenAI DALL-E 3.
За словами Джонса, ця вразливість дозволяє обходити захисні механізми нейромережі та генерувати неприпустимий контент. Незабаром в мережі з’явилася серія згенерованих фотореалістичних зображень відомої виконавиці Тейлор Свіфт, які викликали обурення серед її шанувальників.
Інженер із Microsoft повідомив, він вже 1 грудня 2023 року надіслав компанії інформацію про виявлену проблему, проте отримав відповідь, що це не стосується внутрішньої мережі корпорації Microsoft, і йому порекомендували звернутися до OpenAI. Подальші звернення до компанії OpenAI залишилися без відповіді, і тільки 30 січня компанія оголосила, що досліджує звернення інженера.
Шейн Джонс вирішив звернутися до громадськості лише після того, як була опублікована серія зображень Тейлор Свіфт. Він закликав компанію OpenAI вилучити DALL-E 3 з відкритого доступу, вважаючи його загрозою громадській безпеці.
OpenAI в своїй заяві від 30 січня відзначила, що вивчила звернення інженера та запевнила, що вживає багатостороннього підходу до забезпечення безпеки. Вони наголосили на заходах безпеки, включаючи фільтрацію відвертого контенту та класифікатори зображень.