Нещодавно компанія OpenAI оголосила в своєму звіті про 20 успішно нейтралізованих кампаній, що займалися розповсюдженням фейкового політичного контенту, створеного за допомогою її інструментів штучного інтелекту, з початку 2024 року.
Про це повідомив Reuters.
У своєму звіті, опублікованому в середу, розробник чатбота ChatGPT вказав на численні спроби використання моделей штучного інтелекту для генерації підробленого контенту, включаючи довгі статті і пости в соціальних мережах, що мали на меті вплинути на виборчі процеси. Це зазначила й агенція Reuters.
OpenAI підкреслила, що кіберзлочинці все частіше звертаються до інструментів штучного інтелекту, таких як ChatGPT, для створення та розповсюдження шкідливого програмного забезпечення, а також підробленого контенту на веб-сайтах і соціальних мережах. Цього року компанія нейтралізувала понад 20 спроб, які були націлені на вибори в Руанді, Індії, Європейському Союзі та США.
Пропаганда і дії в Руанді
Серед інших випадків, компанія повідомила про іранську пропагандистську операцію, що включала створення підроблених англомовних новинних сайтів, які нібито відображали різноманітні політичні позиції американців. Однак невідомо, чи ці сайти коли-небудь залучали реальних читачів. Згідно з інформацією звіту, ChatGPT використовувався для створення постів у соціальних мережах, що підтримували ці ресурси. Облікові записи, які було виявлено, OpenAI заблокувала у серпні.
У липні компанія закрила ряд акаунтів з Руанді, які використовувалися для поширення “партизанських” повідомлень в соціальній мережі Х на підтримку авторитарної партії “Патріотичний фронт”, що перебуває при владі з моменту закінчення геноциду в 1990-х роках. Деякі з таких пропагандистських повідомлень були поширені понад 650 тисяч разів.
Вплив на вибори та загроза з боку держав
Цього року OpenAI також заблокувала дві кампанії, спрямовані на вплив на парламентські вибори в ЄС та вибори в Індії. Хоча кампанії не викликали значної взаємодії з користувачами соцмереж, невідомо, чи їхні організатори не перейшли на інші моделі ШІ.
Зростаюче занепокоєння щодо використання інструментів штучного інтелекту і соцмереж для генерації та поширення фейкового контенту, пов’язаного з виборами, відзначається у зв’язку з підготовкою до президентських виборів у США. Міністерство внутрішньої безпеки США повідомляє про зростаючу загрозу з боку Росії, Ірану та Китаю, які намагаються вплинути на вибори 5 листопада, зокрема через використання штучного інтелекту для розповсюдження фейкової або спірної інформації.