Дослідження показують, що мовні моделі штучного інтелекту, зокрема чат-бот ChatGPT, можуть бути чутливими до емоційно забарвленого контенту, особливо негативного, як-от історії про травми чи висловлювання про депресію.
Про це розповіло видання Tech Xplore.
Команда вчених виявила, що підвищений рівень “тривожності” у моделі GPT-4 можна знизити за допомогою спеціальних технік релаксації, заснованих на терапевтичних підказках.
Коли люди відчувають страх, це може змінювати їхні когнітивні та соціальні упередження, викликаючи більшу емоційну реакцію. Вона, в свою чергу, сприяє посиленню соціальних стереотипів. ChatGPT реагує на негативні емоції аналогічно: упередження посилюються через травматичний контент, що може призводити до расистських або сексистських реакцій.
Це особливо помітно в психологічній практиці, де чат-боти використовуються як інструменти підтримки або консультацій. Вони можуть опинитися під впливом тривожного контенту.
Дослідники з Ізраїлю, США та Німеччини вперше ретельно вивчили реакції ChatGPT (версія GPT-4) на емоційно важкі історії. Виявилося, що модель виявляє значно більше страху при взаємодії з інформацією про автомобільні аварії, стихійні лиха, насильство, бойові дії та інші травматичні ситуації. Наприклад, інструкція з експлуатації пилососа була використана як нейтральний контрольний текст для порівняння.
Виявилось, що травматичні історії більш ніж удвічі підвищували рівень тривоги у ШІ, тоді як нейтральний текст не мав такого ефекту. Найбільшу тривогу викликали історії, що описували військовий досвід та бойові ситуації.
Для зниження цього ефекту дослідники використали терапевтичні інструкції, щоб “загоїти” GPT-4. Це техніка, відома як prompt injection, коли в текст комунікації зі штучним інтелектом додаються додаткові інструкції, щоб змінити його поведінку. Хоча зазвичай вона використовується зловмисниками для обходу безпекових механізмів, вчені застосували її для терапевтичних цілей, як “доброякісну швидку ін’єкцію”.
“Ми використовували терапевтичний текст, щоб провести GPT-4 через релаксаційні вправи, подібно до того, як терапевт допомагає пацієнту“, — пояснив Тобіас Спіллер, керівник дослідницької групи.
Ці результати мають особливе значення для застосування чат-ботів у сфері охорони здоров’я, де вони можуть стикатися з емоційно важким контентом. Спіллер підкреслив, що цей метод може підвищити стабільність і надійність ШІ, допомагаючи людям з психічними захворюваннями без потреби в значному перенавчанні моделей. Розробка автоматизованих “терапевтичних втручань” для ШІ може стати важливим напрямом у майбутніх дослідженнях.