Вчені з Єрусалима провели глибоке дослідження, яке виявило незвичайні аспекти взаємодії між штучним інтелектом та людськими оцінками. За результатами роботи, нейромережі, такі як ChatGPT, управляються холодними цифрами і статистикою, без залучення емоцій, що викликає занепокоєння через наявність упередженості у прийнятих ними рішеннях.
Професори Янів Довер і Валерія Лерман вивчили понад 43 тисячі симуляцій, у яких брали участь ШІ та люди. Вони відзначили, що штучний інтелект не лише обробляє факти, а й формує певну “довіру” до людей. Проте, на відміну від людей, які судять оточуючих на основі різних нюансів, ШІ зосереджується на індивідуальних характеристиках, таких як компетентність, чесність і доброта, обчислюючи їх у вигляді оцінок.
Ключові відмінності у підходах до оцінки людей постають на поверхню. По-перше, людське судження є інтуїтивним і цілісним, тоді як ШІ аналізує лише окремі аспекти особистості, немов складаючи таблицю з оцінками. По-друге, результати застосування ШІ у фінансових сценаріях вказують на те, що прості демографічні категорії, такі як стать або релігія, можуть сильно впливати на його рішення. У таких випадках навіть за ідентичних умов ШІ може ухвалити різні вердикти, грунтуючись на поверхневих даних.
Всі ці факти набувають особливої ваги, оскільки технології ШІ вже активно використовуються в найрізноманітніших сферах: оцінка кандидатів, кредитна спроможність і медичні рекомендації. С перетворенням цих систем на приймальників рішень, важливо зрозуміти, як вони мислять. Вчені підкреслюють, що хоча штучний інтелект може імітувати людське мислення, його логіка залишається жорсткою та пронизаною упередженнями — ШІ не бачить людей, а лише обробляє накопичені дані.
Таким чином, спостереження за поведінкою таких систем і критичний аналіз їх рішень стають необхідними для забезпечення справедливих та етичних результатів у суспільстві, де штучний інтелект займає усе більше місця.