Колишній гендиректор компанії Google Ерік Шмідт, глава Scale AI Александр Ван і директор Центру безпеки ШІ Ден Хендрікс у доповіді “Стратегія суперінтелекту” застерігають США від спроб створити AGI (системи штучного інтелекту з надлюдськими можливостями) у стилі Манхеттенського проєкту. Вони вважають, що подібна ініціатива може спровокувати жорстку реакцію Китаю, зокрема у вигляді кібератак, що дестабілізують міжнародні відносини.
Про це розповіло видання internetua.com.
На думку авторів, прагнення США до монополії в сфері AGI нагадує гонку ядерних озброєнь: надмірна концентрація потужності в однієї держави лише підвищує ризики превентивних ударів. Вони пропонують замість цього розвивати стратегію Mutual Assured AI Malfunction (MAIM), яка передбачає превентивне блокування небезпечних ШІ-проєктів.
Документ критикує підхід, що нині популярний у політичних та військових колах США, де штучний інтелект уже відіграє ключову роль у військових операціях. Автори пропонують зосередитися не на гонитві за AGI, а на заходах стримування: розширенні арсеналу кібератак для нейтралізації ворожих розробок, обмеженні доступу конкурентів до високотехнологічних мікросхем і відкритих моделей ШІ.
Також вони виділяють дві протилежні позиції у світовій політиці щодо AGI: “думери”, які побоюються катастрофічних наслідків і закликають сповільнити розвиток ШІ, та “страуси”, які ігнорують ризики й прискорюють розробку. Автори пропонують альтернативу – виважений оборонний підхід, що фокусується на безпеці.
Цікаво, що Шмідт, який раніше підтримував агресивну конкуренцію з Китаєм, тепер закликає до обережнішої стратегії. Це контрастує з поточним курсом американської адміністрації, яка просуває ШІ-технології без урахування глобальних наслідків.