Google та Google DeepMind створили новий інститут, який має розширити дискусію навколо розвитку загального штучного інтелекту (ЗШІ). До його керівництва увійшли співзасновник DeepMind Шейн Легг, виконавчий директор Google Джеймс Маньїка та голова Google DeepMind Деміс Хассабіс. Легг також став головним редактором інституту.
Інститут DeepMind
Одна з головних цілей нової структури полягає в тому, щоб показати різні погляди на майбутнє ЗШІ не лише всередині Google, а й серед ширшої дослідницької спільноти. Автори зазначають, що учасники дискусії можуть не погоджуватися між собою і змінювати позиції в міру появи нових даних.
Перший випуск інституту містить чотири есе. У них дослідники розглядають економічну політику на випадок масштабних змін через розвиток ЗШІ, прозорість роботи моделей, принципи використання технології для людського добробуту та підходи до оцінювання найсучасніших систем.
Дослідники безпеки DeepMind Рохін Шах та Анка Драган пишуть про проблему прозорості ШІ. На їхню думку, складніші архітектури можуть ускладнити перевірку того, як саме модель доходить до результату. Серед можливих заходів вони називають обмеження кількості послідовних обчислень без зрозумілого для людини сліду міркування або вимогу доводити безпечність менш прозорих систем.
Окремо Деміс Хассабіс запропонував створити під керівництвом США орган для стандартизованого тестування передових моделей ШІ. Спочатку компанії могли б добровільно подавати системи на перевірку приблизно за 30 днів до запуску. Надалі проходження таких оцінок може стати умовою для розгортання найпотужніших моделей у США.
Передбачається, що з часом орган розроблятиме незалежні тести, про зміст яких розробники не знатимуть заздалегідь. Це має ускладнити підготовку моделей саме під відомі перевірки.