«Страшен не искусственный интеллект, страшны люди»: футуролог о том, почему для контроля за ИИ недостаточно аналога МАГАТЭ
Основатель Microsoft Билл Гейтс предложил создать международную организацию по контролю за искусственным интеллектом. По его замыслу, новый орган мог бы объединить принципы работы структур, следящих за нераспространением ядерного оружия, выполнением климатических соглашений и безопасностью гражданской авиации. Футуролог, венчурный инвестор Евгений Кузнецов в эфире Радио КП объяснил, почему реализовать такую инициативу будет значительно сложнее, чем может показаться.
По словам эксперта, в мире уже существуют разные модели международного регулирования технологий. Одним из примеров служит МАГАТЭ, другим — система договоренностей об использовании космического пространства. Однако ни одна из этих моделей не может быть напрямую перенесена на искусственный интеллект из-за особенностей самой технологии.
Кузнецов пояснил, что ядерная энергетика требует сложной инфраструктуры, значительных вложений и продолжительных производственных процессов. Добычу, переработку и перемещение ядерных материалов можно отслеживать. Искусственный интеллект устроен иначе: после обучения модель может использоваться практически в любой точке мира, где имеются необходимые вычислительные мощности.
«А дальше искусственный интеллект действует глобально. Поэтому скорее нам придется изобретать совершенно новые программы регулирования, а старые просто не сработают, из-под них очень легко ускользнуть», — заявил Кузнецов.
Кроме того, нейросети постепенно проникают во все сферы человеческой деятельности. Поэтому попытка установить жесткие ограничения по аналогии с ядерными технологиями, по мнению футуролога, рискует оказаться неэффективной и затормозить развитие перспективных разработок.
Эксперт подчеркнул, что необходимость контроля связана прежде всего с рисками использования искусственного интеллекта людьми. Современные технологии могут применяться в киберпреступлениях, а также потенциально облегчать разработку опасных биологических и химических веществ. При этом те же возможности способны приносить пользу в медицине, науке и других областях.
«Потому что есть очень много рисков, связанных с тем, как люди его используют. Например, становится легче изобретать всякие не очень хорошие бактерии, вирусы, яды и так далее. Есть возможность совершать всякие преступления в сфере кибербезопасности и так далее. То есть страшен не искусственный интеллект, страшны люди, которые начинают его использовать для своих не всегда хороших целей», — отметил футуролог.
Еще одной проблемой Кузнецов назвал возможное влияние крупных технологических компаний на будущую систему регулирования. По его мнению, организации, формально отвечающие за безопасность ИИ, могут использоваться для ограничения деятельности небольших разработчиков и защиты интересов лидеров рынка. Поэтому при создании международных механизмов контроля необходимо учитывать риск лоббизма и ограничения конкуренции.
Отдельно эксперт затронул вопрос участия России в формировании глобальных правил. Кузнецов считает, что страна должна участвовать в международных переговорах, поскольку решения в этой сфере будут определять развитие одной из ключевых технологий XXI века. При этом он предполагает, что основная часть договоренностей может складываться в диалоге США и Китая.
По оценке футуролога, американские разработчики сохраняют технологическое преимущество, тогда как Китай обладает значительными возможностями для массового внедрения искусственного интеллекта благодаря энергетической и производственной инфраструктуре. Россия, по его мнению, может участвовать в формировании новых правил, используя в том числе свои возможности в энергетике и работе с данными.
