Выстоит ли Россия, если против неё начнется кибервойна
В. Алфимов:
- Здравствуйте, дорогие друзья. Приветствуем вас в эфире радио «Комсомольская правда». Я – Валентин Алфимов. У нас в гостях сегодня Наталья Касперская, президент группы компания InfoWatch и председатель правления Ассоциации разработчиков программных продуктов «Отечественный софт», а я бы сказал, едва ли не главный человек у нас по IT и софту в стране. Может быть, конечно, громко, но я в этом абсолютно убежден. Здравствуйте, Наталья Ивановна.
Н. Касперская:
- Здравствуйте, Валентин.
В. Алфимов:
- Давайте начнем с простого. С 2022 года мы всё больше и больше обрастаем санкциями, ограничениями. Если из России уйдут все разработчики иностранных программ, мы справимся, у нас есть своё? Я почему спрашиваю? Потому что вот мой рабочий компьютер, он американский, и стоит американский софт. Другие компьютеры (японские, корейские и т.д.), на них тоже стоит американский софт. А наш-то есть у нас? Вдруг они нам всё заблокируют сегодня?
Н. Касперская:
- Интересно, что вы вопрос так ставите. Он был бы актуален в 2022 году, а сейчас я не могу даже сообразить, а кто у нас остался-то на рынке. Из американских компаний никто не работает, они официально все ушли еще в 2022 году, какие-то – в 23-м. То есть практически мы сейчас не имеем возможности обновлять программное обеспечение. То, что касается закручивания гаек, вы правы. Дело в том, что Соединенные Штаты приняли целый ряд постановлений, ограничивающих поставку технологий в недружественные для них страны, в которые, естественно, входит Россия. И Трамп в этом смысле ужесточает эту политику, он ее не смягчает, заметим, несмотря на разную его риторику по отношению к нашей стране. Например, сейчас крупные производители стали отказывать российским разработчикам в подписании сертификатов. Это значит, что отечественный софт, который работает, например, на операционной системе Microsoft – Windows, может в какой-то момент перестать работать из-за того, что сертификат не подписан. Ну, компании вынуждены придумывать разные обходные пути, для того чтобы все-таки эти свои сертификаты подписывать, но это прям проблема. И если дальнейшее закручивание гаек продолжится, то значительная часть наших программ просто не сможет работать на иностранных операционках с иностранными СУБД и т.д.
Что делать? Делать понятно что. У нас программа импортозамещения принята с 2015 года, то есть ей 10 лет. Был создан реестр отечественного программного обеспечения, в который на текущий момент входит больше 27 тысяч продуктов с разными версиями и подверсиями. Из них довольно много операционных систем, и 4 из них признаны официально рекомендованными. Это «РЕД ОС», ALT Linux, Astra Linux и ROSA. Это для десктопных систем и серверных. Ну, и для мобильных у нас есть KasperskyOS и «Аврора». И та же ROSA, кстати, тоже. Так что в принципе у нас довольно широкая линейка по операционным системам, которую мы можем поддержать для наших уважаемых клиентов и заказчиков.
Я хочу сказать, что заказчики, крупные компании, они с 2022 года начали активно переходить, некоторые наиболее продвинутые – с 2015 года, но таких немного, а активно начали переходить с 2022 года. Так что многие уже много чего у себя заменили. Я думаю, этот процесс продолжится. То есть заменять есть на что, нужно просто выбрать время, желание.
В. Алфимов:
- А эти замены где происходят? Это какие-то серверы, то, чего мы, простые люди, не касаемся, или прямо на рабочих компьютерах?
Н. Касперская:
- Ну, рабочие компьютеры сейчас поставляются с отечественным софтом предустановленным (по крайней мере, Минцифры рекомендует). И компьютеры, и мобильные устройства. А что касается замены, естественно, на сайтах производителей либо у дистрибьюторов можно купить. Честно говоря, я затруднюсь с ответом на вопрос, где частному пользователю взять программные продукты.
В. Алфимов:
- Ну, я могу это сделать? Я могу поставить себе на компьютер отечественную операционку?
Н. Касперская:
- Да, конечно.
В. Алфимов:
- И будет работать?
Н. Касперская:
- Да.
В. Алфимов:
- Как обстоят дела с программным обеспечением для промышленности? Это то, что совершенно не касается нас, простых людей. Почему спрашиваю? Рассказывали такую историю. Наши журналисты лет 20 назад приехали на какой-то нефтеперерабатывающий завод, и им показывают: вот, смотрите, станки, машины, всё работает, но на них стоит иностранный софт, причем такой, что иностранцы им сами и управляют из Силиконовой долины, Лондона или из Кореи, в общем, откуда-то оттуда. И вплоть до того, что мы не можем станок поднять, перенести на 50 метров, потому что они сразу всё это увидят.
Н. Касперская:
- Да, это известная история.
В. Алфимов:
- Сейчас этого уже нет? Они не могут остановить наши заводы? Машины могут, мы недавно видели это с Porsche.
Н. Касперская:
- Софт для промышленности – это очень широкая категория на самом деле. Потому что там есть системы управления процессами, системы управления предприятием, разные продукты для проектирования, продукты для внедрения и т.д. То есть это очень много разных классов. И по этим классам ситуация разная, она не однозначная. В целом хочу сказать, что у нас отечественные вендоры (то есть производители) были, они занимали обычно какой-то нишевой сегмент, и сейчас они активно развиваются. Я знаю, что в области промышленного программного обеспечения у нас рост бизнеса по отечественным продуктам пятикратный за три года. Это значит, что заказчики покупают то, что есть отечественное. Естественно, они недовольны, потому что хотят сразу функционал западных решений, а так не бывает.
Наши ребята пытаются там что-то заменять. Есть у нас и крупные производители – дочерние структуры крупных госкорпораций, например, «Росатом» делает свой софт тоже. Но сказать, что мы все классы полностью закрыли, наверное, будет нельзя, хотя движение в этом направлении идет. Ну, по промышленному софту я знаю, что отдельно отслеживается. У нас же создана система индустриальных центров компетенций в стране, по-моему, 32 центра компетенций, они, в частности, по промышленности, там есть машиностроение, сельское хозяйство, фармацевтическая промышленность и т.д., по разным видам промышленности эти индустриальные центры. Там крупнейшие компании встречаются и обсуждают, что они будут делать с точки зрения импортозамещения, обмениваются опытом. Где-то эти ИЦК очень активные, например, металлургия, нефтепереработка, а где-то они – ну, не очень. Тоже все зависит от людей. Естественно, там, где эти ИЦК активные, там процесс идет энергичнее, и в ту сторону российские производители делают больше изменений и добавлений в свой софт. Но такой катастрофы, но мы полностью зависим от западного софта, и станок нельзя перевезти, сейчас нет. Ну, хотя бы на том основании, что, если бы могли нам что-нибудь такое отключать, то отключали бы. Хотя атаки случаются, и понятно, что не вес стек у нас сейчас замещен, но, тем не менее, движение в положительную сторону идет. В процентах очень сложно говорить, потому что по разным классам разная статистика. Я бы сказала, что ситуация сильно лучше по сравнению с 2022 годом. То есть продвижение в сторону импортозамещения идет, и в промышленности тоже.
В. Алфимов:
- В общем, переживать стоит, но бояться не надо.
Н. Касперская:
- Да, переживать всегда стоит. По крайней мере, защищаться точно надо.
В. Алфимов:
- Давайте про мошенников поговорим, потому что это головная боль вообще для всех – для бизнеса, простых граждан и т.д. Мошенничество продолжает быть огромной проблемой для каждого. Что-то меняется у нас со временем? У мошенников абсолютно точно меняется. Потому что раньше просто звонили и говорили «пришлите код» и крали деньги, а сейчас какие-то жуткие схемы выдумывают, и даже уже непонятно, где правда, а где ложь. А у нас что-то меняется в борьбе с ними?
Н. Касперская:
- Во-первых, приняли закон о запрете мошенничества, борьбе с мошенничеством, там есть много ограничительных мер, какие-то меры начали работать. Закон вступил в силу, по-моему, в июне этого года. Я участвовала в сентябрьской банковской конференции, где отчитывалось Министерство внутренних дел. Они говорят, что с июня пошел тренд на снижение количества украденных средств. Но общее число средств, особенно учитывая, что полгода закон не действовал, на тот момент уже превысило прошлый год, и в абсолютных значениях год опять будет рекордным, к сожалению.
Что меняется? Давайте посмотрим со стороны мошенников. Мошенники не могут применять одни и те же схемы, потому что Центральный банк их довольно быстро подхватывает и рассказывает во всяких своих роликах. Сейчас в метро едешь, везде крутят эти ролики: мошенники то, мошенники сё. Ну, и не только Центральный банк, на самом деле много кто над этим работает, над образованием граждан, поэтому старые схемы не работают. Поэтому мошенникам нужно все время адаптироваться. И они научились адаптироваться тем, что, во-первых, постоянно придумывают новые схемы, а во-вторых, используют новые технологии. Например, дипфейки сейчас очень сильно распространились. Это когда вам звонят лицом вашей мамы и говорят: сынуля, скинь срочно денег. И если звонят с ее телефона, обнаружить подделку довольно сложно.
На этот счет я рекомендую, если вдруг кто-то из ваших родственников начинает просить у вас деньги, иметь какое-то слово, общее для всех, или некое понятие. Или, если вы с этим человеком хорошо знакомы, вы можете спросить: а где мы с тобой были тогда-то, помнишь, как мы с тобой плавали - на чем? Если он не отвечает, значит, это не тот человек, за которого он себя выдает. То есть какие-то такие вещи. Кроме того, есть многочастные схемы. Это когда звонят вам, например, с почты и говорят…
В. Алфимов:
- Я на такое чуть не попался.
Н. Касперская:
- Говорят, что на ваше имя якобы пришло почтовое отправление, отправьте что-то. И вы это что-то отправляете. Вроде приходит какой-то невинный код. Тут же приходит сообщение, что ваши Госуслуги взломаны. И вы думаете: ой, что же это такое? Вам пишут: позвоните по такому-то номеру. И вы, как наивный валенок, звоните по этому номеру, а там сидит другой мошенник, который, скорее всего, сидит с тем мошенником рядом, и он начинает вас как-то накручивать, что вы срочно должны выйти в интернет и что-то там сделать. Это такие двухчастные, трехчастные схемы, они бывают иногда более сложные. То есть здесь задача – ввести жертву в некий цейтнот, в ступор, создать давление и создать ощущение, что уже что-то произошло, что жертве надо с чем-то бороться. Жертва начинает бороться, сама не понимая с чем.
В. Алфимов:
- А борются уже в этих сетях.
Н. Касперская:
- Да. Рекомендация тут простая. Я, например, всегда держу мобильные данные выключенными по умолчанию на смартфоне. Потому что они не нужны. Если мне надо, допустим, посмотреть Telegram или WhatsApp, я просто включаю эти данные на это время, смотрю в своем мессенджере и выключаю.
В. Алфимов:
- Я напоминаю, что мессенджер WhatsApp принадлежит компании Meta, которая признана в России экстремистской организации и запрещена на территории России.
Н. Касперская:
- Лишний раз держать включенными данные нежелательно. И когда начинают от вас требовать каких-то срочных действий, то надо понимать следующее. Что наши ведомства не звонят, у них нет такой практики. И если вам начинают звонить от имени ведомства, то это должно вызывать подозрения. Знаете, один раз меня тоже практически поймали на какой-то схеме. А работают они очень профессионально, очень грамотно, там сидят реальные психологи, они хорошо отрабатывают психологические схемы, которые наиболее действенны для людей. Мне позвонил человек и сказал: «Я из Роскомнадзора». И тут я поняла, что меня разводит, потому что Роскомнадзор никому не звонит, у них людей нет для этого. Я это понимаю, а другой человек мог бы на это повестись.
То есть надо понимать, что ведомства не звонят. Это значит, что если вам звонят из ведомства, то это довольно странно. Тем не менее, ситуация не очень хорошая. Она вызвана тем, что, к сожалению, всё больше наших данных цифровые, а это значит, что они могут куда-то утечь. Мошенники обычно свои схемы строят именно на том, что они о человеке что-то знают. Они вас позвонят, скажут: здравствуйте, вы - Валентин Алфимов… И дальше начинают говорить. И вы ощущаете его как знакомого человека. А откуда они знают о вас? Потому что базы данных утекают постоянно. У нас за прошлый год утекло 1,8 млрд персональных данных.
В. Алфимов:
- Миллиард восемьсот. Учитывая, что у нас приблизительно 150 миллионов человек…
Н. Касперская:
- Это значит, что каждая запись персональных данных – минимум 10 раз. В разных вариантах, разных базах – минимум 10 раз. Компания InfoWatch, мы коллекционируем утечки. Во-первых, мы читаем из прессы то, что удается найти, и то, что хакеры вывешивают в даркнете. Мы всё это читаем, анализируем. И вот, миллиард восемьсот. Конечно, там есть пересечения где-то. Но что-то мы могли не видеть, то, что не попало в даркнет, что было, например, точечно выбрано. Это значит, что этих утечек может быть только больше. Это катастрофический вал. И в этом смысле я выступаю достаточно большим противником дальнейшей цифровизации. То есть попадание еще в какие-то базы, увеличение каких-то баз, оно только усугубляет ситуацию. Например, у нас хотят вводить с марта следующего года регистр заболеваний.
В. Алфимов:
- То есть еще и по медицинской теме будут нас разводить.
Н. Касперская:
- Там 12 заболеваний, в числе них психические заболевания и беременность. Почему Министерство здравоохранения отнесло беременность к заболеваниям, это отдельная история, это большой вопрос на самом деле, но эти данные будут предоставляться целому спектру ведомств, в том числе МВД. Я уважаю Министерство внутренних дел, но, я извиняюсь, течет оттуда очень страшно. То есть данные сотрудники продают, нескольких в этом году поймали, но большинство не ловят. То есть данные перепродаются, продаются и т.д. И сейчас это еще будут и медицинские данные. И это катастрофа. Онкологические больные, например, среди этих 12 заболеваний. Ну, а онкологические больные это люди с измененным сознанием.
В. Алфимов:
- То же самое по психиатрии.
Н. Касперская:
- Да.
В. Алфимов:
- И, не дай бог, позвонят беременной женщине.
Н. Касперская:
- Я считаю, что это какая-то очень странная история. Причем данные будут передаваться без ведома гражданина и без возможности удаления из единого регистра заболеваний. Например, возможны врачебные ошибки. Второе. Если мы внимательно изучим, по каким параметрам передаются, например, психические заболевания, то там указано, что наличие факта суицидальных мыслей. Я вот озаботилась. Как можно установить факт суицидальных мыслей? То есть вы пришли, с врачом поделились, и врач вас – в этот регистр. И всё, вы потом не отмоетесь, вы всю жизнь будете психом, потому что исключение из регистра не предусмотрено.
Так что здесь, к сожалению, у нас противоречивые действия. То есть, с одной стороны, подписывается закон, и вроде он пытается как-то исполняться, по борьбе с мошенниками. С другой стороны, предпринимаются действия, которые явно способствуют развитию, создают питательную почву для мошенников. Конечно, эти данные тут же окажутся у мошенников, и ими тут же будут злоупотреблять.
В. Алфимов:
- Я правильно понимаю, что если мне звонит мошенник и начинает меня разводить, то, вполне возможно, он про меня знает, может быть, даже немного, например, сколько еды я заказываю домой, и он по этим данным сделал какой-то вывод.
Н. Касперская:
- Да. Он обращается к вам по имени-отчеству. Очень часто сейчас разводка с домофонами, это базы домов сливаются куда-то. Соответственно, вам звонят: мы сейчас устанавливаем домофон. В основном это в многоквартирных домах происходит. Мне вот недавно прислали, и я повеселилась, конечно. Потому что я всех своих соседей знаю, и соседа с таким именем у нас нет.
В. Алфимов:
- Наталья Ивановна, закон о противодействии кибермошенникам работает, толк от него есть какой-то?
Н. Касперская:
- Сейчас о результатах судить рано. Во-первых, мы еще не получили статистику. Давайте дождемся конца года.
В. Алфимов:
- Я перефразирую вопрос. Мы вас доверяем. Если вы скажете: «Он работать будет», - значит, так и будет.
Н. Касперская:
- Понимаете, в чем дело? У нас слишком много информации сейчас находится в цифровом пространстве. К сожалению, дальнейшее стремление увеличивать количество данных о человеке в цифровом пространстве работает на руку мошенникам, а не наоборот. Поэтому получается, что у нас идет встречное движение. С одной стороны, у нас правительство стремится собрать, агрегировать все больше и больше данных о гражданине и поместить их в разные базы, а желательно в единую, а к единой базе точно будет много желающих получить доступ. Более того, те, кто имеет дело с базой, это люди, как правило, с небольшой зарплатой, а тут такое хорошее дельце, тут человек с фамилией, именем, отчеством, и если кто-то спросит, почему же не дать за какую-то денежку. Я вам скажу очень простую вещь. Если вы попробуете сделать так называемый пробив, то есть много сервисов, которые передают персональные данные, и делают полный личный профиль. Стоит это, в зависимости от того, насколько сложную информацию вы запрашиваете, от 100 до нескольких тысяч рублей.
В. Алфимов:
- За несколько тысяч рублей можно вытащить всё?
Н. Касперская:
- Да, по Валентину Алфимову вся информация будет выдана. Есть компании, которые такие сервисы оказывают, они полулегально или нелегально работают. В основном у них либо бывшие, либо действующие сотрудники спецслужб, которые эту информацию сливают. Соответственно, чем больше этой информации становится, тем больше ее сливают. Будет регистр больных – значит, будет еще информация о больных. Как защищать? Вообще-то, непонятно, потому что там человеческий фактор срабатывает. Поэтому никакие технические методы защиты этой базы не сработают. Ну, люди с экрана будут зачитывать просто, или переписывать куда-то в блокнотик, или фотографировать, или еще что-то. И это, к сожалению, очень страшная тенденция. Поэтому сказать, что закон работает, не работает, нельзя. Закон, наверное, что-то ограничивает, какую-то часть мошенников он точно отрезает. С другой стороны, у нас появляются новые угрозы, и этих угроз становится больше.
В. Алфимов:
- Какую стену ни построй, всегда найдется человек, который стоит на воротах и пропускает тех, кого надо.
Н. Касперская:
- Да.
В. Алфимов:
- Мы про МВД сказали. Мы не имеем претензий к Министерству внутренних дел, только к конкретным нечистоплотным сотрудникам мы имеем претензии. А вообще, из каких компаний чаще всего утекают данные? Это что – банки, доставка еды, маркетплейсы, Госуслуги?
Н. Касперская:
- Знаете, все отметились за последнее время. Госуслуги – это единая платформа, и как таковые данные из Госуслуг вытащить сложно, но есть возможность получить там данные о конкретном человеке. И откуда идут эти данные о конкретном человеке, не всегда возможно понять. А то, что они публикуются и появляются, это факт. Поэтому, если у человека есть возможность меньше размещать своих данных на тех же Госуслугах, то лучше это делать. Потому что, чем больше вы даете о себе данных в тех же Госуслугах, с привязкой к своим родственникам… Ну, к детям вас вынужденно привязывают на самом деле, что тоже не очень хорошо, кстати. Но то, от чего можно отказаться, лучше от этого, конечно, отказываться. Например, не привязывать свои банковские счета. Потому что в противном случае это хорошая вещь, для того чтобы списать средства.
Сейчас стали ужесточать вход к Госуслугах, сейчас, например, через мессенджер Max делается. Но, опять же, какие бы технические способы мы ни придумали, у нас всегда есть человеческий фактор, и нельзя побороться с человеческим фактором техническими методами. Люди хитрее, они придумывают более хитрые схемы. И вот это желание наших ведомств бороться техническими методами с человеческим фактором, оно бессмысленно.
В. Алфимов:
- Кстати, про технический фактор и хитрых людей. Искусственный интеллект. Вы часто говорите, что использование искусственного интеллекта – это штука вредная, и даже надо его запретить.
Н. Касперская:
- Нет, я никогда не говорила, что нужно запретить искусственный интеллект. Потому что мы сами как компания разрабатываем систему искусственного интеллекта. Потому что система распознавания и борьбы с утечками – это, конечно, система искусственного интеллекта. Она должна выявить в документах конфиденциальную информацию и ее заблокировать. Типичная система искусственного интеллекта. Более того, у нас встроены алгоритмы, например, которые позволяют клиентам общаться с этой программой голосом. Это тоже система искусственного интеллекта. Поэтому я веду речь не о запрете, я веду речь об ограничении применений определенных. Я считаю, что в некоторых сферах применение искусственного интеллекта опасно. Например, это сфера образования, когда детям пытаются при помощи генеративного искусственного интеллекта их образовывать.
Что такое генеративный искусственный интеллект, и чем он отличается, скажем, от алгоритмического искусственного интеллекта? Генеративный – это искусственный интеллект, который способен сам генерить ответ. Это, как правило, система, созданная на основе больших данных, загруженных в эту систему, она их определенным образом перемешивает, а потом извлекает ответ довольно произвольным способом. Причем, поскольку она извлекает произвольным способом, то ответ этот вероятностный. То есть она никогда не даст вам стопроцентный ответ. Если вы зададите, например, системе один и тот же вопрос, один и тот же промт, то она вам, скорее всего, выдаст два разных ответа, которые будут отличаться в разных словах. И ни вы, ни разработчик, который разрабатывал эту систему, никогда не смогут сказать, почему именно система выдала тот или иной ответ. Это так называемая проблема черного ящика искусственного интеллекта, она же является его свойством. То есть это проблема, которая исходит из самой структуры строения генеративного искусственного интеллекта.
Есть многие апологеты, которые призывают использовать это в образовании, и сейчас пытаются куда-то включить: искусственный интеллект будет подсказывать. Я разговаривала с разработчиком некой системы, и он говорит: «У нас есть образовательный модуль. Представляешь, мы достигли уровня распознавания 87,5%». Я говорю: «Здорово. Но, для того чтобы преподавать детям, у тебя уровень адекватности должен быть равен 100%». То есть, если Волга впадает в Каспийское море, она не может впадать в другое море. Если у тебя дважды два – четыре, не может быть четыре с половиной или 0,39.
В. Алфимов:
- Ну, с вероятностью 13% может.
Н. Касперская:
- Да, с вероятностью 13% у вас получается какая-то фигня. Получается, дети будут читать какую-то фигню. Что сейчас происходит в школах? Дети начинают обращаться к искусственному интеллекту, они при этом (второй очень важный эффект) выключают голову, потому что гораздо проще взять готовый ответ. Они даже не понимают вопроса зачастую, а просто передают учителю. Учитель спрашивает: «Что ты тут написал, вот это слово, которое ты написал, оно что означает?» Он не может объяснить, он его не знает. Он говорит учителю: «Но я же написал правильно». И получается, что в долгосрочной истории у нас есть риск просто вырастить поколение абсолютных идиотов, которые просто не будут понимать ничего. Потому что это очень просто – взять подсказку и, не думая, ее куда-то вставить. И в этом смысле, я считаю, в образовании искусственный интеллект должен быть запрещен. Так же, кстати, как и электронные устройства. Вошел в школу, оставил электронное устройство в ящичке или оставил его дома, и ты занимаешься в школе – ручка и бумага. Для того чтобы, например, производить математиков или учить людей алгоритмическому мышлению, им, кроме ручки и бумаги, ничего не нужно. Поверьте мне как айтишнику, который 30 лет в IT. Нужны люди, которые умеют думать. Если мы будем давать им искусственный интеллект, это как подпорки ставим, это мы всем как бы дадим костыли. У нас через некоторое время люди отучатся ходить, они будут только с костылями перемещаться.
В. Алфимов:
- Как нас долбила в пятом классе наша математичка Елена Александровна: «У кого увижу микрокалькулятор, выброшу в ведро с водой». Так и говорила. Это было в 90-х.
Н. Касперская:
- Правильно. Почему? Потому что калькулятор отнимает людей способность к устному счету. Вот сейчас вы придите в любой магазин. Сколько там людей, способных в уме посчитать, сложить 4 цифры? Да почти никто. То есть у людей эта способность уже атрофировалась. Способность найти путь из пункта А в пункт В без навигатора уже атрофировалась. Понимаете, искусственный интеллект усугубляет, он ухудшает ее. Поэтому образование - раз, госуправление – два. Законотворчество – это вообще отдельная история. Давайте мы законы будем писать при помощи искусственного интеллекта и их проверять искусственным интеллектом же. Какие законы мы получим, если это просто по определению бредящая модель, галлюциноген? На самом деле два дня назад была встреча с Владимиром Владимировичем, на которой Игорь Ашманов эту проблему поднял. И он как раз выступил за то, чтобы ввести регулирование искусственного интеллекта в важных гуманитарных сферах. И Владимир Владимирович поддержал эту идею.
В. Алфимов:
- В образовании искусственный интеллект использовать нельзя, согласны, законотворчество – тоже. Госуправление. Хотя Путин тут недавно поставил задачу использовать искусственный интеллект в государственном управлении и даже отчитываться, какой-то KPI поставил чиновникам.
Н. Касперская:
- Да, и KPI, и председатель правительства дал задачу ускоренного внедрения искусственного интеллекта.
В. Алфимов:
- Это опасно?
Н. Касперская:
- Мне кажется, здесь телега ставится впереди лошади. Искусственный интеллект, как ни крути, это инструмент. Да, он очень продвинутый, он инновационный, но это все равно инструмент. Для того чтобы внедрять инструмент, нужно понимать, какую задачу мы решаем. К примеру, мы говорим: внедрить 50% искусственного интеллекта. Допустим, вам в радиостудию нужно 30% красных стульев. Вы спросите: «Почему красных стульев? Мы все привыкли сидеть на коричневых». Или молотки должны быть у вас везде развешаны. Вы спросите: «А почему молотки?» Вот почему молоток и почему искусственный интеллект? Ну, молоток это очень грубое сравнение. Хорошо, микроскопы. В некоторых случаях они просто не нужны. Прежде чем ставить задачу обязательного внедрения, давайте разберемся, зачем, какую задачу мы решаем. Где-то искусственный интеллект, безусловно, чрезвычайно полезная вещь?
В. Алфимов:
- Где?
Н. Касперская:
- Например, промышленность, где мы можем поставить большую систему контроля, которая вводит в единую систему информацию о том, что у нас происходит на огромных пространствах, и быстро понимать какие-то корреляции. Если что-то там начинает сдвигаться, то это, скорее всего, приведет к тому, что наша труба условная взорвется, и у нас там произойдет инцидент. Раньше, для того чтобы понять, взорвется скоро труба или нет, надо было землю раскопать, посмотреть и т.д. А тут мы по внешним признакам просто определяем, что сейчас наступит какое-то событие, и не допускаем это событие. И искусственный интеллект здесь работает прекрасно. Очень хорошо работает на предотвращение каких-то несчастных случаев искусственный интеллект, потому что он видит: человек пошел куда-то в запрещенную зону. Там стоит большое количество контролей, и опять контроли не срабатывают. Значит, мы предотвратили несчастный случай. Сельское хозяйство, например. Сейчас очень многое делается при помощи систем, анализирующих общую ситуацию и рекомендующих полив, сколько внести удобрений, когда какие-то действия произвести, если там какие-то насекомые появились, там эти дроны летают, они это видят, и тоже идет рекомендация. Это тоже всё при помощи систем. Получается, что охватывать можно большие пространства, чего нельзя было раньше. Поэтому сейчас в сельском хозяйстве на больших площадях задействовано гораздо меньше людей, чем было еще 20 лет назад, именно благодаря тому, что внедряются такие передовые системы.
Но, как только речь заходит о гуманитарной сфере, сразу встает вопрос. Понимаете, гуманитарная сфера – это люди. Мы выше говорили про мошенников, и мы говорили о том, что человеческий фактор, который невозможно обойти. Вот когда пытаются человеческий фактор запихать в технологическую систему, все идет криво и не туда. И вот госуправление, извините, я не понимаю как. Рекомендации, которая дало, например, Минцифры, использовать при написании законопроектов. Но мы же видим, какие проекты пишет искусственный интеллект. Там же обязательно будет какое-то количество бреда. Более того, тексты документов пишутся при помощи так называемых больших лингвистических моделей. В конце прошлого года было сказано, что количество текстов, сгенерированных большими лингвистическими моделями суммарно по миру, превзошло все количество текстов, написанных людьми за все время существования. То есть 10 тысяч лет человечество писало-писало-писало огромное количество книг, статей, в интернете писали, всё закачали в модели. Почему они такие умные? Потому что там всё. А дальше модель начала генерить сама. И то, что она генерит, тоже попадает обратно в модель. Это значит, что у нас уровень бреда будет расти.
В. Алфимов:
- Потому что она сгенерила, попала в модель, потом на основе этого она снова сгенерит…
Н. Касперская:
- Конечно. Сгенерированные тексты у нас уже дают определенное количество бреда в любом случае в каком-то процентном отношении. Ну, в случае с образовательной системой было 13%, где-то, может быть, 2%, 5%, неважно, какое-то количество бреда сгенерировано. Этот бред попал обратно в модель, она начала бредить больше. Исследовательская американская компания Gartner, они уже поместили генеративный искусственный интеллект на снижение хайпа, то есть снижение интереса. Почему? Потому что не удается добиться улучшения качества по текущим моделям, наоборот, качество начинает снижаться. И чем больше этих сгенерированных текстов и чем менее критично к ним подходят люди, тем более бредовые тексты у нас будут получаться. Давайте с помощью них писать законы? Давайте при помощи них делать судопроизводство? Известны же случаи. В краснодарском суде сгенерированное обвинение. То есть судья не заморочилась, а написала обвинение при помощи искусственного интеллекта. Там был написан бред. Адвокат обвиняемого обратил на это внимание, подал апелляцию. На что ему суд второй инстанции сказал: ну да, судья может использовать формулировки, которые считает нужным.
В. Алфимов:
- Нам стоит бояться искусственного интеллекта, он нас поработит или загонит в могилу? Или все нормально, можно жить с ним рядом?
Н. Касперская:
- Бояться интеллекта не стоит. Стоит бояться людей, которые используют этот интеллект в нехороших целях.
В. Алфимов:
- Наталья Ивановна, спасибо вам большое. Всегда ждем вас в нашей студии.
Подписывайтесь на наш подкаст, чтобы не пропустить новые крутые интервью.
➤ Слушать прямой эфир: https://radiokp.ru
➤ Читать эксклюзивные новости: https://www.kp.ru
➤ Подписаться на наш телеграм: https://t.me/truekpru
➤ Самое интересное из эфира: https://t.me/radiokp
