Искусственный интеллект: спасет или уничтожит человечество
И. Виттель:
- Здравствуйте. На волнах «Комсомольской правды» я, Игорь Виттель. И сегодня у меня в гостях генеральный директор компании «Наносемантика» Станислав Ашманов. И беседуем мы сегодня о такой глобальной теме, которая в последнее время волнует, наверное, все человечество, - искусственный интеллект, прочие нейросети, и что это все нам несет – падение или, наоборот, взлет человечества.
Станислав, последние несколько месяцев то, что у всех на языке, это, наверное, ChatGPT. Восторженные вопли поклонников о том, что это заменит человека, журналистов вообще пора выкидывать, многих пиарщиков и т.д. Я, в общем-то, согласен, но не в связи с ChatGPT, что эти социальные страты должны быть уничтожены. А со стороны критиков говорят: посмотрите, он же совсем идиот. Мой личный опыт показывает, что этот искусственный интеллект (ну, если это можно назвать искусственным интеллектом)… Тут, наверное, надо договориться о терминах. Как бы вы назвали – бот, чат-бот?
С. Ашманов:
- Искусственный интеллект.
И. Виттель:
- Хорошо. А интеллектом он на самом деле не обладает. Судя по всему, он способен перелопачивать огромные массивы созданных текстов, более-менее осмысленно смотреть структуру слов (я даже не назвал бы это массивом знаний) и выдавать какие-то тексты, которые… Вы не помните в силу молодости, а в моем детстве была такая вещь – политинформация. Выходил пятиклассник и с утра рассказывал новости. Ну вот, в таком формате, даже несколько недотягивая, наверное, ChatGPT мог бы работать. Говорить о том, что он может заменить журналистов, политологов, а тем более политтехнологов, преждевременно. Объясните мне, так это или нет.
С. Ашманов:
- Да, ChatGPT действительно сейчас везде на слуху, и в нашей среде, среде разработчиков, тоже ходят разработчики с такими круглыми глазами, кто-то, наоборот, ходит с кислой миной и говорит: это ерунда, очередной хайп, надувание пузыря. Мы сейчас плотно изучаем эту штуковину, я лично провел довольно большое количество диалогов с ней. Про искусственный интеллект. Искусственный интеллект – это продвинутая автоматизация. То есть, ни о каком сознании, мышлении там речи не идет, просто человечество, наконец-то научилось автоматизировать те задачи, которые раньше не удавалось. Вот раньше не удавалось проверять тексты, находить в них ошибки, нужно было нанимать редактора, сейчас это делает искусственный интеллект. Машинный перевод – та же самая история. Теперь переводчики во многом не нужны, их стало на порядок меньше.
То же самое про ChatGPT. Появилась интересная вундервафля - ChatGPT, которая показывает очень необычные результаты своей работы. Я как разработчик могу сказать, что ничего похожего я раньше не видел. То есть раньше вот эти генеративные нейронки… Сама GPT как расшифровывается? Generative Pre-trained Transformer. Это генеративно-нейронная сеть, обычно на большом массиве текстов. Раньше такие нейросети уже были 3-4 года назад, но все, что они тогда могли делать, это выглядело как бредогенератор. То есть мы, например, брали все тексты Пелевина, обучали такую нейронку (примерно той же архитектуры, как ChatGPT сейчас), и она начинала выдавать небольшие куски текста, похожие по стилистике, лексикону на тексты Пелевина. Но фактически получался бред, там не было консистентности повествования, персонажи пропадали, исчезали. Теперь смотришь на то, что выдает эта ChatGPT, и она показывает очень интересные результаты работы с текстами. Приведу пример. Я пишу: общайся со мной только фразами из трех слов. И она мне начинает все свои ответы выдавать только по три слова.
И. Виттель:
- И что в этом такого?
С. Ашманов:
- Еще пример приведу, а потом объясню, почему это все вместе удивляет. Каждый отдельный такой пример, он не удивляет. Даешь ей текст и говоришь: а теперь в этом тексте замени все глаголы на глаголы с корнем «флоп». И она берет и переформулирует текст. Потом даешь ей большой текст и говоришь: сожми его, оставь только выжимку, основные идеи. И она сжимает. Фишка в том, что по отдельности все эти функции – это не очень сложно, легко написать программу, которая находит все глаголы в тексте и их заменяет. Но фишка в том, что вот эта штуковина, ее изначально не учили этому. Вот эти функции, эти свойства она получила, просто всосав в себя огромный массив информации, многие сотни гигабайт текста.
И. Виттель:
- Тогда получается, что мы все-таки говорим о неком интеллекте, что она способна не просто перелопатить объем текста, а сделать из него некие выводы. Тут говорят: профессии заменят. А умные люди говорят: зато новые появятся профессии, тот самый человек, который будет формулировать запросы к ChatGPT, потому что это тоже зависит от очень многого. Ну, хорошо, вот я его, например, спрашиваю, как будут развиваться отношения Израиля и Ирана. Он мне выдает абзац текста. Наверное, просто перелопачен массив текстов, подобраны оттуда какие-то общие фразы и вставлены. В принципе придраться нельзя, он пишет, что отношения Ирана с Израилем будут основываться на многих факторах. Как бы сделал журналист? Подробно сказал, какие движущие политические силы есть в Иране, какие есть в Израиле, какие есть внешние силы, которые движутся, исходя из этого, описал бы несколько вариантов развития событий. Всего этого он не может. А про корректоров согласен, наверняка он лучше справляется, чем корректор (по крайней мере, не хуже), с грамматикой. Но я абсолютно уверен, будучи сам переводчиком, что не способен никто… Да, стали появляться более осмысленные, с первым Google Translate нельзя сравнить. Но послушайте, большинство переводчиков, они идиоты сами по себе. Потому что они знают более-менее структуру языка, но какие-то даже эвфемизмы, связки слов, какие-то более осмысленные тексты, особенно если это Шекспир, например, которого хрен переведешь на русский язык осмысленно, это невозможно. Поэтому мне кажется, что мы сейчас, с одной стороны, возлагаем на все это больше надежд (или опасений), а с другой стороны, недооцениваем возможность его к самообучению. И та сингулярность, о которой говорят, что когда-нибудь он все-таки станет умнее своего создателя (сложный вопрос – что значит умнее)… Я в свое время говорил, что искусственный интеллект, допущенный к принятию решений в политике, может самоорганизоваться и нажать на красную кнопку, поняв, что человечество не справляется просто.
С. Ашманов:
- Ну да, вы всё верно говорите. Разумеется, и машинный перевод – это довольно дрянная технология. Но эффект в том, что действительно профессию переводчика она очень сильно убила, сейчас особо нет смысла идти обучаться на профессионального переводчика. Потому что большинство бюро по переводу, они перешли на использование Google Translate. Мы заказывали перевод одной технической статьи, и мы там получили всякие забавные приколы, свойственные как раз машинному переводу. Ну, например, что ребро графа, математическое понятие, оно было переведено как «rib», то есть ребро физиологическое его высочества графа.
Давайте в целом историю ChatGPT кратко рассмотрим. Создана она в Америке институтом OpenAI. Этот институт был создан под патронажем Илона Маска, который потом вышел оттуда, чтобы не было конфликта интересов с другими его компаниями. Изначально они вообще начинались как non profit, то есть как научный институт. Всосали в себя лучшие кадры из индустрии и начали выпускать из года в год довольно удивительные результаты. Там были и нейронки для обучения роботов, когда создается некая среда, где роботы конкурируют друг с другом, и учатся решать задачу, которая сформулирована достаточно нечетко. Потом были нейронки для генерации музыки, классической и поп-музыки, причем с текстом и с речью. Потом они создали нейронки для распознавания сцен. То есть показываешь ей фотографию или видео, и она описывает, что на нем происходит. Потом были нейронки, наоборот, для генерации изображения. Собственно, весь прошлый год прошел под знаком Stable Diffusion, Midjourney, этих нейросеток, которые генерируют картинки. Конец года в прошлом году – они выпускают свою ChatGPT. ChatGPT основывается на предыдущей версии, которая называется просто ChatGPT-3, третья версия GPT. Концепция там такая. Учатся на большом массиве текстов, то есть выкачали всё из интернета на всех языках, загрузили это в суперкомпьютер с большим количеством видеокарт (там тысячи видеокарт), и она сначала учится на неразмеченных данных. То есть она, по сути, усваивает в себя представление, знание о языке, о том, как язык устроен, то есть какие слова с какими рядышком ходят, какие рядышком не ходят. И ChatGPT – это некая надстройка над такой нейронкой, которая усвоила знания о языке, которую учит достаточно большое количество разметчиков. То есть люди подготавливают ответы на вопросы. Людям скидывают, например, 100 тысяч вопросов, и люди выдают ответы. И на этом массиве учится уже надстройка над GPT.
Важный момент еще. Вы правильно говорите, что она не очень понимает про конфликт между Израилем и Ираном, например. В нее загрузили данные только до 2021 года, то есть она не знает актуальной информации, все, что происходило за последние два года.
И. Виттель:
- Тут не вопрос знаний. Послушайте, мы же не можем убирать фактор творчества. Вот вы заговорили про Midjourney. Да, наверное, это может заменить какого-нибудь дизайнера, который рисует. Вот нужно нарисовать заставочку для YouTube. Вот у меня выходит, мне самому не надо платить дизайнеру, заставочку для YouTube он нарисует. С какими-то элементарными вещами, основываясь на прошлом, он справиться может.
- Так вот, фактор творчества нельзя исключать, потому что он учится на том, что кто-то создал, ничего самостоятельного он создать не может. Знаете, как приходите на выставку какого-нибудь выпускника художественного училища и говорите с умными людьми. Они говорят: чувствуются наработки, чувствуется рука, но нет никакой самостоятельности, в этом нет никакого творчества, это не художник, это человек, который перерисовывает картинки. Это действительно так. Для того чтобы понимать всю сложность отношений того же Ирана с Израилем, недостаточно загрузить всю информацию, пусть даже за несколько последних тысячелетий. Вы же не объясните разницу конфликта цивилизаций.
С. Ашманов:
- Конечно. Речь о том, что суперэксперты, таланты, творцы будут заменены, пока не идет. Ну, и в целом надо, конечно, сказать, что то, что мы видим, этот ChatGPT, это, во-первых, публичная версия, мы не знаем, что у них там внутри, в институте делается. Обычно выкладывают в открытый доступ что-то 1,5-летней давности. Во-вторых, это то, что сейчас есть. Надо понимать, что такая технология, как они выпустили, сейчас никому у нас пока недоступна. То есть мы можем довольствоваться лишь какими-то подобиями такой технологии. И это пугает. Потому что в целом перспективы ее дальнейшего развития… Да, может быть, она сейчас не уничтожит профессию или не сделает какую-то революцию, но перспективы развития очень хорошие. Что меня, например, пугает? Она демонстрирует признаки внутреннего диалога. То есть выглядит так, что у нее происходит какой-то определенный логический вывод внутри. Ну, например, ей можно задать математическую задачку…
И. Виттель:
- Причем не простой логический вывод…
С. Ашманов:
- Гораздо сложнее. Там можно задать математическую задачку, планиметрическую и т.д., и она выдаст все выкладки. Ей можно задать задачки, где можно задавать вопросы, «да» и «нет», и она решит. Причем интересно, если верить публикациям, которые про нее написаны ее создателями, ее специально не учили этому, и она получила это просто статистически. То есть такое ощущение, что вот эти все логические выводы, правила логического вывода, которые нам с вами на самом деле очень сложно из себя изнутри извлечь и описать. Такое ощущение, что она из текстов их сама в себя всосала, просто статистически. Часто наблюдала, что если А, то В, и записала это себе как некое устойчивое правило. Так вот, меня пугает то, что такая штуковина может быть базовым кирпичиком для построения очень разумных роботов. Потому что в целом это вполне себе может быть движком внутреннего диалога внутри дрона, внутри автономного робота. То есть он получает от одной нейронки распознавание визуального потока… Причем она может быть нечеткая, там будут ошибки, но за счет этого движка внутреннего логического вывода, диалогового логического вывода, он может принимать решение, что ему делать дальше. И вот эта ChatGPT, она выглядит действительно очень подходящей для этой темы.
И. Виттель:
- Тогда возникает другой уже вопрос. Есть такой Сергей Карелов, который считает, что все, что происходит в мире, определяется гонкой искусственных интеллектов, а точнее, гонкой искусственных интеллектов Соединенных Штатов и Китая. Как вы справедливо сказали, вас пугает, что у нас такого нет. То есть Россия, судя по всему, в гонке искусственных интеллектов отстает.
С. Ашманов:
- Да.
И. Виттель:
- Чем это может обернуться, что мы теряем? Ну, понятно, что нас не особо волнуют, наверное, судьбы пиарщиков, копирайтеров и дизайнеров, но волнуют какие-то критические, стратегические моменты, в которых действительно это две страны могут нас обогнать и лишить нас и этого, едва ли не главного на сегодняшний момент суверенитета.
С. Ашманов:
- Да, вы правильно говорите. Знаете, как один мой знакомый сказал, ChatGPT – это как очень заводная вечеринка на 14-м этаже в одной квартире. Но она сама по себе не очень интересна, потому что она у нас невозможна без того, чтобы был 13 этаж, 12-й и т.д. С этой сферой искусственного интеллекта точно так же. У нас просто отсутствует индустрия в целом искусственного интеллекта. У нас нет достаточного количества суперкомпьютеров, которые могут обучать такие нейронки, как ChatGPT. На минуточку, чтобы ее обучить, нужно потратить несколько миллиардов рублей. Это в России сейчас могут сделать три компании.
И. Виттель:
- Я видел недавно картинку по распространению суперкомпьютеров по планете, и это ужасающая картина, конечно. У нас их всего сколько?
С. Ашманов:
- Их несколько десятков. Просто вопрос в том, где грань, что такое суперкомпьютер.
И. Виттель:
- А в американских университетах, в Китае, в Японии измеряется отнюдь не несколькими десятками. Это первое. Во-вторых, в нынешней геополитической ситуации, когда мы, в общем-то, оказываемся в изоляции от всех технологий, для того чтобы строить своё, в стране нужна микроэлектроника, которая находится в том состоянии, в котором мы вообще едва ли когда-нибудь догоним, а уж быстро – точно нет. Свое не построим. Это значит, что в принципе мы пока остаемся в зависимости только от Китая. А эта зависимость может превратиться в рабство. Как нам быть в этой ситуации?
С. Ашманов:
- Знаете, если раньше это было не так страшно (я имею в виду, касательно суперкомпьютеров), потому что искусственный интеллект тогда… Ну, мы обучаем нейронки регулярно – распознавание изображений и т.д. Там в принципе можно обойтись даже потребительским компьютером с несколькими видеокарточками. Но такие нейронки, как вот эти диалоговые системы, они требуют тысяч видеокарт. И нас сейчас действительно отрезали от каналов поставки. Наверное, водичка дырочку найдет, но все-таки это сложно.
И. Виттель:
- Именно что дырочку. Нам не нужна дырочка, нам нужно, чтобы мы не гнались за кем-то, а были впереди планеты всей. Только это нас сейчас может рвануть, скажем так, вытащить нашу экономику.
С. Ашманов:
- Конечно. Как минимум у нас 15 причин, почему пушка не стреляла, как минимум пороха не было. Вот тут с суперкомпьютерами. Дальше у нас на самом деле нехватка исследователей. То есть все, кто в России занимается созданием разных нейронных сетей и искусственного интеллекта, они все (в том числе я) всего лишь повторители. Мы всего лишь берем зарубежное программное обеспечение, зарубежные статьи, архитектуры и их модифицируем, например, под русский язык, под российские автомобильные номера и т.д. Реально очень мало исследователей в России, которые делают что-то свое.
И. Виттель:
- Почему?
С. Ашманов:
- Знаете, в это направление мы очень мало инвестировали. То есть не было создано достаточного количества кафедр в университетах, не было создано достаточного количества институтов по этой теме. Мы поздно вписались в эту гонку, и просто не нарос культурный слой. Математика у нас очень сильная в стране, программисты лучшие в мире, но просто нужно было два десятка лет назад их перенаправить в сторону искусственного интеллекта.
И. Виттель:
- Станислав, мы же не можем сейчас (то есть можем, конечно, чем я в основном и занимаюсь) стоять на берегу и причитать: надо было делать 30 с лишним лет назад, надо было делать 20 лет назад. Но уже не сделали, и сейчас мы находимся там, где находимся. Мы можем поднять руки и сказать: ну всё, конец, и мы тут больше не конкурентоспособны. А можем, как мне кажется, сделать такой по-сталински или по маоцзэдунски большой скачок, большой прорыв и вложить всё – и лучшие кадры, и деньги. Конечно, не воссоздашь уже быстро систему образования, но медленно можно, для того чтобы догнать и перегнать Америку и Китай. Можем?
С. Ашманов:
- Да, конечно. На самом деле создавать с нуля здесь ничего не нужно. Самое главное, есть сильная математика и программирование. Искусственный интеллект – это всего лишь производная от этих двух вещей.
И. Виттель:
- Нет микроэлектроники, нет воспроизводимости кадров. То есть молодых талантливых ребят, которых должна быть критическая масса, их нет.
С. Ашманов:
- Кстати, тут не соглашусь. Сейчас выпускники очень хорошие. Мы примерно 20 стажеров в год через себя пропускаем.
И. Виттель:
- Хорошо, они есть, но нет социальных лифтов и нет системы коммуникации, при которой каждый талантливый выпускник может прийти и сказать: Станислав (или Иван, или Игорь), давайте, я умею… Мы скажем: отлично, чувак, ты так хорошо умеешь, что давай-ка мы тебя к себе возьмем. Критической массы таких коммуникаций нет.
С. Ашманов:
- Вообще все крупные корпорации, Яндекс, Сбер, Мейл.ру, они очень плотно коммуницируют с университетами, такими как МГУ, МФТИ, Вышка, Сколтех. И они прямо курсе на третьем ребят к себе начинают потихоньку забирать (и моя компания тоже, но, конечно, в меньшем объеме). Поэтому именно по искусственному интеллекту не соглашусь. Кадры начинают еще на этапе университетской скамьи к себе перетягивать, и ребята там работают на четверть ставки, на полставки и при этом учатся. А по части микроэлектроники я, конечно, не эксперт, но да, тут мы с чистого листа начинаем, и не очень понятно, сможем ли.
И. Виттель:
- А откуда эти ребята берутся? Меня интересует профессорско-преподавательский состав. Он есть, который способен… Тут есть еще один важный момент. Например, с нашими медиками могу экспертно сказать. У нас традиционно была не самая плохая медицина в мире, где-то вообще прорывная. Но в советское время она была оторвана от мировой в силу понятных причин, плюс в силу отсутствия языка. Сейчас мы возвращаемся к тому же самому – люди не учат язык, люди не знают языка, люди не имеют иногда доступа к зарубежным передовым материалам – и нам их не дают, и с нашей стороны есть запретные всякие действия. Как человек может обучаться и образовываться, не имея доступа к мировым стандартам?
С. Ашманов:
- В некоторых отраслях это действительно так. Например, в прошлом году из России ушел Reaxys. Это поставщик химической информации для химиков, биологов, фармацевтов и т.д. И действительно, эти специалисты оказались, знаете, как программисты без Гугла или без Яндекса, то есть как без рук. Но касательно искусственного интеллекта, к счастью, почти все материалы, они открытые, то, что называется, оупенсорсные. Сейчас вообще в целом в этой сфере принято, что значимые результаты выкладываются в открытый доступ и могут использоваться всеми, даже в коммерческих целях. Поэтому тут такой изоляции сейчас нет. Ребята, про которых мы с вами говорим, берутся действительно из топовых университетов.
Откуда взялись профессора по этой теме, по искусственному интеллекту? На самом деле в эту сферу затянуло очень многих, кто раньше занимался просто математикой, программированием. Взять, например, ребят с моего курса и преподавателей, которые мне преподавали. В какой-то момент я вдруг, делая перекличку, так сказать, спрашивая, кто чем занимается, выяснил, что всех затянуло в эту тему искусственного интеллекта, в этот Data Science, как это называется по-английски… Когда я учился (я в 2014 году закончил) на мехмате даже не было таких предметов. Мы делали математическое моделирование, математическая статистика, вычмат, а искусственного интеллекта не было.
И. Виттель:
- То есть когда Китай с Америкой в 2014-м вовсю брали новые вершины, у нас даже этого не было.
С. Ашманов:
- Да, мы поздно спохватились.
И. Виттель:
- А нельзя поставить к стенке людей, которые за это отвечают?
С. Ашманов:
- Не знаю. У нас и так людей мало, надо беречь людей.
И. Виттель:
- Но если они допустили такое. У нас есть какие-то свои разработки, о которых мы можем сказать: да, это очень узкая такая вещь, но мы здесь впереди планеты всей? Например, с беспилотниками. Ну, с беспилотными автомобилями – нет, а те же Cognitive Technologies, Оля Ускова вполне с трамваями, общественным транспортом справляется. Более того, мы тут, можно сказать, не хуже, а в массе своей, может быть, и лучше. Но это, правда, очень узкий кусок и одна компания. А в искусственном интеллекте как обстоят дела?
С. Ашманов:
- Отдельные примеры найти можно, они интересны, но они показывают довольно печальную картину. В России есть свой поисковик. По пальцам одной руки в мире можно пересчитать страны, у которых есть свой собственный поисковик, такой как Яндекс. Во-вторых, все-таки по беспилотникам та же компания Яндекс, они достаточно передовые, то есть они делают очень качественную разработку, и у них есть все шансы стать мировым лидером.
И. Виттель:
- А вы считаете, что Яндекс – это российская компания?
С. Ашманов:
- Ну, вроде как с недавних пор она стала более российской.
И. Виттель:
- По-моему, наоборот. Да, Яндекс действительно изначально российская компания (слава Воложу с Сегаловичем). Но мне кажется, что с момента, когда они вышли на биржу, и ею стали управлять вместо Воложа и, к сожалению, уже покойного Ильи Сегаловича эффективные менеджеры, целью Яндекса являются исключительно деньги, а не научные разработки, комфорт, удобство. Потому что, как говорят старые преферансисты, и так неплохо получилось. У них и так неплохо, деньги зарабатывают. Это первое. Во-вторых, будучи голландской компанией, они, естественно, находятся в той ситуации, при которой в момент, когда они создадут что-то суперпрогрессивное, им заокеанские хозяева скажут: так, ну-ка, быстро, нечего русским иметь хорошие технологии.
С. Ашманов:
- В целом Яндекс выводит свои активы. Например, компании по беспилотникам, они куда-то вывозят, то ли в Израиль, то ли еще куда-то.
И. Виттель:
- Час от часу не легче, хрен редьки не слаще, как говорится.
С. Ашманов:
- А в остальном прям чего-то такого… Ну, есть компании, та же ABBYY, они русские были, но в прошлом или позапрошлом году вывели тоже все активы, удалились из реестра отечественного ПО. Разработка передовая, мировая.
И. Виттель:
- Морфеус, насколько я помню.
С. Ашманов:
- Я имею в виду именно OCR, это их основной продукт.
И. Виттель:
- Сам Давид как раз развивает искусственный интеллект и чат-бот Морфеус.
С. Ашманов:
- Про это как раз слышно очень мало. Вообще тема именно диалоговых чат-ботов…
И. Виттель:
- Читайте запрещенный в России Фейсбук и поймете, он часто об этом пишет.
С. Ашманов:
- Не знаю, как здесь мы можем кого-то догнать. Сейчас все-таки военное время, и в каких-то потребительских темах, боюсь, сейчас мы уже никого не догоним.
И. Виттель:
- А нам не надо в потребительских, нам нужно в более стратегических. И вопрос, опять-таки, не в том, чтобы догонять. Станислав, вы все время меня не слышите. Я говорю не о том, чтобы догнали, а о том, чтобы мы создали что-то радикально новое. Потому что догонять у нас уже, видимо, не получится, а создать новое радикальное круче, я верю в то, что можем. Просто потому, что мы умеем принимать неожиданные решения, которые переворачивают весь мир.
С. Ашманов:
- Ну да, есть такие вещи, как «Кинжал», гиперзвуковая ракета, есть различные наработки по водородной энергетике, по атомной энергетике. Может, нам пора холодный термояд сделать. К слову, в холодном термояде тоже используются различные методы искусственного интеллекта, которые управляют этими магнитными катушками, которые поле накачивают.
И. Виттель:
- Я бы, кстати, применил искусственный интеллект к вопросу моделирования вообще экономики.
С. Ашманов:
- Это еще с советского времени хотели делать.
И. Виттель:
- Но с советского времени не получилось. А вот сейчас понять, где для России могут быть нормальные ниши, и где Россия может… Есть очень важная вещь – баланс отраслей, когда отрасли друг с другом начинают спорить, кто из них важнее, баланс международного разделения труда. И учесть вот это всё, вот тут бы натравить какой-нибудь искусственный интеллект. Но, увы, его нет. Расскажите про ваши наработки. Вы что-то делаете такое, что, как вам кажется, может сейчас рвануть, хотя бы для вас, а не в масштабах страны? Я имею в виду, что не обогнать американцев и китайцев, а просто…
С. Ашманов:
- У нас в целом бизнес разный. Довольно много денег мы зарабатываем просто заказной разработкой по нейросетям. То есть заказчик, например «Газпромнефть», приходит и говорит: нам нужен искусственный интеллект для распознавания чертежей или для прогнозирования выхода, как будет добыча происходить. Там всякая кластерная разработка - распознавание шлагбаумов, фотокамер на улицах и пр. Есть у нас всякие продуктовые вещи. Мы довольно много занимаемся и голосовыми помощниками, чат-ботами, делаем для разных компаний роботов, которые заменяют людей в колл-центрах. То есть тоже в некотором плане участвуем в этой бесчеловечной автоматизации, когда людей из колл-центров постепенно увольняют.
И. Виттель:
- То есть вы можете создать сотрудника украинской службы безопасности Сбербанка, который не будет разговаривать с тяжелым украинским акцентом, а поможет вынимать деньги из несчастных лохов.
С. Ашманов:
- Да, голосом известного телеведущего будет разговаривать, например. То есть дипфейки мы умеем делать, копировали всяких ведущих.
И. Виттель:
- А вам не кажется, что это очень опасная тема – и дипфейки, и вообще?
С. Ашманов:
- Конечно. Более того, я на «АрМИ» выступал в августе прошлого года, я там показывал голос известных военачальников, скопированный вот так просто. Это стоит супердешево, это требует выкачки просто данных из публичных источников. Бац – и там совершенно узнаваемые нотки голоса. Конечно, дипфейки – тема довольно опасная.
И. Виттель:
- Берут, например, какие-нибудь нехорошие люди типа Зеленского, делают дипфейк и показывают заокеанским хозяевам, говорят: только что президент России отдал приказ о ядерной атаке. И те немедленно реагируют. Такое может произойти?
С. Ашманов:
- Да, конечно.
И. Виттель:
- То есть это всё реальные угрозы, это не «у страха глаза велики»?
С. Ашманов:
- Нет. На самом деле дипфейки создавать всегда можно было, просто раньше это требовало голливудской студии, а сейчас это требует просто ноутбука и одного обученного человека. Причем он даже не должен быть программистом. Поэтому вопрос в том, что это стало дешево, и можно массово клепать фейки. Интернет, по идее, скоро заполонят фейковые видеоролики, картинки, тексты, и мы не сможем нормально отличать. Знаете, как говорят ребята, которые воюют против нас, что там они все живут в неком информационном пузыре, думая, что они уже где-то там, под Ростовом, что осталось чуть-чуть зайти – и всё, кусок России оттяпан. То есть в целом эти информационные пузыри, они, да, будут наполняться фейками, и каждый будет интерпретировать их в свою пользу.
И. Виттель:
- Но вы же понимаете, что, давая такое массовое оружие человеку… Вообще я считаю, что любой прогресс сопровождается регрессом, и создание интернета привело интернет в сумасшедший дом, где его не должно было быть, в общем, выпустило на волю чудовище, а упрощение технологий даст в руки террористам вообще какое-то массовое оружие.
С. Ашманов:
- Ну, массовое – не знаю. Скорее всякие информационные бомбы легко будут создаваться.
И. Виттель:
- Информационные, психологические. Помните знаменитую историю, когда по американскому радио еще в начале ХХ века транслировали Герберта Уэллса «Война миров», и это вызвало панику. Представьте, сейчас вы меня научите какой-нибудь хренотени, и я решу, что… От имени радио «Комсомольская правда», мой голос узнаваем, я возьму и запущу где-нибудь стрим, скажу, что сегодня были нанесены удары туда-то и туда-то. Это же вызовет массовую панику. Это оружие, это терроризм именно.
С. Ашманов:
- Да. Но в целом это, наверное, вопрос государственного иммунитета. Дело не в технологии, а в том, как контролировать источники распространения информации.
И. Виттель:
- Никак. Вы же не можете контролировать интернет, как бы ни пытались.
С. Ашманов:
- Ну, более-менее удается.
И. Виттель:
- Вот Игорь Станиславович Ашманов призывает контролировать интернет.
С. Ашманов:
- Давно, еще лет 15 назад.
И. Виттель:
- К сожалению, государство во многом его слушает и пытается, но реально его проконтролировать никак нельзя, как мне кажется. Не то что я пытаюсь обесценивать его старания, я во многом с ним согласен, но, мне кажется, мы выпускаем наружу страшного зверя.
С. Ашманов:
- Есть более страшные вещи. Например, у меня есть одна компания, мы занимаемся искусственным интеллектом для химии. Суть простая. Возьмем базу из 96 млн. химических соединений. Есть у этих соединений разные известные свойства. А теперь научим искусственный интеллект предсказывать свойства для неизвестных соединений. Тем самым мы можем искать новые лекарства, новые яды, новые разные присадки.
И. Виттель:
- Новое биологическое оружие.
С. Ашманов:
- Да, например.
И. Виттель:
- Мы сейчас, мне кажется, пугаем народ. Давайте позитивчик. В принципе, если нам удастся самим оседлать искусственный интеллект, что мы можем достигнуть как страна и как человечество в целом (простите за глобализм)? Я надеюсь, что мозги у всех встанут на место в какой-то момент (хотя надежды мало), и мы начнем решать радикальные вызовы, которые стоят перед человечеством.
С. Ашманов:
- На самом деле большой потребности в искусственном интеллекте у человечества нет. Человечеству хочется хорошо кушать, быть здоровым и иметь образование, потому что образование это в некотором смысле социальный лифт. Для образования искусственный интеллект категорически не надо использовать, потому что заменять учителя на машину, на робота вредно, это приведет к созданию людей, которые воспитаны не людьми. А вот для медицины искусственный интеллект было бы здорово, конечно, применять. То есть искать решение различных проблем, связанных со здоровьем, например, искать новые химические соединения (то, про что мы начинали говорить). Это же невероятно огромное пространство органической химии, там 10 в 60-й соединений, а известно только примерно про 100 миллионов. Соответственно, мы могли бы искать новые лекарства, мы могли бы искать новые обезболивающие, более эффективные, не приводящие к различным побочным эффектам. Ну, разумеется, там есть побочное ответвление – более эффективные яды, более эффективное оружие. Но уже сейчас понятно, что и работа с ДНК возможна гораздо более эффективная с помощью методов искусственного интеллекта, и работа с этими невероятно огромными химическими соединениями. Поэтому я очень верю в то, что именно в медицине искусственный интеллект принесет большую пользу.
И. Виттель:
- Нас пугают как бы по всему фронту, что везде он лишит человеческих мест, создаст новое что-то страшное, и, что самое страшное, нам говорят о точке сингулярности, после которой он начнет развиваться сам по себе. То есть мы в него заложим, он проанализирует и решит, что человечество пора уже ликвидировать. И будет абсолютно прав, мне кажется.
И. Виттель:
- Насчет пропажи рабочих мест. Это однозначно проблема, и это проблема любой технологии, которая большой эффект на общество оказывает. Появление ткацкого станка, мельницы, двигателя, всегда это приводило к изменению потребности в трудовых ресурсах. Просто надо, чтобы государство (это его функция) старалось нивелировать эти проблемы. Ну, например, те же цифровые сертификаты на обучение, перепрофилирование людей под новые отрасли. В целом в России скорее нехватка людей, чем избыток, поэтому то, что у нас люди будут освобождены от какой-то рутины и им придется делать что-то другое, это хорошо. Просто главное – найти им новое применение.
Про сингулярность. Возьмем тот же ChatGPT. Это же некая маленькая история в рамках большого пути этого института OpenAI. Конечно, это, возможно, много маркетинга, пиара, но они в целом декларируют, что этот ChatGPT – это просто один из шагов на пути к созданию так называемого сильного искусственного интеллекта. То есть они верят в то, что у них есть четкий план, что мы сначала создадим – искусственный интеллект для зрения, для распознавания образов, для анализа текстов, потом как-то их увяжем, потом добавим туда логику, планирование действий и т.д., и постепенно создадим думающую машину. У них амбиции именно такие. И вот такая штуковина, если ее удастся создать, она действительно произведет просто революцию во всем, что происходит.
И. Виттель:
- Я честно могу сказать, про Иран с Израилем он мне, конечно, особо не рассказал, но в некоторых вещах он меня потряс. Первое, что я сделал, обратился к нему по-русски и сказал: «Напишу хвалебную оду Путину на английском». На русском он, кстати, не справился, а вот на английском…
С. Ашманов:
- Да, у него с рифмой проблемы на русском. Потому что, скорее всего, внутри встроенный машинный перевод, и когда он переводит с английского на русский, рифма теряется и ритм.
И. Виттель:
- Дело в том, что он создал такую хвалебную оду Владимиру Владимировичу, что я решил, что этот ChatGPT воспитывали в подвалах Лубянки. Причем это было сделано, наверное, за секунду. Он написал правильно грамматически выстроенную… Я не знаю, где он копался, но звучало чуть ли не как Шекспир, с серьезными грамматическими оборотами – «славься, славься, великий царь» и т.д. И мне стало страшно. Я понимаю, что разговариваю с железякой, которая просто шевелит набором данных, но в какой-то момент становится действительно страшновато. А насколько это все можно монетизировать?
С. Ашманов:
- Известно уже, что ChatGPT – это самый быстрорастущий сервис за всю историю человечества. Они меньше чем за полтора месяца достигли 100 миллионов активных пользователей месячных. ТикТоку, Инстаграму на это потребовалось 1,5-2 года. И это не развлекательный сервис, это штуковина, которая делает какую-то работу с текстами. Соответственно, перспективы у нее очень хорошие. Да, у нее есть вот эти всякие лакуны, где она очень бредовые ответы выдает, но это пока первая весточка, то есть дальше они ее будут улучшать. Тест Тьюринга (это то, может ли машина имитировать общение с человеком так, что человек не заметит, что общается с машиной) ChatGPT, конечно, завалит. Потому что из того, насколько у нее обширные знания, понятно, что это не человек на той стороне.
И. Виттель:
- В этом смысле завалит? Не недостаточные знания, а избыточные.
С. Ашманов:
- Но если ей поставить задачу мимикрировать, имитировать из себя глупышку, у нее получится. Я ей писал: «Общайся со мной, как будто ты глупая». Она говорит: «Хорошо, буду притворяться, будто мои знания очень ограничены, и вообще, я такая, не особо просвещенная личность». Я ей пишу: «В чем смысл жизни?» И она мне выдает ошибку, говорит: «Ну, смысл жизни – заботиться о других». И дальше что-то прямо по Канту, такой массив текста. Я говорю: «Ты же должна притворяться, что ты глупая». Она говорит: «А, точно». И отвечает: «Ну, смысл жизни, типа, жить». Видите, она умеет мимикрировать под то, что ты ее попросишь имитировать. Я ей говорю, например: «Пиши текст с ошибками». И все дальнейшие тексты, все ответы у нее обязательно с опечатками. И при этом она понимает все языки, потому что училась на массиве на всех языках.
И. Виттель:
- Страшновато становится. Как вам кажется, наши компании в той же медицине… Я видел очень много в свое время попыток именно в медицине подключить искусственный интеллект. Допустим, сначала берутся у врачей, размещают снимки, говорят: вот здесь показывает, как выглядит, например, рак почки. Покупаются эти снимки компаниями, подкладываются искусственному интеллекту. Говорят: смотри, вот это – рак почки. В результате он примерно начинает понимать. Но это первый шаг. То есть дальнейшие выводы из этого, как лучше оперировать, где лучше подсечь, как вырезать опухоль, какое лечение применить, он не способен. Способны наши хотя бы в медицине прорваться тут?
С. Ашманов:
- Действительно, это такое точечное применение, когда на одном снимке он что-то подсветил и врачу помог. Умные врачи, кстати, при этом беспокоятся, говорят: а как бы сделать так, чтобы у нас все не отупели? Потому что все привыкнут, что искусственный интеллект всегда хорошие результаты выдает, и просто смотреть не будут. У меня знакомые делают искусственный интеллект для распознавания позвонков, межпозвоночных дисков, заболеваний – протрузии, грыжи, стенозы и пр. Они делают интересно. Они покупают истории болезни, то есть, какое лечение применялось, консервативное или операцию делали, и смотрят в динамике. Соответственно, уже добавляют не просто точку, а целую линию, чтобы анализировать во времени. Искусственный интеллект уже в стоматологии используется. Я видел отчеты, когда делают снимки КТ челюсти, и там он находит все пломбы, все воспаления и целый отчет на 4 страницы выдает. Да, искусственный интеллект в медицине – штука очень полезная. Другое дело, что в России, например, всего один потребитель – государство. И пока идет туго.
И. Виттель:
- То есть компании не понимают. Я вам, кстати, предлагаю эксперимент. А давайте попробуем сделать такой дипфейк, скрестить искусственный интеллект с голосом радиоведущего и провести эфир, где в качестве второго ведущего будет сидеть искусственный интеллект. И посмотрим, как это будет работать. Я не верю, конечно. Знаете, в свое время тоже пугали. Был такой фильм «Мы из джаза», и там один из музыкантов приносит и показывает синтезатор (тогда это было в новинку). Говорит: теперь заменит всё, видишь, саксофонист, он может вместо тебя играть, скрипач, вместо тебя. Прошли годы. Естественно, синтезаторы играют, особенно в электронной музыке, свою роль, но никто не заменит никогда живых музыкантов. Я думаю, что с искусственным интеллектом будет то же самое. И формулировки задач искусственного интеллекта. Мне кажется, что должны быть созданы новая профессия – оператор искусственного интеллекта, если грубо говорить.
С. Ашманов:
- Знаете, даже это не так будет, я думаю. Есть профессиональные инструменты – Word, Photoshop, PowerPoint, Illustrator, что-то для музыкантов и т.д. Просто в эти профессиональные пакеты будет встроено достаточно большое количество функций, построенных на искусственном интеллекте.
И. Виттель:
- То есть я не буду говорить Photoshop рисовать какие-нибудь кривые, проводить линии, говорить «убрать это», я просто буду голосом говорить: «Убери, пожалуйста, мою бывшую с этой фотографии».
С. Ашманов:
- Да, «сделай по красоте».
И. Виттель:
- «Сделай вообще, чтобы я ее забыл». На этом все и закончится. Станислав, предлагаю вам продолжить этот разговор в ближайшее время. Этот эфир, к сожалению, подошел к концу.
Всего вам доброго.
