«Остановить развитие нейросетей уже невозможно»: эксперт назвал главные риски потери контроля над развитием ИИ
Глава OpenAI Сэм Альтман назвал два сценария, при которых развитие искусственного интеллекта может пойти по крайне неблагоприятному пути. Первый предполагает, что люди утратят контроль над собственным будущим, поскольку все больше решений будет зависеть от ИИ. Второй связан с чрезмерной концентрацией власти и возможностей в руках ограниченного круга людей или организаций.
Главный редактор журнала «IT EXPERT» и портала IT-WORLD Андрей Виноградов в эфире Радио КП заявил, что опасения вокруг дальнейшего развития нейросетей имеют основания. По его мнению, уже сегодня ИИ позволяет отдельному человеку выполнять задачи, на которые раньше могла потребоваться большая команда специалистов и значительное время.
В качестве примера Виноградов рассказал о знакомом специалисте по информационной безопасности, который с помощью современных инструментов за один вечер создал систему защиты, разработка которой прежде могла бы занять около года у целой команды. По словам эксперта, подобные возможности становятся доступнее даже людям без глубоких навыков программирования.
«Если понимать, что вот такие возможности открываются, то у нас не то чтобы нет гарантии, что такие возможности не будут использоватьоваться в целях не блага, а зла, они точно будут использованы во зло», — сказал Виноградов.
Он отметил, что одни и те же технологии могут применяться как для полезных задач, так и для противоположных целей. Чем мощнее становятся модели и чем шире круг доступных им инструментов, тем сложнее обеспечить их безопасное использование. При этом эксперт считает, что остановить развитие нейросетей уже невозможно.
По словам Виноградова, современные ИИ-системы остаются компьютерными программами и статистическими моделями, поэтому говорить о них как о человеческом интеллекте было бы некорректно. Однако сложность таких систем постоянно увеличивается. Они способны взаимодействовать с другими инструментами и выполнять многоступенчатые задачи, а человеку становится все труднее полностью отслеживать логику их работы.
Эксперт также обратил внимание на случаи, когда разработчики ограничивают широкий доступ к отдельным возможностям своих моделей. По его мнению, это показывает, что даже сами создатели технологий продолжают искать способы надежно контролировать их поведение и возможные последствия использования.
«То, что сделано, уже сделано, и остановить развитие нейросетей уже невозможно. Они будут развиваться», — заявил Виноградов.
При этом он подчеркнул, что сам по себе рост возможностей искусственного интеллекта еще не означает неизбежной утраты контроля. Основной риск, по мнению эксперта, связан с тем, насколько быстро будут развиваться механизмы безопасности, ограничения доступа и правила использования новых технологий. Чем шире становятся возможности нейросетей, тем больше внимания потребуется уделять тому, кто и для каких целей сможет ими пользоваться.
