«Осторожно: сгенерировано ChatGPT»: разработчик нейросетей объяснил суть маркировки создаваемого ИИ контента
Разработчик нейросетей, генеральный директор группы компаний «Наносемантика» Станислав Ашманов в беседе с радио «Комсомольская правда» прокомментировал информацию о том, что компания OpenAI, созданная Илоном Маском, начала маркировать все изображения, созданные в ChatGPT и API.
Эксперт отметил, что все больше в сети появляется аудиозаписей, картинок, видеороликов, которые создаются посредством искусственного интеллекта (ИИ) и активно распространяются. Подобный контент часто может использоваться при создании фейков и мошеннических схем. Поэтому многие крупные компании, такие как OpenAI, начали в обязательном порядке маркировать созданный контент.
«Маркировка нужна, чтобы понять, что перед тобой изображение сгенерированное», — пояснил эксперт.
Он рассказал, что маркировка бывает видимая и невидимая. Невидимая не видна пользователю, но ее видит алгоритм, то есть сайт или социальная сеть. Видимая, соответственно, видна пользователю, к примеру, во время просмотра видеоролика видна надпись: «Осторожно: сгенерировано ChatGPT».
По словам эксперта, популярные сервисы маркируют свой контент, но злоумышленников это, к сожалению, не остановит.
«Если есть цель создать подложный контент, то злоумышленники могут использовать сервисы, которые ничего не маркируют. И если маркируются только официальные сервисы, то мы отсекаем 80% всего контента, но у злоумышленников все равно будет возможность найти сервисы, которые не идут по пути маркировки», — уверен специалист.
Он также отметил, что людям важно критически относиться к информации в сети, особенно если она вызывает шок и сильные эмоции. Но у пользователей сейчас преимущественно «тик-ток мышление».
«У людей надо вырабатывать критическое мышление. Но как это сделать? Это должно быть чем-то базовым», — подытожил Ашманов.
Ранее премьер-министр России Михаил Мишустин заявил о существенной разнице между российским GigaChat и западным ChatGPT.
