Программист призвал проверять маршруты, составленные нейросетями
Нейросети могут помочь наметить маршрут путешествия, но полностью полагаться на их рекомендации не стоит. Российский frontend-разработчик Подоксенов предупредил, что языковые модели не понимают смысл ответа так, как человек, и способны уверенно выдавать устаревшие или ошибочные сведения.
Как объяснил программист «Ленте.ру», предупреждение о необходимости проверять результаты чат-ботов появляется не случайно. Большая языковая модель работает как сложное автозаполнение: она обучается на огромных массивах текстов и последовательно выбирает вероятные слова, не осознавая фактический смысл.
Из-за такого принципа работы нейросеть может включить в туристический план информацию со старой страницы, например с сайта турагентства за 2007 год. Отдельные части ответа могут выглядеть правдоподобно, однако вероятность ошибки накапливается по мере увеличения текста и приводит к так называемым галлюцинациям.
Подоксенов советует воспринимать сгенерированный маршрут только как черновик. После выбора направлений необходимо самостоятельно проверить расписания, правила въезда, работу транспорта, доступность достопримечательностей и актуальную обстановку по пути следования.
Для проверки разработчик рекомендует использовать поисковые системы, свежие новости и обсуждения на форумах, включая Reddit. Полезной может оказаться консультация знакомого турагента или человека, который совсем недавно прошел выбранный маршрут.
