IT-эксперт рассказал, какие данные нельзя доверять публичным нейросетям
Искусственный интеллект прочно вошел в нашу ежедневную рабочую рутину. Однако многие пользователи забывают о важном нюансе безопасности. Отправка документов или обычных текстовых запросов в публичные чат-боты часто приводит к безвозвратной передаче корпоративной информации посторонним лицам.
Об этой угрозе в интервью RT рассказал Игорь Котилевец. Он работает старшим преподавателем кафедры КБ-14 «Цифровые технологии обработки данных» в Институте кибербезопасности и цифровых технологий РТУ МИРЭА. Эксперт подчеркнул, что в открытые нейросети строго запрещено загружать персональные сведения людей и любую коммерческую тайну.
«Проблема в том, что данные, которые вы передаёте нейросети, не просто обрабатываются и забываются. Они могут сохраняться на серверах провайдера, использоваться для дообучения модели и даже попадать в ответы другим пользователям. Нейросети не просто хранят то, что вы им сказали, — они связывают разрозненные фрагменты информации из разных источников, создавая неожиданные и порой опасные комбинации», — отметил специалист.
Аналитик также настоятельно не рекомендует делиться с алгоритмами исходным программным кодом, финансовой отчетностью, презентациями со стратегиями развития и внутренними переписками. По его словам, даже черновые варианты документов таят в себе угрозу, так как обычно содержат ту же конфиденциальную информацию, что и финальные версии. Особую осторожность следует проявлять с паролями, списками доступа, схемами корпоративных сетей и журналами безопасности. Утечка даже части таких сведений серьезно облегчит хакерам подготовку кибератаки на предприятие.
Отдельное предупреждение Игорь Котилевец адресовал специалистам в области финансов и юриспруденции. Он посоветовал им отказаться от использования открытых чат-ботов для поиска судебных прецедентов или разбора нормативных актов. Причина кроется в специфике работы алгоритмов: они очень уверенно генерируют несуществующие законы и ссылаются на вымышленные вердикты судов.
Для безопасного использования искусственного интеллекта в работе с секретной информацией эксперт видит только один надежный метод. Компаниям необходимо разворачивать собственные нейросети в закрытом внутреннем контуре. Это полностью исключит риск утечек и позволит четко регулировать права доступа сотрудников. Если же у организации нет ресурсов на запуск личной IT-инфраструктуры, аналитик призывает тщательно обезличивать любые непубличные тексты перед их отправкой в сеть. Из запросов нужно обязательно удалять полные имена, адреса, номера телефонов, ИНН и прочие прямые идентификаторы.
