Эксперт Якубович: контроль за ИИ необходим, но не должен нарушать права пользователей

По мере того, как искусственный интеллект все активнее внедряется в повседневную жизнь, вопрос контроля за его использованием становится все более актуальным. О ключевых аспектах регулирования этой сферы и возможных последствиях недостатка законодательства RuNews24.ru рассказал эксперт Института фундаментальных проблем социо-гуманитарных наук НИЯУ МИФИ Яков Якубович.

По словам специалиста, пользовательские запросы к ИИ могут содержать признаки преступной деятельности — от экстремистских высказываний до мошеннических схем. Однако главный вопрос заключается в том, допустимо ли использовать такие данные для привлечения к ответственности. Сейчас тайна личной переписки защищена законом, но это право не является абсолютным.

«Если диалоги содержат признаки уголовных нарушений, то они могут быть приняты в качестве доказательства при наличии судебного разрешения», — заявил эксперт.

При этом, подчеркивает Якубович, необходим комплексный анализ и учет контекста, так как ИИ способен генерировать провокационные ответы.

Эксперт отмечает, что недобросовестные пользователи уже применяют ИИ для создания фейков, инструкций по взлому и даже материалов, пропагандирующих насилие, что несет угрозу не только отдельным лицам, но и обществу в целом. В то же время чрезмерный контроль за диалогами пользователей может привести к утечкам персональных данных и подорвать доверие к технологии в целом.

В качестве альтернативы Яков Якубович предлагает внедрять саморегулирование платформ, включая модерацию контента и анализ метаданных, таких как частота запросов и IP-адреса, без необходимости полного доступа к переписке пользователей. Для эффективного выявления нарушений эксперт предлагает использовать специальные ИИ-детекторы противоправного контента, которые не требуют хранения логов.

Ранее Роскомнадзор объявил частичное ограничение звонков в иностранных мессенджерах.