Спектр

Роскомнадзор внедряет систему определения фейковых видео в интернете

Логотип Роскомнадзора над компьютерной клавиатурой. Иллюстрация: Максим Шеметов/Scanpix/LETA

Логотип Роскомнадзора над компьютерной клавиатурой. Иллюстрация Максим Шеметов/Scanpix/LETA

Роскомнадзор намерен выявлять фейки в видеозаписях с помощью искусственного интеллекта. Как сообщает «Коммерсант», для этого ведомство намерено использовать решение, разработанное Национальным центром когнитивных разработок ИТМО. Уточняется, что решение уже было протестировано накануне выборов в Сенат США.

Сервис, который внедряется на стороне подведомственного Роскомнадзору Главного радиочастотного центра (ГРЧЦ) получил название Expert. Предполагается, что с использованием искусственного интеллекта он позволит проверять видеозаписи выступлений на предмет лжи и манипуляций и выявлять так называемые «дипфейки»

«Дипфейки» представляют собой метод синтеза данных, который позволяет заменять в оригинальных видеороликах элементы изображения. Технология позволяет создавать фейковые видеозаписи с заявлениями известных личностей, в том числе политиков.

В ИТМО, где разрабатывалась система Expert, изданию пояснили, что она позволяет анализировать видео или аудио, оценивая уверенность, уровень внутренней и внешней агрессии, а также конгруэнтность (уровень согласованности информации, передаваемой вербальным и невербальным способом) и противоречивость, сравнивает слова с научными статьями и высказываниями других специалистов. При этом очевидной проблемой является то, что система ориентирована на английский язык. Опрошенные изданием эксперты предположили, что это может существенно снизить качество анализа, поскольку фактически в этом случае для оценки остаются только показатели уверенности, агрессивности и конгруэнтности.