Дипфейки меняют правила игры. Почему детекторам приходится учиться заново?
На форуме «Диалог о фейках 4.0» АНО «Диалог Регионы» и aIDeepfake заключили рамочное соглашение об информационном взаимодействии. Стороны договорились обмениваться данными и экспертизой, совместно информировать аудиторию о недостоверной информации и совершенствовать технологии выявления дипфейков.
Исходное видео больше не требуется
Раньше создание дипфейка предполагало наличие эталона, который можно было использовать для имитации внешности или голоса. Диффузионные модели расширили возможности. Реалистичный видеоряд можно получить из текстового описания, не имея исходной записи с конкретным человеком.
Для систем детекции новые условия работы усложняются. Алгоритмы сталкиваются с полностью синтезированным, а не смонтированным материалом.
По данным, представленным в рамках форума, примерно половина зафиксированных в 2026 году дипфейков связана с диффузионными моделями. На фоне роста общего числа случаев задача обнаружения становится сложнее.
Генерация развивается быстрее идентификации
У ИИ-моделей и детекторов разные задачи. Первые стремятся сделать контент максимально похожим на реальный. Вторые ищут признаки, по которым его можно отличить.
Появляется новый способ генерации, меняется характер материала, который приходится анализировать. Детектор, обученный на известных вариантах подделок, сталкивается с контентом другого происхождения и другой структуры.
«Современная детекция — это поиск устойчивых признаков синтетического происхождения контента в условиях постоянной эволюции генеративных моделей. Чем разнообразнее исследовательская база, тем выше способность системы выявлять ранее неизвестные способы генерации», — говорит Екатерина Корнюшина, основатель и генеральный директор ООО «Эй Ай Дипфейк».
Данные от реальных инцидентов
В соглашении «Диалог Регионы» и aIDeepfake отдельным направлением обозначен обмен данными и экспертизой. Технологии распознавания смогут связать исследования новых ИИ-методов с реальными случаями распространения недостоверного контента.
«Чем быстрее развиваются инструменты генерации, тем быстрее должны развиваться и инструменты их обнаружения. Наше сотрудничество — важный шаг в этом направлении», — отметил Владимир Киселев, начальник Управления разработки и поддержки цифровых сервисов АНО «Диалог Регионы».
Стороны также планируют ускорять реагирование на инциденты и адаптировать системы обнаружения к новым угрозам.
Для подобных решений важна скорость обновления. Чем быстрее разработчик получает информацию о таких случаях, тем раньше она может учитываться при дальнейшей работе.
Дипфейк становится задачей для инфраструктуры
Проверка синтетического контента перестает быть задачей одного алгоритма. Если дипфейк помогает распространять ложные сведения, процесс включает несколько этапов: обнаружение, анализ, подтверждение и ответные меры.
На этом этапе важны данные о новых методах создания контента, скорость обмена информацией и способность инструментов адаптироваться к меняющимся условиям.
Для НооСофт, который работает с цифровизацией и внедрением ИИ-решений, этот вопрос связан с более широким изменением требований к цифровой инфраструктуре. ИИ-системы приходится проектировать с учётом среды, в которой технологии генерации и способы их применения постоянно меняются.
«С Центром управления регионами мы знакомы ещё со времён моей работы в Алтайском крае. Мы неоднократно взаимодействовали с региональной командой, встречались с коллегами и видели, насколько большую роль в этой работе играют специалисты на местах.
Для меня важно, что наш сервис становятся частью системы, которая помогает защищать жителей от мошенничества и распространения недостоверной информации. За цифровыми решениями здесь стоит вполне конкретная задача — сделать информационную среду безопаснее для людей.
Сотрудничество с командами, которые работают с такими вызовами на федеральном и региональном уровне, даёт разработчикам практическую обратную связь. Технологии развиваются быстрее, когда их можно проверять на реальных задачах и учитывать опыт специалистов, которые сталкиваются с информационными угрозами каждый день», — комментирует Виталий Лажинцев, директор НооСофт.
