В России запланировано внедрение искусственного интеллекта для автоматического обнаружения запрещенных материалов. О данном проекте сообщил Павел Боюка, директор по ИИ-продуктам компании «Оператор Газпром ИД».
Инновационная платформа Video Tagging System
Для этих целей будет использоваться отечественная платформа Video Tagging System (VTS), способная автоматизировать процесс модерации видео, аудио и текстового контента. Это решение призвано облегчить труд модераторов и минимизировать юридические, репутационные и регуляторные риски для цифровых платформ.
Эффективность и возможности системы
По словам Боюки, система VTS может улучшить эффективность работы модераторов более чем в десять раз. Она уже настроена на распознавание нецензурной лексики и пропаганды наркотиков.
Платформа включает более 15 нейросетевых моделей, которые способны анализировать объекты и действия в видеозаписи, распознавать речь и эмоции, а также работать с текстовой и графической информацией. Благодаря этому, система автоматически создает точные метки нарушения вместе с временными отметками, что значительно ускоряет процесс проверки контента.
Адаптация под конкретные требования
VTS поддерживает как стандартные правила модерации, так и кастомизированные сценарии, которые можно адаптировать под нужды конкретной платформы. В зависимости от установок, система либо автоматически блокирует спорный контент, либо передает его на финальное решение модератору.
Система использует подход Zero-Shot и каскадные модели с перекрестной валидацией, что позволяет запускать новые сценарии без дополнительного обучения. Это значительно снижает количество ложных срабатываний и обеспечивает стабильность качества работы с большими объемами данных.
