Ещё один китайский ИИ поймали на цензуре

Китайский стартап Sand AI представил открытую модель для генерации видео под названием Magi-1, которая ограничивает создание контента на политически чувствительные темы. В ходе тестирования выяснилось, что платформа блокирует изображения с Си Цзиньпином, площади Тяньаньмэнь, «человеком с танком», флагом Тайваня и подобные.

Фильтрация осуществлена на уровне изображений — даже смена названий файлов не помогает обойти запреты.

Sand AI не единственный в своем подходе: Hailuo AI от MiniMax также запрещает изображения Си Цзиньпина, но допускает контент, связанный с Тяньаньмэнь. В целях соблюдения законодательства компании часто применяют фильтры на этапе запросов или дообучают свои модели, чтобы минимизировать риск возникновения спорных тем. Интересно заметить, что китайские ИИ-системы зачастую менее строгие в отношении порнографического контента по сравнению с американскими аналогами.

Модель Magi-1 была отмечена экспертами за высокое качество видео, хотя цензура якобы ограничивает ее возможности.