Калифорния запретила предвыборные дипфейки с политиками

Губернатор штата Калифорния Гэвин Ньюсон (Gawin Newson) подписал законопроект, регулирующий распространение дипфейков. Он запрещает выкладывать в общий доступ фейковые ролики с политическими кандидатами в течение 60 дней перед началом выборов. Об этом сообщает Engadget.

Технологии подмены лиц на видео всего за пару лет перешли от довольно примитивных прототипов (речь в первую очередь идет о пользователе Reddit deepfakes, который в 2017 году научил нейросеть накладывать кадры на лица актрис в порнороликах) до качественно работающих алгоритмов, распознать результаты работы которых становится все сложнее. Разумеется, эффективность работы таких алгоритмов повышает вероятность того, что дипфейки будут использоваться во вред, что в особенности опасно для публичных людей вроде политиков, так как в интернете зачастую доступно большое количество роликов с их участием, которые можно использовать для обучающей выборки.

Подписанный законопроект — первый известный закон, ограничивающий распространение именно дипфейков в интернете. Действие законопроекта ограничивает распространение дипфейков с участием политических кандидатов в форме аудио, видео и фото в течение 60 дней до выборов. Закон будет действовать как в отношении материалов, в которых подменены лица и голоса политиков, так и на материалы, в которых на изображения политиков накладываются чужие лица и речь. При этом в законопроекте уточняется, что кадры или ролики с политиками, в которых используются материалы с участием других людей, должны сопровождаться предупреждением. Закон будет действовать до 1 января 2023 года.

Пока что неясно, как именно будут определять подмену в подобных материалах — автоматически или нет — но крупные IT-компании уже создают собственные датасеты для обучения алгоритмов, определяющих подмену лиц на видео. Так, датасеты для борьбы с дипфейками уже собрала Google, а Facebook и Microsoft в дополнение к датасету объявили о начале конкурса для разработчиков.

Елизавета Ивтушок