Речь идет и о роликах, созданных с помощью простых технологий, например Photoshop, и о тех, которые были изменены с использованием искусственного интеллекта и нейросетей, так называемыми deepfakes. Современные технологии позволяют создавать качественные подделки, отличить которые крайне сложно.
«Таких видео пока еще немного, но это уже серьезный вызов нашей индустрии и обществу, тем более что они будут распространяться дальше», — говорится в заявлении Facebook.
Отредактированные видеоролики, которые искажают реальность и вводят людей в заблуждение, социальная сеть будет удалять. Об этом сообщила вице-президент по управлению глобальной политикой компании Моника Бикерт.
Если видео не соответствует критериям, но кажется сомнительным, Facebook отправит его 50 партнерам, чтобы сторонние эксперты проверили контент и решили, относится ли он к фальшивым. Если будет решено, что видео содержит полностью или частично ложную информацию, Facebook сократит его распространение в ленте, а пользователей предупредят о его недостоверности с помощью специальной метки. По мнению разработчиков Facebook, удаление видео не всегда решает проблемы, так как его все равно распространяют в Сети, в то время как метка поможет большему количеству пользователей узнать, что это фейк.
Сообщается, что новые правила не коснутся пародийных и сатирических роликов, созданных с целью развлечь аудиторию, а не дезинформировать ее. Не будут удалены и видео, отредактированные для того, чтобы исключить ненужные слова или изменить порядок слов.
О том, что платформа может ужесточить свою политику в отношении дипфейков, стало известно еще в конце июня 2019 года — об этом сообщил основатель Fаcebook Марк Цукерберг. Уже в сентябре сайт запустил программу по разработке эффективной технологии распознавания дипфейков — Deepfake Detection Challenge. Общий размер грантов в рамках программы — 10 млн долларов.
