Представьте себе это: Вы нажимаете на новостной ролик и видите «президента Соединенных Штатов» на пресс-конференции с лидером другой страны. Диалог настоящий… пресс-конференция настоящая… и вы делитесь этим с другом. Он делится этим с другими друзьями, и вскоре все это видят. Только позже вы узнаете, что… Голова президента была наложена на тело другого человека.Но ничего из этого на самом деле не произошло.
Звучит невероятно? Нет, если вы видели вирусное видео от пользователя YouTube «Ctrl Сдвиг лица(Вы можете посмотреть это видео в конце статьи). С августа 2019 года он добился более чем 12,7 миллионов просмотров и более 16 000 комментариев на момент написания данной статьи.
В этом видео американский комик Билл Хадер Он рассказывает историю о своих встречах с Томом Крузом и Сетом Рогеном. Пока Хадер, искусный пародист, изо всех сил старается изобразить Круза и Рогена, Лица этих актеров идеально сливаются воедино. и, что особенно ужасно, в своей собственной жизни. Технология «Дипфейк» Это делает впечатления Хадера гораздо более яркими, но также демонстрирует, насколько легко — и потенциально опасно — манипулировать видеоконтентом.
Но… что же такое дипфейк?
Видео Хадера — это дипфейк, созданный экспертами с помощью технологии, изобретенной в 2014 году. Ян Гудфеллоуаспирант, который сейчас работает в AppleБольшинство технологий дипфейков основаны на Генеративные состязательные нейронные сети (GAN).
GAN позволяют алгоритмы Выходя за рамки классификации данных, можно создавать изображения. Это происходит, когда две генеративно-состязательные сети (GAN) пытаются обмануть друг друга, заставив поверить, что изображение «реальное». Имея всего одно изображение, опытная GAN может создать видеоролик с этим человеком. В 2019 году... Центр искусственного интеллекта Samsung Он опубликовал научную статью, в которой излагаются научные основы этого подхода.
«Крайне важно, что система способна инициализировать параметры как генератора, так и дискриминатора с учетом индивидуальных особенностей человека, благодаря чему обучение может основываться всего на нескольких изображениях и проводиться быстро, несмотря на необходимость точной настройки десятков миллионов параметров».
«Мы продемонстрировали, что этот подход способен обучаться на основе высокореалистичных и персонализированных моделей говорящих голов, созданных на основе новых людей и даже портретов».
Об этом заявили исследователи, подготовившие этот документ.
На данный момент это относится только к видеороликам с «говорящими головами». Но когда 47% пользователей получают новости из онлайн-видеоконтента…Что произойдет, когда генеративно-состязательные сети (GAN) смогут заставлять людей танцевать, аплодировать или каким-либо образом манипулировать ими?
Почему фейковые новости опасны?
Если мы забудем о том, что в этом активно участвуют более 30 стран. кибервойна в любое время. Таким образом, наибольшую опасность дипфейков могут представлять такие факторы, как плохо разработанные веб-сайты и приложения. ГлубокоНюдыгде лица знаменитостей и лица обычных женщин могли быть наложены на содержание порнографического видеоролика.
Основатель Deepnudes в итоге отменил запуск сайта, опасаясь, что «вероятность злоупотребления им слишком высока». Ну и что еще можно было делать с поддельным порнографическим контентом?
«На самом базовом уровне дипфейки — это ложь, замаскированная под правду».
«Если мы будем воспринимать их как истину или доказательство, мы легко можем сделать ложные выводы, которые могут иметь катастрофические последствия».
Андреа Хикерсон, директор Школы журналистики и массовых коммуникаций Университета Южной Каролины.
Во многом опасения, связанные с дипфейками, справедливо обусловлены политикой. Андреа Хикерсон говорит: «Что произойдет, если в видеоролике, созданном с помощью технологии дипфейк, будет изображен политический лидер, подстрекающий к насилию или панике? Могут ли другие страны быть вынуждены принять меры, если угроза станет непосредственной?»
Одним из видов использования, который можно считать рискованным, является распространение «фейковых новостей» в период выборов в любой стране, и это, в сочетании с постоянная угроза кибератак и кибервойныНам необходимо всерьез рассмотреть несколько «ужасающих» сценариев:
- В период выборов дипфейки будут использоваться для того, чтобы изолировать, подвергнуть остракизму и еще больше разделить электорат любой страны.
- Технология Deepfake будет использоваться для изменения и воздействия на поведение избирателей, а также на потребительские предпочтения сотен миллионов людей.
- Дипфейки будут использоваться в фишинг копья и в других стратегиях нападения кибербезопасность известны тем, что более эффективно выбирают своих жертв в качестве мишеней.
Это означает, что дипфейки подвергают компании, частных лиц и правительства большему риску.
«Проблема не обязательно заключается в технологии GAN».
«Проблема в том, что злоумышленники в настоящее время обладают подавляющим преимуществом, и нет решений для противодействия растущей угрозе. Однако в сообществе ИИ появляется ряд решений и новых идей для борьбы с этой угрозой. Тем не менее, решение должно в первую очередь включать в себя участие людей».
Бен Ламм, генеральный директор компании Hypergiant Industries, занимающейся разработкой искусственного интеллекта.
Новая опасность: финансовые мошенничества с использованием дипфейков.
Вы помните свой первый автоматический звонок? Возможно, нет, учитывая, что автоматизированные телефонные звонки были довольно убедительными несколько лет назад, когда большинство из нас еще не понимало, что это такое. К счастью, те мошеннические звонки количество жалоб на автоматические звонки сокращается: сообщается, что число жалоб на такие звонки за последние годы уменьшилось более чем на 60%.
Однако технология дипфейков, применяемая к аудио-фейковым новостям, может легко усилить обманную тактику. По данным компании Nisos, занимающейся кибербезопасностью и расположенной в Александрии, штат Вирджиния, хакеры используют автоматическое обучение для клонирования голосов людей. В одном задокументированном случае хакеры использовали синтетический звук, созданный с помощью технологии дипфейк, чтобы обмануть технологическую компанию.
Это сообщение пришло в виде голосовой почты, предположительно от генерального директора технологической компании. В сообщении он просит сотрудника перезвонить ему, чтобы «завершить срочную деловую сделку».
«Получатель сразу же счел это подозрительным и не стал связываться с номером, а переадресовал звонок в свой юридический отдел, в результате чего атака оказалась безуспешной», — отметил Нисос в техническом документе от июля 2020 года.
Что в настоящее время делается для борьбы с фейковыми новостями?
В последние годы Комитет по разведке Палаты представителей США направил письмо по этому вопросу. Твиттер, Фейсбук и Google Расследование началось после того, как бывший президент Дональд Трамп опубликовал в Твиттере видео, созданное с помощью технологии дипфейк, с участием спикера Палаты представителей Нэнси Пелоси.
В 2020, Facebook сделал позитивный шаг к запрету дипфейков.В сообщении в блоге Январь 6Моника Бикерт, вице-президент Facebook по глобальному управлению политикой, написала, что компания предпринимает новые усилия для «искоренения вводящих в заблуждение и манипулируемых СМИ».
Facebook применяет особый, двусторонний подход к выявлению и удалению дипфейков со своей платформы. Для удаления изображения необходимо следующее: Согласно сообщению в блоге, оно должно соответствовать следующим критериям:
- Видео было отредактировано или обработано (помимо корректировки для ясности или качества) таким образом, что это не очевидно для обычного человека и может заставить кого-то подумать, что человек на видео произнес слова, которые он на самом деле не говорил.
- Это продукт искусственный интеллект или машинное обучение, которое объединяет, заменяет или накладывает контент на видео, создавая впечатление его подлинности.
Тем не менее, Сатирические и пародийные видеоролики остаются в безопасности.Это также относится к видеороликам, отредактированным исключительно с целью удаления или изменения порядка слов. Это означает, что отредактированные материалы всё ещё могут остаться незамеченными. В частности, TikTok и Twitter придерживаются схожей политики.
Тем временем, государственные учреждения, такие как DARPA Исследователи из таких университетов, как Университет Карнеги-Меллона, Вашингтонский университет, Стэнфордский университет и Институт информатики имени Макса Планка, также экспериментируют с технологией дипфейков. Компания Disney тоже так делает.Эти организации изучают не только способы использования технологии GAN, но и методы борьбы с ней.
Они надеются помочь алгоритмам, используя дипфейки и реальные видео, чтобы помочь компьютерам различать дипфейки и реальные видео. Если это выглядит как гонка вооружений, то это потому, что так оно и есть.Мы используем технологии для борьбы с технологиями в гонке, которой нет конца.
Последние новости подтверждают, что Европейский союз требует от крупных технологических компаний контролировать и регулировать использование дипфейков. в рамках своих платформ.
Какие существуют способы борьбы с дезинформацией, распространяемой фейковыми новостями?
Возможно, решение кроется не в технологиях. Другие недавние исследования предполагают, что ключ к решению проблемы могут быть у мышей. Исследователи из Институт нейронаук Университета Орегона Они считают, что «мышиная модель, учитывая мощные генетические и электрофизиологические инструменты, доступные для исследования нейронных цепей, имеет потенциал для значительного улучшения механического понимания фонетического восприятия».
Это означает, что Мыши могли бы помочь алгоритмам. Технологии нового поколения смогут обнаруживать поддельные видео и аудио. Природа может противостоять этим технологиям, но это всё равно будет гонка вооружений.
Хотя достижения в области технологий борьбы с фейковыми новостями могут помочь в обнаружении подделок, может быть уже слишком поздно. Как только доверие к технологии подорвано, восстановить его практически невозможно. Если мы подорвем доверие к видео, Сколько времени пройдет, прежде чем люди потеряют веру в телевизионные новости, интернет-ролики или прямые трансляции исторических событий? Возможно, уже слишком поздно…
«Фейковые новостные видеоролики угрожают нашему гражданскому диалогу и могут нанести серьезный психологический и репутационный вред отдельным лицам. Они также еще больше затрудняют для платформ ответственную модерацию онлайн-контента».
«Хотя общественность, что вполне понятно, призывает компании, работающие в сфере социальных сетей, разработать методы обнаружения и предотвращения распространения дипфейков»,
Шэрон Брэдфорд Франклин, директор по вопросам политики в Институте открытых технологий Новой Америки.
Если ограничительное законодательство не является решением, Следует ли запретить технологии? Хотя многие утверждают, что их можно использовать, новые исследования показывают, что GAN-сети могут помочь улучшить многоразрешающие схемы, позволяющие повысить качество изображения и избежать артефактов в рентгеновских снимках, и что другие сценарии применения в медицине могут появиться в ближайшее время.
Достаточно ли этого, чтобы компенсировать ущерб? Медицина важна, но не менее важно обеспечить основу для нашего доверия к контенту, который мы ежедневно потребляем в различных средствах массовой информации.
Как распознать дипфейк? Как отличить реальность от правды?
Многие уже утратили веру в новости. А по мере развития технологии дипфейков, Количество фейковых новостей будет только расти..
«Лучший способ защититься от дипфейков — никогда не принимать видео за чистую монету». «Нельзя считать, что увидеть — значит поверить. Общественность должна самостоятельно искать соответствующую контекстную информацию и внимательно следить за тем, кто делится видео и почему. В целом, люди небрежно относятся к тому, чем делятся в социальных сетях. Даже если ваш лучший друг поделился чем-то, следует подумать, откуда он это взял. Кто или что является первоисточником?»
Андреа Хикерсон, директор Школы журналистики и массовых коммуникаций Университета Южной Каролины.
Решение этой проблемы должно исходить от отдельных людей. до тех пор, пока регулирующие органы, технологи или технологические компании не найдут решение. Но если не будет немедленного стремления найти ответ, может быть уже слишком поздно.
Нам всем следует требовать от платформ, распространяющих эту информацию, привлечения их к ответственности, а от правительства — принятия мер для обеспечения того, чтобы... Технология имеет достаточно положительных вариантов применения, чтобы компенсировать отрицательные.и что образование гарантирует, что мы будем распознавать дипфейки и будем обладать достаточным здравым смыслом, чтобы не распространять их.
В противном случае мы можем оказаться втянутыми в кибервойну, которую хакер начнет, основываясь исключительно на отредактированном видео. И что?
