[Обработка изображений, Реверс-инжиниринг, Машинное обучение, Искусственный интеллект] В Facebook AI научились находить источники дипфейков
Автор
Сообщение
news_bot ®
Стаж: 6 лет 9 месяцев
Сообщений: 27286
В Facebook AI в сотрудничестве с исследователями из Университета штата Мичиган (MSU) разработали метод обнаружения дипфейков, который основан на реверс-инжиниринге фейкового изображения, а также самой системы, использованной для его создания. 
Компания утверждает, что этот метод поддержит усилия по обнаружению и отслеживанию дипфейков в «реальных» условиях, когда нельзя обнаружить исходник.Текущие методы выявления дипфейков сосредоточены на различении реальных изображений и поддельных. Microsoft недавно запустила решение для борьбы с дипфейками в Video Authenticator. Этот инструмент может анализировать фотографии или видео. Победители конкурса Deepfake Detection Challenge от Facebook, который завершился в июне 2020 года, создали систему, которая может распознавать дипфейк-видео с точностью до 82 %.Реверс-инжиниринг не является новой концепцией в машинном обучении. Современные методы могут прийти к исходной модели путем изучения ее входных и выходных данных или изучения информации об использованном оборудовании. Однако эти методы зависят от уже имеющихся знаний о самой модели, что ограничивает их применение.Процесс распознавания Facebook и MSU начинается с атрибуции, а затем система аботает над обнаружением свойств модели, используемой для создания дипфейка. Обобщая атрибуцию изображений и отслеживая сходства между шаблонами коллекции дипфейков, она может сделать вывод о генеративной модели, используемой для создания дипфейка, и сказать, произошла ли серия изображений из одного источника.Система прогоняет дипфейк через сеть оценки отпечатков (FEN), которая извлекает детали о «цифровом отпечатке», оставленном моделью, которая его сгенерировала. Это уникальные шаблоны, которые можно использовать для идентификации генеративных моделей, из которых произошли дипфейки.
Исследователи оценили «цифровые отпечатки», используя различные ограничения. Они использовали эти ограничения для создания набора данных, который затем применили, чтобы обучить модель обнаруживать отпечатки, с которыми она раньше не сталкивалась.Facebook и MSU заявляют, что их система может оценивать как сетевую архитектуру алгоритма, используемого для создания дипфейка, так и его функции потерь при обучении, которые оценивают, как алгоритм моделирует свои обучающие данные. Она также раскрывает особенности модели, использованной для создания дипфейка.Чтобы проверить этот подход, исследовательская группа собрала набор данных поддельных изображений из 100 тысяч дипфейков, созданных на основе 100 общедоступных моделей. Их либо брали из готовых наборов данных, либо использовали собственный код для создания.Исследователи обнаружили, что их подход работает «значительно лучше» и «конкурирует» с современными методами обнаружения и атрибуции дипфейков. Более того, они говорят, что он может быть применен для обнаружения скоординированных атак дезинформации, когда различные дипфейки загружаются на разные платформы, но все происходят из одного источника. В том числе, метод может работать при обнаружении поддельного текста на изображениях. На днях Facebook AI представила проект искусственного интеллекта TextStyleBrush, который может копировать стиль текста на фотографии, используя всего одно слово, чтобы редактировать и заменять текст в изображениях.Facebook и MSU планируют открыть исходный код набора данных и обученных моделей, используемых для создания системы, чтобы облегчить исследования в различных областях.
===========
Источник:
habr.com
===========
Похожие новости:
- [Ненормальное программирование, Python, Обработка изображений, Машинное обучение, Разработка под Windows] Управляем звуком ПК от активности пользователя с помощью Python
- [Open source, Работа с видео, Машинное обучение] Как мы построили Computer Vision из подручных материалов, чтобы сделать гифки
- [Python, Алгоритмы, Big Data, Машинное обучение, Искусственный интеллект] DataScience Digest — 17.06.21
- [Алгоритмы, Научно-популярное, Искусственный интеллект] DeepMind считает, что обучения с подкреплением хватит для разработки сильной формы искусственного интеллекта (перевод)
- [Информационная безопасность, Python, Программирование, Машинное обучение] Вышла библиотека PyWhat для автоматического парсинга трафика
- [Информационная безопасность, Реверс-инжиниринг, Исследования и прогнозы в IT, IT-компании] Cassandra: криптор, который любит держаться в тени
- [Мессенджеры, Python, Twitter API, Машинное обучение, DIY или Сделай сам] Твиттер Илона Маска в телеграме и с переводом на русский
- [Python, Swift, Искусственный интеллект] О том как мы научили машину определять пол человека по его почерку
- [Машинное обучение] Циан.Митап: «MLOps или безопасный воспроизводимый ML для бизнеса»
- [JavaScript, Google Chrome, API, Расширения для браузеров, Реверс-инжиниринг] Как я доделал функции за Яндекс.Музыкой
Теги для поиска: #_obrabotka_izobrazhenij (Обработка изображений), #_reversinzhiniring (Реверс-инжиниринг), #_mashinnoe_obuchenie (Машинное обучение), #_iskusstvennyj_intellekt (Искусственный интеллект), #_facebook_ai_research, #_msu, #_dipfejki (дипфейки), #_mashinnoe_obuchenie (машинное обучение), #_reversinzhiniring (реверс-инжиниринг), #_generativnaja_model (генеративная модель), #_obrabotka_izobrazhenij (
Обработка изображений
), #_reversinzhiniring (
Реверс-инжиниринг
), #_mashinnoe_obuchenie (
Машинное обучение
), #_iskusstvennyj_intellekt (
Искусственный интеллект
)
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Текущее время: 25-Ноя 23:34
Часовой пояс: UTC + 5
| Автор | Сообщение |
|---|---|
|
news_bot ®
Стаж: 6 лет 9 месяцев |
|
|
В Facebook AI в сотрудничестве с исследователями из Университета штата Мичиган (MSU) разработали метод обнаружения дипфейков, который основан на реверс-инжиниринге фейкового изображения, а также самой системы, использованной для его создания.  Компания утверждает, что этот метод поддержит усилия по обнаружению и отслеживанию дипфейков в «реальных» условиях, когда нельзя обнаружить исходник.Текущие методы выявления дипфейков сосредоточены на различении реальных изображений и поддельных. Microsoft недавно запустила решение для борьбы с дипфейками в Video Authenticator. Этот инструмент может анализировать фотографии или видео. Победители конкурса Deepfake Detection Challenge от Facebook, который завершился в июне 2020 года, создали систему, которая может распознавать дипфейк-видео с точностью до 82 %.Реверс-инжиниринг не является новой концепцией в машинном обучении. Современные методы могут прийти к исходной модели путем изучения ее входных и выходных данных или изучения информации об использованном оборудовании. Однако эти методы зависят от уже имеющихся знаний о самой модели, что ограничивает их применение.Процесс распознавания Facebook и MSU начинается с атрибуции, а затем система аботает над обнаружением свойств модели, используемой для создания дипфейка. Обобщая атрибуцию изображений и отслеживая сходства между шаблонами коллекции дипфейков, она может сделать вывод о генеративной модели, используемой для создания дипфейка, и сказать, произошла ли серия изображений из одного источника.Система прогоняет дипфейк через сеть оценки отпечатков (FEN), которая извлекает детали о «цифровом отпечатке», оставленном моделью, которая его сгенерировала. Это уникальные шаблоны, которые можно использовать для идентификации генеративных моделей, из которых произошли дипфейки.  Исследователи оценили «цифровые отпечатки», используя различные ограничения. Они использовали эти ограничения для создания набора данных, который затем применили, чтобы обучить модель обнаруживать отпечатки, с которыми она раньше не сталкивалась.Facebook и MSU заявляют, что их система может оценивать как сетевую архитектуру алгоритма, используемого для создания дипфейка, так и его функции потерь при обучении, которые оценивают, как алгоритм моделирует свои обучающие данные. Она также раскрывает особенности модели, использованной для создания дипфейка.Чтобы проверить этот подход, исследовательская группа собрала набор данных поддельных изображений из 100 тысяч дипфейков, созданных на основе 100 общедоступных моделей. Их либо брали из готовых наборов данных, либо использовали собственный код для создания.Исследователи обнаружили, что их подход работает «значительно лучше» и «конкурирует» с современными методами обнаружения и атрибуции дипфейков. Более того, они говорят, что он может быть применен для обнаружения скоординированных атак дезинформации, когда различные дипфейки загружаются на разные платформы, но все происходят из одного источника. В том числе, метод может работать при обнаружении поддельного текста на изображениях. На днях Facebook AI представила проект искусственного интеллекта TextStyleBrush, который может копировать стиль текста на фотографии, используя всего одно слово, чтобы редактировать и заменять текст в изображениях.Facebook и MSU планируют открыть исходный код набора данных и обученных моделей, используемых для создания системы, чтобы облегчить исследования в различных областях. =========== Источник: habr.com =========== Похожие новости:
Обработка изображений ), #_reversinzhiniring ( Реверс-инжиниринг ), #_mashinnoe_obuchenie ( Машинное обучение ), #_iskusstvennyj_intellekt ( Искусственный интеллект ) |
|
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Текущее время: 25-Ноя 23:34
Часовой пояс: UTC + 5