Обнаружение контента, созданного ИИ

Обнаженные фотографии поп-суперзвезды Тейлор Свифт недавно заполонили социальные сети X, где их просматривали и делились ими миллионы пользователей. Но изображения не были настоящими — это были дипфейки, созданные с помощью искусственного интеллекта (ИИ). Инцидент разжег дебаты о регулировании дипфейков и привлек столько внимания, что в дело вмешался Белый дом. Решения сейчас обсуждаются политиками и крупными технологическими компаниями. Но возможно ли вообще защититься от такого рода атак? По словам Мортена Мёрупа, который занимается исследованиями в области искусственного интеллекта в DTU Compute, это может оказаться очень сложной задачей. Deepfake использует глубокое обучение для создания текста, изображений, речи или видео , которые кажутся реальными, но далеки от реальности. Развитие дипфейков началось в 2014 году, когда был разработан принцип обучения искусственного интеллекта генеративно-состязательной сети (GAN). Этот принцип позволяет моделям ИИ обучаться на других моделях ИИ, предназначенных для обнаружения дипфейков. С тех пор были разработаны модели искусственного интеллекта, из-за которых отличить фейк от реальности еще сложнее, а в Интернете доступно множество инструментов для дипфейков . «Принцип обучения GAN основан на гонке вооружений между двумя моделями ИИ: одна генерирует дипфейки, а другая пытается отличить то, что реально, от того, что создано ИИ. Модели дипфейков проверяют себя на моделях, предназначенных для их обнаружения. Если Модель ИИ, предназначенная для создания дипфейков, обучается на другой модели ИИ, предназначенной для определения, скажем, является ли изображение реальным или поддельным. На основе этой модели ИИ он узнает, как его необходимо улучшить. «Эта гонка между двумя моделями ИИ — одна пытается генерировать, а другая — обнаруживать фальшивый материал — будет продолжаться до тех пор, пока модель обнаружения больше не сможет различать реальность и фальшивку. Именно это делает задачу настолько сложной как для людей, так и для моделей ИИ. чтобы отличить настоящее от подделки», — говорит Мёруп. Что такое дипфейки? Дипфейки — это сгенерированные компьютером текст, изображения, звуки, речь или видео, которые кажутся реальными, но на самом деле таковыми не являются. Человеку может быть очень сложно определить, реально ли что-то или создано искусственным интеллектом, а в некоторых случаях почти невозможно. Дипфейки часто генерируются на основе принципа обучения GAN, но сегодня существует и множество других методов создания дипфейков. Технологические компании и исследователи работают над разработкой моделей искусственного интеллекта, способных обнаруживать дипфейки, но даже эти модели могут с трудом заметить разницу. Посмотрите, сможете ли вы заметить разницу . (Этот веб-сайт 2019 года основан на GAN, и с тех пор были разработаны еще более эффективные инструменты для дипфейков.) Декларации не являются гарантией Исследование , проведенное DR (на датском языке), показало, что каждый третий ребенок в возрасте 9–14 лет никогда не задумывается о возможности манипулирования фотографиями и видео в социальных сетях. Множество дипфейков привело к тому, что компания Meta, владеющая Facebook и Instagram, попыталась обнаружить изображения и видео, созданные компьютером. В то же время Закон ЕС об искусственном интеллекте — первый в мире закон об искусственном интеллекте — сделает обязательным декларирование контента, созданного компьютером. Однако, несмотря на то, что в этой области разрабатывается регулирование и техн...

Обнаружение контента, созданного ИИ

Читать полный текст на android-robot.com

 

Опубликовано: 09:00, 15.03.2024

 

Новость из рубрики: Интернет и Игры

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 
 

Обнаружение нейтрино и как оно поможет разгадать тайны Вселенной 01:22, 08 Апр Обнаружение нейтрино и как оно поможет разгадать тайны Вселенной Ученые совершили новый прорыв, замерив нейтрино Совсем недавно обсерватория Садбери, расположенная в шахте под землей, совершила прорыв – замерила не...

ИИ и голографическая визуализация ускоряют обнаружение вирусных бляшек 01:44, 25 Июн ИИ и голографическая визуализация ускоряют обнаружение вирусных бляшек Глубокое обучение и голографическая визуализация ускоряют обнаружение и количественную оценку вирусных бляшек. Вирусные инфекции бросали вызов челове...

Тюринг-обвес для АУДИ  особенности 14:19, 13 Июл Тюринг-обвес для АУДИ — особенности Какой автомобиль относится к классу D и отличается повышенным комфортом? Это Audi А6 модели, которая отличается широкой линейкой двигателей. Для поку...

Компания LG представила робота-официанта LG CLOi ServeBot 1 (модель LDLTR30), созданного для объектов сферы обслуживания 00:11, 21 Июл Компания LG представила робота-официанта LG CLOi ServeBot 1 (модель LDLTR30), созданного для объектов сферы обслуживания Компания LG Electronics (LG) представила свой новейший LG CLOi ServeBot (модель LDLTR30), созданного для объектов сферы обслуживания (включая пункты ...

Индийский суд отклонил заявление Twitter об удалении контента 04:00, 07 Июл Индийский суд отклонил заявление Twitter об удалении контента Индийский суд оштрафовал Twitter на 61 000 долларов после того, как отклонил заявление об оспаривании постановлений об удалении твитов и аккаунтов, к...

Названы первые победители Национальной премии Интернет-контента 2023 года 13:33, 19 Май Названы первые победители Национальной премии Интернет-контента 2023 года В 2023 году во второй раз прошла премия Института развития интернета (ИРИ) для авторов социально значимых проектов в Интернете, названы победители в ...

Депутаты Справедливой России предлагают легальные файлообменники для контента из закрытых стран 02:55, 13 Июн Депутаты «Справедливой России» предлагают легальные файлообменники для контента из закрытых стран Партия «Справедливая Россия» выдвинула инициативу создания легальных файлообменников на территории России, предоставляющих доступ к цифрово...

Apple прокачала свои топовые планшеты под создание контента  приложения Final Cut Pro и Logic Pro для iPad уже можно скачать! 21:00, 23 Май Apple прокачала свои топовые планшеты под создание контента — приложения Final Cut Pro и Logic Pro для iPad уже можно скачать! Сегодня, 22 мая, Apple выпустила фирменные приложения Final Cut Pro и Logic Pro для iPad. Они уже доступны в App Store по всему миру.Ранее Final Cut ...