Обнаружение контента, созданного ИИ

Обнаженные фотографии поп-суперзвезды Тейлор Свифт недавно заполонили социальные сети X, где их просматривали и делились ими миллионы пользователей. Но изображения не были настоящими — это были дипфейки, созданные с помощью искусственного интеллекта (ИИ). Инцидент разжег дебаты о регулировании дипфейков и привлек столько внимания, что в дело вмешался Белый дом. Решения сейчас обсуждаются политиками и крупными технологическими компаниями. Но возможно ли вообще защититься от такого рода атак? По словам Мортена Мёрупа, который занимается исследованиями в области искусственного интеллекта в DTU Compute, это может оказаться очень сложной задачей. Deepfake использует глубокое обучение для создания текста, изображений, речи или видео , которые кажутся реальными, но далеки от реальности. Развитие дипфейков началось в 2014 году, когда был разработан принцип обучения искусственного интеллекта генеративно-состязательной сети (GAN). Этот принцип позволяет моделям ИИ обучаться на других моделях ИИ, предназначенных для обнаружения дипфейков. С тех пор были разработаны модели искусственного интеллекта, из-за которых отличить фейк от реальности еще сложнее, а в Интернете доступно множество инструментов для дипфейков . «Принцип обучения GAN основан на гонке вооружений между двумя моделями ИИ: одна генерирует дипфейки, а другая пытается отличить то, что реально, от того, что создано ИИ. Модели дипфейков проверяют себя на моделях, предназначенных для их обнаружения. Если Модель ИИ, предназначенная для создания дипфейков, обучается на другой модели ИИ, предназначенной для определения, скажем, является ли изображение реальным или поддельным. На основе этой модели ИИ он узнает, как его необходимо улучшить. «Эта гонка между двумя моделями ИИ — одна пытается генерировать, а другая — обнаруживать фальшивый материал — будет продолжаться до тех пор, пока модель обнаружения больше не сможет различать реальность и фальшивку. Именно это делает задачу настолько сложной как для людей, так и для моделей ИИ. чтобы отличить настоящее от подделки», — говорит Мёруп. Что такое дипфейки? Дипфейки — это сгенерированные компьютером текст, изображения, звуки, речь или видео, которые кажутся реальными, но на самом деле таковыми не являются. Человеку может быть очень сложно определить, реально ли что-то или создано искусственным интеллектом, а в некоторых случаях почти невозможно. Дипфейки часто генерируются на основе принципа обучения GAN, но сегодня существует и множество других методов создания дипфейков. Технологические компании и исследователи работают над разработкой моделей искусственного интеллекта, способных обнаруживать дипфейки, но даже эти модели могут с трудом заметить разницу. Посмотрите, сможете ли вы заметить разницу . (Этот веб-сайт 2019 года основан на GAN, и с тех пор были разработаны еще более эффективные инструменты для дипфейков.) Декларации не являются гарантией Исследование , проведенное DR (на датском языке), показало, что каждый третий ребенок в возрасте 9–14 лет никогда не задумывается о возможности манипулирования фотографиями и видео в социальных сетях. Множество дипфейков привело к тому, что компания Meta, владеющая Facebook и Instagram, попыталась обнаружить изображения и видео, созданные компьютером. В то же время Закон ЕС об искусственном интеллекте — первый в мире закон об искусственном интеллекте — сделает обязательным декларирование контента, созданного компьютером. Однако, несмотря на то, что в этой области разрабатывается регулирование и техн...

Читать полный текст на android-robot.com

 

Опубликовано: 09:00, 15.03.2024

 

Новость из рубрики: Интернет и Игры

 

Поделиться новостью:

 

Топ новости часа

• С 28 октября войти в «Госуслуги» с логином и паролем больше не получится...
• Starlink в Украине. Где купить и как пользоваться...
• Гран-при Австралии-2023. Расписание трансляций...
• Хозяин "Пятёрочки" рассказал, что россияне стали патриотами и разлюбили западные бренды...
• Де Хеа сделал 5-ю результативную ошибку со старта прошлого сезона – у него и Льориса их больше всего среди игроков АПЛ...
• Когда выйдут данные по инфляции в Великобритании и как они могут повлиять на GBP/USD?...