Автопилот автомобиля и медицинские ИИ-системы легче обмануть, чем вы думаете

Недавно было проведено исследование, которое показало, что искусственный интеллект (ИИ), управляющий автопилотом автомобиля, либо интерпретирующий ваши рентгеновские снимки, может быть более «доверчивым», чем считалось ранее. Вы можете вносить всевозможные изменения в знак остановки, и ИИ, обученный распознавать знаки остановки, все равно будет знать, что это знак остановки. Однако, если у ИИ есть уязвимость, и злоумышленник знает об этой уязвимости, злоумышленник может ей воспользоваться и вызвать аварию. Исследователи из Университета штата Северная Каролина создали специально ПО – QuadAttacK, который проник в четыре широко используемые «нейронные сети», выявив их «ахиллесовы пяты». Если у вас есть обученная система ИИ и вы тестируете ее на чистых данных, система ИИ будет вести себя так, как прогнозируется. QuadAttacK наблюдает за этими операциями и изучает, как ИИ принимает решения, связанные с данными, что позволяет ему определить, как можно манипулировать данными, чтобы обмануть ИИ. Затем QuadAttacK начинает отправлять обработанные данные в систему ИИ, чтобы увидеть, как ИИ отреагирует. Если QuadAttac K обнаружит уязвимость, он сможет быстро заставить ИИ увидеть то, что QuadAttacK хочет, чтобы он увидел, пишут исследователи....

Читать полный текст на www.ferra.ru

Опубликовано: 06:44, 06.12.2023

Новость из рубрики: Hi-Tech

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа

18:55, 15 Ноя Конкуренция за право на ремонт автомобиля — это борьба за данные вашего автомобиля Автомобили больше не являются просто средством передвижения. Они стали движущимися центрами передачи данных. Современные автомобили регулярно передаю...

20:33, 14 Май РИА Новости: на Евровидении-2023 Украина пыталась обмануть Запад Евровидение остаётся верным своим традициям и даже превзошло ожидания: были представлены необычные выступления, в том числе накрашенные мужчины из Хо...

Тюринг-обвес для АУДИ особенности 14:19, 13 Июл Тюринг-обвес для АУДИ — особенности Какой автомобиль относится к классу D и отличается повышенным комфортом? Это Audi А6 модели, которая отличается широкой линейкой двигателей. Для поку...

00:55, 15 Июн Автопилот Tesla обвинили в сотнях ДТП Национальная администрация безопасности дорожного движения США (NHTSA) заявила, что автопилот Tesla спровоцировал 736 ДТП. При этом в некоторых авари...

18:29, 22 Апр Android-Robot: Новости технологий и науки О нашем портале Android-Robot — это ведущий ресурс, посвященный последним новостям в мире технологий и науки. Мы предлагаем тут самую актуальную ин...

20:22, 27 Дек Думаете, что путь к сердцу лежит через желудок? У нас для вас плохие новости Все мы слышали, что путь к сердцу мужчины лежит через желудок. Есть ли в этих словах некий смысл или перед нами просто очередная «народная мудрость»?...

17:33, 29 Сен Компания Mercedes-Benz первой сертифицировала в США автопилот с третьим уровнем автономности Систему Drive Pilot будут ставить на электрически EQS и седаны S-Класса, а её активация обойдется в две с половиной тысячи долларов за первый год. Ав...

Мостовой о Клаудиньо: Хороший футболист для РПЛ, но для Европы обычный. Думаете, он станет там звездой 04:33, 26 Дек Мостовой о Клаудиньо: «Хороший футболист для РПЛ, но для Европы – обычный. Думаете, он станет там звездой?» – Если нет еврокубоков, у бразильских лидеров «Зенита» – Вендела и Клаудиньо – мотивация падает. С ними надо расставаться? – Я бы так не сказал. У ни...

04:00, 09 Сен В России успешно протестировали отечественные медицинские устройства В России успешно протестировали отечественные программно-аппаратные комплексы для сферы медицины В российском Национальном медицинском исследовательс...

17:55, 22 Дек В Курской областной больнице прошли медицинские совещания На протяжении всего года в Боткинском конференц-зале ОМКБ проходили различные мероприятия, посвящённые насущным актуальным вопросам в сфере медицины....

05:33, 01 Фев Новое программное обеспечение с открытым исходным кодом делает модели ИИ легче и экологичнее Искусственный интеллект (ИИ) стал незаменимым компонентом анализа микроскопических данных. Однако, хотя модели ИИ становятся все лучше и сложнее, выч...

00:00, 02 Июн Психолог Лобанова посоветовала побольше отдыхать, чтобы легче переносить работу летом Лето — это традиционно сезон отпусков, поэтому особенно тяжко работать тем, у кого заслуженный отдых наступит только, например, осенью. Особенно печа...

03:11, 05 Окт Депутат Госдумы Александр Толмачёв передал донецкой больнице медицинские мониторы Помощник депутата Государственной Думы Александра Толмачёва, активист "Молодой Гвардии Единой России" Анна Легум и депутат Совета депутатов городског...

19:44, 09 Июл AYANEO представила новую портативную консоль, которая легче и мощнее Steam Deck и ASUS ROG Ally Китайский производитель игровых консолей AYANEO представил две новые модели портативок AIR 1S и AIR 1S Ultra-Thin & Light с лёгким корпусом и процесс...

23:44, 20 Мар В клинике, где делали операцию Кейт Миддлтон, пытались украсть её медицинские данные. Идёт расследование Ситуация вокруг Кейт Миддлтон, которая после операции на брюшной полости пропала с радаров, что вызвало массовую истерию и породило множество теорий ...

23:00, 24 Мар Курянин угнал два автомобиля за ночь Первым потерпевшим стал житель ул. Республиканской, который обнаружил исчезновение своего автомобиля марки ВАЗ и сообщил в полицию. Автомобиль был об...

15:44, 02 Июн Мишустину назвали цену автомобиля Атом Премьер-министр РФ Михаил Мишустин на выставке «Цифровая независимость промышленной России» осмотрел первый функциональный прототип электрокара Атом....

15:33, 07 Окт Автовладелец оказался в плену у сбежавшего автомобиля 53-летний Брайан Моррисон ехал домой с работы около 22 часов, когда его новый китайский электрокар MG ZS EV (SAIC Motor) стоимостью 30 тыс. фунтов (3...

02:44, 12 Апр Диагностика автомобиля через телефон — что для этого нужно? Проверить состояние автомобиля и выявить сбои в его работе можно через смартфон — для этого понадобится только недорогой адаптер и специальное прилож...

06:00, 24 Мар Эти признаки точно укажут, что у автомобиля скрученный пробег Способов определения скручивания пробега достаточно много. Но прежде всего надо обратить внимание на общее состояние салона, а также на цифры на приб...

14:44, 13 Июн В Курске мать и сына подозревают в краже автомобиля ВАЗ Работник одного из предприятий в Железнодорожном округе работал в ночную смену. Утром, не обнаружив на парковке свой ВАЗ-21099, заявил об угоне. Опер...

22:24, 18 Фев Оклейка автомобиля виниловой пленкой с изменением цвета: преимущества Оклеивание автомобиля – это процесс покрытия кузова автомобиля виниловой пленкой, придающий автомобилю новый вид и цвет. Стоит отметить, что оклейка ...

12:44, 01 Апр Совершенствуется алгоритм, основанный на оптимизации автономной парковки автомобиля Транспортные средства, которые могут управлять сами, были давней целью как в исследованиях в области робототехники, так и в автомобильной промышленно...

00:11, 14 Июн Наезд пьяной автоледи на три автомобиля в Ленобласти попал на видео В поселке Бугры в Ленобласти 37-летняя женщина-водитель задела три припаркованных автомобиля, пытаясь выехать со двора дома в Гаражном проезде. Видео...

02:22, 13 Июл В Эстонии водитель автомобиля протаранил статую в честь Зеленского Житель города Тырва в Эстонии повредил песчаную скульптуру в честь президента Украины Владимира Зеленского, выполненную в образе статуи Свободы, сооб...

03:11, 14 Июн В Курске задержали мать и сына, которые подозреваются в краже автомобиля Работник одного из предприятий в Железнодорожном округе обратился в полицию с заявлением об угоне автомобиля. Он работал в ночную смену, а утром не о...

22:11, 14 Июн Курянку и её сына подозревают в угоне автомобиля с парковки в Железнодорожном округе Привычное для себя парковочное место у резинотехнического завода в районе улицы Чайковского, на котором трудился житель Курска, оказалось пустым посл...

11:22, 19 Апр Комитет дорожного хозяйства выплатит курянину 68 тыс. рублей за повреждение автомобиля Житель города Курска обратился в суд с исковым требованием о взыскании материального ущерба с комитета дорожного хозяйства. В мае прошлого года мужчи...

15:11, 19 Июн Автоэксперт Рузанов перечислил три обязательных шага при покупке подержанного автомобиля ИнфореакторТехнический директор международной сети автосервисов FIT SERVICE Алексей Рузанов в беседе с iReactor рассказал, на что обратить внимание п...

06:22, 28 Сен Названы 10 новых машин в России дешевле 2 млн рублей при средней цене нового автомобиля более 3 млн рублей Средняя цена новых автомобилей в России достигла новой высоты. Издание Autonews.ru провело исследование, чтобы выяснить, сколько сегодня стоят самые ...