Автопилот автомобиля и медицинские ИИ-системы легче обмануть, чем вы думаете

Недавно было проведено исследование, которое показало, что искусственный интеллект (ИИ), управляющий автопилотом автомобиля, либо интерпретирующий ваши рентгеновские снимки, может быть более «доверчивым», чем считалось ранее. Вы можете вносить всевозможные изменения в знак остановки, и ИИ, обученный распознавать знаки остановки, все равно будет знать, что это знак остановки. Однако, если у ИИ есть уязвимость, и злоумышленник знает об этой уязвимости, злоумышленник может ей воспользоваться и вызвать аварию. Исследователи из Университета штата Северная Каролина создали специально ПО – QuadAttacK, который проник в четыре широко используемые «нейронные сети», выявив их «ахиллесовы пяты». Если у вас есть обученная система ИИ и вы тестируете ее на чистых данных, система ИИ будет вести себя так, как прогнозируется. QuadAttacK наблюдает за этими операциями и изучает, как ИИ принимает решения, связанные с данными, что позволяет ему определить, как можно манипулировать данными, чтобы обмануть ИИ. Затем QuadAttacK начинает отправлять обработанные данные в систему ИИ, чтобы увидеть, как ИИ отреагирует. Если QuadAttac K обнаружит уязвимость, он сможет быстро заставить ИИ увидеть то, что QuadAttacK хочет, чтобы он увидел, пишут исследователи....

Автопилот автомобиля и медицинские ИИ-системы легче обмануть, чем вы думаете

Читать полный текст на www.ferra.ru

 

Опубликовано: 06:44, 06.12.2023

 

Новость из рубрики: Hi-Tech

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 
 

Конкуренция за право на ремонт автомобиля  это борьба за данные вашего автомобиля 18:55, 15 Ноя Конкуренция за право на ремонт автомобиля — это борьба за данные вашего автомобиля Автомобили больше не являются просто средством передвижения. Они стали движущимися центрами передачи данных. Современные автомобили регулярно передаю...

РИА Новости: на Евровидении-2023 Украина пыталась обмануть Запад 20:33, 14 Май РИА Новости: на Евровидении-2023 Украина пыталась обмануть Запад Евровидение остаётся верным своим традициям и даже превзошло ожидания: были представлены необычные выступления, в том числе накрашенные мужчины из Хо...

Тюринг-обвес для АУДИ  особенности 14:19, 13 Июл Тюринг-обвес для АУДИ — особенности Какой автомобиль относится к классу D и отличается повышенным комфортом? Это Audi А6 модели, которая отличается широкой линейкой двигателей. Для поку...

Автопилот Tesla обвинили в сотнях ДТП 00:55, 15 Июн Автопилот Tesla обвинили в сотнях ДТП Национальная администрация безопасности дорожного движения США (NHTSA) заявила, что автопилот Tesla спровоцировал 736 ДТП. При этом в некоторых авари...

Android-Robot: Новости технологий и науки 18:29, 22 Апр Android-Robot: Новости технологий и науки О нашем портале Android-Robot — это ведущий ресурс, посвященный последним новостям в мире технологий и науки. Мы предлагаем тут самую актуальную ин...

Компания Mercedes-Benz первой сертифицировала в США автопилот с третьим уровнем автономности 17:33, 29 Сен Компания Mercedes-Benz первой сертифицировала в США автопилот с третьим уровнем автономности Систему Drive Pilot будут ставить на электрически EQS и седаны S-Класса, а её активация обойдется в две с половиной тысячи долларов за первый год. Ав...

Думаете, что путь к сердцу лежит через желудок У нас для вас плохие новости 20:22, 27 Дек Думаете, что путь к сердцу лежит через желудок? У нас для вас плохие новости Все мы слышали, что путь к сердцу мужчины лежит через желудок. Есть ли в этих словах некий смысл или перед нами просто очередная «народная мудрость»?...

В России успешно протестировали отечественные медицинские устройства 04:00, 09 Сен В России успешно протестировали отечественные медицинские устройства В России успешно протестировали отечественные программно-аппаратные комплексы для сферы медицины В российском Национальном медицинском исследовательс...

17:55, 22 Дек В Курской областной больнице прошли медицинские совещания На протяжении всего года в Боткинском конференц-зале ОМКБ проходили различные мероприятия, посвящённые насущным актуальным вопросам в сфере медицины....

04:33, 26 Дек Мостовой о Клаудиньо: «Хороший футболист для РПЛ, но для Европы – обычный. Думаете, он станет там звездой?» – Если нет еврокубоков, у бразильских лидеров «Зенита» – Вендела и Клаудиньо – мотивация падает. С ними надо расставаться? – Я бы так не сказал. У ни...

21:22, 18 Июн Легче не будет: в Брянске обсудили перспективы и техники построения команды Брянский центр «Мой бизнес» продолжает проект «Наставничество», в этот раз обсудили в рамках нетворкинга тему: «Эффективная команда — как не ош...

03:11, 05 Окт Депутат Госдумы Александр Толмачёв передал донецкой больнице медицинские мониторы Помощник депутата Государственной Думы Александра Толмачёва, активист "Молодой Гвардии Единой России" Анна Легум и депутат Совета депутатов городског...

00:00, 02 Июн Психолог Лобанова посоветовала побольше отдыхать, чтобы легче переносить работу летом Лето — это традиционно сезон отпусков, поэтому особенно тяжко работать тем, у кого заслуженный отдых наступит только, например, осенью. Особенно печа...

05:33, 01 Фев Новое программное обеспечение с открытым исходным кодом делает модели ИИ легче и экологичнее Искусственный интеллект (ИИ) стал незаменимым компонентом анализа микроскопических данных. Однако, хотя модели ИИ становятся все лучше и сложнее, выч...

13:00, 27 Авг Павел Дуров — преступник или защитник свободы слова? А задержали его справедливо или нет? Расскажите «Медузе», что вы сами об этом думаете Участники акции в поддержку Павла Дурова в Москве несут его портрет, стилизованный под икону. 10 марта 2019 года Павла Дурова задержали в Париже 24 а...

23:44, 20 Мар В клинике, где делали операцию Кейт Миддлтон, пытались украсть её медицинские данные. Идёт расследование Ситуация вокруг Кейт Миддлтон, которая после операции на брюшной полости пропала с радаров, что вызвало массовую истерию и породило множество теорий ...

19:44, 09 Июл AYANEO представила новую портативную консоль, которая легче и мощнее Steam Deck и ASUS ROG Ally Китайский производитель игровых консолей AYANEO представил две новые модели портативок AIR 1S и AIR 1S Ultra-Thin & Light с лёгким корпусом и процесс...

01:22, 23 Май Тонировка стекол и бронирование фар автомобиля Вы любите свой автомобиль и заботитесь о его внешнем виде? Тогда тонировка стекол и бронирование фар – это то, что вам нужно! Эти простые процедуры н...

23:00, 24 Мар Курянин угнал два автомобиля за ночь Первым потерпевшим стал житель ул. Республиканской, который обнаружил исчезновение своего автомобиля марки ВАЗ и сообщил в полицию. Автомобиль был об...

15:33, 07 Окт Автовладелец оказался в плену у сбежавшего автомобиля 53-летний Брайан Моррисон ехал домой с работы около 22 часов, когда его новый китайский электрокар MG ZS EV (SAIC Motor) стоимостью 30 тыс. фунтов (3...

15:44, 02 Июн Мишустину назвали цену автомобиля Атом Премьер-министр РФ Михаил Мишустин на выставке «Цифровая независимость промышленной России» осмотрел первый функциональный прототип электрокара Атом....

02:44, 12 Апр Диагностика автомобиля через телефон — что для этого нужно? Проверить состояние автомобиля и выявить сбои в его работе можно через смартфон — для этого понадобится только недорогой адаптер и специальное прилож...

06:00, 24 Мар Эти признаки точно укажут, что у автомобиля скрученный пробег Способов определения скручивания пробега достаточно много. Но прежде всего надо обратить внимание на общее состояние салона, а также на цифры на приб...

14:44, 13 Июн В Курске мать и сына подозревают в краже автомобиля ВАЗ Работник одного из предприятий в Железнодорожном округе работал в ночную смену. Утром, не обнаружив на парковке свой ВАЗ-21099, заявил об угоне. Опер...

17:55, 19 Июн Переговоры Путина и Ким Чен Ына продолжились за рулем автомобиля Aurus Президент России Владимир Путин проехал по Пхеньяну за рулем автомобиля Aurus вместе с председателем КНДР Ким Чен Ыном. Российский лидер находится в ...

20:44, 22 Июн Разряженная Tesla заперла ребенка внутри автомобиля В США пожарные спасли ребенка, который оказался запертым внутри Tesla после того, как у автомобиля разрядился аккумулятор, тем самым заблокировав отк...

21:44, 17 Май В Курском районе поймали угонщика автомобиля с прицепом В Курском районе оперативно раскрыто преступление, связанное с угоном автомобиля с прицепом. По данным следствия, злоумышленник, находясь в состоянии...

07:00, 28 Июл Nio представила смартфон-ключ от автомобиля Nio Phone 2 стоимостью от 76 000 рублей Компания Nio в Шанхае представила свою новейшую разработку — Nio Phone 2. Этот смартфон стал центральным объектом внимания благодаря своим впеч...

13:00, 31 Авг Сам себе мастер: пошаговая инструкция полировки стекол автомобиля Со временем на лобовом стекле появляются различные царапины и потертости, они значительно ухудшают обзор, что в конечном итоге может сказаться на без...

17:00, 08 Окт В России будет сложнее оформить кредит под залог автомобиля С 1 января следующего года Банк России получит полномочия по введению ограничений на потребительские займы под залог автомобилей. Такое поручение дал...

02:22, 13 Июл В Эстонии водитель автомобиля протаранил статую в честь Зеленского Житель города Тырва в Эстонии повредил песчаную скульптуру в честь президента Украины Владимира Зеленского, выполненную в образе статуи Свободы, сооб...

22:24, 18 Фев Оклейка автомобиля виниловой пленкой с изменением цвета: преимущества Оклеивание автомобиля – это процесс покрытия кузова автомобиля виниловой пленкой, придающий автомобилю новый вид и цвет. Стоит отметить, что оклейка ...

22:00, 25 Ноя Россиянам рассказали о новой схеме мошенничества при покупке автомобиля Добросовестный покупатель может лишится приобретенного автомобиля из-за фиктивного договора купли-продажи с отсрочкой платежа. О новой схеме мошеннич...

00:11, 14 Июн Наезд пьяной автоледи на три автомобиля в Ленобласти попал на видео В поселке Бугры в Ленобласти 37-летняя женщина-водитель задела три припаркованных автомобиля, пытаясь выехать со двора дома в Гаражном проезде. Видео...

12:44, 01 Апр Совершенствуется алгоритм, основанный на оптимизации автономной парковки автомобиля Транспортные средства, которые могут управлять сами, были давней целью как в исследованиях в области робототехники, так и в автомобильной промышленно...

03:11, 14 Июн В Курске задержали мать и сына, которые подозреваются в краже автомобиля Работник одного из предприятий в Железнодорожном округе обратился в полицию с заявлением об угоне автомобиля. Он работал в ночную смену, а утром не о...

11:22, 19 Апр Комитет дорожного хозяйства выплатит курянину 68 тыс. рублей за повреждение автомобиля Житель города Курска обратился в суд с исковым требованием о взыскании материального ущерба с комитета дорожного хозяйства. В мае прошлого года мужчи...

15:11, 19 Июн Автоэксперт Рузанов перечислил три обязательных шага при покупке подержанного автомобиля ИнфореакторТехнический директор международной сети автосервисов FIT SERVICE Алексей Рузанов в беседе с iReactor рассказал, на что обратить внимание п...

12:00, 10 Сен Курским бойцам из терробороны столичный меценат передал «гуманитарку» и два автомобиля Столичный предприниматель, родом из Курска, Дмитрий Шуляков, оказывает всевозможную помощь российской армии и военно-патриотическим объединениям с са...

22:11, 14 Июн Курянку и её сына подозревают в угоне автомобиля с парковки в Железнодорожном округе Привычное для себя парковочное место у резинотехнического завода в районе улицы Чайковского, на котором трудился житель Курска, оказалось пустым посл...

21:22, 02 Июл Багажник на крышу автомобиля: от выбора до установки. Советы для путешественников и любителей активного отдыха Установка дополнительного багажного отсека на крыше значительно расширяет возможности автомобиля. Это позволяет перевозить лыжи, велосипеды, каяки и ...

06:00, 17 Окт Видеорегистратор 70mai Dash Cam A510 с 4G, ADAS и GPS/ГЛОНАСС поможет обеспечить безопасность водителя и автомобиля Компания 70mai, известный производитель умных устройств для автомобилей, анонсировала видеорегистратор 70mai Dash Cam A510, отличающийся широкой функ...

06:22, 28 Сен Названы 10 новых машин в России дешевле 2 млн рублей при средней цене нового автомобиля более 3 млн рублей Средняя цена новых автомобилей в России достигла новой высоты. Издание Autonews.ru провело исследование, чтобы выяснить, сколько сегодня стоят самые ...