Искусственный интеллект представляет собой риск «вымирания»

Мировые лидеры должны работать над снижением «риска исчезновения» технологий искусственного интеллекта, предупредила во вторник группа руководителей отрасли и экспертов. В однострочном заявлении, подписанном десятками специалистов, в том числе Сэмом Альтманом, чья фирма OpenAI создала бота ChatGPT, говорится, что устранение рисков, связанных с ИИ, должно быть «глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война». ChatGPT ворвался в центр внимания в конце прошлого года, продемонстрировав способность генерировать эссе, стихи и разговоры по самым кратким подсказкам. Ошеломительный успех программы вызвал золотую лихорадку с миллиардами долларов инвестиций в эту область, но критики и инсайдеры забили тревогу. Общие опасения включают в себя возможность того, что чат-боты могут наводнить сеть дезинформацией, что предвзятые алгоритмы будут штамповать расистские материалы или что автоматизация на основе ИИ может уничтожить целые отрасли. Сверхразумные машины В последнем заявлении, размещенном на веб-сайте американского некоммерческого Центра безопасности ИИ, не содержится никаких подробностей о потенциальной угрозе существованию, которую представляет ИИ. В центре заявили, что «краткое заявление» было призвано открыть дискуссию об опасностях технологии. Несколько подписавшихся, в том числе Джеффри Хинтон, который создал некоторые технологии, лежащие в основе систем искусственного интеллекта, и известен как один из крестных отцов отрасли, делали аналогичные предупреждения в прошлом. Больше всего их беспокоило появление так называемого искусственного общего интеллекта (ИИА) — слабо определенной концепции на тот момент, когда машины смогут выполнять широкий спектр функций и могут разрабатывать свои собственные программы. Опасения заключаются в том, что люди больше не смогут контролировать сверхразумные машины, которые, как предупреждают эксперты, могут иметь катастрофические последствия для вида и планеты. Заявление подписали десятки ученых и специалистов из компаний, включая Google и Microsoft — лидеров в области искусственного интеллекта. Это произошло через два месяца после того, как глава Tesla Илон Маск и сотни других опубликовали открытое письмо с призывом приостановить разработку такой технологии до тех пор, пока не будет доказано, что она безопасна. Однако письмо Маска вызвало широкую критику за то, что страшные предупреждения об общественном коллапсе были сильно преувеличены и часто отражали тезисы сторонников ИИ. Ученый из США Эмили Бендер, соавтор влиятельных статей с критикой ИИ, сказала, что мартовское письмо, подписанное сотнями известных деятелей, «пропитано шумихой вокруг ИИ». «Удивительно беспристрастный» Бендер и другие критики обрушились с критикой на фирмы, занимающиеся искусственным интеллектом, за отказ опубликовать источники своих данных или рассказать, как они обрабатываются — так называемая проблема «черного ящика». Среди критических замечаний есть то, что алгоритмы могут быть обучены расистским, сексистским или политически предвзятым материалам. Альтман, который в настоящее время путешествует по миру, пытаясь помочь сформировать глобальную дискуссию об ИИ, несколько раз намекал на глобальную угрозу, которую представляет технология, которую разрабатывает его фирма. «Если с ИИ что-то пойдет не так, никакие противогазы вам не помогут», — сказал он небольшой группе журналистов в Париже в прошлую пятницу. Но он защищал отказ своей фирмы публиковать исходные данные, говоря, ...

Читать полный текст на android-robot.com

Опубликовано: 01:11, 02.06.2023

Новость из рубрики:

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Топ новости часа

01:42, 29 Окт Искусственный интеллект может лучше прогнозировать будущий риск сердечного приступа у пациентов Знаковое исследование, проведенное университетскими экспертами, показало, что искусственный интеллект может лучше предсказывать, как врачам следует л...

10:33, 22 Апр S&OP представляет собой регулярный цикл согласования планов продаж, маркетинга, производства и логистики Современный бизнес требует высокой скорости принятия решений, прозрачности процессов и согласованности между различными департаментами компании. Особ...

Тюринг-обвес для АУДИ особенности 14:19, 13 Июл Тюринг-обвес для АУДИ — особенности Какой автомобиль относится к классу D и отличается повышенным комфортом? Это Audi А6 модели, которая отличается широкой линейкой двигателей. Для поку...

22:22, 09 Май На что НЕ способен искусственный интеллект ИИ является одной из самых перспективных и быстро развивающихся технологий нашего времени. Он уже сегодня активно используется в таких сферах, как ме...

18:29, 22 Апр Android-Robot: Новости технологий и науки О нашем портале Android-Robot — это ведущий ресурс, посвященный последним новостям в мире технологий и науки. Мы предлагаем тут самую актуальную ин...

21:56, 12 Май Крипто лицензия в Литве представляет собой реальный инструмент легализации и масштабирования криптовалютного бизнеса в рамках европейского правового поля Развитие криптовалютного рынка в последние годы сделало вопросы регулирования и лицензирования особенно актуальными для компаний, работающих в сфере ...

16:55, 27 Май В США искусственный интеллект научили читать мысли Специалисты утверждают, что "впервые им удалось "прочесть" мысли человека, а не отдельные слова или предложения". На данный момент технологию можно и...

00:11, 20 Июл Как компьютеры и искусственный интеллект развиваются вместе Совместное проектирование, то есть одновременное проектирование программного и аппаратного обеспечения, является одним из способов удовлетворения пот...

17:44, 02 Апр Искусственный интеллект способен проявлять эмпатию Все более сложные системы искусственного интеллекта способны проявлять эмпатию, но их использование в психиатрической помощи поднимает этические вопр...

00:11, 28 Июн Искусственный интеллект в рекламе: новая эра технологий Компания Toys «R» Us, которая была известна своими игрушками, объявила о своём банкротстве в 2017 году. Однако бренд удалось сохранить благ...

18:00, 04 Апр Искусственный интеллект научился читать мысли Фото: Unsplash Ученые показывали участникам эксперимента различные фотографии и фиксировали мозговую активность при помощи аппарата МРТ (магнитно-рез...

03:00, 09 Дек «Этот автомобиль представляет собой лучшее от Nissan». Стартовало производство совершенно нового Nissan Murano В США на предприятии Nissan Smyrna в Теннесси стартовало производство совершенно нового Nissan Murano — кроссовера четвертого поколения. Фото: ...

21:11, 01 Июн «2ГИС» внедрил в свои карты искусственный интеллект Разработчики картографического сервиса «2ГИС» интегрировали в свой сервис функции искусственного интеллекта. С помощью нейронных сетей фотографии ком...

20:55, 15 Июл Искусственный интеллект изменит изучение глубоких наук Искусственный интеллект, помимо ажиотажа и истерии в сегодняшних заголовках, играет все более важную роль в повседневной жизни и бизнесе — его примен...

02:22, 13 Июл Искусственный интеллект обнаружил для людей эликсир молодости Искусственный интеллект подсказал ученым препарат против старения Создание новых препаратов является очень длительным и дорогостоящим процессом. От м...

23:00, 09 Июл Искусственный интеллект и юмор: ИИ не может генерировать смешное Искусственный интеллект (ИИ) уже давно продемонстрировал свои возможности в различных областях: он пишет академические эссе, диагностирует заболевани...

01:44, 27 Апр Искусственный интеллект помогает в изготовлении лекарств. И это – проблема Исследователи призывают общественность задуматься о том, что системы искусственного интеллекта можно использовать в злонамеренных целях. Нейросети пр...

15:00, 22 Апр Искусственный интеллект направят на борьбу с шумными мотоциклистами Искусственный интеллект необходимо направить для выписывания штрафов за городской шум, считает вице-спикер Госдумы Борис Чернышов. Соответствующее пи...

23:33, 16 Дек Найдена проблема, сбивающая с толку современный искусственный интеллект Представьте, что вы просматриваете фотографии на своем телефоне и натыкаетесь на изображение, которое сначала не можете распознать. Похоже на что-то ...

19:44, 25 Авг Искусственный интеллект приступил к поискам внеземной разумной жизни Группа шотландских ученых из Университета Глазго провела интересное исследование, которое может сделать ряд поразительных открытий — поиск разумной ж...

14:00, 09 Дек Искусственный интеллект делает захват протезов рук более интуитивным Искусственными руками можно управлять через приложение или с помощью датчиков, размещенных в мышцах предплечья. Новое исследование Мюнхенского технич...

01:33, 23 Окт Искусственный интеллект начал обучать роботов человеческим движениям NVIDIA Eureka — это ИИ-агент, цель которого обучать роботов сложным движениям. На первый взгляд изученные жесты могут показаться простыми, но это тол...

05:55, 13 Ноя Очки используют сонар и искусственный интеллект для интерпретации поз тела Очки используют сонар и искусственный интеллект для интерпретации поз верхней части тела в 3D. На протяжении всей истории характерный «пинг» гидролок...

15:22, 08 Июн Искусственный интеллект может улучшить вашу жизнь на свиданиях Искусственный интеллект изменит то, как мы встречаемся. Вопрос в том, будет ли это лучше или хуже? Это уже вызывает некоторые реальные проблемы, особ...

10:00, 12 Ноя В России мошенники используют в своих схемах искусственный интеллект В России, и Тверская область не исключение, ежедневно огромное количество граждан становятся жертвами мошенников. Многие схемы аферистов строятся на ...

12:55, 17 Апр Искусственный интеллект улучшил качество изображения черной дыры Искусственный интеллект помог ученым улучшить фото черной дыры в галактике Messier 87 (M87). Об этом сообщает Space. Изображение черной дыры M87*, ра...

22:00, 24 Мар Искусственный интеллект помогает находить ишемический инсульт на КТ головного мозга В Москве искусственный интеллект теперь помогает находить ишемический инсульт на КТ головного мозга. В Москве искусственный интеллект научился опреде...

18:00, 21 Авг Искусственный интеллект грозит оставить без работы представителей некоторых профессий – Безусловно, нейросеть будет помогать и упрощать рабочие процессы, – рассказывает руководитель направления информационной безопасности Ц...

06:00, 08 Июл Умные двигатели: как искусственный интеллект и 3D-печать прокладывают дорогу в космос Исследователи из Университета Шеффилда (Великобритания) успешно протестировали первый в мире жидкостный ракетный двигатель, который был создан полнос...

16:11, 28 Мар Эксперты посчитали, сколько людей лишит работы искусственный интеллект Искусственный интеллект способен взять на себя работу 300 миллионов человек в развитых странах. К такому выводу пришли эксперты инвестиционного банка...

10:44, 08 Июн Автомобильный звук не будет прежним: искусственный интеллект вмешался в индустрию Geely и Meizu, объединив усилия, представили системы Galaxy Flyme Auto и Flyme Sound Limitless Voice, которые обещают перевернуть представление о раз...

18:11, 14 Окт Как искусственный интеллект в скором времени может привести к энергетическому кризису Искусственный интеллект (ИИ) помогает разработчикам ускорить процесс написания кода, обеспечивает безопасность вождения для автомобилистов и снижает ...

21:00, 21 Сен Искусственный интеллект и банки будут вместе защищать граждан от мошенничества Для выявления подозрительной активности и защиты граждан от мошенников банкам необходимо внедрять системы искусственного интеллекта. Об этом заявил А...

16:00, 10 Май Искусственный интеллект и голография привносят дополненную 3D-реальность в обычные очки Исследователи в развивающейся области пространственных вычислений разработали прототип гарнитуры дополненной реальности, которая использует голографи...

07:55, 02 Май В ОАЭ прошли гонки среди нейросетей — искусственный интеллект теперь в спорте В Абу-Даби прошли первые в мире гонки болидов, управляемых ИИ. Источник фото: www.businesswire.com В Абу-Даби на днях прошло нетривиальное событие в ...

05:22, 27 Апр Adobe использует искусственный интеллект, чтобы сделать размытое видео четким Команда инженеров по видео и искусственному интеллекту из Adobe Research разработала приложение искусственного интеллекта под названием VideoGigaGAN,...

23:33, 07 Июн Исследования объединяют людей, роботов и генеративный искусственный интеллект для создания искусства Исследователи из Института робототехники (RI) Университета Карнеги-Меллон разработали роботизированную систему, которая в интерактивном режиме рисует...

16:22, 23 Авг Microsoft встроит искусственный интеллект в Paint, Photo и другие приложения Windows 11 Компания Microsoft планирует встроить некоторые функции искусственного интеллекта в ряд своих приложений для Windows 11, включая Paint, Photo и Snipp...

06:05, 26 Фев Искусственный интеллект помог «Газпромнефть-СМ» создать масла для новых китайских автомобилей «Газпромнефть – смазочные материалы» выпустила полностью синтетические трансмиссионные масла для китайских автомобилей нового поколения. Формулы масе...

19:33, 06 Окт Искусственный интеллект сломал поддержку видеокарт AMD Radeon в Windows 11. Как устранить проблему? Свежее обновление Windows 11 (KB5030310 или Moment) вызывает проблемы с драйверами видеокарт AMD Radeon. Из-за этого графика в играх зависает, а звук...

20:11, 14 Окт Эксперты СПбГУ рассказали, как применять блокчейн‑технологии и искусственный интеллект в бизнесе В Центре технологий распределенных реестров СПбГУ прошла встреча ИТ-руководителей ведущих петербургских компаний с учеными и разработчиками СПбГУ. Ор...

06:44, 10 Май Новый подход использует генеративный искусственный интеллект для имитации движений человека Международная группа исследователей создала новый подход к имитации движений человека, объединив центральные генераторы шаблонов (CPG) и глубокое обу...

14:33, 17 Апр Как искусственный интеллект и приложение для мобильных телефонов могут помочь вам бросить курить Согласно исследованию Университета Восточной Англии, мобильное приложение для отказа от курения, которое определяет, где и когда вы можете закурить, ...

12:55, 17 Апр Intel рассказала, как искусственный интеллект помогал ей при разработке процессоров Meteor Lake Искусственный интеллект используется во многих сферах, и один из вариантов — разработка новых чипов. Intel поделилась информацией, как использо...

21:44, 15 Апр Генеральный директор Amazon рекламирует искусственный интеллект в ежегодном письме акционерам В своем ежегодном письме акционерам генеральный директор Amazon Энди Джасси вернулся в 2003 год. Цитируя «Документ о видении» Amazon Web Services в т...

21:22, 16 Мар Искусственный интеллект придумал люксовый чехол для iPhone и теперь его пытаются продать за 30 млн рублей Французское ателье Labodét, которое специализируется на выпуске премиальных чехлов и других аксессуаров для смартфонов, представило самый дорогой в м...

04:55, 04 Окт Как искусственный интеллект завоевывает китайские социальные сети: рекордное количество прямых эфиров! Вследствие огромной популярности в Китае онлайн-шопинга и заказов с доставкой на дом, появилось огромное количество прямых трансляций с рекламой това...

22:22, 30 Май Биологические камеры и искусственный интеллект помогают водителям быстрее обнаруживать пешеходов и препятствия Искусственный интеллект (ИИ) в сочетании с новой био-камерой обеспечивает в 100 раз более быстрое обнаружение пешеходов и препятствий, чем современны...

23:55, 08 Янв Аудио-видеотехника Samsung на CES 2024: ставка на искусственный интеллект для новой, лучшей жизни Выставка CES традиционно открывает новый год с новым поколением устройств, которые будут господствовать в ближайшие месяцы (по крайней мере до осени,...

04:11, 04 Май Искусственный интеллект начал читать мысли, правда пока только на небольшом расстоянии Искусственный интеллект научился читать мысли людей, выполняя анализ активности головного мозга. Для этого используются данные магнитно-резонансной т...

15:00, 10 Сен Искусственный интеллект Apple будет играть главную роль в презентации новых iPhone Apple выпустит новейшую линейку iPhone, которая будет оснащена функциями генеративного искусственного интеллекта, поскольку технологический гигант ст...

00:55, 24 Янв Инвесторы вкладывают деньги в азиатские центры обработки данных, используя искусственный интеллект и облачный бум Ожидается, что спрос на центры обработки данных в Азии вырастет в течение следующих пяти лет. Азия становится новым местом охоты для глобальных инвес...

14:44, 15 Дек Форсайт-сессию «Искусственный интеллект и Data Science в логистике» организовали Высшая школа логистики и ГК Юзтех 05 декабря 2023 года Высшая школа логистики Финансового университета при Правительстве Российской Федерации при поддержке ГК Юзтех провела первую фор...

19:33, 28 Апр