Выпущен драйвер, в три раза ускоряющий нейросети на компьютерах

Компания NVIDIA выпустила для своих видеокарт GeForce RTX и платформ RTX AI PC драйвер версии GeForce Game Ready 555.85 WHQL. Это обновление приблизительно в три раза ускоряет обработку данных в программах, которые задействуют большие языковые модели (LLM) в генеративном искусственном интеллекте. Новый драйвер предлагает следующие возможности для RTX GPU и RTX AI PC: — Поддержка DQ-GEMM для обработки квантования INT4 для LLM — Новые методы нормализации RMSNorm для моделей Llama 2, 3, Mistral и Phi-3 — Механизмы группового внимания, многозапросного внимания и скользящего окна для Mistral — Поддержка GEMM-тензоров с размерами, некратными 8, для ускорения контекстной фазы В тестах нового драйвера показан значительный прирост производительности для INT4 и FP16 данных. Благодаря оптимизациям, скорость работы моделей Phi-3, Llama 3, Gemma и Mistral увеличивается до трёх раз. NVIDIA напоминает, что RTX GPU используют тензорные ядра для ускорения различных технологий, включая DLSS, NVIDIA Ace, RTX Remix, Omniverse, Broadcast и RTX Video. Компания предлагает наборы разработчиков TensorRT, Maxine и RTX Video для использования тензорных ядер в ИИ-приложениях. По заявлению NVIDIA, производительность её GPU в ИИ-задачах достигает 1300 TOPS, что значительно выше, чем у конкурентных решений. Обновить драйвер можно через NVIDIA App. Подписаться на iGuides в Telegram, чтобы узнать обо всем первым...

Выпущен драйвер, в три раза ускоряющий нейросети на компьютерах

Читать полный текст на www.iguides.ru

 

Опубликовано: 16:33, 22.05.2024

 

Новость из рубрики: Hi-Tech

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 
 

Что такое Ватсап Веб и как им пользоваться на компьютерах Apple и iPad 16:55, 31 Авг Что такое Ватсап Веб и как им пользоваться на компьютерах Apple и iPad Ватсап является самым популярным мессенджером в мире. Именно через него отправляется огромное количество фотографий, видео, текстовых и голосовых соо...

Как сравнить текст на iPhone, iPad и компьютерах Apple 05:00, 28 Янв Как сравнить текст на iPhone, iPad и компьютерах Apple Наверняка вы хотя бы раз попадали в ситуацию, когда надо сравнить два текста, которые на первый взгляд казались похожими друг на друга, а в итоге ока...

Тюринг-обвес для АУДИ  особенности 14:19, 13 Июл Тюринг-обвес для АУДИ — особенности Какой автомобиль относится к классу D и отличается повышенным комфортом? Это Audi А6 модели, которая отличается широкой линейкой двигателей. Для поку...

Компания Intel анонсировала драйвер, предназначенный специально для Arc и Iris 10:33, 16 Апр Компания Intel анонсировала драйвер, предназначенный специально для Arc и Iris Компания Intel, наконец, выпустила обновленный графический драйвер для Arc и Iris Graphics 31.0.101.4311 Beta. Драйвер оснащен поддержкой игр Boundar...

Android-Robot: Новости технологий и науки 18:29, 22 Апр Android-Robot: Новости технологий и науки О нашем портале Android-Robot — это ведущий ресурс, посвященный последним новостям в мире технологий и науки. Мы предлагаем тут самую актуальную ин...

Пенелопа Крус, Адам Драйвер, Шейлин Вудли на нью-йоркской премьере фильма Феррари 13:33, 14 Окт Пенелопа Крус, Адам Драйвер, Шейлин Вудли на нью-йоркской премьере фильма "Феррари" В рамках 61-го ежегодного кинофестиваля в Нью-Йорке состоялась американская премьера фильма “Феррари” режиссера Майкла Манна. Мероприятие посетили сн...

Выпущен рюкзак-компьютер. Что он умеет 21:44, 31 Авг Выпущен рюкзак-компьютер. Что он умеет? Компания Zotac выпустила компьютер в форме рюкзака, модель носит название VR Go 4.0 и представляет собой уже четвёртое поколение из серии подобных ус...

Выпущен победный комплект iPhone 15 Pro к 9 мая 21:00, 06 Май Выпущен «победный» комплект iPhone 15 Pro к 9 мая Caviar представил на сайте патриотический комплект для победителей. В него входит iPhone 15 Pro, посвященный 79-ой годовщине Победы советского народа...

19:22, 27 Май Выпущен LG Gram +view – портативный монитор для ноутбуков Компания LG представила портативный внешний дисплей для ноутбуков – LG Gram +view. Главной особенностью новинки является то, что её можно подключить ...

11:55, 21 Май Выпущен мини-неттоп, способный заменить громоздкий современный компьютер Китайский бренд Thunderobot выпустил в продажу миниатюрный ПК под названием Mix Mini. Это устройство помещается в ладони, хотя у него очень мощная на...

18:22, 24 Май Выпущен Poco F6 Pro. Не хуже именитых флагманов, а стоит вдвое дешевле Бренд Poco выпустил новый смартфон F6 Pro. По традиции в честь премьеры его можно приобрести со скидками и подарками. Poco F6 Pro обладает процессоро...

05:00, 27 Мар Выпущен Vivo X Fold 3 – самый тонкий и лёгкий гибкий смартфон в мире Vivo анонсировала два новых смартфона Vivo X Fold 3 и Fold 3 Pro. По сравнению с предшественниками, производитель не только уменьшил размеры новинок,...

13:33, 31 Мар Выпущен Microsoft Store версии 22303.1401.x для инсайдеров Windows 11 на каналах Dev и Canary Microsoft начала тестирование новой версии приложения Microsoft Store (22303.1401.x) среди участников программы Windows Insider на каналах Dev и Cana...

15:22, 25 Янв Выпущен белоснежный игровой ПК MAINGEAR ZERO с Intel Core i7-14700K и GeForce RTX 4070 Ti SUPER за $2499 У MAINGEAR ZERO прозрачный корпус белого цвета MSI MAG Pano M1000 PZ White. Внутри материнская плата MSI B760M Project Zero с обратным расположением ...

10:22, 05 Июл 4G-звонилку за 1000 рублей заказывали? Выпущен сотовый телефон Jio Bharat с 2-дюймовым экраном и 48 ГБ флеш-памяти Устройство создано компанией Jio Platforms в рамках борьбы с засильем 2G-телефонов в Индии. Создатели Bharat'а вознамерились пересадить индусов с...

08:00, 24 Авг Kandinsky 2.2: все об обновленной нейросети «Сбера» Kandinsky — это нейронная сеть, созданная для генерации изображений. Она имеет несколько версий, последняя из которых — Kandinsky 2.2. По...

17:55, 23 Янв На создателей нейросети Midjourney подают в суд 16 тыс. художников Стало известно, что для обучения нейросети Midjourney разработчики использовали работы 16 тыс. художников, включая Дэвида Хокни, Бриджит Райли, Дэмие...

00:22, 23 Мар В Opera появились ИИ-подсказки и сразу две нейросети В браузер Opera интегрировали сразу две нейросети — ChatGPT и ChatSonic. Они появились в обычной версии и игровой Opera GX. По словам разработч...

00:33, 04 Апр Шпаргалка нового поколения, или как списать у нейросети Наверняка, многие помнят фильм "Приключения Электроника", в котором гениальный робот учился в школе за друга-человека и получал за него отличные оцен...

07:44, 30 Мар Как нейросети влияют на климат и окружающую среду? Разработка высоких технологий в разгар климатического кризиса чревата катастрофой. Кадр из сериала «Экстраполяции» Мы живем в удивительное ...

20:33, 11 Июн Как нейросети меняют Интернет и учатся креативности? ИИ-системы становятся все лучше и лучше, стремительно меняя Интернет и подход к креативности. Изображение: media.wired.com С момента своего дебюта ге...

21:55, 31 Авг Эксперты рассказали, как банки используют нейросети Сегодня искусственный интеллект проникает почти во все сферы экономики, финансы и банковское дело не стали исключением. Банки играют важную роль в ра...

16:55, 22 Мар Google открыла доступ к своей сверхмощной нейросети Gemini 1.5 Pro О запуске Gemini 1.5 Pro для всех и каждого сообщил Джефф Дин из Google DeepMind. По его словам, разработчики приложений могут оценить возможности не...

07:00, 31 Май Cтуденты ведущих вузов тестируют возможности новой нейросети Студенты ведущих вузов России протестировали нейросеть по написанию курсовых работ. Первыми тестировщиками новой нейросети стали студенты фокус-групп...

21:00, 14 Июн Нейросети для создания музыки: бесплатные сервисы доступные каждому Нейросети пишут музыку для людей, и этим можно воспользоваться бесплатно Давайте примем факт того, что нейросети уже умеют писать музыку лучше, чем б...

02:22, 11 Окт Дизайнер из ХМАО создает коллекцию одежды с помощью нейросети. Фото В ХМАО появится новая коллекция современной одежды в этно-стиле, которую покажут на дефиле в Ханты-Мансийске. Для разработки образов дизайнер использ...

11:33, 06 Ноя Илон Маск раскрыл, что нейросети сделают с людьми в ближайшем будущем Миллиардер Илон Маск публично высказался относительно перспектив человечества в свете развития нейросетей. Его слова разобрали и прокомментировали в ...

04:00, 12 Апр Волонтеры собрали фотоданные, чтобы обучить нейросети поиску людей В Ставрополе волонтеры отряда «Лиза Алерт» собрали фотоданные, чтобы обучить нейросети поиску людей. Инициатива, которая ранее уже была реализована в...

13:11, 14 Май Эксперт «Лаборатории Касперского» Тушканов: мошенники уже применяют дипфейки и нейросети Киберпреступники стали использовать новую тактику, о чем предупредил россиян специалист «Лаборатории Касперского» Владислав Тушканов. В беседе с «РИА...

02:00, 19 Сен Исследование: каждый второй российский школьник использует нейросети для учёбы Каждый второй школьник в России использует тот или иной вариант ИИ для учёбы С началом нового учебного года ученики проявляют все больший интерес к р...

13:11, 22 Мар Нейросети лишат работы журналистов, маркетологов и программистов в ближайшее время Уже в ближайшее время значительное количество специалистов могут потерять работу из-за развития системы искусственного интеллекта. В частности, речь ...

21:00, 07 Июл YouTube выводит просмотр роликов на новый уровень с помощью нейросети Компания Google будет использовать нейросеть для получения фидбэка от зрителей после просмотра ролика. Об этом пишет WCCF Tech. Согласно источнику, р...

05:55, 22 Июн 4 функции нейросети Apple Intelligence из iOS 18, которые не появятся в 2024 году На презентации WWDC 2024 Apple удивила своих фанатов как минимум дважды: во-первых, когда не упомянула о выпуске нейросети Apple Intelligence, а во-в...

23:22, 03 Авг Лицо Высоцкого в новом фильме "Володя" воссоздадут с помощью нейросети О необычном решении для новой картины рассказал ТАСС режиссер и продюсер Александр Жигалкин. "Это полнометрaжный фильм, в котором впервые в истории к...

06:11, 09 Ноя Разработчиков нейросети Kandinsky вызвали на серьёзный разговор в прокуратуру. Им пришлось срочно менять алгоритмы Глава «Сбера» Герман Греф рассказал в ходе организованного Центробанком форума «Финополис», что его сотрудников вызывали в прокуратуру, чтобы те дали...

12:22, 26 Дек Для чего нам нейросети: около трети россиян использует ИИ для составления рекомендательных подборок фильмов, музыки Аналитический центр «Авито» выяснил, какие задачи россияне отдают нейросетям: 59% опрошенных используют нейросети для развлечения, 33% для обучения и...

17:55, 21 Мар Россельхозбанк в Костроме за год в 2,5 раза усилил поддержку АПК В 2023 году аграрии получили от Костромского филиала Россельхозбанка 2,5 млрд рублей. Это в 2,5 раза выше результата предыдущего года, при этом 50 % ...

22:55, 23 Мар Нейросети ChatGPT и Bing научились распространять сплетни и «похоронили» Google Bard из-за одного шутливого комментария Похоже, чат-боты научились не только лгать, но и разносить сплетни. По данным сетевых источников, чат-бот Bing заявил, что его конкурент Bard уже зав...

01:11, 13 Янв Спрос на элитное жилье в Москве увеличился в два раза Спрос на премиальные квартиры в Москве за год удивительным образом удвоился, сообщают эксперты агентства недвижимости Est-a-Tet для «Ленты.ру». Жител...

08:22, 10 Ноя В Украине спрос на электромобили вырос почти в три раза Украинский автопарк в октябре пополнили 4493 авто на аккумуляторных источниках питания (BEV). По сравнению с октябрем прошлого года, спрос на электро...

16:22, 09 Янв Рынок электромобилей в Украине за год вырос почти в три раза Украинский автопарк в декабре 2023 года пополнили более 4,6 тыс. авто на аккумуляторных источниках питания (BEV), что почти втрое больше, чем годом р...

19:22, 12 Сен Анонсирован Thunderbolt 5 с увеличенной в 3 раза пропускной способностью Intel объявила о выпуске нового стандарта подключения следующего поколения, Thunderbolt 5, который будет представлен на всех устройствах Mac и iPad P...

10:44, 04 Май Из России в Европу стало летать в 2 раза выгодней Цены на авиабилеты из России в Европу существенно упали, почти вдвое. Это привело к росту интереса к европейским направлениям на 150% по сравнению с ...

13:55, 28 Авг Самозанятые могут в 2 раза сэкономить на связи ВТБ Мобайл ВТБ расширяет линейку сервисов для самозанятых и запускает годовую скидку 50% на абонентскую плату за мобильную связь ВТБ Мобайл. Предложение действу...

00:22, 20 Авг PlayStation 5 Pro будет в два раза мощнее современной консоли Ожидается, что улучшенная версия получит прирост производительности гибридного процессора и сможет запускать игры в 4K-разрешении с полноценной трасс...

14:00, 11 Апр Аналитика ВТБ: в марте выдачи ипотеки в ЦФО выросли в три раза В Центральном федеральном округе (без учета Москвы и Московской области) в марте ипотеку оформили около трех тысяч человек, общая сумма сделок превыс...

15:55, 30 Дек Итоги 2023 года: нейросети, живые 3D-чернила, Li-Fi, импортозамещение софта, iPhone 15, Baldur’s Gate 3 и многое другое 2023 год был настоящим калейдоскопом технологических достижений, открывая новые горизонты в мире высоких технологий. От расцвета нейросетей, переосмы...

22:33, 01 Мар Спрос на новые автомобили в Украине увеличился в полтора раза В феврале в Украине было реализовано около 5,7 тыс. новых легковых авто. Об этом сообщает Укравтопром. Отмечается, что по отношению к февралю 2023 го...

06:11, 02 Апр Молодые деньги. Предпринимателей до 25 лет стало в полтора раза больше По данным Минэкономразвития РФ, за четыре года в России число индивидуальных предпринимателей в возрасте до 25 лет выросло более чем в 1,5 раза — по ...

17:44, 21 Мар «Космический бетон» прочнее земного в два раза: из чего он состоит? Новый материал «StarCrete» в два раза прочнее обычного бетона В 2025 году аэрокосмическое агентство NASA планирует отправить людей на Луну — четыре ч...

23:33, 27 Дек Найден способ покупать товары на Ozon в два-три раза дешевле Маркетплейсы конкурируют друг с другом изо всех сил — ценами, скидками, промо-акциями и программами лояльности. Даже если товар на разных площадках с...

06:22, 10 Апр В Пензенской области живодеры два раза переехали собаку на авто В Пензенской области живодеры два раза переехали собаку на авто Пензенский зоозащитник на своей странице в социальны сетях рассказал чудовищную истор...

22:22, 05 Май Россияне стали в два раза чаще покупать складные смартфоны В России в два раза выросли продажи устройств с гибкими экранами Продажи складных смартфонов в России увеличились практически вдвое, считают эксперты...

16:55, 03 Авг Нефтегазовые доходы России за семь месяцев снизились в 1,7 раза В период с января по июль 2023 года доходы от нефтегазового сектора в российском бюджете испытали значительное снижение, сократившись в 1,7 раза и со...

21:22, 12 Июн На Дону объемы строительства выросли более чем в 1,5 раза в 2023 году В Ростовской области объемы строительства всех категорий выросли в 1,6 раза по итогам января—апреля 2023 года в сравнении с аналогичным периодом прош...

20:22, 13 Окт Арендные самокаты в России всё более популярны: спрос вырос в 3 раза за год Сервис аренды самокатов Яндекс Go расширил свой парк самокатов и запустился в новых городах, таких как Екатеринбург, Казань и Алматы. За сезон с март...

17:22, 30 Мар Экран AMOLED 2K+, Snapdragon 8 Gen 2, три раза по 50 Мп, Wi-Fi 7 и UWB, 5000 мАч и 80 Вт за 580 долларов. Представлен Meizu 20 Pro Сегодня Meizu официально представила в Китае линейку новейших флагманов Meizu 20, серию возглавила модель Meizu 20 Pro. По слухам, аппарат этот долже...

02:11, 30 Сен Выручка китайских автомобильных компаний в России увеличилась почти в два раза За 2022 год семь ведущих китайских автомобильных брендов на российском рынке суммарно заработали 346 миллиардов рублей, согласно анализу Forbes. Это ...

00:33, 25 Мар России стали в четыре раза меньше платить по долгам из-за санкций Страна-агрессор Россия в 2022 году получила вчетверо меньше денег, чем ожидалось. Из-за международных санкций страны-должники приостановили платежи п...

10:11, 04 Апр В 2 раза мощнее Steam Deck: портативную консоль ASUS ROG Ally протестировали Это оказалось не первоапрельской шуткой: ASUS представила прототип своего портативного игрового ПК под названием ROG Ally. Устройство конкурирует с S...

22:11, 27 Апр По итогам 2023 года ГК «Солар» показала рост в два раза выше рынка Российский рынок кибербезопасности растет на 15% год к году, опережая аналогичный показатель мирового. Это связано с повышенным интересом российских ...

07:44, 17 Июл «Два раза в одну реку»: автоэксперт раскритиковал перспективу возрождения брендов «Волга» и «Ока» Вице-президент Национального автомобильного союза Ян Хайцеэр считает бессмысленной идею возрождения советских автомобильных брендов «Волга» и «Ока». ...

06:11, 04 Апр Врач Дудченко: болезнь Паркинсона повышает риск меланомы в четыре раза Есть и обратная зависимость: у страдающих меланомой возрастает вероятность развития болезни Паркинсона. Почему так происходит, пока неизвестно, но по...

09:22, 02 Апр После ухода VMware выручка российского «Базиса» выросла почти в два раза В 2023 году выручка разработчика инфраструктурного ПО «Базис» (ООО «Облачная платформа») выросла на 80 % до 3 млрд рублей по ...

00:11, 25 Апр Новое открытие в медицине: электричество помогает заживлять раны в 3 раза быстрее Новая технология позволяет залечивать раны за считанные дни На протяжении жизни каждый человек получает множество различных ран — всем же знакомо, на...

05:11, 23 Дек Автоэксперт Колодочкин посоветовал мыть машину зимой не реже раза в неделю И это не только вопрос чистоты и красоты. Дело в том, что российские дороги в самое холодное время года часто усыпаны противогололёдными реагентами. ...

11:33, 08 Дек Новая солнечная башня работает круглосуточно и выдает в 2 раза больше энергии Исследователи из университетов Иордании и Катара, предложили новую конструкцию солнечной башни, обеспечивающей подачу энергии круглосуточно. Они проа...

10:44, 25 Мар Автомобили в России подорожали в полтора раза или на 1 млн рублей с начала 2022 года По данным аналитического агентства «Автостат», средняя стоимость нового легкового автомобиля в России выросла в полтора раза с января 202...

23:11, 28 Авг Почему автомобили дорожают в 2,5 раза, пока едут из Китая в Россию? Вот наглядное объяснение Глава Ассоциации российских автомобильных дилеров Алексей Подщеколдин наглядно продемонстрировал, почему произведённые в Китае автомобили стоят в Рос...

12:33, 02 Авг ВТБ Лизинг: новый бизнес в автолизинге вырос в два раза за первое полугодие 2023 года ВТБ Лизинг подвел итоги направления автолизинга за первое полугодие 2023 года: объем лизингового финансирования автотранспорта составил более 83 млрд...

15:55, 21 Июл Сбер открыл доступ к модели генерации текста для русского языка ruGPT-3.5 и расширенной версии нейросети mGPT, способной генерировать тексты на 61 языке Сбер открыл доступ к нейросетевой модели генерации текста для русского языка ruGPT-3.5 13B. Её дообученная версия лежит в основе сервиса GigaChat. Та...

18:33, 06 Апр В 2023 году решения «Лаборатории Касперского» 93 раза заняли первые места в независимых тестах В течение 2023 года решения «Лаборатории Касперского» 94 раза вошли в тройку лидеров по результатам 100 независимых тестирований защитных технологий,...

05:11, 24 Июл Sony PlayStation 5 Pro почти готова – консоль будет в два раза быстрее базовой PS5 и выйдет в конце 2024 года Sony ведёт разработку более мощной версии PS5, которая будет называться PlayStation 5 Pro – внутри компании консоль имеет кодовое имя «Project Trinit...

05:44, 21 Апр Передовая камера Leica с дюймовым датчиком, четыре раза по 50 Мп, запись видео 8К. Xiaomi 13 Ultra поступил в продажу в Китае Представленный 18 апреля камерофон Xiaomi 13 Ultra сегодня поступил в розничную продажу в Китае. Судя по тому ажиотажу, который сопровождал предзаказ...

10:00, 18 Янв Доротея Вирер: «В этом году я четыре раза серьезно болела, и это было нелегко. После Ленцерхайде я пропустила много тренировок» На этой неделе итальянская биатлонистка выступит на домашнем этапе Кубка мира в Антхольце. Последний раз Вирер выходила на старт в декабре в спринте ...

21:00, 09 Июн В России просели продажи КамАЗов, зато продажи грузовиков Dongefng взлетели в 2,5 раза Российский рынок новых грузовых автомобилей в мае текущего года просел относительно мая 2023 года на 15% — до 9950 единиц. КамАЗ, несмотря на с...

11:55, 12 Сен Intel снова всех обошла: Thunderbolt 5 предлагает в три раза большую скорость передачи данных, чем Thunderbolt 4 Ресурс Videocardz опубликовал документы из презентации Intel, посвящённой интерфейсу Thunderbolt 5. Источник говорит, что Intel представила этот инте...