Американский производитель ИИ-комплексов Cerebras Systems объявил о выходе 7 больших языковых моделей (LLM) на базе технологии Generative Pre-trained Transformer (GPT) для генеративного ИИ. Это первые публичные LLM, которые прошли обучение с помощью систем CS-2 в суперкластере Cerebras Andromeda на базе фирменных ИИ-чипов Cerebras WSE-2. Другими словами, это одни из первых больших языковых моделей, которые были обучены без использования систем на основе ускорителей, в частности, NVIDIA. Серия из семи открытых моделей GPT со 111, 256, 590 млн, а также 1,3, 2,7, 6,7 и 13 млрпд параметров соответственно доступны на GitHub и Hugging Face. Обучение таких моделей обычно занимает много месяцев, но Cerebras утверждает, что ей удалось справиться всего за несколько недель благодаря Andromeda. Более того, Cerebas удалось снизить стоимость обучения, а также упростить масштабирование без модификации кода и самой модели, что часто требуется при обучении с использованием кластеров традиционных ускорителей. При этом энергоэффективность всего процесса Cerebras смогла повысить....
Читать полный текст на 3dnews.ru
Опубликовано: 14:33, 30.03.2023
Поделиться новостью:
Топ новости часа
Топ новости часа- Starlink в Украине. Где купить и как пользоваться...
- Гран-при Австралии-2023. Расписание трансляций...
- Хозяин "Пятёрочки" рассказал, что россияне стали патриотами и разлюбили западные бренды...
- Де Хеа сделал 5-ю результативную ошибку со старта прошлого сезона – у него и Льориса их больше всего среди игроков АПЛ...
- Когда выйдут данные по инфляции в Великобритании и как они могут повлиять на GBP/USD?...
- ChatGPT «отправил» пользователя к психологам. Что он искал в сети?...
19:49, 31 Янв Где купить компанию с лицензией Минкульта? Если вы хотите приобрести компанию, имеющую лицензию Министерства культуры, у вас есть несколько вариантов. В этой статье мы рассмотрим различные спо...
18:22, 22 Май NVIDIA анонсировала суперкомпьютер Isambard 3 на базе собственных чипов На выставке ICS 2023 компания NVIDIA анонсировала новый суперкомпьютер Isambard 3 на базе фирменных процессоров Grace CPU Superchip. Система высокопр...
14:55, 09 Апр Инструмент генеративного моделирования визуализирует 2D-эскизы в 3D Инструмент машинного обучения, разработанный исследователями из Института робототехники Университета Карнеги-Меллона (RI), потенциально может позволи...
23:00, 25 Мар НХЛ: Ванкувер забил семь шайб Сан-Хосе, Оттава - Тампе Оттава продолжает отчаянно бороться за попадание в плей-офф НХЛ, несмотря на то что имеет лишь теоретические шансы на это. На этот раз "сенаторы" на ...
10:11, 14 Апр В Ростове количество штрафов за неоплату парковки выросло почти в семь раз В Ростове в 2022 году выписали более 17 тысяч штрафов за неоплату парковки. Это в 7 раз больше, чем в 2021 году. Информацией об этом поделилось издан...
01:33, 11 Май Самое важное изменение поисковика Google за всю историю? Компания показала интеграцию генеративного ИИ в поиск На прошедшем мероприятии Google I/O компания представила далеко не только новые смартфоны и планшет. Само собой, было множество анонсов, связанных с ...
22:33, 15 Апр AMD выпустила GPU Radeon PRO W7900 с 48 ГБ видеопамяти AMD официально представила Radeon Pro W7900 и Radeon Pro W7800, первые видеокарты для рабочих станций на базе графических процессоров RDNA 3. Видеока...
02:44, 05 Апр Укрпочта выпустила марку о победе на Евровидении Укрпочта выпустила марку, посвященную годовщине победы музыкальной группы Kalush Orchestra на международном песенном конкурсе Евровидение 2022. Об эт...
21:22, 18 Май Apple выпустила iOS 16.5, iPadOS 16.5 и macOS 13.4 Ventura Компания Apple только что выпустила в открытый доступ новые версии ОС для iPhone, iPad и Mac. Об этом пишет MacRumors. Всем пользователям совместимых...
22:33, 13 Май MSI выпустила новые SSD PCIe 4.0 со скоростью чтения 7400 МБ/с Осенью 2021 года MSI выпустила серию твердотельных накопителей Spatium M480. В неё вошли модели ёмкостью 512 ГБ, 1 и 2 ТБ и со скоростью последовател...
11:22, 13 Май LG выпустила новый 4K-проектор с ультрашироким форматом изображения Южнокорейская компания LG представила новый лазерный проектор LG ProBeam BU60PSM с ультрашироким соотношением сторон 21:9 и яркостью до 6000 люмен AN...
03:11, 28 Мар Apple выпустила iOS 16.4 с хитовыми нововведениями специально для России Сегодня, 27 марта, Apple выпустила iOS 16.4 с широким перечнем новых функций и исправлением существующих ошибок. Между ней и выходом предыдущей верси...
18:33, 04 Май Юлия Санина выпустила трек о войне в Украине В преддверии старта Евровидения-2023 фронтмен украинской группы The Hardkiss Юлия Санина выпустила новую композицию и клип на нее. Трек опубликован н...
02:22, 29 Апр Был запрещен 20 лет. Мадонна выпустила клип о войне в Ираке Всемирно известная американская певица Мадонна выступила клип на композицию American Life, который пребывал под запретом почти 20 лет. Ролик она обна...
04:00, 14 Апр Xiaomi выпустила доступный массажёр для шеи с тепловым эффектом Пожалуй, ничто так не снимает усталость как массаж. Компания Xiaomi представила компактный и доступный по цене массажер Mijia Smart Neck Massager, до...
14:44, 08 Апр Apple экстренно выпустила iOS 16.4.1. Установите ее как можно скорее! iOS 16.4 представляла из себя обновление средней руки по своей важности: новых функций в ней оказалось не так много, так как цикл операционки подходи...
23:00, 15 Май Samsung выпустила неубиваемые смартфоны Galaxy S23 Tactical Edition Вдохновлённый успехом Galaxy S20 Tactical Edition, компания Samsung представила две новые модели Tactical Edition – Galaxy S23 Tactical Edition и Gal...
21:55, 27 Мар Samsung выпустила 5G-модем Exynos 5300 со скоростью до 10 ГБит/с Samsung выпустила 5G-модем Exynos Modem 5300. Модем изготовлен по 4-нанометровому техпроцессу и совместим со стандартом 3GPP 5G NR Release 16. Samsun...
05:44, 21 Май Huawei выпустила Vision Smart Screen 3: телевизор с ИИ-камерой Компания Huawei представила телевизор Vision Smart Screen 3. Устройство оборудовано сверхчувствительной камерой с искусственным интеллектом. Производ...
09:22, 04 Апр Google выпустила бета-версию Nearby Share для Windows Google выпустила бета-версию Nearby Share для Windows, которая позволяет пользователям передавать фотографии, документы, файлы и ссылку между Android...
09:33, 27 Май Злата Огневич выпустила новую песню и объявила о пополнении в семье Украинская певица Злата Огневич представила новую композицию под названием Ангел и клип на нее. Трек можно послушать на YouTube-канале звезды. В песн...
22:33, 31 Мар ASUS выпустила очень дорогую внешнюю видеокарту RTX 4090 для ноутбуков На этой неделе ASUS ROG выпустила в продажу док-станцию для ноутбуков ASUS ROG XG Mobile со встроенной RTX 4090 Mobile. ROG XG Mobile – это внешняя г...
14:22, 29 Мар Apple выпустила iOS 16.5 beta 1. Можно ли ее установить, если вы не разработчик, и как это сделать Казалось бы, Apple только что выпустила iOS 16.4, и разработчики возьмут небольшой перерыв после такой плодотворной работы, но нет! Сегодня, 28 марта...
21:44, 17 Май Apple выпустила новые наушники Beats Studio Buds+ с прозрачным дизайном Apple представила новую версию своих TWS-наушников под маркой Beats – Studio Buds+. Новинка получила улучшенное активное шумоподавление, большую авто...
03:11, 23 Апр Acer выпустила геймерский ноутбук с 3D-дисплеем, в который можно смотреть без очков Компания Acer представила новый игровой ноутбук с длинным названием Predator Helios 3D 15 SpatialLabs Edition. Этот футуристический девайс отличается...
23:22, 09 Апр Почему Apple выпустила iPhone X, а не iPhone 9, и какой смартфон вышел вместо него В 2023 году Apple завершает поддержку сразу нескольких смартфонов: iPhone 8, iPhone 8 Plus и iPhone X. Но если «восьмерки» в памяти многих ...
18:00, 26 Май Radeon RX 7900 XTX с безумной частотой ядра почти в 3 ГГц из коробки. ASRock выпустила обновление BIOS для модели RX 7900 XTX AQUA 24GB OC Производители видеокарт нередко повышают частоты GPU с завода, но обычно это не самая внушительная прибавка. Компания ASRock, похоже, решила выделить...