В OpenAI придумали средство от «галлюцинаций» у нейросетей

Одной из проблем современных нейросетей остаются их «галлюцинации». Так называют данные, которые не соответствуют реальному положению дел, но нейросети генерируют их наряду с правдивыми фактами. И вот компания OpenAI сообщила, что придумала новый метод обучения моделей искусственного интеллекта, который поможет справиться с «галлюцинациями» ИИ. Сгенерировано нейросетью Midjourney «Даже самые современные модели склонны к ложным выводам — они склонны изобретать факты в моменты неопределённости. Эти галлюцинации особенно критичны в областях, требующих многоступенчатого рассуждения, поскольку одной логической ошибки достаточно, чтобы весь результат оказался неверным», — пишут исследователи OpenAI в отчете. Идея нового метода состоит в том, чтобы изменить систему мотивации для ИИ. Иначе говоря, предлагается вознаграждать нейросеть за каждый правильный шаг рассуждений вместо того, чтобы награда выдавалась за финальный правильный ответ. Это позволит нейросети быть более точной и проверять факты. По мнению исследователей, обнаружение и устранение логических ошибок модели, или галлюцинаций, — это важный шаг на пути к созданию согласованного AGI [искусственного интеллекта общего назначения]» — заявил Карл Коббе (Karl Cobbe), штатный математик OpenAI. Он также уточнил, что компания уже открыла доступ к сопроводительному набору данных из 800 000 меток, которые применялись для обучения нейросети в рамках исследования. При этом проблема пока далека от решения, а специалисты говорят, что компания пока не открыла всю информацию по этому исследованию. Таким образом, проблема «галлюцинаций» ИИ пока остаётся актуальной....

В OpenAI придумали средство от «галлюцинаций» у нейросетей

Читать полный текст на www.ixbt.com

 

Опубликовано: 21:44, 02.06.2023

 

Новость из рубрики: Hi-Tech

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 
 

Как работает самое лучшее средство от похмелья 19:22, 16 Май Как работает самое лучшее средство от похмелья Благодаря новому гелю против похмелья, в будущем люди будут меньше страдать. Источник изображения: healthing.ca Специалисты со всего мира уже сотни л...

Генерация контента с помощью нейросетей: новое слово в автоматизации 16:13, 27 Ноя Генерация контента с помощью нейросетей: новое слово в автоматизации Искусственный интеллект сегодня активно проникает в различные сферы жизни, включая создание текстов, изображений, музыки и даже программного кода. Од...

Тюринг-обвес для АУДИ  особенности 14:19, 13 Июл Тюринг-обвес для АУДИ — особенности Какой автомобиль относится к классу D и отличается повышенным комфортом? Это Audi А6 модели, которая отличается широкой линейкой двигателей. Для поку...

Google представил ИИ-систему для проверки фактов в ответах других нейросетей 14:00, 02 Апр Google представил ИИ-систему для проверки фактов в ответах других нейросетей Компания Google разработала ИИ-систему Search-Augmented Factuality Evaluator (SAFE), целью которой является определение ошибок в данных, создаваемых ...

Android-Robot: Новости технологий и науки 18:29, 22 Апр Android-Robot: Новости технологий и науки О нашем портале Android-Robot — это ведущий ресурс, посвященный последним новостям в мире технологий и науки. Мы предлагаем тут самую актуальную ин...

После согласования с ФАС снизятся цены на противоопухолевое средство в рамках МНН Акситиниб 13:33, 03 Май После согласования с ФАС снизятся цены на противоопухолевое средство в рамках МНН «Акситиниб» Служба согласовала предельные отпускные цены на второй отечественный дженерик «Акситиниб-Промомед». Они снижены относительно зарегистрированных цен н...

В ОАЭ прошли гонки среди нейросетей  искусственный интеллект теперь в спорте 07:55, 02 Май В ОАЭ прошли гонки среди нейросетей — искусственный интеллект теперь в спорте В Абу-Даби прошли первые в мире гонки болидов, управляемых ИИ. Источник фото: www.businesswire.com В Абу-Даби на днях прошло нетривиальное событие в ...

Новое средство против комаров идеально  оно действует сразу и безвредно для людей 11:55, 05 Июл Новое средство против комаров идеально — оно действует сразу и безвредно для людей Возможно, скоро в продаже появится средство от комаров, безопасное для людей Согласно статистике, каждый год от укусов комаров умирает около 725 тыся...

22:55, 06 Июн «Полный фарш»: Российский игровой движок получит поддержку нейросетей и Linux Игровой движок Nau Engine — многообещающий российский проект, призванный возродить отечественную игровую индустрию, протестируют уже в этом году Кома...

22:33, 07 Апр Агрессивный водитель — не приговор! Ученые открыли доступное средство для снижения агрессии Наша жизнь полна стресса. Но у тех, кто крутит баранку его, однозначно, больше. Стресс меняет людей – водители становятся более агрессивными по отнош...

19:33, 25 Ноя Обычное больничное дезинфицирующее средство оказалось бесполезно перед диарейной бактерии Исследование, проведенное в Университете Плимута, выявило серьезный недостаток в практике дезинфекции больниц. Оказалось, что основные хлорные дезинф...

14:44, 12 Сен ВЭФ-2023: Институт искусственного интеллекта AIRI при поддержке Сбера создал решение для снижения выбросов CO2 при обучении нейросетей Институт искусственного интеллекта AIRI при поддержке Сбера разработал открытую библиотеку Eco4cast для снижения выбросов углекислого газа при обучен...

01:22, 08 Июл В США придумали, как бороться с беспилотными авто В Сан-Франциско группа лиц из Safe Street Rebel, занимающаяся остановкой беспилотных автомобилей, придумали, как легко и быстро остановить стремитель...

12:00, 13 Авг Власти придумали, как сократить очередь на жилье с 20 до пяти лет Минстрой планирует создать единый цифровой реестр граждан, нуждающихся в улучшении жилищных условий. Согласно подготовленному законопроекту, единая с...

22:00, 22 Дек Автомошенники придумали новую схему: будьте бдительны Одной из последних инноваций в схемах обмана автовладельцев – предложение оформления ДТП без участия ГИБДД через фирмы, представляющие себя как «авар...

06:11, 23 Апр F.A.C.C.T: мошенники придумали новую схему угона аккаунта Telegram Новые схемы угона учетных записей в мессенджере Телеграм были обнаружены специалистами F.A.C.C.T. Злоумышленники используют фейковые сообщения от слу...

23:22, 07 Апр Инженеры придумали способ увеличения емкости жестких дисков Инженеры придумали способ увеличения емкости жестких дисков. Они использовали трехмерную магнитную запись, которая позволяет хранить больше информаци...

12:11, 03 Мар Не отличить: мошенники придумали, как обманывать россиян от имени банков Россиянам начали поступать письма, в которых мошенники от имени банков выманивают данные личного кабинета — это происходит под видом уплаты налогов. ...

20:33, 25 Мар В России придумали инновационный огнетушитель, которому не требуется вода Традиционно, пожары тушат при помощи воды и углекислого газа. Но сравнительно недавно появилась идея тушения пожаров при помощи… звука! Огнетушителям...

14:00, 22 Апр Южнокорейские ученые придумали, как создавать вещи буквально из воздуха Зачем вы проводили эксперименты с углекислым газом? – Пришло время, когда ученые могут работать с CO2 так, чтобы превращать углекислый газ в по...

22:22, 23 Июн Российские учёные придумали, как определять некачественный корм для животных Нейросети находят всё новое применение в каждодневных задачах. Российским учёным удалось применить нейросети для контроля качества корма животных Учё...

20:11, 17 Май Телефонные мошенники придумали хитрую и правдоподобную схему обмана Фото: freepik.com Полиция рассказала о свежей схеме, к которой начали прибегать дистанционные мошенники. Они звонят жертвам, прикидываясь сотрудникам...

23:11, 20 Апр Телефонные мошенники придумали, как ловко разводить даже самых осторожных Телефонные мошенники обманули крановщика прямо на рабочем месте и получили от него больше полумиллиона рублей. Об этом пишет SHOT. Согласно источнику...

18:55, 01 Дек ВТБ: аферисты придумали схему обмана россиян под видом мастеров по ремонту Теперь в списке реальных объявлений с предложениями услуг можно наткнуться и на фейковые. Их авторы, разумеется, не собираются вам ничего ремонтирова...

18:22, 06 Фев Мошенники придумали новый способ обмана россиян, связанный с сим-картой Увеличение случаев мошенничества с использованием технологии дипфейков вызывает тревогу среди российских граждан. Мошенники стали активно применять э...

07:11, 20 Июн Мошенники придумали ещё один способ обмана россиян от лица «Почты России» «Почта России» стала основой для новой мошеннической схемы, которая затрагивает людей, получающих звонки с предложением оплатить таможенный...

21:44, 05 Янв Мошенники придумали гениальный новогодний развод для любителей смотреть кино в интернете Фото: Unsplash В рунете распространяется мошенническая схема, направленная на пользователей онлайн-кинотеатров. О ней пишет «Коммерсантъ». Согласно и...

18:22, 03 Июн Российские учёные придумали, как передавать данные со спутников на Землю в сотни раз быстрее Российская компания «Геоскан», которая выпускает гражданские беспилотники и ПО для обработки полученных ими данных, разработала устройств...

00:00, 12 Май OpenAI запустит собственный поисковик OpenAI, создатель ChatGPT, готовится анонсировать собственную поисковую систему, которая будет конкурировать с поисковиком Google и поисковым стартап...

07:44, 14 Май OpenAI сделал новейшую модель ИИ — GPT-4o Она быстрее GPT4-turbo и в 2 раза дешевле! OpenAI выпустил новую флагманскую модель генеративного ИИ под названием GPT-4o, которая будет «итерат...

15:22, 27 Апр В космосе с 1977 года: в NASA придумали, как продлить жизнь зонду Voyager ещё на несколько лет Американское управление по аэронавтике и исследованию космического пространства NASA поделилось интересной новостью — инженеры разработали нову...

18:22, 31 Мар OpenAI представляет инструмент клонирования голоса OpenAI в пятницу представила инструмент клонирования голоса, который она планирует держать под строгим контролем до тех пор, пока не будут приняты ме...

00:11, 14 Май OpenAI выпустила GPT-4 Omni – она доступна бесплатно OpenAI представила новую флагманскую модель генеративного искусственного интеллекта под названием GPT-4 Omni (GPT-4o). Буква «o» означает «omni», что...

19:55, 08 Июн Директор OpenAI предполагает, что ООН может контролировать ИИ Генеральный директор OpenAI предполагает, что международное агентство, такое как ядерная служба ООН, может контролировать ИИ. Искусственный интеллект...

03:55, 12 Дек Великобритания расследует партнерство Microsoft и OpenAI Британский орган по надзору за конкуренцией объявил в пятницу, что изучает, похоже ли партнерство между американским технологическим гигантом Microso...

21:22, 24 Июн OpenAI удаляет политическую версию ChatGPT: что пошло не так? Компания OpenAI объявила о закрытии доступа к специальной версии нейросети под названием VIC. Эта версия была создана жителем города Шайенн в Вайомин...

08:00, 26 Июл OpenAI представила SearchGPT – поисковую систему на базе ИИ Компания OpenAI выпустила SearchGPT – поисковую систему на базе искусственного интеллекта с доступом к информации в режиме реального времени по всему...

01:00, 06 Окт Будущее OpenAI: рост, риски и неожиданные повороты Организация OpenAI, ставшая известной благодаря боту ChatGPT, сегодня находится на вершине популярности. Миллионы людей ежедневно используют её техно...

15:00, 18 Ноя Сэм Альтман уволен с поста генерального директора OpenAI Компания OpenAI, которая занимается разработками в области искусственного интеллекта и, в частности, владеет чат-ботом ChatGPT, внезапно объявила об ...

03:00, 03 Дек Илон Маск просит суд США заблокировать коммерческую конверсию OpenAi Илон Маск снова обратился в суд США с просьбой остановить создание OpenAI, разработчика ChatGPT, от преобразования в коммерческое предприятие, сообщи...

13:00, 27 Ноя Microsoft встроила ChatGPT от OpenAI в командную строку Windows 11 Согласно информации портала WindowsLatest, компания Microsoft внесла новое обновление в командную строку (терминал) операционной системы Windows 11. ...

22:11, 09 Дек Федеральная торговая комиссия США (FTC) изучает партнёрство Microsoft и OpenAI Агентство Bloomberg со ссылкой на собственные источники сообщает, что Федеральная торговая комиссия США (FTC) изучает финансовое партнёрство между Mi...

19:22, 14 Янв OpenAI смягчила запрет на использование ChatGPT в военных целях На прошедшей неделе OpenAI незаметно удалила формулировку, прямо запрещающую использование своей технологии в военных целях. До 10 января на странице...

09:55, 31 Янв OpenAI откроет детский отдел в интернет-магазине чат-ботов В рамках сотрудничества с некоммерческой организацией Common Sense Media, занимающейся оценкой безопасности технологий и средств массовой информации ...

20:55, 20 Янв Гендиректору OpenAI захотелось миллиардов для мировой сети производства ИИ-чипов Гендиректор OpenAI Сэм Альтман, как сообщается, ведет переговоры о привлечении миллиардов для создания глобальной сети фабрик по производству чипов и...

21:00, 21 Ноя OpenAI запустила расширенный голосовой режим в веб-версии сервиса ChatGPT Компания OpenAI сообщила, что запустила голосовой интерфейс Advanced Voice Mode в веб-версии сервиса ChatGPT. Расширенный голосовой режим доступен то...

14:33, 15 Май FT: глава OpenAI ведет переговоры об инвестициях в $100 млн. для своего криптостартапа Worldcoin Глава и сооснователь OpenAI Сэм Олтмен (Sam Altman) ведет переговоры о привлечении инвестиций в размере около $100 млн. для своего криптостартапа Wor...

06:22, 28 Фев OpenAI подала ходатайство об отклонении части иска The New York Times OpenAI подало ходатайство в федеральный суд в с просьбой отклонить некоторые ключевые элементы иска, поданного The New York Times Company из-за наруш...

21:44, 30 Мар OpenAI разработала Voice Engine – нейросеть для генерации голоса по 15-секундному образцу Компания OpenAI, известная созданием различных нейросетей, выпустила Voice Engine – платформу преобразования текста в голос человека. Voice Engine на...

17:00, 06 Май Пользователи вынудили OpenAI изменить принцип работы ChatGPT. Что теперь с ним будет? Создатели чат-бота ChatGPT изменили принцип его работы и обучения. Об этом пишет CNBC со ссылкой на OpenAI. Согласно источнику, генеральный директор ...

02:11, 07 Июн США подвергнут Nvidia, Microsoft и OpenAI антимонопольным проверкам — власти беспокоит сфера ИИ Американские Министерство юстиции и Федеральная торговая комиссия (FTC) договорились о раздельном проведении антимонопольных проверок в отношении трё...

06:44, 02 Окт Microsoft ищет более дешёвые в эксплуатации и простые альтернативы языковым моделям OpenAI Хотя Microsoft принадлежит 49 % OpenAI, занимающейся разработкой популярных и производительных языковых моделей вроде GPT-4, интересы компаний не все...

20:55, 30 Мар OpenAI представил ИИ-модель Voice Engine, которая способна клонировать голос по 15-секундному образцу Компания OpenAI представила новую ИИ-модель Voice Engine для преобразования текста в голос. Нейросеть может на основе 15-секундного образца реалистич...

03:55, 12 Фев Глава OpenAI Сэм Альтман ищет триллионы долларов инвестиций для изменения мировой индустрии полупроводников Генеральный директор компании OpenAI Сэм Альтман стремится привлечь триллионы долларов инвестиций для кардинального изменения мировой индустрии полуп...

19:55, 22 Июн Соучредитель OpenAI Суцкевер создает новую компанию в области искусственного интеллекта, занимающуюся «безопасным суперинтеллектом» Илья Суцкевер, один из основателей OpenAI, который участвовал в неудачной попытке свергнуть генерального директора Сэма Альтмана, заявил, что создает...

13:00, 19 Май Как скачать ChatGPT на iPhone в России? Создаём дополнительный аккаунт Apple ID за пару минут и устанавливаем приложение OpenAI Спустя почти полгода после запуска популярнейшего чат-бота ChatGPT разработчики из OpenAI выпустили официальное мобильное приложение для iPhone и iPa...

17:00, 27 Апр Великобритания и Италия придумали, как бороться с нелегальными мигрантами. Британцы хотят отправлять их в Руанду, а итальянцы — в Албанию. Идея не нова — и поможет разве что правым партиям привлечь избирателей (и то не факт) Мигранты, спасенные во время попытки пересечь Ла-Манш, высаживаются на сушу в Кенте, Великобритания. 21 августа 2023 года Парламент Великобритании 23...

03:55, 11 Июн Apple сотрудничает с OpenAI, представив «Apple Intelligence» В понедельник Apple представила «Apple Intelligence», набор новых функций искусственного интеллекта для своих желанных устройств, включая партнерство...