галлюцинации

Как умные машины влияют на качество исследований? В научном мире разгорелся скандал, связанный с использованием искусственного интеллекта в публикациях. Аналитики бьют тревогу: машины не только помогают исследователям, но и создает серьезные проблемы для академического сообщества. Недавно...

Исследователи ищут методы обучения ИИ без вреда для людей. Исследователи выяснили, что синтетические данные, широко применяемые для обучения нейросетей, могут содержать опасные искажения и «галлюцинации». Синтетические данные — это искусственно созданная информация, которая имитирует...

Нейросеть теперь принимает решения как человек. Ежедневно человек принимает большое количество решений, каждое из которых требует оценки вариантов, предыдущего опыта и уверенности в правильном выборе. Хотя многие решения кажутся спонтанными, они на самом деле основаны на сборе информации из...

Проблема в китайской версии GPT-4o может привести к снижению производительности и ошибочным ответам. OpenAI 13 мая представила свою новейшую модель искусственного интеллекта GPT-4o (Omni). Однако спустя несколько дней после выпуска модели китайские пользователи заметили, что в новой...

Интересная особенность чат-бота вызвала опасение за правдивость информации. Чат-бот Grok оказался в центре скандала в соцсети X*, генерируя новости на основе шуточных сообщений и представляя их как достоверные сведения. Один из пользователей обнаружил материал, написанный ИИ, который...

Google запретила модели генерировать картинки с людьми, пока она не научится здравому смыслу. Компания Google временно «запретила» чат-боту Gemini генерировать изображения с людьми. В чем же причина? Дело в том, что пользователи в социальных сетях начали подшучивать над странными...

Робот-прокатор заставлял людей слышать несуществующие голоса, а ученые исследовали границы восприятия. Швейцарские ученые изобрели уникальный метод исследования слухо-вербальных галлюцинаций, который позволяет здоровым людям слышать несуществующие голоса. Эксперимент, описанный в журнале...

Инструмент Woodpecker предлагает новый подход к "воспитанию" нейросетей. Исследователи из Университета науки и технологий Китая (USTC) в сотрудничестве с лабораторией Tencent YouTu Lab разработали фреймворк под названием Woodpecker (досл. — дятел) для коррекции так называемых...

Исследователи проверили, кто лучше справляется с онлайн-поиском. Что показал эксперимент? Современные нейросети, работающие на основе больших языковых моделей ( LLM ), долгое время вызывали опасения из-за своей способности выдавать ответы, которые, хоть и кажутся правдоподобными, на самом...

Читеры стали жертвами своего же обмана. Разработчики Call of Duty продолжают бороться с читерами, используя необычные методы. В последнем обновлении игры они добавили функцию, которая заставляет читеров видеть галлюцинации вражеских бойцов, которых на самом деле нет. Эта функция работает...

Система AIP представлена для военного применения, но отсутствие информации о предотвращении "галлюцинаций" вызывает серьезные опасения. Palantir, компания миллиардера Питера Тиля, запускает платформу искусственного интеллекта Palantir (AIP), предназначенную для запуска больших языковых...