Функция Google AI Overview начала регулярно ошибаться в базовых задачах: от подсчёта букв в словах до искажения известных имен. Эти ошибки возникают из-за архитектуры трансформеров, которые воспринимают текст не как последовательность символов, а как набор токенов.

Примеры некорректной работы нейросети

На практике это приводит к абсурдным ситуациям в результатах поиска. Например, система утверждает, что в слове «Google» содержится две буквы «p», хотя их там нет вовсе. В других случаях ИИ заявляет, что в слове «poop» содержится ровно 1 буква «r», или сообщает о 2 буквах «d» в слове «journalism», при этом само слово записывает с ошибкой: j-o-u-r-n-a-d-i-s-m. Более того, нейросеть может искажать фамилии известных личностей, заменяя буквы в них на случайные символы.

Причины технических сбоев в обработке текста

Основная причина кроется в том, как обучаются большие языковые модели (LLM). Вместо анализа отдельных букв, модели используют субсловные токены. Это означает, что ИИ «видит» фрагменты слов, а не их структуру. Исследование 2024 года подтверждает: именно такая архитектура делает точные символьные операции ненадёжными. Официальная документация Google по Gemini также подтверждает, что текст проходит через токенайзер, где разбиение на части определяет поведение модели.

Что это значит для пользователей поиска

Для обычного пользователя это означает, что нельзя слепо доверять выводам AI Overview, если они касаются точных цифр, правописания или специфических характеристик.

Чтобы минимизировать риски, следуйте этим правилам:

1. Проверяйте факты — если ИИ выдает количество символов или специфические параметры, всегда перепроверяйте это в первоисточниках.
2. Оценивайте контекст — ИИ стабильно справляется с суммаризацией общих тем, но может давать сбои в деталях.
3. Используйте осторожность — при поиске критически важных данных, таких как юридические термины или точные параметры оборудования, игнорируйте блок ИИ и переходите к классическим ссылкам.

Разработчики уже работают над решением этой проблемы, включая тестирование методов стохастической токенизации. Пока эти технологии не внедрены полностью, ваша задача — сохранять критическое мышление и не принимать данные ИИ как окончательные. Подробнее: Что такое Gemini AI в Chrome для iOS.