В своей предыдущей статье я упомянул о проблемах, которые могут доставлять пользователям «галлюцинации» поисковых систем на основе LLM.*
Важно отметить, что первым, кто оснастил свой поисковик Bing более совершенной технологией искусственного интеллекта (ИИ), стал Microsoft.
Этот шаг был сделан еще весной 2023 года, когда ИТ-гигант начал тестировать обзоры ИИ с небольшой группой пользователей.
Позднее чат-бот получает название Microsoft Copilot, а компания начинает агрессивно встраивать свой ИИ в широкодоступные в Европе сервисы, включая поиск Bing, Microsoft Word и даже операционную систему Windows.
Лидеру поисковых систем Google (принадлежит Alphabet Inc.) уже тогда становится очевидным, что одну из самых серьезных угроз его позициям несут такие алгоритмы ИИ, как ChatGPT и другие модели LLM.
Ровно год спустя, в мае 2024 года, Google запускает обновленную поисковую систему, которая отдает предпочтение ответам, созданным искусственным интеллектом, а не ссылкам на веб-сайты.
Тут же Google начинает внедрять Bard — именно так зовут его чат-бота — в свой поисковик не только на английском, но и на других распространенных языках.
По данным издания Associated Press, к концу текущего года Google ожидала, что Bard будет доступен всем желающим в более чем 180 странах и на других языках, помимо английского, а повторяющиеся обзоры ИИ станут частью результатов поиска примерно для одного миллиарда человек.
Но конкуренты Google не остались в стороне и приняли ответные меры.
В конце октября 2024 года уже компания OpenAI, разработчик известного генеративного искусственного интеллекта ChatGPT, представляет нового конкурента поисковикам Google и Microsoft — ChatGPT Search.
Однако при всем многообразии ИИ еще ни одна технология LLM не избавилась от проблем «галлюцинации» — «придумывания» алгоритмом несуществующих фактов.
Например, исследование европейских некоммерческих организаций AI Forensics и AlgorithmWatch, которым они поделились с The Washington Post, только подтвердило факты возможных недостоверных интерпретаций получаемой искусственным интеллектом информации.
Анализ двух избирательных циклов 2023 года в Германии и Швейцарии показал, что чат-бот от Microsoft (Bing) давал неточные ответы на один из каждых трех основных вопросов о кандидатах, опросах, скандалах и голосовании. К тому же во многих случаях чат-бот неверно цитировал свои источники.
Тестирование GPT-4 от OpenAI выявило те же типы неточностей.
Bard от Google не участвовал в исследовании, поскольку тогда еще не был доступен в Европе.
Результаты проведенных тестов усиливают опасения экспертов, что сегодняшние чат-боты на основе ИИ могут способствовать путанице и дезинформации населения.
Мы продолжаем следить за развитием событий в отрасли, а информацию, получаемую с использованием ИИ, перепроверяем.
* LLM — большие языковые модели.
