Популярность ChatGPT выглядит впечатляюще: в январе 2023 года у него было 100 миллионов активных пользователей, а в апреле – уже более 170 миллионов. С другой стороны, в мае общее количество посещений превысило два миллиарда. Согласно исследованию Symetria, почти 70% людей используют это приложение от нескольких раз в день до нескольких раз в неделю. Интересно, что даже технические специалисты не до конца понимают принцип работы ChatGPT. И хотя 77% опрошенных нашли ложную информацию, лишь немногим более 40% запрашивают у этого инструмента источники. Как оказалось, даже тогда ChatGPT обманывает нас. Почему это происходит?
Результаты европейских соцопросов
Европейскими социологами проводились опросы IT-специалистов, работников сфер СМИ, образования и финансов. Большинство респондентов имели более чем месячный опыт использования инструмента, созданного OpenAI. Из них более 70% проверяли решения ChatGPT несколько раз в день.
90% респондентов, несмотря на выявление дефектов и несовершенств этого инструмента, всё чаще и чаще принимают решение использовать эту форму поиска информации. Это значит, что получателю интересен способ подачи контента, а само использование подсказок становится интуитивно понятным.
На момент проведения опросов, ChatGPT существовал лишь полгода. Но изменения в потребительском поведении уже настолько значительны, что представители этих сфер (IT, СМИ, финансов и образования) не могут представить себе возвращение в предыдущую эпоху.
В нашем распоряжении есть мощный инструмент, к которому очень быстро и легко привыкнуть. ChatGPT помогает нам писать лучше, объясняет сложные вопросы, даёт советы для бизнеса и личной жизни. Самый впечатляющий факт – 41% пользователей ChatGPT напрямую вводят ссылку на сайт в строку браузера. Об этом могла мечтать почти каждая компания.
Нам нравится использовать ChatGPT, но ChatGPT обманывает нас
Опрошенные говорили, что всё равно обращаются к внешним источникам информации, чтобы углубить знания, полученных с помощью ИИ. До 77% людей, участвовавших в исследовании, сталкивались с ложной информацией в результатах поиска.
Несмотря на это, не у всех выработалась привычка критически подходить к преподносимым новостям. Большинство пользователей не проверяют источники полученных ответов. Только 41% респондентов спрашивали об этом. Подавляющее большинство из них указали, что были проблемы при попытке найти ссылки на сайты, указанные ChatGPT (с которых якобы берется информация для подготовленных запросов).
ChatGPT – это не поисковая система, а языковая модель! Её задача – продолжение текста с целью генерации контента, адекватного подсказке. Должно создаваться впечатление, что ответы пишет человек. Поэтому процесс генерации ответа на вопрос пользователя ChatGPT отличается от поисковика не только на уровне взаимодействия, но и по форме и качеству получаемого результата.
Результаты больше не являются контентом на сайтах, надёжность которых можно оценить, в том числе, на основе:
- авторитета авторов;
- сео-показателей порталов;
- качества связанных источников;
- даты публикации контента и др.
Ответ ChatGPT – это текст, сгенерированный на основе языковой модели, обученной на огромном наборе обучающих данных, который, однако, не охватывает все возможные темы и концепции. Кроме того, этот набор может содержать ошибки. Эти ошибки иногда могут приводить к необъективным ответам или содержащейся в них лжи.
Многие ответы ChatGPT на удивление хороши и могут впечатлить своим качеством и естественностью. Но им трудно полностью доверять. Простота использования инструмента и скорость получения ответа не гарантируют его качества и правильности.
Стыдится ли ИИ сказать «я не знаю»?
Почему ChatGPT обманывает? Потому что пользователь ждёт ответа и не примет слова «не знаю». Искусственный интеллект это хорошо знает. Поэтому он вводит в заблуждение, даже настолько убедительно, что способен отображать исходные ссылки, которые, однако, ведут в интернет-пустоту – на несуществующие страницы. Это называется галлюцинацией – отвечать, не зная правильного ответа, поэтому он отображает «наиболее вероятную версию».
ChatGPT – это самое быстрорастущее приложение в мире, которое набирает всё большую группу пользователей в беспрецедентных масштабах. Целых 73% людей считают, что ChatGPT понимает смысл вопроса лучше, чем традиционная поисковая система. В гонке по внедрению диалоговых инструментов на основе ИИ, которая только начинается, стоит понимать и учитывать потребности пользователей. Благодаря этому новый способ общения человека с компьютером может стать положительным и запоминающимся опытом.
Познакомиться с возможностями ИИ стоит уже сегодня, потому что эта технология останется с нами надолго. Даже люди, которые ежедневно работают с технологиями, не до конца понимают, что такое ChatGPT. Чем меньше понимания, тем больше подверженность манипулированию и тем чаще совершаются ошибки, которых можно избежать при большем контроле над ответами. Это может отпугнуть клиентов от этой многообещающей технологии и подвергнуть компании риску финансовых или имиджевых потерь.
