В наши дни вместо традиционного списка ссылок при выполнении поискового запроса Google стремится выдать вам обзоры искусственного интеллекта: синтезированные сводки информации, содранной из сети, с добавлением магии предсказания слов и упакованные таким образом, чтобы звучать как можно более точно и надежно.

Мы' уже писали о некоторых проблемах с этими ИИ-обзорами, которые регулярно содержат ошибки или бессмыслицу и, конечно же, переписывают работу людей, которые действительно знают ответы на вопросы, которые вы задаете Google. Однако есть и другая проблема - эти ответы искусственного интеллекта могут быть опасными.

Как и в случае с любой другой новой технологией в истории, мошенники теперь проникают и в обзоры искусственного интеллекта, вставляя в ответы искусственного интеллекта Google мошеннические телефонные номера, которым не стоит доверять. Вот что' происходит, и как вы можете обезопасить себя.

Как The Washington Post, так и Digital Trends заметили случаи появления номеров мошеннических служб поддержки в обзорах ИИ Google, сообщения о которых появились на Facebook и Reddit соответственно. Кредитные союзы и банки также предупреждают своих клиентов об этих мошенничествах.

Похоже, это не совсем новая проблема, но благодаря тому, как сейчас работает поиск Google, она получила новый поворот.

Вот что происходит: Несчастная жертва набирает в Google название компании в поисках контактного номера, а затем звонит по номеру, выданному искусственным интеллектом. На самом деле это приводит не к самой компании, а к человеку, выдающему себя за нее, который затем пытается получить от звонящего платежную информацию или другие конфиденциальные данные.

Неясно, как именно подбрасываются эти фальшивые номера, но лучше всего предположить, что они публикуются в нескольких малозаметных местах в Интернете, наряду с названиями крупных компаний. Затем появляется AI Overviews и забирает их, не проводя должных проверок для подтверждения информации.

Подброс ложных телефонных номеров плохими актерами, конечно, не является совершенно новой опасностью: дезинформация была частью Интернета в течение долгого, долгого времени. Но дизайн ИИ-обзоров, который отбирает информацию из сети и выдает ее за факт, вместо того чтобы предложить вам провести исследование самостоятельно, делает людей гораздо более восприимчивыми к такого рода мошенничеству.

Google заявляет, что активно борется с этими мошенниками и продолжает выпускать обновления, которые делают ее системы обнаружения спама более сильными. "Наши средства защиты от спама очень эффективно предотвращают появление мошенников в обзорах AI и показывают официальные номера службы поддержки, где это возможно", - говорится в заявлении компании, поступившем в редакцию.

Конечно, это' происходит не только в поиске Google. Исследователи безопасности показали, как вредоносный текст может быть скрыт в электронных письмах и, предположительно, документах, которые затем перебираются и обобщаются искусственным интеллектом и предоставляются пользователю, который воспринимает их как точные и подлинные. Эта проблема проявляется и в других поисковых системах с искусственным интеллектом.

Совет, как избежать такого рода мошеннических уловок, прост: Не верьте всему, что вы читаете в обзорах ИИ, особенно если речь идет о конкретных фактах, цифрах или телефонных номерах. Технология искусственного интеллекта Google' способна улавливать устаревшую или подозрительную информацию из сети, а также точные данные, и, учитывая то, как представлен интерфейс AI Overview, трудно заметить разницу.

Если вы' ищете контактный телефон или что-то подобное, запустите поиск по компании, с которой вы' пытаетесь связаться, а затем используйте данные на собственном сайте компании': Это может занять пару лишних кликов, но оно того стоит, чтобы убедиться, что вы имеете дело с корректной контактной информацией.

Осторожность все же необходима, откуда бы вы ни получали информацию, особенно когда речь идет о взаимодействии с представителями службы поддержки и обсуждении чего-либо, связанного с платежами или личной информацией. В идеале нужно проверять любой номер, по которому вы звоните, повторным поиском в Google.

Google также рекомендует это делать. По словам компании, недавно она выпустила ряд обновлений, направленных на дальнейшее улучшение защиты от мошенничества именно в отношении AI-обзоров, но она по-прежнему рекомендует людям перепроверять телефонные номера, выполняя дополнительный поиск.

На данный момент нет возможности отключить AI-обзоры. Если Google решит выдать их по вашему запросу, все, что вы можете сделать, - это прокрутить их мимо или, возможно, переключиться на другую поисковую систему. Возможно, Google работает над удалением ложных телефонных номеров из результатов, но мы знаем, что природа генеративного ИИ заключается не в простом пересказе информации, а в ее приукрашивании, что неизбежно приведет к проблемам.

Поскольку наш поиск все больше зависит от ИИ, это может означать более естественный и разговорный пользовательский опыт, но для некоторых запросов старые способы остаются лучшими. Например, вы можете захотеть поболтать с Близнецами об идеях для вашего следующего отпуска. Но когда речь идет о поиске точной информации об отелях, круизных лайнерах или туристических агентствах, возможно, не стоит вмешивать в это искусственный интеллект.