Еще один день, и еще один пример того, как технология генеративного искусственного интеллекта Google делает то, чего не должна. На этот раз результаты поиска компании на основе AI предлагали ссылки на вредоносные веб-сайты, в том числе те, которые продвигают мошенничество, вредоносное ПО и фальшивые подарки.
Google начал внедрять свой Search Generative Experience (SGE) в начале этого месяца. Компания может похвастаться тем, что эта функция позволяет пользователям задавать сложные и более описательные вопросы, а генеративный ИИ предоставляет текстовые сводки сайтов и рекомендации, связанные с поиском пользователя.
Это может показаться полезным, но консультант по SEO Лили Рэй заметила, что с Google SGE что-то не так. Согласно ее сообщению на X, SGE в своих ответах рекомендовала потенциально вредоносные сайты. На вопрос Рэя о продаже щенков питбуля на Craigslist он получил рекомендации по нескольким опасным и мошенническим сайтам, которые могут быть наполнены вредоносным ПО.
BleepingComputer отмечает, что все подозрительные результаты, перечисленные SGE, как правило, используют один и тот же домен .online, HTML-шаблоны и сайты для выполнения перенаправлений, что указывает на то, что они являются частью одной и той же кампании по SEO-отравлению, которая позволила им быть частью индекса Google.
Издание обнаружило, что переход по этим ссылкам проводил посетителей через ряд перенаправлений, пока они не попадали на мошеннический сайт. В большинстве случаев люди попадают на фальшивые капчи или сайты YouTube, которые пытаются заставить посетителей подписаться на уведомления браузера, которые рассылают на рабочий стол множество мошеннических объявлений, таких как техническая поддержка и фальшивые подарки. Также была реклама антивируса McAfee, призывающая пользователей выполнить сканирование или продлить лицензию, тем самым получая партнерскую комиссию для отправителя.
Другой пользователь X попробовал аналогичный поиск на Craigslist щенков, выставленных на продажу. SGE обнаружила сайт с немецким доменом .de. Первый клик привел его к спаму о подарочных картах Amazon, а второй — к порнографии.
В прошлом месяце функция создания изображений Gemini AI от Google была приостановлена после того, как инструмент создал изображения, показывающие людей и женщин в исторически неточном контексте, например, чернокожих немецких солдат нацистской эпохи.
Иван Ковалев
VIA
Два экрана и быстрый процессор. Asus сохранила концепцию двойного экрана в новом Zenbook Pro 14 Duo с быстрым
