itkvariat

"Умный" поиск Google в результатах выдает ссылки на мошеннические сайты и вредоносные программы



Еще один день, и еще один пример того, как технология генеративного искусственного интеллекта Google делает то, чего не должна. На этот раз результаты поиска компании на основе AI предлагали ссылки на вредоносные веб-сайты, в том числе те, которые продвигают мошенничество, вредоносное ПО и фальшивые подарки.

Google начал внедрять свой Search Generative Experience (SGE) в начале этого месяца. Компания может похвастаться тем, что эта функция позволяет пользователям задавать сложные и более описательные вопросы, а генеративный ИИ предоставляет текстовые сводки сайтов и рекомендации, связанные с поиском пользователя.

Это может показаться полезным, но консультант по SEO Лили Рэй заметила, что с Google SGE что-то не так. Согласно ее сообщению на X, SGE в своих ответах рекомендовала потенциально вредоносные сайты. На вопрос Рэя о продаже щенков питбуля на Craigslist он получил рекомендации по нескольким опасным и мошенническим сайтам, которые могут быть наполнены вредоносным ПО.

BleepingComputer отмечает, что все подозрительные результаты, перечисленные SGE, как правило, используют один и тот же домен .online, HTML-шаблоны и сайты для выполнения перенаправлений, что указывает на то, что они являются частью одной и той же кампании по SEO-отравлению, которая позволила им быть частью индекса Google.

Издание обнаружило, что переход по этим ссылкам проводил посетителей через ряд перенаправлений, пока они не попадали на мошеннический сайт. В большинстве случаев люди попадают на фальшивые капчи или сайты YouTube, которые пытаются заставить посетителей подписаться на уведомления браузера, которые рассылают на рабочий стол множество мошеннических объявлений, таких как техническая поддержка и фальшивые подарки. Также была реклама антивируса McAfee, призывающая пользователей выполнить сканирование или продлить лицензию, тем самым получая партнерскую комиссию для отправителя.

Другой пользователь X попробовал аналогичный поиск на Craigslist щенков, выставленных на продажу. SGE обнаружила сайт с немецким доменом .de. Первый клик привел его к спаму о подарочных картах Amazon, а второй — к порнографии.

В прошлом месяце функция создания изображений Gemini AI от Google была приостановлена после того, как инструмент создал изображения, показывающие людей и женщин в исторически неточном контексте, например, чернокожих немецких солдат нацистской эпохи.


Иван Ковалев

VIA



Подписывайтесь и читайте новости от ITквариат раньше остальных в нашем Telegram-канале !





Заметили ошибку? Выделите ее мышкой и нажмите Ctrl+Enter!  




И еще на эту тему...
  • Apple вступила в гонку AI с приобретением канадского стартапа DarwinAI
  • Nvidia покажет разработчикам свой новый AI-чип на следующей неделе
  • В Европе разгорается война за специалистов в области искусственного интеллекта
  • Google будет платить новостным сайтам за использование своего ИИ для написания статей
  • Galaxy S23 может получить некоторые функции искусственного интеллекта от Galaxy S24
  • ИИ будет доминировать на выставке CES в этом году даже без участия Сэма Альтмана
  • Новые функции искусственного интеллекта Dropbox позволяют делиться вашими файлами с OpenAI
  • Вот какие функции искусственного интеллекта Samsung может привнести в Galaxy S24
  • Microsoft и OpenAI создают ИИ с уровнем человеческого ума
  • Apple сообщила регуляторам ЕС, что у нее есть сразу три браузера с названием Safari
  • Ограничения США на экспорт чипов дают Huawei шанс вытеснить Nvidia с китайского рынка
  • Google готовит своего мощного конкурента GPT-4
  • IBM предупредил, что 40% работников компаний в течение следующих трех лет должны будут освоить новые навыки из-за внедрения искусственного интеллекта
  • На премию "Грэмми" не будет приниматься музыка, созданная с помощью искусственного интеллекта
  • Большинство американцев слышали о ChatGPT, но использовали его лишь немногие
  • Исполнительный вице-президент Intel ушел с должности для создания собственной компании по разработке игр
  • В поиске Google наконец появилась бесконечная прокрутка
  • Замаскированное под средство безопасности вредоносное ПО нацелено на украинскую "IT-армию"
  • Фестиваль маркетинга и рекламы Белый Квадрат объявил победителей!
  • XII "Белый квадрат" объявил победителей



  • ITквариат Powered by © 1996-2024