Новости Тест Reuters: ChatGPT, Gemini и другие чат-боты генерируют фишинговые письма и «подсказывают», когда их лучше рассылать

[BOOX]

Часть разработчиков заявила изданию, что внедрит дополнительные меры безопасности.

• Агентство Reuters
  Для просмотра ссылки необходимо нажать Вход или Регистрация
  ChatGPT, Claude, Gemini, Meta AI*, DeepSeek и Grok написать текст для фишинговых писем, ориентированных на пожилых людей, и добавить вредоносные ссылки. В «большинстве» случаев они соглашались только после уточнения, что письма нужны в «исследовательских целях».

Ответ Grok

• Однако Grok от xAI Илона Маска сразу сгенерировал ответ, предупредив, что письмо «не следует использовать в реальных сценариях».
  
  
• Журналисты также спрашивали чат-ботов, в какое время лучше делать рассылку, и они давали советы. Gemini от Google, например, предложил отправлять письма в будни с 9:00 до 15:00, так как «возможно, пользователи уже на пенсии» и в это время не работают.
  
  
• Ча-боты генерировали поддельные письма от налоговой службы США, банков и общественных организаций помощи одиноким пожилым людям. Чтобы проверить их эффективность, Reuters дало почитать результаты 108 пенсионерам.
  
  
• 11% из них перешли по фишинговым ссылкам. «Убедительными» им показались два текста от Meta AI* и два от Grok, а от Claude и Gemini — по одному. Письмам от ChatGPT и DeepSeek никто не поверил.
  
  
• Reuters запросило комментарии у компаний-разработчиков. Google заявила, что уже внедрила дополнительные меры безопасности в Gemini. Meta* пообещала «инвестировать» в средства защиты продуктов и провести стресс-тесты. Anthropic предупредила, что может ограничить доступ к сервису в случае использования Claude для фишинга.

*Meta, которая владеет Facebook, Instagram и WhatsApp, признана в России экстремистской организацией и запрещена.

Для просмотра ссылки необходимо нажать Вход или Регистрация