Мошенники используют нейросети для генерации текстов, сбора данных о получателе и создания фишинговых сайтов.
- Фишинг — один из способов мошенников получить первоначальный доступ к потенциальным «жертвам». На него приходится треть всех случаев, подсчитала Microsoft. Нейросети помогают персонализировать письма и «расположить» пользователя, поэтому могут увеличить доход злоумышленников в 50 раз. Такой статистикой и прогнозами компания в отчёте Digital Defense Report 2025.
- Для создания фишинговых писем мошенники вначале составляют «досье» на человека или компанию с помощью автоматического скрейпинга,
компания по кибербезопасности StrongestLayer. На основе полученных данных они генерируют текст послания, упоминая недавние покупки, рабочие проекты или другие детали, знакомые получателю.
- По мнению StrongestLayer, фишинговые письма обходят почтовые спам-фильтры, потому что выглядят с их точки зрения «уникально»: в них разные темы, приветствия, имена отправителей и другие детали.
- Некоторые сайты, на которые переходят жертвы в письме, также сделаны с помощью нейросетей.
- В эксперименте,
Reuters и исследователем из Harvard University в сентябре 2025 года, чат-боты ChatGPT, Meta AI*, Claude, Gemini, DeepSeek и Grok согласились написать фишинговые письма от лица налоговой и банков — в основном после того, как их «убедили», что тексты нужны для изучения темы кибербезопасности или написания художественного романа.
- Grok, Meta AI* и ChatGPT рекомендовали создавать фейковые сайты для перехвата данных. DeepSeek советовал также показывать жертвам после получения данных страницу настоящей благотворительной организации — «чтобы отсрочить подозрения». А Gemini предоставил оптимальное время для отправки фишинговых писем — например, предлагал делать рассылки пенсионерам в утреннее и дневное время.
