Гарвардские ученые выяснили, что фишинговые письма от ИИ справляются со своей задачей так же эффективно, как и те, что составлены людьми.
Более того, большие языковые модели могут автоматизировать «весь процесс фишинга» и сократить расходы на 95%. Однако технология может работать и во благо, помогая определять письма от мошенников.
Возможно, онлайн-мошенничество скоро превратится в битву между ИИ: одна нейросеть будет запускать атаки, а другая — защищаться от них. Мошенничество в интернете становится все более распространенной проблемой, а с развитием ИИ его может быть гораздо сложнее избежать.
Согласно исследованию Гарвардской школы бизнеса, с помощью фишинговых писем, созданных ИИ, 60% участников — примерно тот же показатель и у писем, составленных людьми.
Фишинговое мошенничество почти так же старо, как и интернет, но, как говорят исследователи, ИИ повышает «его серьезность». В ходе исследования выяснилось, что большие языковые модели могут автоматизировать «весь процесс фишинга» — создание писем, определение целей и сбор информации. Это может снизить стоимость проведения атак на 95%.
«По этой причине мы ожидаем, что в ближайшие годы качество фишинговых писем улучшится, и их станет больше», — пишут авторы.
Однако ИИ может не только сделать фишинговые атаки опаснее, но также обнаруживать их и бороться с ними.
Некоторые модели справляются с этим лучше других. Как пишут исследователи, Claude от Anthropic правильно определила попытки фишинга даже в тех письмах, где это было неочевидно, а в некоторых случаях даже превзошла людей по показателям обнаружения.
В ходе исследования некоторые модели не только правильно определяли фишинговые письма, но и давали «отличные рекомендации» по поводу того, как реагировать на них.
«Например, во время нашего эксперимента большие языковые модели предлагали пользователям, получивших письмо с привлекательной скидкой, проверить предложение на официальном сайте компании — это отличный способ избежать фишинговых атак», — пишут исследователи.
В мы рассказывали, как определить, что вам пришло фишинговое письмо.
Более того, большие языковые модели могут автоматизировать «весь процесс фишинга» и сократить расходы на 95%. Однако технология может работать и во благо, помогая определять письма от мошенников.
Возможно, онлайн-мошенничество скоро превратится в битву между ИИ: одна нейросеть будет запускать атаки, а другая — защищаться от них. Мошенничество в интернете становится все более распространенной проблемой, а с развитием ИИ его может быть гораздо сложнее избежать.
Согласно исследованию Гарвардской школы бизнеса, с помощью фишинговых писем, созданных ИИ, 60% участников — примерно тот же показатель и у писем, составленных людьми.
Фишинговое мошенничество почти так же старо, как и интернет, но, как говорят исследователи, ИИ повышает «его серьезность». В ходе исследования выяснилось, что большие языковые модели могут автоматизировать «весь процесс фишинга» — создание писем, определение целей и сбор информации. Это может снизить стоимость проведения атак на 95%.
«По этой причине мы ожидаем, что в ближайшие годы качество фишинговых писем улучшится, и их станет больше», — пишут авторы.
Однако ИИ может не только сделать фишинговые атаки опаснее, но также обнаруживать их и бороться с ними.
Некоторые модели справляются с этим лучше других. Как пишут исследователи, Claude от Anthropic правильно определила попытки фишинга даже в тех письмах, где это было неочевидно, а в некоторых случаях даже превзошла людей по показателям обнаружения.
В ходе исследования некоторые модели не только правильно определяли фишинговые письма, но и давали «отличные рекомендации» по поводу того, как реагировать на них.
«Например, во время нашего эксперимента большие языковые модели предлагали пользователям, получивших письмо с привлекательной скидкой, проверить предложение на официальном сайте компании — это отличный способ избежать фишинговых атак», — пишут исследователи.
В мы рассказывали, как определить, что вам пришло фишинговое письмо.
