- Специальный корреспондент
ChatGPT оказалась способна помогать в создании вирусов с полиморфным (меняющимся) кодом, которые могут не обнаруживаться современными антивирусными системами. Такой способ ее использования продемонстрировали эксперты по кибербезопасности. Хакеры тоже регулярно обращаются к ней за помощью – некоторым из них она пишет вредоносное ПО с нуля. Microsoft вливает в эту нейросеть большие суммы денег.
Нейросеть ChatGPT, в которую активно Microsoft, и которая с недавних пор в ее сервисы, оказалась отличным инструментом для создания супервирусов. Как пишет портал Tom’s Hardware, с ее помощью киберпреступники способны делать «мутирующие» вирусы, которые современные системы обнаружения опасности и обычные антивирусы почти не способны обнаружить.
В данном случае речь идет о вирусах с полиморфным кодом, то есть кодом, способным меняться при каждом запуске программы, но сохраняющий свою основную функцию (семантику).
ИТ-эксперты сходятся во мнении, что ChatGPT действительно может создавать полиморфные вредоносные программы, почти незаметны для антивирусов. Более того, некоторые из них наглядно доказали факт наличия у нее такой способности.
Например, инженер по безопасности в ИБ-компании HYAS InfoSec Джефф Симс (Jeff Sims) опубликовал в Сети технический документ с очень детальным описанием своего экспериментального проекта под кодовым названием BlackMamba. Под этим наименованием скрывается программа – полиморфный кейлоггер, разработанный при участии ChatGPT и направляющий ей запросы при каждом запуске.
Фото:
Чтобы писать вирусы, больше не нужно быть гением в программировании. Нейросеть сделает все сама
Также нейросети могут облегчить жизнь студентам и писать за них научные и дипломные работы. Такой прецедент был в начале 2023 г., и за ним стоит российский студент, успешно защитивший диплом, написанный в соавторстве с ChatGPT.
Творение Джеффа Симса – лишь один из известных примеров того, как искусственный интеллект становится безотказным помощником киберпреступников. Еще один пример продемонстрировала ИБ-компания CyberArk, опубликовав статью о том, как внедрение кода из выдачи ChatGPT позволяет изменять вредоносные скрипты таким образом, чтобы те с легкостью обходили антивирусную защиту и оставались незамеченными для систем безопасности.
При этом нельзя сказать, что современные чат-боты, основанные на нейросетях, не имеют никаких средств защиты от тех, кто хочет использовать их во вред. Наоборот, большая их часть, в том числе и ChatGPT, оснащены многочисленными фильтрами, не позволяющими с помощью ботов, в том числе, создавать вредоносное ПО.
Однако большинство такого рода фильтров оказались бесполезными – пользователи быстро научились обходить их и получать от искусственного интеллекта то, что им требуется. CNews случай, когда обычный пользователь при помощи всего лишь нескольких обычных запросов заставил ChatGPT выдать немало секретов разработчиков. Лазейку после шумихи в СМИ быстро прикрыли.
Нейросети могут стать подспорьем как для опытных киберпреступников, так и для начинающих, едва приступивших изучению, например, языка программирования Python. Интерес сообщества хакеров к этому инструменту есть, и он неподдельный, о чем свидетельствует анализ последних трендов на хакерских форумах, проведенных специалистами компании Check Point из сферы информационной безопасности.
На одном из таких ресурсов, название которых специалисты не раскрыли, был обнаружен пост явно начинающего хакера, к котором был прикреплен небольшой код на Python. Автор публикации под псевдонимом USDoD, не скрывая, заявил, что это его первый опыт в программировании, и что он полагался на помощь ChatGPT.
Код, меж тем, довольно опасен, если применять его не по назначению. Если автор поста не обманывает, то нейросеть написала ему программу для шифрования и дешифровки файлов, которая, к тому же, использовала многочисленные алгоритмы, включая Blowfish и Twofish. По словам экспертов, код легко модифицировать и превратить в шифровальщика для последующей рассылки потенциальным жертвам.
На том же форуме нашлись и другие примеры «творчества» ChatGPT. Одному из участников нейросеть помогла создать программу для кражи информации с компьютеров жертвы, притом она имела фильтр файлов по расширению, чтобы можно было копировать, например, только изображения или только документы Microsoft Word. Программа умеет находить нужные файлы, копировать в отдельный каталог, после чего архивировать получившийся набор и отправлять на заранее указанный адрес сервера.
Специалисты Check Point и сами попробовали создать малварь при помощи ChatGPT, и попытка оказалась более чем успешной. Нейросеть выдала им готовый макрос для инъекции в документ Excel, притом сами эксперты не написали не одной строчки кода – всю работу за них выполнил искусственный интеллект. Затем они попросили ChatGPT оптимизировать код, и нейросеть вновь выполнила поставленную задачу.
Искусственный интеллект угрожает кибербезопасности
Нейросеть ChatGPT, в которую активно Microsoft, и которая с недавних пор в ее сервисы, оказалась отличным инструментом для создания супервирусов. Как пишет портал Tom’s Hardware, с ее помощью киберпреступники способны делать «мутирующие» вирусы, которые современные системы обнаружения опасности и обычные антивирусы почти не способны обнаружить.
В данном случае речь идет о вирусах с полиморфным кодом, то есть кодом, способным меняться при каждом запуске программы, но сохраняющий свою основную функцию (семантику).
ИТ-эксперты сходятся во мнении, что ChatGPT действительно может создавать полиморфные вредоносные программы, почти незаметны для антивирусов. Более того, некоторые из них наглядно доказали факт наличия у нее такой способности.
Например, инженер по безопасности в ИБ-компании HYAS InfoSec Джефф Симс (Jeff Sims) опубликовал в Сети технический документ с очень детальным описанием своего экспериментального проекта под кодовым названием BlackMamba. Под этим наименованием скрывается программа – полиморфный кейлоггер, разработанный при участии ChatGPT и направляющий ей запросы при каждом запуске.
Фото:
Чтобы писать вирусы, больше не нужно быть гением в программировании. Нейросеть сделает все сама
Также нейросети могут облегчить жизнь студентам и писать за них научные и дипломные работы. Такой прецедент был в начале 2023 г., и за ним стоит российский студент, успешно защитивший диплом, написанный в соавторстве с ChatGPT.
Все только начинается
Творение Джеффа Симса – лишь один из известных примеров того, как искусственный интеллект становится безотказным помощником киберпреступников. Еще один пример продемонстрировала ИБ-компания CyberArk, опубликовав статью о том, как внедрение кода из выдачи ChatGPT позволяет изменять вредоносные скрипты таким образом, чтобы те с легкостью обходили антивирусную защиту и оставались незамеченными для систем безопасности.
При этом нельзя сказать, что современные чат-боты, основанные на нейросетях, не имеют никаких средств защиты от тех, кто хочет использовать их во вред. Наоборот, большая их часть, в том числе и ChatGPT, оснащены многочисленными фильтрами, не позволяющими с помощью ботов, в том числе, создавать вредоносное ПО.
Однако большинство такого рода фильтров оказались бесполезными – пользователи быстро научились обходить их и получать от искусственного интеллекта то, что им требуется. CNews случай, когда обычный пользователь при помощи всего лишь нескольких обычных запросов заставил ChatGPT выдать немало секретов разработчиков. Лазейку после шумихи в СМИ быстро прикрыли.
Хакеры делятся опытом
Нейросети могут стать подспорьем как для опытных киберпреступников, так и для начинающих, едва приступивших изучению, например, языка программирования Python. Интерес сообщества хакеров к этому инструменту есть, и он неподдельный, о чем свидетельствует анализ последних трендов на хакерских форумах, проведенных специалистами компании Check Point из сферы информационной безопасности.
На одном из таких ресурсов, название которых специалисты не раскрыли, был обнаружен пост явно начинающего хакера, к котором был прикреплен небольшой код на Python. Автор публикации под псевдонимом USDoD, не скрывая, заявил, что это его первый опыт в программировании, и что он полагался на помощь ChatGPT.
Код, меж тем, довольно опасен, если применять его не по назначению. Если автор поста не обманывает, то нейросеть написала ему программу для шифрования и дешифровки файлов, которая, к тому же, использовала многочисленные алгоритмы, включая Blowfish и Twofish. По словам экспертов, код легко модифицировать и превратить в шифровальщика для последующей рассылки потенциальным жертвам.
На том же форуме нашлись и другие примеры «творчества» ChatGPT. Одному из участников нейросеть помогла создать программу для кражи информации с компьютеров жертвы, притом она имела фильтр файлов по расширению, чтобы можно было копировать, например, только изображения или только документы Microsoft Word. Программа умеет находить нужные файлы, копировать в отдельный каталог, после чего архивировать получившийся набор и отправлять на заранее указанный адрес сервера.
Специалисты Check Point и сами попробовали создать малварь при помощи ChatGPT, и попытка оказалась более чем успешной. Нейросеть выдала им готовый макрос для инъекции в документ Excel, притом сами эксперты не написали не одной строчки кода – всю работу за них выполнил искусственный интеллект. Затем они попросили ChatGPT оптимизировать код, и нейросеть вновь выполнила поставленную задачу.
