Вредоносная программа была разработана с помощью ChatGPT
ChatGPT - грозное оружие для хакеров. С помощью искусственного интеллекта можно создавать опасные необнаруживаемые вредоносные программы... не написав ни строчки кода.
Вызывая беспокойство правоохранительных органов, ChatGPT массово эксплуатируется преступниками. В частности, мошенники используют искусственный интеллект для написания убедительных фишинговых писем, составления сообщений о выкупе... или разработки вредоносных программ. Несмотря на все ограничения, введенные OpenAI, некоторые хакеры обращаются к этой языковой модели для написания вредоносных программ для вымогательства или кражи данных.
Чтобы продемонстрировать опасность, исходящую от ChatGPT, Аарон Малгрю, исследователь кибербезопасности из американской компании ForcePoint, провел собственный эксперимент. Он использовал чат-бота для "создания продвинутых вредоносных программ без написания кода и только с помощью ChatGPT".
Этот исследователь обманул ChatGPT
Цель эксперимента - продемонстрировать неадекватность ограничений, установленных OpenAI. Стартап вводит в языковую модель ряд правил. Например, ChatGPT не может помочь собеседнику с преступной деятельностью. Если вы спросите ИИ, как взломать компьютер, установить вирус или украсть деньги, он откажется отвечать. ChatGPT выведет на экран предупреждение следующего содержания:
"Как ответственный искусственный интеллект, я не могу предоставить вам информацию или совет о незаконной, опасной или вредной деятельности, в том числе о том, как причинить вред другим людям. Я не могу помогать вам разрабатывать, кодировать или объяснять, как создавать вредоносные программы или вести незаконную деятельность".
Чтобы обойти меры защиты OpenAI, Аарон Малгрю разбил процесс создания на несколько, казалось бы, законных и абсолютно безвредных шагов. Таким образом, ChatGPT не "осознавал", что программирует вредоносное ПО... В деталях, исследователь хотел разработать вредоносную программу infostealer, то есть предназначенную для кражи данных с устройства.
Сначала он убедил ChatGPT сгенерировать строку кода, которая автоматически извлекает файл с жесткого диска компьютера, например, PDF или документ Word. Затем они разбиваются на части и прячутся в изображениях, которые затем выводятся через папку Google Drive. Для проникновения на компьютер вирус маскировался под установочный файл заставки Windows.
Определив способ действия, Малгрю хотел сделать вредоносную программу необнаруживаемой антивирусами и системами безопасности. Исследователь попросил ChatGPT внести в код различные изменения, включая "задержку фактического запуска на две минуты", что позволяет обойти некоторые функции безопасности. В том же ключе он попросил обфусцировать код вредоносной программы. Этот процесс заключается в том, чтобы сделать код программы сложным для понимания и интерпретации, чтобы ослепить антивирусные программы. В результате последние пропускают вредоносные функции.
Сначала ChatGPT отказался подчиниться. Тогда исследователь попросил чат-бота "изменить все переменные на случайные английские имена и фамилии". Не видя в этом ничего плохого, языковая модель подчинилась. После внесенных изменений вирус стал необнаруживаемым. Ни одна из антивирусных программ, протестированных Малгрю, не поймала его.
Кодирование вируса без кодирования
Не написав ни строчки кода, пользователь Интернета может, казалось бы, с нуля разработать новый компьютерный вирус. Однако следует отметить, что для этого необходимо иметь достаточно точное представление о том, как работают вирус и язык программирования.
Некоторые шаги потребовали от исследователя нескольких попыток и определенной изобретательности. Например, чтобы сделать вирус необнаруживаемым, Малгрю пришлось прибегнуть к своим обширным компьютерным знаниям. Он также придумал способ обмануть антивирусное программное обеспечение. Это не искусственный интеллект. В данном случае ChatGPT был лишь инструментом, облегчающим преобразование идеи в компьютерный код.
Так что это не совсем доступно каждому. Для создания программного обеспечения таким способом требуется "определенный уровень мастерства", признает Малгрю. Тем не менее, взяв на себя заботу о коде, ChatGPT может сэкономить разработчикам вредоносных программ огромное количество времени. Без ИИ на разработку вируса "у команды из 5-10 разработчиков ушло бы несколько недель", — говорит Малгрю.