ChatGPT се използва за написване на сложен злонамерен код
Докато училищата в Ню Йорк решиха да забранят ChatGPT от своите мрежи и устройства, интернет престъпният ъндърграунд обмисля възприемането на новата технология за по-бързо създаване на зловреден софтуер.
Базираният на машинно обучение чатбот е проектиран да взаимодейства по разговорен начин, да отговаря на следващите въпроси и да признава грешките си и изглежда, че изследователите на OpenAI са свършили толкова добра работа, че услугата дори може да напише код, който работи само с няколко корекции тук и там.
Предприятието за сигурност Check Point наскоро обхвана форуми за киберпрестъпления в търсене на части от зловреден код, подпомагани от ChatGPT. Намерихте това, което търсите, тъй като като ChatGPT изглежда се използва както за „образователен“ инструмент, така и като платформа за създаване на зловреден софтуер. Благодарение на чата на OpenAI, потребителите на подземния хакерски форум, анализиран от Check Point, успяха да създадат крадец, базиран на Python, който търси общи типове файлове, копира ги в папката Temp, архивира ги в ZIP и ги качва на твърдо кодиран FTP сървър . Следващите анализи потвърдиха, че кода може да работи.
Втора проба, създадена от същия потребител, беше базирана на Java кодо, способен да изтегли SSH/Telnet клиент (PuTTY) и след това да го стартира скрито в системата с помощта на Powershell – функция, която може да бъде модифицирана, за да изтегли и стартира всяка програма. Други, по-малко способни "заплахи“ използваха ChatGPT, за да създадат инструмент за криптиране, така че да могат лесно да генерират криптографски ключове, да криптират файлове, да сравняват хешове и др.
ChatGPT може дори да бъде използван за „улесняване на измамна дейност“, предупреди Check Point, тъй като услугата също така успя да създаде пазарни скриптове за тъмната мрежа, използвайки API на трети страни, за да „получава актуална криптовалута (Monero) , Bitcoin и Etherium) цените като част от платежната система на Dark Web market." Преди това Check Point се опитаха да автоматизират цял поток на инфекция, заедно с фишинг имейл и злонамерен Excel VBA код. Освен това изследователите са използвали и Codex – друга система, базирана на AI, за създаване на други типове сложни части от зловреден код.
По отношение на ChatGPT, изследователите казват, че все още е твърде рано да се реши дали чатботът „ще се превърне в новия любим инструмент за участниците в Dark Web“. Подземната общност обаче вече е показала значителен интерес към „включване в тази последна тенденция за генериране на зловреден код“. ChatGPT трябва да включва някои предпазни мерки за избягване на злоупотреби, но авторите на злонамерен софтуер и децата със скриптове са показали, че могат лесно да заобиколят тези предпазни мерки.
Готов ли си да станеш част от Клуба?
Абонирай се за канала на GAME CLUB ТУК