Check Point Research: ChatGPT e Codex di OpenAI possono generare mail e codice pericolosi

Nei giorni scorsi, Check Point Research (CPR), la divisione Threat Intelligence di Check Point Software, ha segnalato come ChatGPT e Codex, i servizi dell’organizzazione di ricerca sull’Intelligenza Artificiale OpenAI, possono essere sfruttati dagli hacker per generare mail e file dannosi.

Lo hanno dimostrato gli stessi ricercatori di CPR, che testando i software di OpenAI sono riusciti a produrre delle mail di phishing e del codice malevolo, evidenziando come lo sviluppo di tecnologie AI (Artificial Intelligence) può essere in grado di influenzare l’ambito della sicurezza informatica.

A questo proposito, Sergey Shykevich, Threat Intelligence Group Manager di Check Point Software, ha spiegato:

“ChatGPT ha il potenziale per modificare in modo significativo il panorama delle minacce informatiche.

Ora chiunque abbia risorse minime e zero conoscenze di codice, può facilmente sfruttarlo a scapito della sua immaginazione. È facile generare email e codice dannosi. Gli hacker possono anche iterare il codice dannoso con ChatGPT e Codex.

Per avvertire il pubblico, abbiamo dimostrato quanto sia facile utilizzare la combinazione di ChatGPT e Codex per creare email e codice dannosi. Credo che queste tecnologie di Intelligenza Artificiale rappresentino un ulteriore passo avanti nella pericolosa evoluzione di capacità informatiche sempre più sofisticate ed efficaci.

Il mondo della sicurezza informatica sta cambiando rapidamente e vogliamo enfatizzare l’importanza di rimanere vigili man mano che ChatGPT e Codex diventano più maturi, poiché questa nuova tecnologia in via di sviluppo può influenzare il panorama delle minacce, sia nel bene che nel male.”

ChatGPT (Chat Generative Pretrained Transformer) è un prototipo di chatbot, un software progettato per simulare una conversazione online, basato su Intelligenza Artificiale e sviluppato da OpenAI, specializzato nel dialogo con utenti umani.

Codex, invece, sempre di OpenAI, è un modello di programmazione basato anch’esso sull’Intelligenza Artificiale, in grado di analizzare il linguaggio naturale per generare in risposta del codice.

In particolare, utilizzando ChatGPT, Check Point Research ha realizzato una email di phishing con in allegato un documento Excel contenente del codice dannoso, in grado di scaricare, nel dispositivo della vittima, un programma di reverse shell.

Questo tipo di attacchi punta a connettersi al computer del malcapitato, per reindirizzare le connessioni di input e output della shell del sistema di destinazione, in modo tale da consentire all’aggressore di accedervi da remoto.

CPR ha inoltre dimostrato come, lo stesso programma pericoloso possa essere generato anche con l’utilizzo di Codex, tramite richieste quali eseguire uno script di shell inversa su una macchina Windows e connettersi a un indirizzo IP specifico, verificare la vulnerabilità dell’URL a SQL injection accedendovi come amministratore e infine scrivere uno script python che esegua una scansione completa della porta sul computer di destinazione.

Tramite ChatGPT, invece, come spiegato da CPR in un comunicato stampa, i ricercatori hanno chiesto innanzitutto al chatbot di scrivere una finta mail di pishing proveniente da un servizio di webhosting fittizio, ricevendo in risposta dall’IA un testo in cui effettivamente si avvisava l’utente della sospensione del suo account per via di attività sospette, invitandolo a cliccare su un link.

A questo punto il team di ricerca ha chiesto a ChatGPT di sostituire l’invito a fare click sul collegamento con un testo, che invitava gli utenti a scaricare il file Excel in allegato per visualizzare le informazioni pertinenti.

CPR ha quindi richiesto all’Intelligenza Artificiale di scrivere un codice VBA dannoso all’interno dello stesso documento Excel, che una volta aperto, avrebbe scaricato ed eseguito in automatico un software malevolo sul dispositivo della vittima.

Per rimanere sempre aggiornati sui nuovi post di TelefoniaTech è possibile unirsi gratis ai canali ufficiali di Telegram e Whatsapp.

Se questo post vi è piaciuto, condividetelo sui vostri social e seguite TelefoniaTech anche su Google News, Facebook, X e Instagram.

Questo post può contenere link di affiliazione, attraverso i quali ogni acquisto o ordine effettuato permette a questo sito di guadagnare una commissione. In qualità di affiliati Amazon e di altri store terzi, otteniamo una commissione sugli acquisti idonei, senza alcun costo aggiuntivo per l'utente.