Kali GPT: cos’è, com’è fatto e perché conviene diffidare

KaliGPT è un assistente IA ispirato a Kali Linux per l’ethical hacking. Ma il suo caso racconta molto di più: opportunità e rischi dell’IA applicata alla sicurezza offensiva.

La diffusione dei Large Language Model ha cambiato il modo di lavorare in quasi ogni settore, e la sicurezza informatica non fa eccezione. Sono nati assistenti IA specializzati che promettono di affiancare l’ethical hacker nelle sue attività — e tra i più discussi c’è KaliGPT, ispirato a Kali Linux, il sistema operativo di riferimento per i professionisti dell’offensive security.

Il caso di KaliGPT è interessante non tanto per lo strumento in sé — che, come vedremo, ha avuto vita breve — quanto per ciò che rappresenta: le opportunità reali e i rischi concreti dell’intelligenza artificiale applicata al penetration testing. In questo articolo vediamo cos’è KaliGPT, cosa promette l’IA in questo campo, quali controversie ha sollevato e — soprattutto — perché nessuno strumento automatico può oggi sostituire un professionista.

1. Cos’è KaliGPT
2. Cosa promette l’IA applicata all’ethical hacking
3. Le controversie del caso KaliGPT
4. I limiti dell’IA nella sicurezza offensiva

Cos’è KaliGPT

KaliGPT è un progetto indipendente realizzato dallo sviluppatore olandese Marc Streefland e pubblicato sul suo sito personale. L’obiettivo dichiarato è semplificare il flusso di lavoro su Kali Linux, un ambiente potente ma caratterizzato da molti processi manuali, rendendo al contempo più accessibile l’ethical hacking a chi muove i primi passi. Il sistema sfrutta tecniche di elaborazione del linguaggio naturale per interpretare comandi, fornire assistenza contestuale durante l’uso di Kali e suggerire tool o contromisure in base allo scenario.

Sulla carta le funzionalità sono ambiziose: automatizzare task ripetitivi come il monitoraggio della rete e la redazione di report tecnici, interagire con strumenti come Metasploit o Burp Suite, spiegare tecniche di attacco e adattare il livello di approfondimento all’esperienza dell’utente. È il ritratto di ciò che molti immaginano quando pensano a un “copilota” per la sicurezza offensiva. Ma è proprio nel confronto tra queste promesse e la realtà che il caso KaliGPT diventa istruttivo.

Cosa promette l’IA applicata all’ethical hacking

KaliGPT è solo uno dei tanti tentativi di portare l’intelligenza artificiale nel lavoro del professionista di sicurezza, e vale la pena capire perché l’idea attiri tanto interesse. I vantaggi potenziali sono concreti: l’IA eccelle nei compiti ripetitivi e ad alto volume — analizzare grandi quantità di log, correlare eventi, generare la bozza di un report, spiegare un errore di configurazione — liberando tempo che il professionista può dedicare alle attività che richiedono davvero giudizio.

C’è però un rovescio della medaglia che il settore conosce bene: gli stessi strumenti che aiutano chi difende aiutano anche chi attacca. Accanto agli assistenti “etici” sono comparsi modelli esplicitamente malevoli, pensati per generare codice d’attacco e campagne di phishing senza filtri etici, e tecniche di manipolazione dei modelli come la prompt injection che ne aggirano le protezioni. L’IA applicata alla sicurezza è, per sua natura, una tecnologia a doppio uso: la stessa capacità di generare istruzioni da riga di comando è preziosa per un pentester autorizzato e pericolosa nelle mani sbagliate.

Le controversie del caso KaliGPT

Proprio KaliGPT è diventato un caso emblematico dei problemi che circondano questi strumenti, per tre motivi che vale la pena conoscere.

Il primo è la mancanza di ufficialità. KaliGPT non è affiliato né riconosciuto da OffSec, gli sviluppatori di Kali Linux.
Analisi indipendenti suggeriscono che non si tratta di un nuovo modello, ma di una personalizzazione di GPT-4 basata su prompt ottimizzati e file di supporto — una “maschera” tematica costruita su un modello generico, non un sistema progettato da zero per la sicurezza. L’assenza di codice sorgente e documentazione ha alimentato i dubbi degli esperti.

Il secondo, più serio, riguarda i contenuti protetti da copyright. Un’inchiesta pubblicata a giugno 2025 ha rivelato che una versione di KaliGPT includeva nel proprio materiale di riferimento la copia integrale di un libro tecnico protetto, al punto che era possibile estrarne interi capitoli. L’episodio ha acceso i riflettori su un problema diffuso dei modelli IA personalizzati: l’assenza di controlli sull’origine e la liceità dei materiali usati per addestrarli. Il terzo motivo è la debolezza delle protezioni interne: le regole che dovrebbero impedire al sistema di rivelare il proprio funzionamento erano scritte in linguaggio naturale come semplici indicazioni, non imposte da vincoli tecnici. Bastava riformulare una richiesta per aggirarle — una vulnerabilità alla prompt injection che dice molto su quanto siano fragili le “protezioni” di questi assistenti improvvisati.

I limiti dell’IA nella sicurezza offensiva

Alla data di questo aggiornamento, KaliGPT non risulta più elencato nel GPT Store di OpenAI, e le segnalazioni online lo indicano come inaccessibile. La sua parabola — grande interesse iniziale, poi controversie e sparizione — è una lezione preziosa sullo stato dell’IA applicata alla sicurezza offensiva. Emergeranno certamente nuovi strumenti, alcuni più solidi di questo; ma il punto di fondo resta valido, ed è il più importante: nessuno strumento automatico può sostituire la competenza umana.

Un penetration test professionale non è l’esecuzione di comandi suggeriti da un assistente. È un lavoro di interpretazione, creatività e giudizio: capire il contesto di business, riconoscere quali vulnerabilità sono davvero sfruttabili in quella specifica infrastruttura, concatenare debolezze che un modello valuterebbe innocue prese singolarmente, e distinguere un falso positivo da una minaccia reale. L’IA può accelerare le fasi meccaniche, ma la parte che protegge davvero un’azienda — il ragionamento offensivo di un esperto che pensa come un attaccante — non è automatizzabile. Un assistente IA mal configurato, anzi, può dare una pericolosa illusione di sicurezza: chi si affida ai suoi output senza le competenze per verificarli rischia di scambiare una scansione superficiale per un test serio.

In conclusione

Il caso KaliGPT riassume bene il momento che vive l’intelligenza artificiale nella cybersecurity: grandi promesse, entusiasmo diffuso, ma anche fragilità, zone grigie legali e una sopravvalutazione delle sue capacità reali. L’IA è e sarà un supporto sempre più utile per i professionisti della sicurezza — nell’automazione, nell’analisi, nella formazione. Ma diventare un esperto di cybersecurity richiede studio, esperienza pratica e aggiornamento continuo, e la difesa di un’azienda si fonda ancora, e si fonderà a lungo, sulla competenza delle persone.