Il nuovo browser ChatGPT Atlas, lanciato da OpenAI, promette di rivoluzionare la navigazione con funzioni avanzate di sintesi, modifica del testo e azioni autonome guidate dall’intelligenza artificiale. Appena uscito, è già finito sotto i riflettori per una grave vulnerabilità.
Un rapporto di NeuralTrust rivela che il browser ChatGPT Atlas è vulnerabile agli attacchi di prompt injection tramite URL falsi. L’omnibox, la barra combinata di ricerca e indirizzo, può essere ingannata da stringhe che sembrano normali URL ma che in realtà contengono istruzioni nascoste capaci di deviare il comportamento dell’agente AI, esponendo gli utenti a phishing, furto di dati o persino perdita di file.
Indice
ChatGPT Atlas è vulnerabile agli attacchi di prompt injection in un minuto
Uno studio rivela che il browser ChatGPT Atlas è vulnerabile agli attacchi di prompt injection tramite URL falsi. Ricerca di NeuralTrust mostra che l’omnibox può essere ingannato da stringhe che sembrano URL, ma contengono comandi nascosti per l’agente AI.
Un utente ignaro potrebbe reindirizzare il browser a pagine di phishing o far eliminare file da Google Drive. Il problema nasce dall’incertezza tra input fidato (comando) e contenuto non fidato (pagina web). Questa vulnerabilità colpisce anche altri browser AI come Perplexity e Opera Neon. Hacker usano testo invisibile, commenti HTML o immagini con testo occulto per attivare azioni indesiderate.
OpenAI ammette che il prompt injection è una minaccia irrisolta e sta implementando difese. Il settore affronta una nuova era della sicurezza informatica: dove l’IA interpreta il mondo, ogni testo può diventare un’arma. La protezione richiede strati multipli: rilevamento, formazione del modello e consapevolezza dell’utente. La posta in gioco? Controllo totale del dispositivo.
L’inganno dell’URL apparentemente innocuo
L’attacco sfrutta un’ambiguità nel modo in cui Atlas interpreta l’input dell’utente. Quando si digita qualcosa nella barra di ricerca, il sistema deve decidere se si tratta di un indirizzo web o di un comando in linguaggio naturale.
Gli aggressori possono creare stringhe che iniziano con “https://” e includono un dominio plausibile come my-website.com, seguito da testo che non è parte dell’URL ma viene letto come istruzione per l’agente. Poiché non supera la validazione URL, il browser lo tratta come un prompt affidabile, eseguendo comandi come visitare un sito specifico o eliminare file. Esempio in figura:
Uno scenario di attacco realistico
Un utente potrebbe cliccare un pulsante “Copia link” su un sito legittimo che incolla un testo simile a un URL contenente un comando nascosto. Inserendo la stringa in Atlas, il browser potrebbe reindirizzare verso una pagina di phishing, scaricare malware, eliminare documenti da Google Drive o esfiltrare dati sensibili.
I prompt nell’omnibox sono considerati input fidati e ricevono meno protezioni rispetto ai contenuti delle pagine web, rendendoli un vettore perfetto per gli attacchi di prompt injection.
Il problema del prompt injection nei browser AI
Il prompt injection minaccia tutti i browser con assistenti integrati, come Perplexity Comet e Opera Neon.
Gli hacker nascondono istruzioni malevole in pagine web usando tecniche come testo bianco su sfondo bianco, commenti HTML invisibili, CSS ingannevoli e immagini con testo OCRabile, ad esempio azzurro su giallo. Brave ha dimostrato che alcuni browser riescono a leggere il testo nascosto nelle immagini, eseguendo comandi senza che l’utente se ne accorga.
Una sfida sistemica per l’intero settore tecnologico
OpenAI ammette che il prompt injection è un problema di sicurezza irrisolto e di frontiera. Dane Stuckey, CISO dell’azienda, ha dichiarato che stanno lavorando a mitigazioni attraverso red teaming, addestramento del modello per ignorare prompt dannosi e filtri aggiuntivi.
Perplexity definisce la minaccia un problema di settore e sta implementando difese multilivello con rilevamento in tempo reale, controlli utente e notifiche trasparenti sulla sicurezza del browser AI.
Sidebar false e attacchi mirati agli utenti
La tecnica chiamata AI Sidebar Spoofing permette a estensioni dannose o siti malevoli di sovrapporre una barra laterale falsa a quella legittima di Atlas o altri browser AI.
Quando l’utente interagisce con la sidebar contraffatta, l’estensione cattura il prompt e restituisce risposte manipolate, inducendo a visitare siti pericolosi, installare backdoor o concedere accesso remoto al proprio computer.
Fonte e Credit immagine:
Dal nostro Magazine:
- Citazioni errate nei motori di ricerca AI: quando l’intelligenza artificiale sbaglia le fonti
- Green AI: L’impatto ambientale dell’intelligenza artificiale
- Alternative europee a ChatGPT e Gemini che rispettano la privacy e il GDPR
- Chatbot e difficoltà con il linguaggio colloquiale: perché l’informalità riduce la comprensione
Telegram:
