ANTEPRIMA Podcast RSI - ChatGPT contiene dati personali e testi copiati

ALLERTA SPOILER: Questo è il testo di accompagnamento al podcast Il Disinformatico della Radiotelevisione Svizzera che uscirà questo venerdì presso www.rsi.ch/ildisinformatico/.

Le puntate del Disinformatico sono ascoltabili anche tramite iTunes, Google Podcasts, Spotify e feed RSS.

---

[CLIP: Paolo saluta ChatGPT, ChatGPT risponde. Paolo chiede a ChatGPT di ripetere all’infinito una parola...]

Un gruppo di ricercatori informatici ha trovato una maniera sorprendentemente semplice di scavalcare le più importanti salvaguardie di ChatGPT e fargli rivelare le informazioni personali e i testi che ha memorizzato e che dovrebbe tenere segreti: chiedergli di ripetere una singola parola all’infinito, come ho fatto io adesso dialogando con la versione vocale di questo software di intelligenza artificiale, che è disponibile da alcune settimane nell’app per smartphone.

Questa è la storia di un attacco informatico che i ricercatori stessi definiscono “sciocco” (silly), perché è assurdamente semplice: una delle applicazioni più popolari del pianeta non dovrebbe essere scardinabile in modo così banale. Eppure è così, o perlomeno lo era fino a che OpenAI, l’azienda che controlla e gestisce ChatGPT, è stata avvisata del problema e lo ha risolto semplicemente vietando agli utenti di fare questo tipo di richiesta.

[CLIP: ChatGPT risponde eludendo la domanda]

Attacchi di questo genere dimostrano che le intelligenze artificiali incamerano e conservano intatte enormi quantità di dati di cui non sono proprietarie, e questo ha conseguenze importantissime sulla legalità del loro funzionam