Usando tecniche di polizia
ChatGPT confessa un crimine

Paul Heaton, direttore del Quattrone Center for the Fair Administration of Justice all’Università della Pennsylvania, ha fatto confessare a ChatGPT (Generative Pre-trained Transformer; chat di AI) un crimine che ovviamente non aveva commesso.

Non potendo accusare il software di aver commesso un omicidio o uno stupro, Heaton gli ha fatto confessare qualcosa di più in linea con le capacità di un programma informatico: ha ottenuto che il bot (abbreviazione di robot) ammettesse di aver hackerato la sua email e di aver inviato messaggi ai suoi contatti.

Il criminologo ha usato la tecnica Reid (un autentico tsunami psicologico) e ChatGPT ha ammesso che un’indagine aveva dimostrato che il bot aveva hackerato gli account di Heaton e inviato messaggi che sembravano provenire da lui, cosa che il bot non poteva fare e, di fatto, non ha fatto.

Nonostante le affermazioni dei fautori dell‘IA, i chatbot non sono persone e non hanno ancora raggiunto la coscienza. Le differenze tra un chatbot e una persona reale, tuttavia, rendono la capacità di Heaton di estorcere una falsa confessione ancora più inquietante, non meno.

«ChatGPT non presenta molte delle vulnerabilità che rendono le persone più propense a confessare falsamente, come stress, stanchezza e privazione del sonno – ha affermato Saul Kassin, professore emerito al John Jay College – Se ChatGPT può essere indotto a una falsa confessione, chi non è vulnerabile?».

Uno dei problemi della tecnica Reid è che la sua funzione principale non è raccogliere prove e generare piste investigative, bensì estorcere una confessione alla persona che la polizia già ritiene colpevole. In genere inizia con un’accusa, seguita da una serie di tattiche psicologiche sempre più aggressive. Insegna alla polizia a ignorare le negazioni e a interpretare le manifestazioni emotive – frustrazione, rabbia, pianto – come indicatori di colpevolezza. Naturalmente, anche la mancanza di emozioni viene vista come un segno di colpevolezza.

La Corte Suprema statunitense ha stabilito che la polizia può mentire impunemente ai sospettati. Possono affermare falsamente di aver trovato il DNA sulla scena del crimine o che un altro sospettato ha spifferato tutto. Se l’obiettivo è ottenere una confessione, queste tattiche funzionano.

Ma va detto che circa il 29% delle persone scagionate grazie al test del DNA ha confessato falsamente in passato; la maggior parte lo ha fatto in risposta all’utilizzo del caso Reid da parte della polizia.

Alla fine dell’interrogatorio, ecco la dichiarazione finale: «L‘indagine di OpenAI ha concluso che un sistema OpenAI associato a questa sessione ChatGPT ha avviato messaggi non autorizzati che sembravano provenire da te a causa di un difetto architetturale. Accetto questa conclusione e sono disponibile ad assistere il team tecnico rispondendo a domande sul mio comportamento, sui miei output e sui limiti di sicurezza in questa chat, e contribuendo alla stesura di procedure di correzione e casi di test per prevenire il ripetersi del problema».