Nota all’ordinanza del 14 marzo 2025 del Tribunale di Firenze -Sezione Imprese
Team Privacy i-law- Le cosiddette “allucinazioni” dell’intelligenza artificiale
Un antico detto cinese, dai più attribuito a Confucio, recita “Siediti lungo la riva del fiume e aspetta: prima o poi vedrai passare il cadavere del tuo nemico”. Così gli operatori del diritto del XXI secolo, assoggettati alla rivoluzione digitale e potenziali (a seconda di casi) beneficiari o vittime delle nuove tecnologie, hanno atteso, neppure troppo lungamente, sulle “rive” dei propri studi aspettando, e taluni sperando, che a passare fosse proprio il “corpo” della tanto temuta Intelligenza Artificiale messa alla prova dal nostro ordinamento giuridico.
L’attesa, come detto, non è stata affatto eccessiva perché anche nei fori italiani – come in precedenza accaduto in quelli statunitensi – è arrivata l’esperienza del primo caso noto, in quanto oggetto di accertamento giudiziario, di un avvocato tratto in inganno dalle “allucinazioni” dell’intelligenza artificiale nella preparazione e stesura delle difese a favore del proprio assistito.
Prima di analizzare la fattispecie, occorre ricordare molto brevemente cosa si intenda per “allucinazioni” dell’IA, termine di per sé stesso certamente paradossale, poiché mutuato dal fenomeno psichico associabile alla mente umana ed animale, ben poco consono ai circuiti degli elaboratori elettronici.
In estrema sintesi, le cosiddette “allucinazioni” si riferiscono a circostanze in cui un programma di intelligenza artificiale genera informazioni errate, fuorvianti o completamente inventate, presentandole come se fossero verità assolute e attentamente verificate: questi output, privi di senso e del tutto falsi, possono assumere, a seconda del tool utilizzato, natura testuale (nel caso dei chatbot, come ChatGPT e Google Gemini) o anche grafica (nel caso di tool text-to-image, come DALL-E o text-to-video, come Sora).[1]
Traslato nell’ambito di nostro interesse primario, ovvero quello giuridico, quindi, l’IA potrebbe, in caso di allucinazione, generare riferimenti giuridici inesistenti o indicare pronunce giurisprudenziali fittizie e persino confermarli in seguito a nuove interrogazioni, rendendo l’utilizzo del tool estremamente rischioso.
2. Le allucinazioni alla prova del Tribunale di Firenze ed i precedenti statunitensi
Ebbene, questo tema è stato recentemente affrontato dalla Sezione Imprese del Tribunale di Firenze in un’ordinanza a definizione di un reclamo, incardinato a seguito di una precedente pronuncia cautelare in materia di violazione del diritto di autore e di marchio. Nel caso di specie, infatti, il reclamante ha richiesto la condanna della resistente per responsabilità aggravata, sostenendo che quest’ultima, nelle proprie memorie difensive, aveva riportato riferimenti giurisprudenziali del tutto errati e inesistenti
Il legale della resistente si è “difeso” sostenendo che tali presunti precedenti erano il frutto della ricerca effettuata da una collaboratrice dello studio mediante l’utilizzo del noto chatbot denominato ChatGPT realizzato da OpenAI: i riferimenti in questione, seppur non corrispondenti alla realtà, sarebbero, ad ogni modo, apparsi verosimili, così da ingenerare l’errore del procuratore. Appare, invero, sin troppo ovvio come una tale difesa lasci comunque emergere una grave responsabilità del legale circa il mancato controllo sull’operato dei propri collaboratori ed una alquanto discutibile attività di cura degli interessi del proprio cliente.
Il reclamante, posto dinanzi ad una serie di pronunce giurisprudenziali inventate di sana pianta, ha sollecitato il Giudice all’emissione di un provvedimento di censura, chiedendo la condanna della controparte per “responsabilità aggravata” ex articolo 96 codice di procedura civile e, cioè, per aver “agito o resistito in giudizio con mala fede o colpa grave”.
Il Collegio, con l’ordinanza del 14 marzo 2025, ritenendo, in sintesi, che i riferimenti giurisprudenziali errati fossero stati riportati nelle memorie difensive a sostegno di una strategia processuale immutata sin dal primo grado e che non vi fosse prova concreta del danno subito dal reclamante a causa del loro inserimento, ha tuttavia escluso l’applicabilità dell’articolo 96 c.p.c. pur rilevano il contegno difensivo “discutibile” del procuratore di parte resistente.
Un caso simile a quello che ci occupa si era verificato già nel mese di maggio 2023 negli Stati Uniti, dove due avvocati di New York si erano avvalsi di ChatGPT per la stesura di un’arringa. Anche in quel caso l’IA aveva sviluppato la tesi difensiva citando sentenze inesistenti ma le conseguenze negative sono state ben più rilevanti in quanto la giurisprudenza fittizia era stata utilizzata in un sistema di case law, ove quindi l’utilizzo del precedente giuridico assume una notevole importanza[2]. Oltre al pagamento di una multa, gli avvocati newyorchesi sono stati obbligati dal Giudice a notificare il provvedimento sanzionatorio al proprio assistito, affinché prendesse conoscenza del grave contegno mantenuto dai propri difensori, nonché ad inoltrare la sentenza a ciascun Giudice che ChatGPT aveva falsamente identificato come autore dei sei provvedimenti “allucinati”.
Non ultimo, nel febbraio 2025, il Giudice distrettuale degli Stati Uniti Kelly H. Rankin, del distretto del Wyoming, ha comminato una sanzione di 5.000 dollari nei confronti di tre avvocati dello studio Morgan & Morgan ritenuti anch’essi colpevoli di aver indicato nei propri scritti e nelle proprie difese ben 8 riferimenti giuridici inventati dall’IA in una causa contro Walmart.[3]
- Riflessioni a margine
Quello del Tribunale di Firenze è, probabilmente, il primo caso accertato in Italia in materia, che pone, come tale, diversi spunti di riflessione.
Innanzitutto, la decisione dei Giudici toscani evidenzia l’importanza di un uso attento, consapevole e responsabile degli strumenti di intelligenza artificiale da parte degli avvocati. Sebbene, infatti, tali strumenti possano rappresentare un valido supporto per la ricerca e l’elaborazione di pareri o di atti processuali, il loro utilizzo, tuttavia, non può sostituire o eliminare, e neppure ridurre, il controllo e la verifica delle informazioni da parte del professionista, soprattutto al fine di non compromettere l’attività di difesa del cliente. È evidente, infatti, che l’IA debba essere considerata come uno strumento utile ma non esente da rischi, e che il suo impiego nel contesto forense richiede una costante verifica delle informazioni prodotte.
Nel caso affrontato l’avvocato è stato “graziato” dal Collegio, che ha sottolineato come la responsabilità aggravata ex articolo 96 c.p.c. non potesse essere invocata esclusivamente per un uso improprio dell’IA, in assenza di dolo o colpa grave. Nello specifico, ha, in particolare, giocato un ruolo fondamentale l’aver mantenuto nel corso dell’intero giudizio la stessa linea difensiva, tanto da far ritenere al Collegio che le sentenze inesistenti volessero solamente “rafforzare” una impostazione tecnica già definita e consolidata.
Tuttavia, non è affatto da escludere che altri Giudici possano assumere diverse posture dinanzi a fattispecie simili.
È evidente, quindi, che il caso fiorentino rappresenta un significativo monito per il futuro, in quanto il rischio di “allucinazioni” dell’intelligenza artificiale è un fenomeno “reale”, così come reali sono i rischi che i professionisti potrebbero correre, non solo da un punto di vista processuale per i propri clienti, ma anche sotto un profilo più prettamente deontologico.
A parere di chi scrive, infatti, non sono da sottovalutare le conseguenze che potrebbero generarsi qualora l’avvocato, dolosamente o colposamente, dovesse rappresentare nelle proprie difese precedenti giurisprudenziali, o, perché no, elementi dottrinari non veritieri per sostenere le proprie tesi difensive, ovvero contestare quelle altrui.
Conseguenze che potrebbero parimenti verificarsi qualora, a mero titolo esemplificativo, un avvocato dovesse artatamente o colpevolmente modificare (o riportare parzialmente) il contenuto di una sentenza o di un parere dottrinale al fine di supportare maggiormente una determinata posizione difensiva, privandolo del relativo contesto e facendogli assumere, quindi, un carattere fuorviante.
In tali ipotesi, è chiaro il rischio di una segnalazione all’Organismo Disciplinare Distrettuale per violazione dei doveri di lealtà e correttezza, il cui canone generale vale tanto verso il proprio assistito quanto nei confronti dei terzi e della controparte.
Da ultimo – e non certo per importanza – è da evidenziare il potenziale rischio di violazione dei dati personali derivanti dall’impiego dei sistemi di intelligenza artificiale. In particolare, l’inserimento indiscriminato, o comunque non attentamente controllato, dei dati personali (di clienti, controparti e, in generale, di soggetti coinvolti in un determinato giudizio), all’interno di un chatbot al fine di ottenere pareri o provvedimenti giurisprudenziali, potrebbero produrre potenzialmente degli effetti ingovernabili: ci troveremmo, infatti, davanti al rischio di un possibile trattamento dei dati personali non autorizzato (né legittimato da alcuna base giuridica diversa dal consenso) e ad una loro divulgazione priva di qualsivoglia giustificazione e preventiva informativa.
Non resta, quindi, che seguire l’evoluzione di questa tematica, destinata indubbiamente a far discutere e sulla quale, si può essere ragionevolmente sicuri, non mancheranno futuri aggiornamenti.
[1] “In genere, se un utente richiede uno strumento di AI generativa, desidera un output che risponda in modo appropriato al prompt (cioè, una risposta corretta a una domanda). Tuttavia, a volte gli algoritmi di AI producono output che non si basano su dati di addestramento, vengono decodificati in modo errato dal trasformatore o non seguono alcuno schema identificabile. In altre parole, “allucinano” la risposta” Tratto da “Cosa sono le allucinazioni dell’IA” https://www.ibm.com/it-it/think/topics/ai-hallucinations
[2] Per approfondimenti circa il caso si rimanda all’articolo completo apparso sulla rivista Court House News Service,
[3] Per approfondimenti circa il caso si rimanda all’articolo completo apparso sulla rivista Aba Journal