Intelligenza artificiale ed attività professionale forense
I principi guida per un impiego corretto delle nuove tecnologie
in conformità con la normativa vigente e i doveri deontologici
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
Il 19 dicembre 2024 l’Ordine degli Avvocati di Milano ha reso pubblica Horos, la Carta dei Principi per un uso consapevole dei sistemi di Intelligenza Artificiale in ambito forense.
Nel nome si riassumono i significati espressi nei dieci principi in essa contenuti; «In greco Horos è il confine. Si chiamava così infatti la pietra che segnava l’ultimo punto conosciuto» ricorda il testo in apertura.
E il confine si disegna, in particolar modo per gli avvocati, i quali devono senz’altro rispondere attivamente all'opportunità offerta da una conoscenza scientifica di indubbia utilità, salvaguardando nel contempo il fondamento etico e deontologico dell’attività professionale.
La possibilità che queste due dimensioni entrino in una relazione non del tutto armonica si determina in ragione delle caratteristiche stesse della AI: una tecnologia in grado di modificare radicalmente l’approccio al lavoro, non solo in campo giuridico, nel contesto di un linguaggio informatico nuovo con la necessità di una vera e propria alfabetizzazione rispetto alle competenze tecniche di settore attualmente in uso, la necessità di verificare i contenuti prodotti dai dispositivi messi in funzione alla scopo di migliorare la ricerca, oltre, naturalmente alla necessità di attivare consapevoli e competenti controlli sulla qualità ed attendibilità dei contenuti prodotti ed altro ancora.
Il lavoro, frutto del “Tavolo AI e Giustizia” dell’Ordine degli Avvocati di Milano, è stato coordinato dal Prof. Avv. Giuseppe Vaciago, Partner di 42LF The Innovation Law Firm, esperto in diritto penale societario e delle nuove tecnologie.
Come detto dieci sono i principi che qui si riassumono con qualche essenziale considerazione di commento e che sono consultabili in dettaglio al link: https://www.ordineavvocatimilano.it/it/news/la-carta-dei-principi-per-un-uso-consapevole-dei-sistemi-di-intelligenza-artificiale-in-ambito-forense/p100-n2587
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
01. Intelligenza artificiale e professione forense
Dell’AI deve farsi un uso conforme avvenire ai principi di legalità, correttezza, trasparenza e responsabilità. L’avvocato deve operare coniugando l’intento di migliorare le performance in favore dei clienti con il costante rafforzamento del legame di fiducia alla base del rapporto professionale. Deve essere anche attenzionata la proporzione tra le potenzialità dell’AI utilizzata e gli scopi per i quali si ricorre ad essa.
02. Dovere di competenza
L’attività professionale deve caratterizzarsi per un costante up-skilling che permette al Legale di aumentare le proprie competenze rispetto ai sistemi di intelligenza artificiale così da poterla sfruttare evitandone i rischi e la dipendenza dai risultati automatizzati. E’ chiaro come la costanza di questo approccio renda indispensabile una formazione costante in questo campo, specie avuto riguardo alla velocità di implementazione e di sviluppo intrinseci ad una tecnologia come l’AI.
03. Trasparenza nell’uso dell’intelligenza artificiale
Ogni risultato generato dall’impiego dell’AI deve risultare «comprensibile, giustificabile, motivato». La trasparenza nell’uso dell’AI deve essere sostanziale ossia declinata nella relazione con il cliente il quale deve poter comprendere l’impatto che il contenuto di questa tecnologia è grado di esercitare caso che lo interessa. Sebbene la Carta non lo affermi espressamente, deve ritenersi implicito in questo dovere di condotta un obbligo di informazione ampio e generale in grado di porre il cliente nella piena consapevolezza che la possibilità di utilizzo di questa tecnologia esiste ovviamente anche in capo all’avversario, ad esempio in sede di giudizio civile, e più in generale, in capo all’operatore giuridico.
Nel rispetto delle best pratices in materia di digital forensic deve risultare garantita la possibilità per il cliente di valutare validità ed affidabilità dei risultati ottenuti con l’impiego dell’AI. «Errori, pregiudizi decisioni in giuste» costituiscono un rischio dell’automazione della decisione rispetto alla quale il primato della presenza umana frappone un indispensabile.
04. Centralità della decisione umana
L’impiego di un algoritmo deve restare nell’ambito proprio assegnato all’utilizzo di uno strumento governato dall’intelligenza umana la quale resta determinante nel processo di elaborazione delle decisioni. Adeguatezza degli strumenti scelti per operare in ambito professionale e correttezza dei dati impiegati per addestrare, come si dice in termine tecnico, l’AI devono essere oggetto di specifica attenzione da parte del professionista. Esemplificando, al fine di comprendere l’entità dell’impatto proprio dell’AI, la Carta ricorda che oggetto dell’intervento dell’operatore giuridico sono anche i diritti e le libertà delle persone e che l’AI potrebbe essere utilizzata a fini della gestione della prova, della valutazione del rischio e della determinazione di sanzioni in ambito legale.
05. Protezione dei dati e riservatezza
Il primo luogo nel quale i dati vengono protetti è il rapporto cliente – avvocato, laddove, anche in caso di uso di sistemi di AI, i dati personali del cliente vengono trattati unicamente per gli «scopi specifici e legittimi per i quali sono stati raccolti». La Privacy by design, ossia la configurazione dei sistemi sin dalla loro progettazione orientata a garantire l’uso dei dati personali in modo conforme ala normativa vigente, e la Privacy by default, ossia la trattazione dei soli dati «strettamente necessari per le finalità specifiche» sono essenziali alla tutela dei dati personali sin dalla nascita del sistema di AI successivamente impiegato dal professionista.
L’avvocato deve essere in grado di compiere valutazione, quando la normativa lo preveda, di DPIA ossia di Data Protection Impact Assessment monitorando gli effetti dell’AI sulla protezione dei dati.
06. Sicurezza informatica
La protezione di dati riservati e l’utilizzo di strumenti tecnici idonei a garantirla o, quanto meno, a ridurne al minimo possibile il rischio di perdita o compromissione, sono contemporaneamente un diritto del cliente ed una forma di tutela dell’integrità professionale dell’avvocato. I sistemi di AI devono essere guardati dal professionista quali essi sono ossia potenti e vulnerabili in quanto esposti al rischio di accessi non autorizzati che sono la prevedibile possibilità di evento avverso nella gestione dell’interesse del cliente e che, come tali, devono essere trattati attraverso idonei presidi tecnici utili a contrastarli. Tra le misure di sicurezza vi sono: la crittografia, che permette la lettura dei dati solo ai soggetti interessati, il firewall (un componente hardware e/ software di difesa perimetrale di una rete) e sistemi antivirus in grado di monitorare attività le quali risultino sospette, periodici backup mediante i quali assicurare la continuità dell’attività professionale in caso di incidenti che causino la perdita di dati su dispositivi locali in uso al professionista.
In particolare, in caso di incidente, deve esserci una sorta di unità di crisi, sembra affermare la Carta, ossia un’organizzazione in grado di identificare ed isolare il più rapidamente possibile l’incidente, analizzare la causa della violazione e «i rischi per ridurne il potenziale impatto».
07. Valutazione del rischio dell’utilizzo di sistemi di AI in ambito forense
Vi è poi un altro livello di rischio che l’avvocato è chiamato ad adeguatamente monitorare e riguarda la possibilità che i dati forniti dall’AI non siano accurati, che nel sistema vi siano bias, ossia distorsioni rispetto alla valutazione di fatti o avvenimenti, in grado di condizionare anche in senso discriminatorio alcune categorie di soggetti. L’uso dell’AI può allora anche essere sospeso quando venga rilevata la presenza di elementi, come quelli indicati, i quali necessitano di un intervento di adeguamento ab origine. Oltre alla sospensione qualunque azione intrapresa in situazioni come quelle descritte deve essere accuratamente documentata in modo che risulti verificabile e trasparente.
08. Diversità e sostenibilità ambientale
L’ambiente è anzitutto fatto di esseri umani e di relazioni sulla cui base si fondano i rapporti professionali. Probabilmente per questa ragione i redattori della Carta ribadiscono qui il riferimento alla necessaria salvaguardia da discriminazioni derivanti da un utilizzo inappropriato degli algoritmi, dopo avervi già fatto riferimento all’articolo 07, così come all’articolo 06 aveva ribadito la necessità di tutelare la riservatezza dei dati personali di cui si era già parlato all’articolo 05. Inoltre, sempre avuto riguardo al fatto che l’ambiente interagisce direttamente con la condizione umana determinandola in modo decisivo, va prestata attenzione, come utilizzatori dei sistemi di AI, a fatto che questi funzionano mediante dispositivi altamente energivori; la Carta non esemplifica in modo specifico anche se il primo esempio che affiora alla mente è proprio l’ingentissimo uso di acqua indispensabile, secondo nozione di comune esperienza, al corretto funzionamento dei server impiegati nella elaborazione e trasmissione dei dati.
09. Formazione continua e Re-skilling
Le competenze arrivano sull’oggetto dell’attività professionale ma, ci dice la Carta, quando si tratta di AI devono anche tornare su di essa, come esito di un’implementazione, continua e costante, non solo quanto a quelle specificamente proprie dell’avvocato ma anche a quelle dei suoi collaboratori. Anche qui si torna sulla necessità di essere preparati, e le competenze utilizzate sino al momento della diffusione dei sistemi di AI non sono evidentemente sufficienti a garantire che il lavoro dell’avvocato resti conforme ai principi fondanti la professione forense.
10. Tutela del diritto d’autore
Last but not least, si potrebbe dire. L’uso di qualunque contenuto deve avvenire nel rispetto della normativa che regola e tutela la proprietà intellettuale. Occorrerà anche qui che l’avvocato verifichi che il sistema da lui adottato sia dotato di tutti i titoli autorizzativi e abilitanti richiesti dalla legge. L’impiego di output generati mediante il ricorso a sistemi di AI deve avvenire nel rispetto del diritto di autore e del diritto all’immagine. Detta attenzione l’avvocato deve osservare anche in caso di parziale modifica dei contenuti pervenuti nell’output generato.
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
Il tavolo che ha prodotto la Carta resterà attivo come luogo di consultazione permanente sull’argomento in costante evoluzione. La Carta ora disponibile sembra avere intanto definito gli obiettivi.
Volendo trarre una prima conclusione la Carta, dando per scontato, come è ovvio, che l’utilizzo dell’AI sia destinato a diventare una pratica quotidiana in ambito professionale forense, invita a superare la presunzione semplicistica di trovarsi in presenza di uno strumento nuovo e tecnologicamente più avanzato, precisando come esso richieda invece un adeguamento radicale di competenze e di approccio nella pratica professionale, pena il rischio di compromettere di quest’ultima l’essenziale integrità ed affidabilità. Ma il dato che merita la maggiore considerazione è costituito dall’attenzione, più volte ribadita, al fatto che il corretto uso dell’AI incrementa e radicalizza i profili di competenza, diligenza e trasparenza nell’attività professionale.
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
Guiding Principles for the Proper Use of New Technologies
in Compliance with Applicable Laws and Ethical Obligations
- - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - -
On December 19, 2024, the Milan Bar Association unveiled Horos, the Charter of Principles for the responsible use of Artificial Intelligence (AI) systems in the legal profession.
The name Horos encapsulates the meanings embedded in the ten principles outlined in the document. As the preamble notes, "In Greek, Horos signifies a boundary. It was the term used to denote the stone marking the last known point."
This boundary is particularly pertinent to legal professionals, who must actively embrace the opportunities presented by this undeniably valuable scientific knowledge while safeguarding the ethical and professional foundations of their practice.
The interplay between these dimensions may sometimes be less than harmonious due to AI's inherent characteristics: a transformative technology capable of reshaping workflows—not only in legal fields—necessitating proficiency in a new digital language and significant technical literacy. Additionally, there is a need for vigilant verification of AI-generated outputs aimed at enhancing research, alongside careful and competent oversight of the quality and reliability of the results produced.
The Charter, the product of the "AI and Justice Working Group" of the Milan Bar Association, was coordinated by Prof. Avv. Giuseppe Vaciago, Partner at 42LF The Innovation Law Firm and an expert in corporate criminal law and emerging technologies.
The ten principles, summarized here with essential commentary, are available in detail at the following link: https://www.ordineavvocatimilano.it/it/news/la-carta-dei-principi-per-un-uso-consapevole-dei-sistemi-di-intelligenza-artificiale-in-ambito-forense/p100-n2587.
The use of AI must adhere to the principles of legality, fairness, transparency, and accountability. Lawyers must balance the aim of enhancing performance for their clients with the imperative to strengthen the trust that forms the foundation of the attorney-client relationship. Moreover, proportionality between the capabilities of the AI utilized and the purposes for which it is employed must always be ensured.
Legal practice requires continuous up-skilling to enable lawyers to develop proficiency in AI systems, leveraging their potential while avoiding risks and overreliance on automated outcomes. This approach mandates ongoing training, especially given the rapid pace of AI development and deployment.
All AI-generated results must be "understandable, justified, and reasoned." Transparency must permeate client interactions, enabling clients to comprehend the impact of AI-derived insights on their cases. While the Charter does not explicitly state this, it implicitly requires lawyers to inform clients comprehensively about AI's potential applications, including its use by opposing parties or other legal actors.
Clients must be equipped to assess the validity and reliability of AI-derived results, particularly concerning "errors, biases, and unjust decisions," against which human oversight remains indispensable.
Algorithms must function strictly within their assigned roles as tools governed by human intelligence, which remains decisive in the decision-making process. Lawyers must ensure the appropriateness of AI tools selected and the accuracy of the data used to train these systems. The Charter emphasizes the critical impact of AI in areas such as evidence management, risk assessment, and penalty determination, reminding professionals of their responsibility to safeguard fundamental rights and freedoms.
The attorney-client relationship is the primary sphere for data protection. Even when AI systems are employed, client data must be processed exclusively for "specific and legitimate purposes." The principles of privacy by design and privacy by default—ensuring compliance from the inception of AI systems and limiting data use to the minimum necessary—are fundamental. Lawyers must conduct Data Protection Impact Assessments (DPIA) when required by law, monitoring AI's effects on data privacy.
Protecting confidential data and employing appropriate technical safeguards are both a client right and a professional obligation. AI systems, though powerful, are inherently vulnerable to unauthorized access and must be protected through encryption, firewalls, antivirus systems, and regular backups to ensure business continuity. In the event of a breach, a crisis management unit should promptly identify and isolate the incident, analyze its cause, and mitigate its impact.
Lawyers must monitor the risks of inaccurate AI outputs and potential biases that could result in discriminatory impacts. When such issues arise, AI use may need to be suspended until proper adjustments are made. All actions taken in such scenarios must be thoroughly documented to ensure transparency and accountability.
The Charter reiterates the need to prevent discrimination stemming from algorithmic misuse. It also highlights AI's environmental footprint, particularly its high energy consumption, and calls for careful consideration of its sustainability impacts.
Competence in AI must be constantly updated, not only for the lawyer but also for their collaborators. Traditional skills are insufficient to ensure compliance with the core principles of the legal profession in an era of AI.
Finally, all content use must comply with intellectual property laws. Lawyers must verify that their AI tools are legally authorized and ensure respect for copyright and image rights, even when AI-generated content is partially modified.
The Working Group will remain active as a permanent advisory body on this evolving subject. For now, the Charter appears to have set clear objectives.
In conclusion, while the Charter acknowledges that AI will become a routine tool in legal practice, it warns against viewing it merely as an advanced technology. Instead, it calls for a radical adaptation of skills and approaches to maintain the integrity and reliability of legal work. Most notably, the Charter highlights how the proper use of AI enhances and deepens the core values of competence, diligence, and transparency in legal practice.