L’AI Pact: linee di adeguamento all’AI Act per sviluppatori e fornitori di sistemi di intelligenza artificiale
Il Patto sull'IA è un'iniziativa promossa dall'Ufficio europeo per l’IA che intende accompagnare gli operatori del settore nell’implementazione dell'AI ACT. Vediamo di che cosa si tratta.
Settembre 2024 ha visto l'inizio di una nuova fase per la regolamentazione dell'intelligenza artificiale (IA) in Europa, con il lancio del Patto sull'IA, un'iniziativa promossa dall'Ufficio europeo per l’IA che intende accompagnare gli operatori del settore nell’implementazione dell'AI Act.
Anche se il regolamento europeo diventerà efficace per fasi, a partire da Febbraio 2025, il Patto incoraggia le aziende a impegnarsi volontariamente nel rispetto dei suoi requisiti, promuovendo pratiche etiche, trasparenza e gestione dei rischi, azioni proattive per conformarsi alle principali disposizioni fin da ora.
Nel novembre 2023 è stata lanciato il primo invito a manifestare interesse per il Patto sull'IA che ha ottenuto risposte da oltre 550 organizzazioni di varie dimensioni, settori e paesi.
Il Patto si basa su due elementi fondamentali:
Scambio di best practices: le organizzazioni partecipanti condividono esperienze e linee guida per conformarsi alla legge, tramite seminari e piattaforme collaborative.
Preparazione anticipata: le aziende sottoscrivono “dichiarazioni di impegno” e devono attuare misure concrete per la conformità, come la valutazione dei rischi e la creazione di processi interni.
I vantaggi per i partecipanti sono evidenti, avranno l’opportunità di sviluppare una comprensione comune degli obiettivi dell'AI Act, preparare la propria organizzazione all'attuazione della nuova normativa tramite azioni concrete e ottenere maggiore visibilità e credibilità per le garanzie messe in atto.
Le organizzazioni che hanno espresso interesse sono state coinvolte in una consultazione confluita nel workshop che si è tenuto il 4 Settembre 2024 per definire gli impegni fondamentali e fornire spunti sulla bozza iniziale. L’AI Office ha pubblicato la versione finale degli impegni modellata sulla base dei contributi ricevuti dalle parti interessate e condivisa allo scopo di raccogliere le firme ufficiali entro il mese di Ottobre. Di seguito, si offre una panoramica dei contenuti del Patto.
Gli impegni fondamentali
Per il periodo che inizia dalla presentazione degli impegni del Patto sull'IA e termina con l'entrata in efficacia delle disposizioni rilevanti dell'AI Act, tutte le organizzazioni partecipanti all’iniziativa si impegnano a fare il massimo sforzo per rispettare, o contribuire a rispettare, tre impegni fondamentali, con la possibilità di assumere ulteriori impegni in base alla loro attività specifica.
Gli impegni principali si concentrano sulla promozione della trasparenza e sulla gestione dei sistemi di IA ad alto rischio ed includono i seguenti punti:
Strategia di governance per l'IA: le organizzazioni dovranno adottare una strategia di governance dell'IA per favorire l'integrazione dell'intelligenza artificiale nelle loro attività e lavorare verso la conformità all'AI Act.
Mappatura dei sistemi di IA: le aziende dovranno eseguire una mappatura dei sistemi di IA che utilizzano o forniscono, specialmente quelli considerati ad alto rischio.
Formazione e consapevolezza: le organizzazioni dovranno promuovere l'alfabetizzazione e la consapevolezza sull'IA tra i loro dipendenti, considerando il contesto e i rischi associati all'uso dei sistemi di IA.
Oltre agli impegni fondamentali, le organizzazioni sono incoraggiate a rispettare, o contribuire a rispettare, ulteriori impegni, differenziati tra providers e deployers.
Per le organizzazioni che sviluppano sistemi di IA si tratta di avviare le seguenti attività.
Identificazione dei rischi: implementare processi per identificare i rischi noti e prevedibili per la salute, la sicurezza e i diritti fondamentali legati all'uso dei sistemi di IA;
Qualità dei dati: garantire la qualità dei dataset utilizzati per l'addestramento, la validazione e i test dei sistemi di IA;
Tracciabilità e Informazione: implementare funzionalità di logging per garantire la tracciabilità dei sistemi di IA e informare gli utilizzatori su come utilizzare correttamente i sistemi di IA rilevanti, le loro capacità, limitazioni e potenziali rischi;
Supervisione umana: assicurare una supervisione umana efficace sui sistemi di IA ad alto rischio, in linea con i requisiti dell'AI Act.
Mitigazione del rischio: implementare politiche e processi volti a mitigare i rischi associati all'uso dei sistemi di IA rilevanti, in linea con gli obblighi e i requisiti pertinenti previsti nell'AI Act, nella misura del possibile;
Trasparenza: le organizzazioni che utilizzano sistemi di IA generativi devono prendere misure per garantire che i contenuti generati siano chiaramente identificabili come artificialmente creati. Devono implementare soluzioni tecniche come watermark e metadati, e offrire strumenti per etichettare i contenuti generati dall'IA, inclusi testi, immagini, audio o video, specialmente quando si tratta di deepfake.
Per le organizzazioni che utilizzano sistemi di IA, sviluppati da terzi, si tratterà di procedere alle seguenti implementazioni.
Mappatura dei rischi: le organizzazioni che utilizzano sistemi di IA si impegnano a effettuare una mappatura dei rischi noti e ragionevolmente prevedibili per i diritti fondamentali delle persone e dei gruppi di individui che potrebbero essere interessati dall'uso dei sistemi di IA rilevanti;
Supervisione umana: implementare misure concrete per garantire la supervisione umana sul funzionamento dei sistemi di IA ad alto rischio, come definito dall'AI Act;
Trasparenza: etichettare chiaramente e distintamente i contenuti generati dall'IA e informare gli utenti quando interagiscono direttamente con un sistema di IA e, in caso di decisioni che influenzano negativamente la salute o i diritti fondamentali di un individuo, fornire spiegazioni chiare e significative sui processi decisionali.
Le organizzazioni partecipanti all’AI Pact si impegnano a condividere pubblicamente gli impegni assunti e a riferire sui risultati raggiunti nei dodici mesi successivi la loro pubblicazione.
Il patto sull'IA rappresenta un'occasione per le organizzazioni di dimostrare la loro proattività nel conformarsi alle nuove normative, rafforzando la fiducia nelle tecnologie di IA e preparandosi al futuro panorama normativo europeo. Inoltre le loro indicazioni possono essere utili a tutti gli operatori del settore, anche non aderenti all’AI Pact, come linea guida da tenere in considerazione per gli adempimenti necessari all’adeguamento all’AI Act.