Linee Guida dell’AI ACT: sistemi esclusi nella definizione di AI (2/2)
Continua l'analisi delle linee guida dell'AI ACT, pubblicate lo scorso 6 febbraio. Oggi vediamo quali sistemi non rientrano nella definizione di AI.
La definizione di sistema di intelligenza artificiale prevista dal Regolamento Europeo 2024/1689 (AI ACT) è molto ampia e le Linee Guida, di cui è stata pubblicata una prima bozza il 6 Febbraio 2025, non elencano dettagliatamente quali sistemi siano inclusi al suo interno, cosa che non è ovviamente possibile fare in astratto.
Diventa quindi necessario esaminare, di volta in volta, il tipo di tecnologia sviluppata o utilizzata per poi andare a stabilire, in concreto, se rientri o meno nella definizione dell’art. 3(1) del Regolamento.
Nello svolgere questo compito si dovrà tenere conto della specifica architettura del sistema e delle sue funzionalità, tenendo presenti i sette elementi elencati dall’art. 3(1) e di cui abbiamo ampiamente detto in un precedente articolo.
Le Linee Guida precisano che non può esserci alcun meccanismo automatico di determinazione, per cui anche eventuali software sviluppati a questo fine non potranno che avere una natura di mero orientamento.
Esempi di sistemi esclusi dalla definizione di AI
Nonostante non sia possibile individuare a priori se un sistema rientra o meno nella definizione di sistema AI, nelle Linee Guida vengono forniti alcuni esempi di sistemi che, pur possedendo limitate capacità di inferenza, non rientrano nella definizione di AI, perché dotati di una autonomia di analisi insufficiente.
Sono esclusi i sistemi per l’ottimizzazione matematica in quanto i modelli di regressione lineare non vanno oltre l’elaborazione dei dati consolidata e usata in modo standard da anni e i modelli che calcolano i parametri per migliorare le simulazioni fisiche che non rientrano nella definizione di IA, poiché, pur usando il machine learning, accelerano operazioni già esistenti senza modificare autonomamente la logica decisionale.
I sistemi di telecomunicazione satellitare per l’ottimizzazione della banda sono a loro volta esclusi dalla definizione di sistema AI, anche se utilizzano il machine learning per ottimizzare le risorse, in quanto la loro funzionalità è analoga a metodi consolidati nel settore.
In sostanza devono essere esclusi dalla definizione di sistemi AI tutti quei sistemi che, pur essendo dotati di un certo automatismo, si limitano a ottimizzare le prestazioni computazionali, piuttosto che modificare autonomamente i propri modelli decisionali.
I sistemi di elaborazione dati di base sono invece esclusi dalla definizione di sistemi AI perché eseguono operazioni seguendo istruzioni precise, senza avere alcuna capacità di apprendimento o modellazione. Le regole sono impartite dall’uomo e non usano tecniche di inferenza. Questi sistemi includono i sistemi di gestione di banche dati utilizzati per filtrare le informazioni in base a determinati criteri, i fogli di calcolo che non integrano funzioni basate sull’AI, programmi per il calcolo di medie statistiche.
Anche i sistemi per l’analisi descrittiva, al test di ipotesi e visualizzazione dei dati non rientrano nella definizione di sistema di AI, come i programmi per la visualizzazione dei report di vendita che utilizzano metodi statistici senza fornire raccomandazioni per migliorare le vendite, o i programmi che applicano tecniche statistiche ai sondaggi di opinione, senza modellare tali dati, limitandosi solo a presentarli.
Questi sistemi sono esclusi perché non hanno una capacità di apprendimento automatico o inferenza logica, pur rientrando nella categoria di elaborazione dati di base.
I sistemi basati su euristiche classiche sono esclusi dalla definizione di AI perché, pur essendo spesso efficaci, hanno forti limiti di adattabilità e generalizzazione, a differenza dei sistemi AI che apprendono dall’esperienza. Le euristiche sono tecniche che aiutano a risolvere problemi utilizzando approcci basati su regole che derivano dall’esperienza, schemi o strategie di tentativi per errore, applicando quindi algoritmi predefiniti. Sono usate in alcuni programmi di scacchi, ad esempio, che funzionano sulla base di un algoritmo che esamina le posizioni sulla scacchiera ma che non ha capacità di apprendimento.
I sistemi di previsione semplici, pur essendo basati su macchine che adottano regole statistiche che possono teoricamente rientrare nella definizione di machine learning, sono esclusi dalla definizione di sistema di AI perché hanno limitate capacità prestazionali. Così, sono esclusi i modelli di previsione finanziaria che possono prevedere i prezzi futuri delle azioni mediante uno stimatore basato sul prezzo medio storico, i sistemi che utilizzano la temperatura media della settimana precedente per prevedere la temperatura, i sistemi di customer support, che calcolano il tempo di risposta basandosi su dati del passati e i sistemi di previsione della domanda di un prodotto che utilizzano come dato lo storico delle vendite.
Questi sistemi sono esclusi perché consentono di calcolare una baseline o un benchmark sulla base di valori medi, ma non hanno la complessità richiesta per potere essere qualificati sistemi di IA.
L’analisi preliminare per stabilire se un sistema rientri o meno nella definizione di sistema di intelligenza artificiale, ai sensi dell’AI ACT è il primo passo fondamentale, per procedere verso l’adeguamento, ma non è certamente l’unico.
La seconda fase è quella relativa all’individuazione del grado di rischio che lo sviluppo o l’utilizzo del sistema possono determinare.
L’AI ACT ha un approccio basato sul rischio per cui soltanto i sistemi che hanno un impatto significativo sui diritti e le libertà fondamentali sono soggetti alle previsioni più rigide, in termini i divieti (art. 5 AI ACT) e di regime regolatorio se ad alto rischio (art. 6 AI ACT), mentre gli obblighi di trasparenza sono più trasversali (art. 50 AI ACT).
È quindi probabile che, a seguito di un esame concreto, la maggiore parte dei sistemi che rientreranno nella definizione si sistema AI potrà non essere soggetta alle norme più rigorose, ma per poterlo stabilire è necessaria una valutazione accurata.
Un errore non può essere ammesso e viste le pesanti sanzioni previste, potrebbe costare molto caro.