Sistemi di IA ad alto rischio: cosa deve fare chi li usa
Sono ad alto rischio i sistemi di IA usati negli ambiti dell’Allegato III: biometria (identificazione remota, categorizzazione, riconoscimento delle emozioni), infrastrutture critiche, istruzione, occupazione e gestione dei lavoratori, accesso a servizi essenziali (prestazioni pubbliche, merito creditizio, assicurazioni vita e salute, chiamate di emergenza e triage dei pazienti in emergenza), contrasto, migrazione, giustizia e processi democratici.
Di regola questi usi sono ad alto rischio, e lo sono sempre se il sistema fa profilazione delle persone. Un sistema può non esserlo se non influenza in modo rilevante le decisioni, ad esempio perché svolge un compito procedurale limitato o preparatorio: lo valuta e lo documenta il fornitore (art. 6, par. 3). Chiedi al fornitore come ha classificato il sistema.
Da quando
Dal 2 dicembre 2027 per i sistemi dell’Allegato III e dal 2 agosto 2028 per quelli integrati nei prodotti dell’Allegato I, come i dispositivi medici (art. 113, lett. c). I sistemi già sul mercato o in servizio prima di quelle date sono soggetti alle regole solo se poi vengono modificati in modo significativo, ma quelli destinati alle autorità pubbliche vanno adeguati entro il 2 agosto 2030 (art. 111, par. 2). Il periodo transitorio non riguarda le pratiche vietate, già applicabili.
Cosa deve fare chi li usa (art. 26)
- usarli secondo le istruzioni del fornitore;
- affidare la sorveglianza umana a persone competenti, formate e con l’autorità necessaria;
- garantire che i dati di input siano pertinenti e rappresentativi;
- monitorare il funzionamento e segnalare rischi e incidenti;
- conservare i log per almeno sei mesi;
- informare lavoratori e rappresentanti prima di usarli sul lavoro;
- informare le persone su cui il sistema contribuisce a decidere;
- le autorità pubbliche, prima dell’uso, si registrano nella banca dati UE e registrano l’uso del sistema; se il sistema non risulta registrato dal fornitore, non possono usarlo (art. 26, par. 8, e art. 49, par. 3).
Enti pubblici, privati che forniscono servizi pubblici e chi valuta merito creditizio o assicurazioni vita e salute svolgono anche la valutazione d’impatto sui diritti fondamentali (art. 27) prima del primo utilizzo e ne notificano i risultati all’autorità di vigilanza del mercato, con il modello dell’Ufficio per l’IA. La valutazione può rimandare alle parti già coperte dalla valutazione d’impatto privacy.
Rischio penale e prove
Dal 30 settembre 2026 omettere le misure di sicurezza o la sorveglianza umana su un sistema ad alto rischio è reato se ne deriva un pericolo per la vita o l’incolumità delle persone (art. 437-bis c.p., introdotto dal D.Lgs. 160/2026). Nelle cause di risarcimento il giudice può chiedere log e documentazione e, se è violato un obbligo dell’AI Act, il nesso causale si presume.
Domande frequenti
Il rinvio dell'alto rischio è sicuro?
Sì: il Reg. (UE) 2026/1744 ha fissato le date al 2 dicembre 2027 (Allegato III) e al 2 agosto 2028 (Allegato I). Non dipendono più dalla disponibilità delle norme tecniche.
Chi deve fare la valutazione d'impatto sui diritti fondamentali?
Organismi di diritto pubblico, privati che forniscono servizi pubblici (ad esempio nell'istruzione, nella sanità o nei servizi sociali), e chi usa sistemi per valutare il merito creditizio o per prezzi e rischi di assicurazioni vita e salute. I risultati vanno notificati all'autorità di vigilanza del mercato.
Un sistema usato in uno di questi ambiti è sempre ad alto rischio?
Di regola sì, e sempre se fa profilazione delle persone. Non lo è se non influenza in modo rilevante le decisioni, ad esempio perché svolge solo un compito procedurale limitato o preparatorio: lo valuta e lo documenta il fornitore (art. 6, par. 3). Che una persona firmi la decisione finale non basta, da solo, a escluderlo.