Artificial Intelligence Act: dal 2 febbraio in vigore i divieti sui sistemi di intelligenza artificiale che comportano un rischio inaccettabile

A partire dal 2 febbraio 2025, sono vietati i sistemi di intelligenza artificiale che comportano un rischio inaccettabile, inclusi quelli che minacciano la sicurezza, i diritti e i mezzi di sussistenza delle persone, come i controlli indiscriminati di massa, le identificazioni biometriche remote e il punteggio sociale.

Diventa operativo, infatti, il primo blocco di disposizioni del nuovo Regolamento UE n. 2024/1689 del 13 giugno 2024 (Artificial Intelligence Act) che stabilisce regole armonizzate sull’intelligenza artificiale e modifica i precedenti regolamenti e le direttive in materia.

Il Regolamento, entrato in vigore il 2 agosto 2024, prevede un’applicazione progressiva con diverse tempistiche.

A decorrere dal 2 febbraio, segnatamente, si applicano i capi I e II per Regolamento, rispettivamente dedicati alle disposizioni di carattere generale e alle pratiche vietate.
Nella sua regolamentazione sui sistemi di intelligenza artificiale, l’Artificial Intelligence Act (AI Act), impone il divieto di alcune tecnologie che potrebbero compromettere i diritti fondamentali, la sicurezza delle persone e la protezione della privacy.

Il divieto si applica in particolare a quei sistemi che influenzano il comportamento umano in modo subliminale, manipolativo o ingannevole, compromettendo la capacità decisionale consapevole degli individui e arrecando i loro danni significativi.

Tra i sistemi di intelligenza artificiale vietati all’interno dell’Unione Europea rientrano:

Tecniche manipolative e sfruttamento delle vulnerabilità – Sono vietati i sistemi che utilizzano tecniche subliminali, manipolative o ingannevoli per influenzare il comportamento umano, compromettendo il processo decisionale consapevole.

È inoltre proibito lo sfruttamento delle minacce legate a età, disabilità o condizioni socio-economiche per manipolare le persone, causando danni significativi.

Sistemi di categorizzazione biometrica e punteggio sociale – L’uso dell’IA per dedurre attributi sensibili come razza, orientamento politico, appartenenza sindacale, religione o vita sessuale è vietato, salvo specifiche eccezioni per le forze dell’ordine.

Inoltre, è proibita qualsiasi forma di punteggio sociale, ovvero la classificazione degli individui basata su comportamenti o caratteristiche personali che possano determinare trattamenti discriminatori.

Profilazione criminale e riconoscimento facciale – È vietato l’utilizzo dell’IA per valutare il rischio di reati basandosi esclusivamente su profilazioni o tratti della personalità, a meno che non venga integrato con una valutazione umana basata su dati oggettivi.

Non è poi consentita la creazione di database di riconoscimento facciale tramite raccolta indiscriminata di immagini da Internet o da sistemi di sorveglianza.

Identificazione biometrica remota (RBI) e analisi delle emozioni – L’uso dell’IA per rilevare emozioni nei luoghi di lavoro o nelle scuole è proibito.
L’identificazione biometrica remota in tempo reale è vietata nei luoghi pubblici, salvo casi specifici per le forze dell’ordine, come la ricerca di persone scomparse, la prevenzione di attacchi terroristici o l’identificazione di sospetti per reati gravi.

L’impiego dell’identificazione biometrica da parte delle autorità è soggetto a rigide condizioni, tra cui la necessità di una valutazione d’impatto, la registrazione del sistema e l’ottenimento di un’autorizzazione preventiva. In caso di urgenza, il sistema può essere attivato senza autorizzazione, ma deve essere regolarizzato entro 24 ore. Se l’autorizzazione viene negata, l’uso deve cessare immediatamente e i dati raccolti devono essere cancellati.

Le ulteriori disposizioni dell’AI act in materia di governance e di obblighi per i modelli di intelligenza artificiale di uso generale entreranno in vigore dopo 12 mesi, mentre le normative per i sistemi di intelligenza artificiale integrati nei prodotti regolamentati saranno applicate dopo 36 mesi.

I 24 mesi successivi all’entrata in vigore, invece, saranno utilizzati dall’Unione Europea per completare il processo di attuazione dell’AI Act.