Con i loro emendamenti alla proposta della Commissione per l’AI Act, i membri del Parlamento europeo mirano a garantire che i sistemi AI siano supervisionati da persone, siano sicuri, trasparenti, rintracciabili, non discriminatori ed ecologicamente sostenibili.

Le regole stabiliscono obblighi per fornitori e utenti a seconda del livello di rischio che l’AI può generare. I membri del Parlamento europeo hanno apportato modifiche sostanziali all’elenco incluso nell’AI Act per includere divieti sull’utilizzo intrusivo e discriminatorio di sistemi AI, come:

• Sistemi di identificazione biometrica a distanza “in tempo reale” in luoghi accessibili al pubblico;
• Sistemi di identificazione biometrica a distanza “post”, con l’unica eccezione delle forze dell’ordine per il perseguimento di reati gravi e solo previa autorizzazione giudiziaria;
• Sistemi di categorizzazione biometrica che utilizzano caratteristiche sensibili (ad esempio, genere, razza, etnia, cittadinanza, religione, orientamento politico);
• Sistemi di polizia preventiva (basati su profilazione, localizzazione o comportamento criminale passato);
• Sistemi di riconoscimento delle emozioni nell’applicazione della legge, nella gestione delle frontiere, nei luoghi di lavoro e nelle istituzioni educative;
• Raccolta indiscriminata di dati biometrici da social media o da registrazioni di circuito chiuso per creare database di riconoscimento facciale (violando i diritti umani e il diritto alla privacy).

I membri del Parlamento europeo hanno ampliato la classificazione delle aree ad alto rischio per includere danni alla salute delle persone, alla sicurezza, ai diritti fondamentali o all’ambiente (aggiungendo i sistemi AI per influenzare gli elettori nelle campagne politiche e nei sistemi di raccomandazione utilizzati dalle piattaforme di social media).

Inoltre, sono stati inclusi obblighi per i fornitori di modelli di base che dovranno garantire una protezione solida dei diritti fondamentali, della salute e della sicurezza, dell’ambiente, della democrazia e dello stato di diritto. I modelli di base generativi, come GPT, dovranno rispettare ulteriori requisiti di trasparenza, come indicare che il contenuto è stato generato da AI, progettare il modello in modo da impedirgli di generare contenuti illegali e pubblicare riassunti dei dati protetti da copyright utilizzati per l’addestramento.

Per maggiori informazioni sull’AI Act prega di consultare il seguente LINK.