Cerca
Categorie
digital health

Approvato il Regolamento sull’Intelligenza Artificiale

Il regolamento sull’intelligenza artificiale (IA) è un elemento chiave della politica dell’UE volta a promuovere lo sviluppo e l’adozione, in tutto il mercato unico, di un’IA sicura e lecita che rispetti i diritti fondamentali. La Commissione ad aprile 2024 ha presentato la proposta di regolamento e il 21 Maggio 2024 il Consiglio lo ha approvato.

Questo atto legislativo faro segue un approccio “basato sul rischio”: tanto maggiore è il rischio di arrecare danni alla società, tanto più rigorose sono le regole. Si tratta del primo di questo tipo al mondo e fissa uno standard globale per la regolamentazione dell’IA.

Il nuovo regolamento sull’intelligenza artificiale (IA)

Il nuovo regolamento mira a promuovere lo sviluppo e l’adozione, da parte di attori sia pubblici che privati, di sistemi di IA sicuri e affidabili in tutto il mercato unico dell’UE. Al tempo stesso, punta a garantire il rispetto dei diritti fondamentali dei cittadini dell’UE e a stimolare gli investimenti e l’innovazione nell’intelligenza artificiale in Europa. Il regolamento sull’IA si applica unicamente ai settori che rientrano nel diritto dell’UE e prevede esenzioni, ad esempio per i sistemi utilizzati esclusivamente per scopi militari e di difesa, nonché a fini di ricerca.

La Governance:

Al fine di garantire una corretta applicazione, sono stati istituiti diversi organi direttivi:

  • un ufficio per l’IA all’interno della Commissione per far rispettare le regole comuni in tutta l’UE;
  • un gruppo di esperti scientifici indipendenti a sostegno delle attività di esecuzione;
  • un comitato per l’IA composto da rappresentanti degli Stati membri e incaricato di fornire consulenza e assistenza alla Commissione e agli Stati membri ai fini di un’applicazione coerente ed efficace del regolamento sull’IA;
  • un forum consultivo per i portatori di interessi volto a fornire competenze tecniche al comitato per l’IA e alla Commissione.

Le Sanzioni:

In caso di violazioni del Regolamento, sono state fissate delle sanzioni pecuniarie in percentuale del fatturato annuo globale nell’esercizio finanziario precedente della società che ha commesso il reato o, se superiore, in un importo predeterminato. Le PMI e le start-up sono soggette a sanzioni amministrative pecuniarie proporzionali.

Misure a Sostegno dell’Innovazione:

Il regolamento sull’IA prevede un quadro giuridico favorevole all’innovazione e mira a promuovere un apprendimento normativo basato su dati concreti. Stabilisce che gli spazi di sperimentazione normativa per l’IA, che dovrebbero creare un ambiente controllato per lo sviluppo, le prove e la convalida di sistemi di IA innovativi, dovrebbero anche consentire di sperimentare sistemi di IA innovativi in condizioni reali.

Prossimi Passi:

Dopo la firma da parte della presidente del Parlamento europeo e del presidente del Consiglio, l’atto legislativo sarà pubblicato nella Gazzetta ufficiale dell’UE nei giorni seguenti ed entrerà in vigore venti giorni dopo la pubblicazione. Il regolamento sull’IA si applicherà due anni dopo la sua entrata in vigore, con alcune eccezioni per disposizioni specifiche.

 

Per maggiori informazioni si prega di consultare il seguente LINK.

Categorie
digital health

IA generativa nell’assistenza sanitaria: nuove linee guida

L’OMS ha pubblicato nuove linee guida che comprendono oltre 40 raccomandazioni sull’etica e sulla governance dell’intelligenza artificiale generativa, concentrandosi sui large multi-modal models (LMM).

I Large Multi-Modal Models sono modelli di intelligenza artificiale generativa che possono accettare diversi tipi di dati di input e generare output vari, non limitati al tipo di dati inseriti nell’algoritmo. Si prevede che gli LMM saranno ampiamente utilizzati e applicati nell’assistenza sanitaria, nella ricerca scientifica, nella sanità pubblica e nello sviluppo di farmaci.

I potenziali benefici dell’intelligenza artificiale incrociano diversi ambiti e aspetti dell’assistenza sanitaria come:
  • Assistenza in diagnosi di ruotine e assistenza clinica per casi complessi.
  • Utilizzo guidato da parte del paziente per migliorare la conoscenza di una condizione medica (“Assistente Medico Digitale”).
  • Supporto nella ricerca scientifica e formazione medica e infermieristica.
  • Supporto nelle task amministrativi come traduzioni e sistematizzazione dei dati sanitari nelle cartelle cliniche elettroniche.

L’introduzione di tali modelli comporta anche significativi rischi che devono essere adeguatamente presi in considerazione, come:

  • La possibilità di generare informazioni false, imprecise o distorte, influenzate da dati di bassa qualità o pregiudizi.
  • Il rischio di non conformità ai regolamenti esistenti, compresi gli obblighi internazionali sui diritti umani e normative sulla protezione dei dati.
  • Problemi più ampi per i sistemi sanitari, come le barriere economiche di accesso agli LMM migliori e le vulnerabilità alla sicurezza informatica.

Considerando queste possibili sfide, l’OMS sottolinea l’importanza di coinvolgere diverse parti interessate, tra cui governi, aziende tecnologiche, operatori sanitari, pazienti e società civile, in tutte le fasi di sviluppo degli LMM.

Nel caso specifico dei governi, l’OMS raccomanda di mettere a disposizione infrastrutture pubbliche, approvare leggi per garantire il rispetto degli standard etici e umani, affidare la valutazione degli LMM a un’agenzia regolatoria, e introdurre audit post-rilascio e valutazioni d’impatto obbligatori.

Per maggiori informazioni si prega di consultare il seguente LINK.

 

Categorie
digital health Altro

AI Act: un passo avanti per regolare l’intelligenza artificiale a livello europeo

Con i loro emendamenti alla proposta della Commissione per l’AI Act, i membri del Parlamento europeo mirano a garantire che sistemi AI siano supervisionati da persone, siano sicuri, trasparenti, rintracciabili, non discriminatori ed ecologicamente sostenibili.

Le regole stabiliscono obblighi per fornitori e utenti a seconda del livello di rischio che l’AI può generare. I membri del Parlamento europeo hanno apportato modifiche sostanziali all’elenco incluso nell’AI Act per includere divieti sull’utilizzo intrusivo e discriminatorio di sistemi AI, come:

  • Sistemi di identificazione biometrica a distanza “in tempo reale” in luoghi accessibili al pubblico;
  • Sistemi di identificazione biometrica a distanza “post”, con l’unica eccezione delle forze dell’ordine per il perseguimento di reati gravi e solo previa autorizzazione giudiziaria;
  • Sistemi di categorizzazione biometrica che utilizzano caratteristiche sensibili (ad esempio, genere, razza, etnia, cittadinanza, religione, orientamento politico);
  • Sistemi di polizia preventiva (basati su profilazione, localizzazione o comportamento criminale passato);
  • Sistemi di riconoscimento delle emozioni nell’applicazione della legge, nella gestione delle frontiere, nei luoghi di lavoro e nelle istituzioni educative;
  • Raccolta indiscriminata di dati biometrici da social media o da registrazioni di circuito chiuso per creare database di riconoscimento facciale (violando i diritti umani e il diritto alla privacy).

I membri del Parlamento europeo hanno ampliato la classificazione delle aree ad alto rischio per includere danni alla salute delle persone, alla sicurezza, ai diritti fondamentali o all’ambiente (aggiungendo i sistemi AI per influenzare gli elettori nelle campagne politiche e nei sistemi di raccomandazione utilizzati dalle piattaforme di social media).

Inoltre, sono stati inclusi obblighi per i fornitori di modelli di base che dovranno garantire una protezione solida dei diritti fondamentali, della salute e della sicurezza, dell’ambiente, della democrazia e dello stato di diritto. I modelli di base generativi, come GPT, dovranno rispettare ulteriori requisiti di trasparenza, come indicare che il contenuto è stato generato da AI, progettare il modello in modo da impedirgli di generare contenuti illegali e pubblicare riassunti dei dati protetti da copyright utilizzati per l’addestramento.

Per maggiori informazioni sull’AI Act prega di consultare il seguente LINK.