Puo interessare
AI Agents: La prossima frontiera dell’intelligenza artificiale generativa....leggere dal blog di Eudata

AI Act. European Artificial Intelligence Act...leggere
Si ricorda che per i sistemi a rischio elevato (es. software medici o sw utilizzati per le selezioni) devono rispettare requisiti specifici, tra cui sistemi di mitigazione del rischio, set di dati di alta qualità, informazioni chiare sugli utenti, supervisione umana. Sono poi considerati a rischio inaccettabile i sistemi di IA che consentono il “social scoring” da parte di governi o aziende e possono rappresentare una chiara minaccia ai diritti fondamentali delle persone.
Infine, interessante per il nostro settore di applicazione, il rischio specifico per la trasparenza: sistemi come i chatbot devono informare chiaramente gli utenti che stanno interagendo con una macchina, mentre alcuni contenuti generati da AI devono essere etichettati come tali.

SONDAGGIO

GenAI e Compliance.
Ciascun può contestualizzare questo tema, certi che si tratta di una priorità da affrontare.
Ecco perché, in preparazione dell’incontro che il Club CMMC organizza con Eudata il 3 ottobre, proponiamo questo sondaggio.

Tra gli aspetti da affrontare con priorità nel breve termine sono stati individuati i seguenti:
- 1) Programmare l'adozione dell'AI ACT
- 2) Definire delle linee guida per i dipendenti che normino l'utilizzo delle AI generative
- 3) Garantire la trasparenza agli utenti, cioè dare adeguate informazioni per permettere loro di prendere decisioni informate.
- 4) Certificarsi secondo lo standard ISO/IEC 42001 per un sistema di gestione che governi l’utilizzo della AI in azienda.

Al momento, il sondaggio è ancora aperto, risultano questi dati:

Nel seguito si portano alcune considerazioni sui tre aspetti evidenziati dal sondaggio.

- 1) Programmare l'adozione dell'AI ACT
AI Act pubblicata ad agosto 2024. Entrerà in attuazione nel 2026, ma alcune disposizioni saranno vincolanti già dal 2025. Impone vincoli ai diversi sistemi di AI in base ai posibili pericoli per la società. Per l’AI Generativa si richiede di garantire la qualità dei dati utilizzati nello sviluppo degli algoritmi e il rispetto del diritto d’autore.

- 2) Definire delle linee guida per i dipendenti che normino l'utilizzo delle AI generative.
Tutto ciò nell’ambito di un programma di educazione digitale per dotare i collaboratori delle conoscenze necessarie. Serve nello specifico un piano di alfabetizzazione, che fornisca informazioni di base sulla AI, le possibili applicazioni e le implicazioni sociali e organizzative.

- 3) Garantire la trasparenza agli utenti, cioè dare adeguate informazioni per permettere loro di prendere decisioni informate.
Per quanto riguarda la trasparenza, si può riflettere dal punto di vista dei sistemi di AI e, in tal caso, essi devono garantire di essere spiegabili e tracciabili. Inoltre, le aziende devono porsi dei limiti, cioè raccogliere solo di dati che servono e usare i dati personali unicamente per gli scopi per cui sono stati richiesti. Inoltre, bisogna agire lato utilizzatori. Ovvero serve dare a essi il controllo sulle informazioni – che devono essere più chiare possibili – e su come i dati personali vengono utilizzati.