Chi decide se un sistema è "ad alto rischio" non guarda solo il codice

Il 19 maggio 2026 la Commissione europea ha pubblicato la bozza di linee guida sulla classificazione dei sistemi di intelligenza artificiale ad alto rischio, ai sensi dell'articolo 6 del Regolamento UE 2024/1689, l'AI Act. Sono tre documenti, non vincolanti, aperti a consultazione degli stakeholder fino al 23 giugno. Solo la Corte di giustizia europea potrà darne un'interpretazione autorevole. Ma è il testo più dettagliato pubblicato finora su come le autorità nazionali di sorveglianza del mercato affronteranno la valutazione.

La bozza distingue due percorsi. Il primo riguarda i sistemi che sono componenti di sicurezza di prodotti già regolati, come macchinari, giocattoli, ascensori: obbligatori dal 2 agosto 2028. Il secondo riguarda i sistemi "autonomi" usati in ambiti specifici elencati nell'Allegato III, come biometria, infrastrutture critiche, istruzione, selezione del personale: obbligatori dal 2 dicembre 2027. Gli obblighi di trasparenza, quelli che chiedono di informare le persone quando interagiscono con un sistema di AI, sono invece già attivi da agosto 2026, come previsto dall'obbligo generale di alfabetizzazione all'AI.

Il punto più utile della bozza, per chi guida un'organizzazione, non è tecnico. È questo: lo "scopo previsto" di un sistema, il criterio che decide se rientra tra quelli ad alto rischio, si valuta su come il sistema viene descritto in ogni materiale, non solo nella documentazione tecnica. Istruzioni d'uso, schede tecniche, materiale di vendita, comunicazione commerciale: se un'organizzazione presenta un sistema come applicabile a molti contesti senza escludere esplicitamente gli usi ad alto rischio, la Commissione lo considera comunque ad alto rischio, ogni volta che quell'uso è ragionevolmente prevedibile.

Questo sposta il problema. La classificazione di un sistema non è più solo una questione che riguarda chi lo sviluppa o chi lo acquista per un uso tecnico. Riguarda chi lo descrive, dentro l'organizzazione, in una proposta commerciale o in una slide interna. Un reparto vendite che promette a un cliente "il sistema fa tutto" può, senza saperlo, spostare un prodotto nella categoria ad alto rischio.

La bozza affronta anche i sistemi agentivi, quelli composti da più componenti di AI che interagiscono tra loro. Quando gli output combinati di questi componenti influenzano materialmente una decisione in un ambito ad alto rischio, la Commissione chiede di valutarli come un sistema unico, non come pezzi separati. È una precisazione che riguarda direttamente chi sta introducendo agenti AI nei propri flussi di lavoro senza una mappa di cosa quegli agenti, insieme, decidono davvero.

Conferma inoltre che i sistemi di riconoscimento delle emozioni, quelli che inferiscono stati emotivi da voce, espressioni facciali o postura, sono ad alto rischio. Non è una novità di principio, ma è la prima volta che la Commissione lo scrive con questo livello di dettaglio.

Per un'organizzazione, la conclusione pratica è che la classificazione di un sistema AI non si decide una volta, in un laboratorio o in un ufficio legale. Si mantiene, o si perde, in ogni documento che lo descrive. È un problema di governo interno prima che di ingegneria: chi scrive cosa, su un sistema di AI, e chi lo verifica prima che esca dall'organizzazione.