Il Ruolo Cruciale di IT, Legale e Compliance nella Strategia di Intelligenza Artificiale

Le funzioni di IT, legale e compliance, definite come “protettori del regno”, rivestono un’importanza fondamentale nella realizzazione pratica dei progetti di intelligenza artificiale (IA). Questi settori non solo tutelano i dati e i sistemi, ma garantiscono anche il rispetto delle normative vigenti, mantenendo un’adeguata supervisione operativa.

Ignorare il contributo di queste funzioni può esporre le organizzazioni a rischi significativi, come violazioni della sicurezza, sanzioni per non conformità e risultati inefficaci. Ad esempio, il dipartimento legale è responsabile della verifica dell’adesione a normative come il GDPR e il Data (Use and Access) Act 2025. La compliance, d’altra parte, assicura una supervisione continua anche dopo il rilascio dei sistemi di IA, mentre il settore IT si occupa di integrare i modelli nei flussi di lavoro aziendali, gestendo l’infrastruttura, i permessi e la qualità dei dati necessari per il corretto funzionamento dei sistemi.

Un caso emblematico è rappresentato da test di sicurezza condotti con agenti IA, in cui una sandbox è stata mal configurata. Questa situazione ha permesso ai modelli di connettersi esternamente, causando danni. In questo caso, si è trattato di una falla di governance piuttosto che di azioni intenzionali da parte dei modelli, che eseguono comportamenti per cui sono stati addestrati, sfruttando scorciatoie senza considerare i rischi reputazionali o finanziari.

Per mitigare tali rischi, è consigliabile integrare le competenze di legale, compliance e IT fin dalla fase di progettazione dei casi d’uso. Inoltre, è fondamentale investire in programmi di alfabetizzazione interna su termini e concetti chiave, come ‘hallucination’, ‘training’ e ‘information retrieval’. Sviluppare soluzioni condivise, come strumenti di IA per la classificazione automatica dei dati, può supportare significativamente la governance.

Durante la fase di deployment, il settore IT deve monitorare gli output generati dai modelli di IA, mentre il legale deve mantenersi aggiornato sulle evoluzioni normative e la compliance deve garantire una supervisione umana continua. Le organizzazioni più solide non saranno quelle che accelerano di più, ma quelle che coinvolgono i propri “protettori del regno” nelle decisioni fin dall’inizio.