L’importanza della Trustworthy AI: come la governance e la trasparenza possono aumentare il ROI

Un’analisi condotta da SAS, basata su dati IDC, ha messo in luce come l’adozione di pratiche di Trustworthy AI possa incrementare il ritorno sugli investimenti (ROI) fino a 15 volte rispetto a sistemi privi di adeguati controlli. Questo studio rivela che le organizzazioni che implementano protocolli rigorosi su qualità dei dati, tracciabilità e auditabilità riescono a raddoppiare i risultati economici derivanti dall’uso dell’intelligenza artificiale.

In particolare, meno del 5% delle aziende che non adottano tali pratiche riporta ritorni analoghi. L’assenza di spiegabilità nei sistemi di intelligenza artificiale limita notevolmente la loro efficacia. Infatti, l’incapacità degli algoritmi di giustificare le proprie decisioni porta fino al 97,2% degli utenti a intervenire manualmente per correggere o modificare i risultati, vanificando i guadagni di produttività.

La fiducia degli operatori diminuisce anche con l’aumentare dell’autonomia dei sistemi: dal 76% per l’IA generativa al 66% per l’IA agentica. Lo studio di SAS ha messo in evidenza che le imprese che si impegnano per garantire l’affidabilità della loro intelligenza artificiale ottengono performance superiori su 13 indicatori aziendali, tra cui il contenimento dei costi, la crescita del fatturato e l’esperienza del cliente.

Un dato significativo è che l’85% delle aziende più avanzate prevede un aumento superiore al 10% degli investimenti in governance dell’IA nell’anno in corso. Tuttavia, un limite diffuso è rappresentato dall’architettura informativa: solo il 17,5% delle imprese dispone di un’infrastruttura dati completamente ottimizzata per supportare l’IA agentica. Le fondamenta dati solide, infatti, quadruplicano la probabilità di ottenere un ROI elevato.

L’adozione di framework strutturati varia significativamente tra i diversi settori. Nel settore bancario, ad esempio, l’85% delle aziende ad alta maturità ha definito linee guida di governance, rispetto al 29% dei ritardatari. Nel settore pubblico, il 41% dei leader prevede aumenti di spesa superiori al 20% per l’IA affidabile, mentre nelle scienze della vita la penetrazione dell’IA su scala aziendale è attualmente del 23%.

Bryan Harris, CTO di SAS, sottolinea che anche gli agenti avanzati possono registrare tassi di errore superiori al 25% nelle attività complesse. Per garantire accuratezza e ripetibilità, è fondamentale integrare competenze di dominio nei workflow agentici, mantenendo le persone al centro dei controlli. Chris Marshall, Vice President di IDC, aggiunge che supervisione, spiegabilità, responsabilità e solide basi dati sono prerequisiti essenziali per scalare con successo l’autonomia dell’IA.