L’importanza di un controllo umano nella qualità del software: l’IA non basta

L’adozione dell’intelligenza artificiale (IA) nello sviluppo e nel collaudo del software ha portato a un’accelerazione significativa nella generazione di codice e nella produzione di test. Tuttavia, questa evoluzione tecnologica solleva interrogativi cruciali riguardo alla qualità del software e alla necessità di un controllo umano.

Uno dei principali rischi associati all’uso dell’IA è che la stessa tecnologia possa generare sia il prodotto che la verifica, creando un ciclo chiuso di fiducia. Se un modello di IA interpreta erroneamente un requisito, è possibile che produca codice e test coerenti tra loro, ma che non soddisfino le reali esigenze degli utenti. Questo problema è amplificato quando i modelli sono addestrati sugli stessi dati o operano in contesti simili, poiché possono riprodurre gli stessi punti ciechi, come omissioni su requisiti ambigui o casi limite non considerati.

Inoltre, la natura probabilistica e non deterministica di molti agenti generativi compromette la ripetibilità, un requisito fondamentale per un processo di assurance formale. Per approvare una release, è essenziale che un test sia ripetibile, tracciabile e auditabile, producendo risultati coerenti su versioni e ambienti definiti. Tuttavia, molti controlli automatici si basano su segnali a livello di codice e possono dichiarare un successo tecnico senza verificare l’esperienza utente effettiva. Ad esempio, un elemento presente nel DOM potrebbe essere invisibile, un campo potrebbe mostrare testo errato, o una transazione potrebbe apparire completata ma fornire informazioni sbagliate all’utente.

Per affrontare queste problematiche, la validazione visiva dell’interfaccia si rivela fondamentale. Essa verifica l’output reso e l’usabilità su diversi ambienti, offrendo una prospettiva indipendente e complementare ai test funzionali, di integrazione, di sicurezza e di performance. In contesti regolamentati, le conseguenze di errori di presentazione possono essere gravi: messaggi, importi o stati visualizzati in modo errato possono influenzare decisioni operative, finanziarie o cliniche, e devono poter essere giustificati con evidenze di controllo coerenti.

La strategia più efficace combina la velocità e la capacità esplorativa dell’IA con pratiche di assurance indipendenti e deterministiche. È fondamentale trasformare gli spunti generati dall’IA in test controllati, ripetibili e verificabili, affiancare controlli visivi e mantenere tracce e revisioni delle modifiche, in modo che i passaggi di verifica possano essere ricostruiti e difesi. Solo così si potrà garantire che l’adozione dell’IA nello sviluppo software non comprometta la qualità e l’affidabilità del prodotto finale.