Pangram raccoglie 9 milioni di dollari e lancia strumenti innovativi per il rilevamento di contenuti AI

La startup newyorkese Pangram ha recentemente annunciato la chiusura di un round di finanziamento da 9 milioni di dollari, guidato da Menlo Ventures e supportato da Haystack, ScOp, Script Capital e Cadenza. Contestualmente, l’azienda ha presentato il suo nuovo modello di rilevamento testuale, Pangram 4, e un innovativo rilevatore di immagini, Pangram Image.

Fondata due anni fa da Max Spero e Bradley Emi, Pangram si propone di fornire strumenti in grado di distinguere i contenuti generati o assistiti dall’intelligenza artificiale da quelli scritti interamente da esseri umani. Questo sviluppo arriva in un contesto caratterizzato dalla crescente diffusione di testi e immagini generati da AI, che solleva preoccupazioni riguardo all’uso improprio di tali contenuti e alle loro conseguenze reputazionali e disciplinari.

Pangram sostiene che il nuovo modello testuale raggiunge un’accuratezza superiore al 99% nell’individuare testi assistiti da AI e contenuti misti, ovvero quelli creati sia da umani che da algoritmi. Inoltre, il rilevatore di immagini è attualmente disponibile in anteprima per la ricerca, con un rilascio più ampio previsto nelle prossime settimane.

La tecnologia di Pangram si basa su un sofisticato modello di machine learning, addestrato su decine di milioni di documenti umani e su “specchi sintetici” generati da modelli di linguaggio di ultima generazione. Questo approccio consente al sistema di apprendere le differenze stilistiche e le scelte ricorrenti degli algoritmi, senza dipendere da metadati o watermark nascosti.

Un’altra caratteristica innovativa di Pangram è la capacità di distinguere i vari livelli di assistenza AI, riconoscendo interventi di editing o pulizia del testo. L’azienda sostiene che l’uso dell’AI può essere accettabile se dichiarato dall’autore del contenuto.

Per gli utenti, Pangram offre diverse funzionalità, tra cui un abbonamento web al costo di 20 dollari al mese, un’estensione per Chrome che etichetta in tempo reale i post su piattaforme come X, LinkedIn, Substack, Reddit e Medium, e un “feed health score” che indica la percentuale di contenuti umani rispetto a quelli generati da AI. La tecnologia è disponibile anche tramite API e risulta già integrata su alcune piattaforme, tra cui Substack. Tra i clienti API figurano Quora, istituzioni accademiche, editori, agenti e società di recruiting.

Il mercato del rilevamento di contenuti AI è in crescita e vede la presenza di altri operatori come Winston AI, Originality.ai, Copyleaks e GPTZero. Tuttavia, Pangram ha evidenziato che, sebbene i test interni e le prove pratiche abbiano mostrato prestazioni solide, non sono privi di imperfezioni. L’azienda indica un tasso di falsi positivi di circa 1 su 10.000 documenti umani. Durante i test, il modello ha dimostrato di essere in grado di identificare articoli scritti interamente da AI e ha resistito a tentativi di elusione tramite editing. Tuttavia, ha anche segnalato come AI alcune frasi riscritte da umani e, in alcuni casi, ha classificato erroneamente delle immagini.

Max Spero ha sottolineato l’importanza di sviluppare meccanismi per contrastare la diffusione di contenuti AI di bassa qualità, evitando però che la tecnologia diventi uno strumento di caccia alle streghe.