Principled Intelligence

Principled Intelligence

Building Trust in AI

Start-up di Regione Lazio

Regione Lazio

Start-up di Lazio Innova

Lazio Innova

Start-up

principled-intelligence.com
hello@principled-intelligence.com

Via Marsala,  29H
Rome  (Rome) — 00185 — Italy

Descrizione

Allucinazioni, prompt injection, fughe di dati personali: basta un'unica risposta AI non controllata per compromettere la fiducia degli utenti e violare le policy aziendali. Eppure, le aziende stanno adottando l'intelligenza artificiale più velocemente di quanto riescano a supervisionarla.
L'obiettivo di Principled Intelligence è colmare questo gap. Sviluppiamo small language models specializzati nella governance dell'AI, ottenendo risultati superiori ai modelli LLM più avanzati sul mercato, con costi e tempi di risposta molto più contenuti. Questi modelli sono il cuore dei nostri prodotti: Spectral, che offre valutazione e monitoraggio continui per gli agenti AI, individuando i malfunzionamenti prima che li scoprano gli utenti; e Orbitals, che applica guardrail in tempo reale in produzione, garantendo evidenze verificabili per ogni decisione.
Ci rivolgiamo ad aziende e team AI/engineering che portano agenti AI in produzione: dai team ML e product responsabili di test e affidabilità, ai responsabili compliance e risk che devono dimostrare, con prove verificabili, che i loro sistemi AI si comportano come previsto.

I nostri prodotti

Spectral: valutazione autonoma degli agenti AI

Spectral: valutazione autonoma degli agenti AI

Spectral è una piattaforma di testing e valutazione automatizzata che mette alla prova gli agenti AI prima e dopo il rilascio in produzione. Esegue migliaia di test basati su scenari, suddivisi per categorie di rischio, tra cui input ostili, casi limite e conversazioni prolungate, individuando i malfunzionamenti prima che raggiungano gli utenti reali. Ogni scenario viene valutato, classificato e tracciato, generando risultati su misura per i diversi team aziendali: un elenco dei malfunzionamenti in ordine di priorità per i team di ingegneria, dossier di evidenze pronti per gli enti regolatori a uso delle funzioni compliance, e una panoramica dei rischi sull'intero portafoglio di sistemi AI per il management. Spectral può essere inserito direttamente nelle pipeline CI/CD, bloccando un rilascio se qualcosa non supera i test, oppure essere eseguito periodicamente sui sistemi già in produzione. I risultati sono collegati ai principali riferimenti normativi, come l'EU AI Act, e permettono di ricostruire un problema già emerso e verificare che la correzione applicata lo abbia risolto davvero. In questo modo le aziende possono adottare l'AI velocemente senza perdere il controllo su come si comporta.
Orbitals: guardrail open-source per sistemi AI

Orbitals: guardrail open-source per sistemi AI

Orbitals è una libreria open source di guardrail per l'AI, pensata per rendere l'adozione responsabile dell'intelligenza artificiale accessibile a qualsiasi team di sviluppo. Intercetta e classifica input e output in tempo reale, imponendo limiti operativi ai sistemi AI prima che possano produrre comportamenti indesiderati o rischiosi. La libreria si basa su modelli linguistici di piccole dimensioni sviluppati da Principled Intelligence, progettati appositamente per ottenere classificazioni allo stato dell'arte con costi e tempi di risposta molto più contenuti rispetto ai modelli più avanzati sul mercato. Il primo modello, ScopeGuard, stabilisce se le richieste degli utenti rientrano in un ambito operativo definito, restituendo un log spiegabile per ogni decisione. Progettato per un'inferenza in meno di un secondo e per funzionare in più lingue, è pensato per operare come guardrail di produzione sul traffico AI reale. Orbitals è disponibile su GitHub e su Hugging Face: rendendolo open source, Principled Intelligence abbassa la soglia d'accesso a un'AI sicura e pone le basi di un ecosistema condiviso e trasparente per gli strumenti di governance dell'AI, in Europa e non solo.