Delta
Il motore AI alla base di tutti i nostri prodotti.
Panoramica
Delta è il motore AI che abilita funzionalità intelligenti in tutti i nostri prodotti.
Man mano che le aziende integrano archivi di dati centralizzati, quantità maggiori di informazioni diventano disponibili per l'analisi. E se permettessimo ai nostri clienti di sfruttare questa conoscenza, in modo semplice e sicuro? Questo è l'intero obiettivo di Delta: ogni volta che i nostri prodotti formulano domande, Delta elabora le risposte in un ambiente segregato e le restituisce.
Dal punto di vista tecnico, Delta sfrutta la generazione SQL basata su RAG per distillare informazioni rilevanti. Puoi trovare informazioni aggiuntive sulla sua architettura qui.
Background
Molte aziende stanno iniziando a raccogliere i loro dati più strategici in uno o più archivi di dati centralizzati. Sebbene questa vasta quantità di informazioni abbia il potenziale migliorare l'azienda stessa, spesso rimane inesplorata. Sfruttarla richiede:
- competenza su come interrogare i dati
- comprensione approfondita dell'architettura specifica dei dati.
Come chi si occupa di strategia affronta le decisioni basate sui dati?
Di solito si tratta di uno dei seguenti metodi:
- Strumenti di reporting o dashboard esistenti. Oltre allo sforzo necessario per costruire e mantenere tali sistemi, spesso sono sub-ottimali: forzano una struttura predefinita su ogni domanda.
- Estrazione manuale da parte di specialisti in grado di interrogare i dati aziendali in modo ottimale per recuperare le informazioni richieste. Anche questa non è una soluzione efficiente, poiché queste persone sono spesso cariche di lavoro e non possono essere reattive.
Aggiungendo anche l'iterazione insita in questo processo - una volta fornita una risposta, spesso sorgono ulteriori domande - si ottiene un'esperienza frustrante per tutte le parti. Chi ne ha bisogno, non ottiene informazioni critiche o deve attendere a lungo; le persone a cui chiediamo di estrarre i dati vengono continuamente distratte dai loro compiti principali.
Delta è la nostra risposta a questo problema, completamente integrata nei nostri prodotti:
- La sua interfaccia in linguaggio naturale consente a tutti di fare domande, eliminando completamente la necessità di competenze SQL.
- Gli utenti possono continuare a fare domande liberamente per tutto il tempo necessario, favorendo l'analisi esplorativa dei dati.
- Più persone possono accedere ad approfondimenti basati sui dati, incoraggiando una cultura delle decisioni informate in tutta l'organizzazione.
Architettura
Delta è un sistema RAG che utilizza più LLM per estrarre e interpretare i dati.
Include:
- Un Vector DB con segregazione di tenant, più un sistema RBAC che garantisce che ogni input inviato sia migliorato solo utilizzando i dati del cliente che ha fatto la richiesta.
- Un LLM addestrato per generare query SQL. Questo verrà poi eseguito dal lato del prodotto, per estrarre dati di produzione rilevanti, con alcune misure di sicurezza aggiuntive.
- Un altro LLM, utilizzato per formulare una risposta alla domanda dell'utente basata sui dati rilevanti.
- Un orchestratore, che gestisce qualsiasi interazione tra i LLM di Delta ed i nostri prodotti.
Perché RAG?
I modelli LLM sono addestrati su enormi dataset contenenti migliaia di argomenti diversi: non hanno necessariamente conoscenze specifiche sul tuo business e settore. Tentare di fare una domanda specifica ad un LLM può portare a una risposta generica o, peggio ancora, errata.
Questo fenomeno è noto come allucinazione: un LLM è sicuro nel generare risposte false basate su fatti immaginari.
Nome
Uno dei meccanismi chiave coinvolti nell'addestramento di una rete neurale è un confronto continuo tra i valori effettivi e quelli previsti, con l'obiettivo di minimizzare la loro differenza.
Delta è una lettera greca universalmente utilizzata in ambito scientifico per indicare una differenza tra due quantità: è sembrato appropriato dedicare il nostro motore AI a questo principio fondamentale.
Ci sono un paio di motivi aggiuntivi per scegliere questo nome. Innanzitutto, una delta maiuscola si abbina visivamente bene con il logo di Compiuta: ora abbiamo un quadrato e un triangolo... forse capisci dove vogliamo arrivare. In secondo luogo, un richiamo a una delle più famose auto da rally italiane di tutti i tempi non può fare guastare, giusto?