ONNX Runtime
Esegue modelli in formato ONNX e ottimizza l’inferenza del singolo modello.
Non l’ennesimo runtime. Il livello BullVerge che rende praticabile l’AI locale su hardware limitato.
Aegis è il metodo BullVerge per governare memoria, priorità di esecuzione, instradamento dei flussi, risorse hardware, profili operativi, temperatura e gestione dei modelli su dispositivi edge, SBC, appliance, kiosk, wearable e soluzioni OEM.
Aegis può appoggiarsi a runtime e motori di inferenza esistenti, ma non è un altro runtime. Il suo ruolo è decidere cosa e come instradare, preparare e governare l’intero dispositivo affinché l’AI possa funzionare localmente, con bassa latenza e minore dipendenza dal cloud.
ONNX Runtime, OpenVINO e TensorRT rispondono principalmente alla domanda: “come eseguo o accelero questo modello?”. Aegis risponde a una domanda più ampia: “come faccio funzionare un sistema AI locale, multimodale e stabile su hardware che ha CPU, RAM, energia, temperatura e connettività limitate?”.
Esegue modelli in formato ONNX e ottimizza l’inferenza del singolo modello.
Ottimizza ed esegue modelli su stack hardware specifici, soprattutto in ecosistemi Intel.
Accelera inferenza su GPU NVIDIA attraverso ottimizzazioni e compilazione dedicate.
Governa l’intero ambiente edge: memoria, priorità AI, instradamento, flussi dati, profili operativi, temperatura e modelli.
Aegis non parte dal modello. Parte dal dispositivo.
Molti modelli AI sono progettati per server, GPU e infrastrutture cloud. Ma sul campo le condizioni sono diverse: connessione instabile, energia limitata, necessità di bassa latenza, privacy dei dati, sensori locali, interfacce fisiche, dispositivi compatti e ambienti industriali o operativi dove l’AI deve rispondere vicino alla fonte del dato.
Ogni passaggio cloud introduce ritardo.
I dati sensibili non dovrebbero sempre uscire dal dispositivo.
API e infrastrutture cloud crescono con l’uso.
L’AI deve funzionare anche con rete assente o instabile.
SBC, kiosk, wearable e appliance non possono essere trattati come server ridotti.
Aegis tratta il dispositivo come un ambiente operativo da governare per l’AI locale, non come un semplice contenitore su cui lanciare un modello.
Strategie di gestione, riuso e organizzazione della memoria per ridurre sprechi, rallentamenti e pressione sulle risorse disponibili.
Criteri di priorità adattivi per dare precedenza ai processi AI sensibili alla latenza, bilanciare il carico e contenere interferenze tra componenti locali.
Percorsi dati più diretti e coordinati per decidere cosa resta locale, cosa può diventare ibrido e come ridurre passaggi intermedi, sovraccarico e latenza.
Gestione adattiva di profili energetici, condizioni termiche e risorse disponibili in base a carico, temperatura e continuità del servizio.
Gestione del ciclo di vita dei modelli, dalla preparazione all’aggiornamento, per mantenerli più adatti a dispositivi con risorse limitate.
Aegis nasce dal nostro lavoro R&D sull’ottimizzazione dell’elaborazione di modelli AI su hardware con risorse computazionali limitate. La presentazione pubblica resta tecnica, chiara e concentrata sul valore operativo del metodo.
Il valore IP è nel metodo con cui coordiniamo memoria, priorità operative, flussi dati, energia, temperatura e ciclo di vita dei modelli per rendere più credibile l’esecuzione locale.
Il perimetro legale resta gestito con consulenti specializzati.
Con Aegis BullVerge diventa un metodo: edge AI locale, modulare, più credibile su dispositivi a basso consumo e più controllabile quando il sistema cresce verso kiosk, appliance, postazioni professionali e OEM.