Eurotech, ampia gamma di server per l’IA generativa

Eurotech, riferimento nell’AIoT (Artificial Intelligence of Things) Edge, ha presentato la sua nuova linea di server per l’IA generativa, progettati come piattaforme complete, in grado di supportare una varietà di modelli di GenAI, a partire dai grandi modelli linguistici LLM o (Large Language Model).

Sfruttare al meglio la più recente GenAI

Questa nuova gamma di prodotti consente di sfruttare appieno i più recenti progressi della GenAI, migliorando la produttività e costruendo basi di conoscenza dei dati sicure e interne.

Mantenendo i dati sensibili all’interno dell’infrastruttura aziendale, questi server offrono sicurezza e significativi risparmi sui costi rispetto alle alternative basate su cloud. Inoltre, offrono flessibilità per l’ottimizzazione di modelli specifici per settore, consentendo alle aziende di adattare i modelli di IA alle proprie esigenze e ottimizzare l’efficienza operativa.

L’offerta di Eurotech varia dal livello Entry all’Ultimate, affrontando diverse esigenze di IA: dal deployment di modelli pre-addestrati fino all’addestramento intensivo di LLM e alla loro ottimizzazione.

Questi server sono dotati dell’intero stack di calcolo accelerato Nvidia per offrire prestazioni di elaborazione potenti, aiutando le aziende a gestire anche i carichi di lavoro di IA più impegnativi in molteplici casi d’uso.

Un’ampia gamma d’integrazione

Del tutto compatibili con la piattaforma Nvidia AI Enterprise, i server per la GenAI s’integrano al meglio con i microservizi NIM e Metropolis di Nvidia.

Queste integrazioni consentono un’inferenza ottimizzata per un’ampia gamma di modelli di IA popolari di Nvidia e del suo ecosistema di partner, facilitando lo sviluppo di chatbot intelligenti, copiloti avanzati o agenti visivi di IA.

Marco Carrer, CTO di Eurotech, ha dichiarato: «Mentre l’IA generativa avanza verso una nuova generazione di applicazioni edge intelligenti, i server per l’IA generativa di Eurotech offrono una maggiore scalabilità, rafforzando la sicurezza e la privacy dei dati, consentendo al contempo l’ottimizzazione dei modelli specifici per settore e facilitando il deployment edge. Non vediamo l’ora di vedere le soluzioni innovative che i nostri clienti svilupperanno utilizzando queste tecnologie all’avanguardia».

Per illustrare le applicazioni pratiche di queste piattaforme, Eurotech ha reso disponibile un agente LLM open-source che funge da copilota, migliorando l’utilizzo delle basi di conoscenza interne attraverso la generazione aumentata dal recupero o RAG (Retrieval-Augmented Generation).

Questo strumento sfrutta Nvidia AI Enterprise, che include Nvidia NIM per la GenAI, e framework open-source come LLama Index per trasformare schede tecniche di prodotti, manuali e documenti interni in un tutor intelligente per l’onboarding dei dipendenti e le richieste dei clienti.