In Breve
- Cosa è ZML LLMD?
- ZML LLMD è un server di inferenza progettato per eseguire modelli di linguaggio su diversi chip.
- Qual è l'obiettivo di ZML LLMD?
- L'obiettivo è migliorare l'efficienza operativa e facilitare la diffusione dell'IA.
- Chi ha fondato ZML?
- ZML è stata fondata da Steeve Morin.
La startup francese ZML ha recentemente lanciato LLMD, un server di inferenza innovativo progettato per eseguire modelli di linguaggio open source su una vasta gamma di chip, tra cui Nvidia, AMD, Google TPU, Apple Metal e Intel Arc. Questo prodotto, disponibile gratuitamente al lancio ma non open source, si propone di superare i vincoli software e architetturali che spesso portano a un lock-in verso singoli fornitori, ottimizzando le prestazioni su hardware eterogeneo.
Il fondatore di ZML, Steeve Morin, ha dichiarato: «L’idea è restituire alle persone il potere di creare il proprio sistema e ottenere reali guadagni di efficienza che permettano la diffusione dell’IA». LLMD offre a imprese e operatori cloud la possibilità di utilizzare mix di chip, anche quelli meno costosi o più efficienti dal punto di vista energetico, per migliorare l’efficienza operativa.
In un contesto di mercato altamente competitivo, ZML si distingue per la sua capacità di collaborare con nuovi produttori di chip, molti dei quali europei. Tra i nomi citati da Morin ci sono Axelera, Fractile, Kalray, OLIX, Q.ANT, SiPearl, SpiNNcloud e VSORA. «Siamo arrivati al punto in cui stiamo co-progettando il silicio», ha aggiunto il fondatore, sottolineando l’importanza della collaborazione nell’innovazione tecnologica.
Il lancio di LLMD avviene in un panorama in cui operatori come Baseten, Inferact e RadixArk, oltre a progetti open source come vLLM e SGLang, offrono funzionalità simili. Tuttavia, ZML mantiene rapporti strategici con Nvidia, un importante attore del settore.
Con sede a Parigi e un team di circa 20 persone, ZML ha raccolto 20 milioni di dollari da investitori tra cui 20VC, >commit, AALVC, Drysdale Ventures, Kima Ventures, Kindred Capital, LocalGlobe e Puzzle Ventures. Morin, che in precedenza ha ricoperto il ruolo di VP of Engineering di Zenly, acquisita da Snapchat nel 2017, ha spiegato che il rilascio gratuito di LLMD serve a misurare l’utilizzo prima di decidere eventuali politiche commerciali: «Preferisco misurare e poi generare ricavi dove è più efficace, senza ostacolare stupidamente la crescita perché sono stato troppo avido fin dall’inizio».
Il sostegno di figure di spicco come Solomon Hykes, Clément Delangue, Julien Chaumond e Yann LeCun dimostra l’interesse crescente per l’ecosistema tecnologico europeo. Morin ha concluso affermando che ZML non sarebbe stata realizzabile senza il contesto innovativo offerto da Parigi.
redazione
Redazione Diarioeconomico.