Non solo investimenti in infrastruttura di connettività ma investimenti in infrastrutture per promuovere servizi digitali di nuova generazione. Entra in funzione NeXXt AI Factory il supercomputer Fastweb per la produzione di modelli e soluzioni di intelligenza generativa basato sulla piattaforma di calcolo Dgx Superpod H100 di Nvidia, a oggi considerata la Ferrari della GenAI. Digital services, la terra promessa dei telco provider che si stanno riconvertendo a provider Ict e cloud e al tempo stesso exit strategy per la futura sostenibilità economica del settore.
Secondo Idc, nell’arco dei prossimi 4 anni i servizi digitali costituiranno oltre il 30% del giro d’affari delle tlc, con un incremento medio annuo stimato al 20%. Tendenza che viene oggi amplificata dalle opportunità che solleva l’IA generativa. Per Walter Renna, ad dell’operatore italiano controllato dal colosso elvetico Swisscom, che nel 2023 ha raggiunto un fatturato di 2,6 miliardi e una crescita del 6%, «l’investimento apre la via italiana all’intelligenza artificiale per contribuire alla piena indipendenza e alla sovranità tecnologica del paese». Un investimento che, secondo indiscrezioni, è costato attorno ai 60 milioni, anche se Renna si limita ad affermare che l’investimento fa parte di quel 25% che ogni anno Fastweb spende in infrastrutture.
La creazione dell’AI Factory rientra nella strategia di diversificazione complessiva del gruppo, che già oggi dispone di una vasta rete di data center e di nodi edge per l’elaborazione di prossimità. Infrastruttura Ict, come sottolineato da Renna, che verrà ulteriormente estesa e potenziata nel corso dei prossimi anni. Insomma, con le iniziative intraprese negli ultimi anni, corollate dall’apertura della nuova fabbrica per l’IA generativa, Fastweb ha avviato una trasformazione definitiva per diventare una multiutility digitale. Sul supercomputer NeXXt AI Factory, ospitato nel Global Cloud Data Center di Aruba, a Ponte San Pietro (Bergamo), si sta intanto ultimando il training di Miia, il Modello Italiano di Intelligenza Artificiale di Fastweb che sarà commercialmente disponibile dal q4 2024.
«L’obiettivo non è competere con ChatGpt. Vogliamo creare un modello per le imprese, con la certezza che venga rispettata la cultura e la lingua italiana. Al centro di questo progetto c’è la qualità», afferma Renna. Su Miia le aziende potranno sviluppare soluzioni con modelli a potenza variabile in funzione dei volumi dati, una logica che punta a soddisfare le esigenze delle imprese e della pubblica amministrazione, da sempre core business e driver di crescita del telco provider. «Il mercato cresce molto rapidamente. In Italia la GenAI vale 500 milioni e ci aspettiamo arrivi a 2 miliardi in 5 anni. Il nostro obiettivo è superare ricavi a doppia cifra entro i prossimi in tre anni», dice Renna. Competitor? «Sarei felice se ce ne fossero, vorrebbe dire che l’ecosistema dell’intelligenza artificiale si sta muovendo anche in Italia». Tim Enterprise? «Sarà una bella competizione, accesa come sempre. Anche se sui temi dell’intelligenza artificiale, per quel che io sappia, siamo più avanti, perché siamo partiti ormai un anno fa e oggi siamo nella condizione di accelerare il più possibile. Grazie alla partnership con Nvidia, siamo in anticipo rispetto a chiunque volesse iniziare oggi. Per chi volesse ordinare un supercomputer analogo i tempi di attesa sono di almeno 18-24 mesi», dice Renna. In sintesi, grazie alla combinazione del supercomputer NeXXt AI Factory, del large language model nazionale (l’attuale capacità interpretativa è di 1500 token, equivalenti a 11 milioni di libri), delle infrastrutture cloud to edge e dei sistemi avanzati di cybersecurity, Fastweb renderà disponibile ad aziende, start-up, pubbliche amministrazioni e altri operatori un sistema end-to-end per lo sviluppo di applicazioni per i vari vertical di settore, manifatturiero compreso, con la sicurezza di una gestione robusta dei dati, che rimangono sul territorio italiano. Sviluppo di soluzioni basata su modelli scalabili, pieno controllo della filiera di produzione generativa, trasparenza dei dati e delle modalità di training, estensione dei modelli all’infrastruttura Aws.
Ecco la via italiana all’intelligenza artificiale spiegata dal ceo di Fastweb e le riflessioni di Augusto di Genova e Giovanni Germani, rispettivamente chief technology officer e manager of architecture & AI center of excellence, raccolte da Industria Italiana a margine dell’evento che ha segnato l’apertura della nuova fabbrica italiana per l’IA generativa.
Flessibilità e adattabilità. Modelli scalabili da 8 a 40 miliardi di parametri in funzione delle esigenze produttive
«Possiamo mettere a disposizione delle imprese la semplice capacità elaborativa, oppure, ed è la cosa più interessante, sviluppare modelli custom, personalizzati per specifiche esigenze di mercati verticali, dice Renna. È il nostro punto di forza e crediamo che questo sia il futuro dell’intelligenza artificiale». Secondo i primi test effettuati da Fastweb, Miia interpreta la lingua italiana con capacità cognitive e semantiche superiori a quelle di modelli generalisti e consumer tipo ChatGpt. Adattabilità e flessibilità, entrare nel merito delle esigenze aziendali, creare il modello che possa interpretare al meglio le aspettative del mercato. Come afferma Di Genova, «I progetti nascono da una collaborazione con partner e utenti finali e i tempi medi di realizzazione sono di circa sei mesi. Non servono modelli con triliardi di parametri (ndr il numero di connessioni neurali su cui si basa l’apprendimento del modello), aggiunge il manager. In ambiente enterprise (finance, industria, sanità, pubblica amministrazione) il vero fattore competitivo sta nella capacità di produrre modelli con capacità elaborative variabili in funzione del volume e della specificità del dataset informativo su cui devono essere addestrati».
Modelli scalabili, dunque, che verranno realizzati in un range compreso tra 8 e 40 miliardi di parametri poiché la potenza algoritmica va configurata in rapporto alla variabile di produzione. E soluzioni small model che potranno andare in esecuzione anche on edge, all’intero del perimetro fisico dell’Ict aziendale.
La partnership con Mondadori, Istat e Bignami. Un volume di informazioni equivalente a 11 milioni di libri che assicura l’interpretazione di 1.500 miliardi di token in lingua italiana
NeXXt AI Factory è perfettamente integrato nell’infrastruttura di Fastweb, connesso tramite una rete in fibra ottica alla piattaforma cloud dell’azienda, che comprende quattro data center e dieci nodi edge in tutta Italia. Come si legge nella nota rilasciata dal gruppo, “l’integrazione con i quattro Security Operation Center di Fastweb, garantisce i massimi livelli di sicurezza e protezione, assicura robustezza e affidabilità a tutto il sistema». L’efficienza dei modelli si gioca invece sulla qualità dei dati e Fastweb ha stretto partnership strategiche con il gruppo Mondadori, l’Istat e le Edizioni Bignami, che hanno messo a disposizione un volume di informazioni equivalente a 11 milioni di libri, consentendo che al modello nazionale di elaborare fino a 1.500 miliardi di token in lingua italiana. «Il modello di IA sviluppato da Fastweb si basa sulla massima attenzione alla tutela dei dati e del copyright, aspetti per noi essenziali per armonizzare sviluppo e diritti, innovazione ed equa distribuzione del valore, aspetti spesso invece considerati secondari da alcuni player», afferma Andrea Santagata, amministratore delegato di Mondadori Media.
Un’IA priva da allucinazioni e da bias e pieno controllo dei dati e della filiera di produzione generativa
«A differenza di altri provider, abbiamo il controllo su tutta di filiera di produzione, dall’approvvigionamento dei dati, al training e fine tuning, caratteristiche che garantiscono la più completa trasparenza dell’intelligenza artificiale: conosco esattamente la base informativa su cui è stato trainato il modello e posso avere piena affidabilità sull’output generato», afferma Di Genova. «Il nostro obiettivo è presidiare l’intera catena del valore dell’intelligenza artificiale, eccezion fatta per la produzione di chip. Partiamo dal supercomputer per arrivare alla consulenza, passando per la fornitura di potenza computazionale e realizzazione di modelli su misura», sottolinea Germani.
Se da una parte vi sono aziende che non ravvisano alcun problema nell’integrare dati propri su Llm e infrastrutture hyperscaler, dall’altra esiste un gran numero di aziende, nel settore privato e ancor più nel settore pubblico, dove il tema della sovranità del dato è un prerequisito essenziale. «Vi sono aziende con idee molto interessanti sull’uso dell’IA generativa ma che sono contrarie a mettere i dati in un modello di cui non hanno il controllo. Un dato messo dentro ChatGpt va in una blackbox e se ne perde il controllo», dice Germani. Ecco, quindi, l’idea di sostenere questa domanda con la creazione di una piattaforma di supercalcolo per lo sviluppo di un large language model nazionale basato su dati, certificati e sicuri, conformi alle normative.
NeXXt AI Factory, un vero e proprio stabilimento per l’IA generativa che Fastweb utilizzerà per realizzare soluzioni innovative per il mercato italiano
«Gli utenti potranno scegliere di sviluppare loro soluzioni su nostri Llm, eseguire la parte inferenziale su nostra piattaforma o esportare il modello su loro infrastruttura, dice Germani. Nel caso abbiano già sviluppato una loro soluzione, possono farla girare sul nostro supercalcolatore. Qualunque sia l’opzione desiderata forniamo tutto il supporto necessario per realizzarla. Nei casi più semplici, di modelli customizzati su dataset aziendali, sintesi di documenti e scansione di posta elettronica, per esempio, una volta caricati i dati, il modello sarà già fruibile senza dover fare un training.
In casi più complessi, dove si debbano sviluppare modelli per applicazioni conversazionali dovrà invece essere fatto un vero e proprio addestramento ed effettuare la configurazione architetturale più opportuna. Lo use case dialogico, conversazionale, deve infatti avere una bassissima latenza. Cosa diversa nel caso si debbano fare sintesi di documenti o utilizzare l’IA generativa per rispondere a email in modo automatico, in questo caso anche se il modello rispondesse in 10 minuti non sarebbe un problema», afferma Germani.
Disponibilità dei modelli generativi Fastweb su Aws per estenderne l’utilizzo anche al di fuori dei confini nazionali
Da parte di Fastweb è stato anche annunciato il porting su Aws di una prima versione del large language model addestrato nativamente in lingua italiana, il modello Mistral 7B che ha registrato miglioramenti prestazionali tra il 20% e il 50% sui benchmark di lingua italiana.
«La partnership con Amazon Web Services ci permette di utilizzare i nostri modelli anche al di fuori dei confini nazionali, afferma Renna. Non tutti gli use case e le applicazioni richiedono la necessità di segregare i dati in un ambente così sicuro come la NeXXt AI Factory. A volte si tratta dati pubblici non critici e quindi possono essere ospitati su infrastrutture come Aws. Rendendo questi modelli e applicazioni disponibili non solo a livello nazionale ma anche a livello globale attraverso l’ampio portafoglio di servizi di intelligenza artificiale generativa di Aws, siamo in grado di realizzare e scalare più facilmente le nostre soluzioni di intelligenza artificiale generativa, portando sul mercato nuove innovazioni più velocemente», sottolinea l’ad di Fastweb.
