Occorre tenere sotto osservazione i costi di formazione dell’AI per le imprese coinvolte in questo progetto. Negli ultimi cinque anni, i modelli di intelligenza artificiale sono diventati molto più complessi e capaci, pensati per svolgere compiti specifici in tutti i settori e fornire maggiore efficienza, accuratezza e automazione. Tuttavia, il costo della formazione in questi sistemi è esploso. Secondo i dati presentati da AltIndex.com, i costi di formazione dei modelli di intelligenza artificiale sono saliti alle stelle di oltre il 4.300% dal 2020.
Costi di formazione dell’AI 44 volte più alto in soli quattro anni
Il rilascio di ChatGPT-4 di OpenAI a marzo dell’anno scorso ha dato il via all’hype globale per l’intelligenza artificiale. Google ha seguito l’esempio con il suo modello di intelligenza artificiale avanzato, Gemini, nove mesi dopo. Sebbene entrambi i sistemi abbiano apportato miglioramenti, nuove capacità e applicazioni migliori, sono stati molto più costosi da formare rispetto ai precedenti modelli di intelligenza artificiale.
Il rapporto sull’indice di intelligenza artificiale pubblicato dalla Stanford University e dalla società di ricerca Epoch AI, che ha analizzato i prezzi di noleggio del cloud computing, la durata della formazione del modello, il tasso di utilizzo dell’hardware e il valore dell’hardware di formazione, ha mostrato con precisione quanto. La differenza è scioccante.
Le statistiche mostrano che il costo di formazione di Gemini, un modello linguistico di grandi dimensioni che può essere inserito con testo, comandi vocali e immagini, si è attestato tra i 30 e i 191 milioni di dollari, escludendo gli stipendi del personale che possono rappresentare dal 29% al 49% del prezzo finale. La maggior parte del costo di sviluppo, tra il 47% e il 67%, è stato per l’hardware, mentre il 2%-6% è andato al consumo di energia. Rispetto a Gemini, GPT-4 ha avuto un costo di creazione tecnica molto più basso, tra i 41 e i 78 milioni di dollari, che è comunque salito a oltre 100 milioni di dollari se si includono i costi del personale.
Guardando indietro, il costo dei precedenti modelli di intelligenza artificiale era molto più basso. Ad esempio, è costato solo 930 dollari addestrare Transformer, un’innovativa architettura di rete neurale introdotta nel 2017. BERT-Large di Google, rilasciato un anno dopo, è costato 3.288 dollari. RoBERTa Large di Meta, introdotto nel 2019, aveva un costo di formazione di oltre $ 160.000, che è aumentato a oltre $ 4,3 milioni con GPT3 di OpenAI un anno dopo. Tuttavia, è ancora 44 volte inferiore rispetto agli ultimi modelli di formazione AI rilasciati l’anno scorso.
Il costo delle più grandi sessioni di formazione potrebbe superare il miliardo di dollari entro il 2027
Anche con costi di formazione del modello AI 44 volte inferiori, tenere il passo con lo sviluppo AI all’avanguardia è diventato un privilegio solo per le organizzazioni più finanziate. Sebbene le aziende stiano già esplorando modi per ridurli, come lo sviluppo di modelli più piccoli per attività specifiche o l’utilizzo di dati sintetici per la formazione, i costi di formazione del modello AI a valanga rimangono una sfida enorme per lo sviluppo AI sostenibile.
Sfortunatamente, con la crescente necessità di risorse computazionali sostanziali, architetture di modelli più complesse e requisiti di dati su larga scala, continueranno solo ad aumentare in futuro. Secondo l’Artificial Intelligence Index Report, le più grandi sessioni di formazione costeranno più di un miliardo di dollari entro il 2027 se la tendenza continua.