Nell’euforia dei test di nuovi sistemi AI un punto che viene spesso trascurato è il costo dei sistemi utilizzati. Per entrare nel merito dei costi di un progetto AI in azienda abbiamo preso un task uguale per tutti i modelli considerati e facilmente comprensibile: prendere l’intera Wikipedia e riassumere ogni pagina con metà delle parole. Abbiamo stimato 6 milioni di pagine con in media 750 parole.
Se dovessimo pensare questa attività fatta manualmente sarebbe sicuramente ciclopica. Non mi ha quindi sorpreso il costo di GPT-4 pari a 360 mila dollari per eseguire il lavoro.
Quello che mi ha stupito è la differenza di costo per lo stesso task tra diversi modelli con qualità del lavoro paragonabile: un chiaro segno che ancora le aziende non ci stanno facendo ancora attenzione.
Tra i più economici per questo task troviamo infatti DeepSeek (3.720 dollari), Gemini di Google (1800 dollari) e Qwen di Alibaba (900 dollari).
L’attenzione oggi è tutta sul completamento del task, ma mano a mano che l’AI verrà integrata nei processi aziendali sarà essenziale un processo di governance per assicurarsi che la scelta rimane sempre la migliore anche in termini di costi.
