La startup che scommette su un chip che fa una cosa sola

Quasi tutta l’intelligenza artificiale di oggi gira su GPU, i processori grafici in cui domina Nvidia, con una quota di mercatoQuota di mercatoLa fetta delle vendite totali che finisce a una sola azienda. schiacciante. Le GPU sono potenti e flessibili: possono far girare qualunque tipo di modello. Una giovane startup americana, Etched, ha deciso di fare la scommessa opposta.

Chi sono

Etched è stata fondata nel 2022 da tre studenti che hanno lasciato Harvard: Gavin Uberti, Chris Zhu e Robert Wachen. Il 25 giugno 2024 annuncia un finanziamentoFinanziamentoSoldi che dei fondi di investimento mettono nell'azienda, in cambio di una parte delle sue azioni. di 120 milioni di dollari, guidato dai fondi Primary Venture Partners e Positive Sum.

Un chip per una cosa sola

Il prodotto si chiama Sohu ed è un ASIC, sigla che sta per circuito integrato per un’applicazione specifica. In parole semplici: un chip progettato per fare una sola cosa. Nel caso di Sohu, quella cosa è far girare i modelli transformer, l’architetturaArchitetturaIl progetto di base su cui è costruito un modello di IA, come lo scheletro di un edificio. su cui si basano ChatGPT, Gemini, Claude e quasi tutti i grandi modelli linguistici.

Il ragionamento è questo: se quasi tutta l’IA usa i transformer, conviene avere un chip costruito solo per loro. Si perde la flessibilità, ma si eliminano tutte le parti che non servono. Secondo Etched, Sohu riesce a usare oltre il 90% della sua potenza di calcolo, contro circa il 30% delle GPU con lo stesso tipo di lavoro.

I rischi

Sono numeri dichiarati dall’azienda, non misure indipendenti. E la scommessa ha un punto debole evidente: se domani arrivasse un’architettura migliore dei transformer, un chip che sa fare solo quello diventerebbe molto meno utile. I chip saranno prodotti da TSMC, la stessa fabbrica taiwanese che produce per Apple e Nvidia.

Perché ti riguarda

Il costo dell’intelligenza artificiale dipende in gran parte dai chip. Se aziende come Etched riuscissero a far girare i modelli in modo più veloce ed efficiente, le risposte dei chatbot arriverebbero prima e costerebbero meno, a chi le offre e a chi le usa.