Nicolas Sauvage scommette sulle parti noiose dell'IA | TechCrunch

Nicolas Sauvage ritiene che ci vogliano quattro anni prima che le scommesse migliori sembrino ovvie, pensando a ciò che ha condiviso sul palco la settimana scorsa all'evento di San Francisco di StrictlyVC, co-ospitato da TDK Ventures. È una teoria che sta cercando di dimostrare dal 2019, quando ha fondato la divisione corporate venture del colosso giapponese dell’elettronica, che ora gestisce 500 milioni di dollari in quattro fondi. La startup di chip AI Groq, valutata 6,9 miliardi di dollari durante il suo ultimo round di finanziamento lo scorso autunno, è l’esempio di più alto profilo di questo modo di pensare. Nel 2020, ben prima che il boom dell’intelligenza artificiale generativa rendesse evidenti le scommesse sulle infrastrutture, Sauvage ha firmato un assegno a favore dell’azienda, fondata da Jonathan Ross, uno degli ingegneri che hanno costruito le Tensor Processing Unit di Google. Groq si è concentrato fin dall'inizio sull'inferenza: il pesante lavoro computazionale che avviene ogni volta che un modello risponde a una query. Ross aveva progettato il suo chip costruendo prima il compilatore, riducendo l'architettura fino a quando, come lo descrive Sauvage, "non è possibile rimuovere una parte e farla funzionare ancora". Ad alcuni potrebbe essere sembrato di nicchia, ma sapendo cosa ha fatto riguardo ai vincoli della sua società madre, Sauvage ha visto l’asimmetria. Unlike consumer hardware, which has a natural ceiling, demand for inference keeps compounding with every new application and every new model. Sauvage non poteva sapere allora che la domanda di inferenza sarebbe esplosa quest'anno, grazie a tutti gli agenti di intelligenza artificiale che pianificano e agiscono