Nicolas Sauvage bertaruh pada bagian AI yang membosankan | TechCrunch.dll

Nicolas Sauvage percaya bahwa dibutuhkan waktu empat tahun agar pertaruhan terbaik terlihat jelas — mengingat hal tersebut ia sampaikan di atas panggung minggu lalu di acara StrictlyVC di San Francisco, yang diselenggarakan bersama oleh TDK Ventures. Ini adalah teori yang dia coba buktikan sejak tahun 2019, ketika dia mendirikan cabang ventura korporasi raksasa elektronik Jepang, yang kini mengelola $500 juta dalam empat dana. Startup chip AI Groq, yang bernilai $6,9 miliar pada putaran pendanaan terbarunya pada musim gugur lalu, adalah contoh paling menonjol dari pemikiran ini. Pada tahun 2020, jauh sebelum ledakan AI generatif membuat pertaruhan infrastruktur terlihat jelas, Sauvage memberikan cek kepada perusahaan tersebut, yang didirikan oleh Jonathan Ross — salah satu insinyur yang membangun Unit Pemrosesan Tensor Google. Groq sejak awal berfokus pada inferensi: pekerjaan berat komputasi yang terjadi setiap kali model merespons kueri. Ross telah merancang chipnya dengan membangun kompilernya terlebih dahulu, menghapus arsitekturnya hingga, seperti yang dijelaskan Sauvage, “Anda tidak dapat menghapus satu bagian pun dan membuatnya tetap berfungsi.” Bagi sebagian orang, hal ini mungkin tampak khusus, tetapi mengetahui apa yang dia lakukan terhadap kendala perusahaan induknya, Sauvage melihat adanya asimetri. Tidak seperti perangkat keras konsumen, yang memiliki batasan alami, permintaan akan inferensi terus bertambah seiring dengan setiap aplikasi baru dan setiap model baru. Sauvage tidak menyangka bahwa permintaan akan inferensi akan meledak tahun ini, berkat setiap agen AI yang merencanakan dan melaksanakannya.