Nicolas Sauvage sedang bertaruh pada bahagian yang membosankan AI | TechCrunch

Nicolas Sauvage percaya ia mengambil masa empat tahun untuk pertaruhan terbaik untuk kelihatan jelas — memikirkan bahawa dia berkongsi di atas pentas minggu lalu di acara San Francisco StrictlyVC, yang dihoskan bersama oleh TDK Ventures. Ini adalah teori yang dia cuba buktikan sejak 2019, apabila dia mengasaskan cabang usaha niaga korporat gergasi elektronik Jepun itu, yang kini menguruskan $500 juta dalam empat dana. Permulaan cip AI Groq, bernilai $6.9 bilion semasa pusingan pendanaan terbaharunya pada musim luruh lalu, adalah contoh berprofil tertinggi bagi pemikiran ini. Pada tahun 2020, sebelum ledakan AI generatif menjadikan pertaruhan infrastruktur kelihatan jelas, Sauvage menulis semakan ke dalam syarikat itu, yang diasaskan oleh Jonathan Ross — salah seorang jurutera yang membina Unit Pemprosesan Tensor Google. Groq difokuskan dari awal pada inferens: pengiraan beban berat yang berlaku setiap kali model menjawab pertanyaan. Ross telah mereka bentuk cipnya dengan membina pengkompil terlebih dahulu, melucutkan seni bina sehingga, seperti yang diterangkan oleh Sauvage, "anda tidak boleh mengalih keluar satu bahagian dan memastikan ia masih berfungsi." Ia mungkin kelihatan khusus kepada sesetengah orang, tetapi mengetahui apa yang dia lakukan tentang kekangan syarikat induknya, Sauvage melihat asimetri. Tidak seperti perkakasan pengguna, yang mempunyai siling semula jadi, permintaan untuk inferens terus bertambah dengan setiap aplikasi baharu dan setiap model baharu. Sauvage tidak dapat mengetahui bahawa permintaan untuk inferens akan meletup tahun ini, terima kasih kepada setiap ejen AI yang merancang dan bertindak