Gelombang investasi mengalir ke dalam kecerdasan buatan yang generatif. Apakah ini akan sepadan?
"Itulah inti dari semua perdebatan saat ini," kata Sung Cho dari Goldman Sachs Asset Management. Investasi mengalir ke segala hal, mulai dari silikon yang mendukung pelatihan model kecerdasan buatan hingga perusahaan listrik yang memasok listrik ke pusat data seluas berhektar-hektar.
Untuk melihat ke mana arah industri ini, Cho dan Brook Dane, manajer portofolio di tim Fundamental Equity di Goldman Sachs Asset Management, bertemu dengan para eksekutif dari 20 perusahaan teknologi terkemuka yang mendorong inovasi AI. Percakapan tersebut — dengan perusahaan publik dan swasta, dari pembuat semikonduktor hingga raksasa perangkat lunak — menunjukkan bahwa beberapa perusahaan sudah menghasilkan laba dari AI, dan beberapa akan membeli lebih banyak perangkat keras AI jika mereka bisa mendapatkannya.
"Keyakinan kami terus meningkat bahwa siklus teknologi ini nyata," kata Dane. "Ini akan menjadi besar, seperti yang mereka katakan."
Namun, ada juga risikonya. Cho dan Dane mengatakan ada kemungkinan bahwa model bahasa besar yang dibangun oleh segelintir perusahaan akan menyadari bahwa mereka bersaing dalam pasar yang hanya menguntungkan satu pihak. Kasus penggunaan, atau aplikasi hebat, yang sepenuhnya membenarkan investasi besar tersebut belum muncul. Mereka juga menunjukkan bahwa, dalam satu tahun di mana indeks saham AS telah mencetak rekor tertinggi berturut-turut, tidak ada reli saham teknologi yang pernah berjalan dalam garis lurus. "Anda mendapatkan gelombang dari penyerapan investasi dan sensasi realitas," kata Dane. "Dan keduanya terjadi dalam jangka waktu beberapa tahun."
Wawasan Cho dan Dane muncul saat Goldman Sachs Research baru-baru ini menerbitkan sebuah kajian tentang besarnya jumlah investasi dalam AI, yang menampilkan wawancara dengan Daron Acemoglu, Profesor Institut di MIT, dan Jim Covello, Kepala Riset Ekuitas Global Goldman Sachs. Laporan yang berjudul “Gen AI: pengeluaran terlalu banyak, manfaat terlalu sedikit?” mencatat bahwa perusahaan teknologi besar, korporasi, dan utilitas akan menghabiskan sekitar $1 triliun untuk belanja modal dalam beberapa tahun mendatang untuk mendukung AI.
Kami berbicara dengan Cho dan Dane dari Goldman Sachs Asset Management tentang prospek pengembalian investasi industri, apakah tren ini terutama terjadi di pasar publik atau swasta, dan perusahaan-perusahaan yang dapat berharap untuk memanfaatkan ledakan AI.
Berapa banyak investasi yang Anda lihat dalam model-model ini? Dan menurut Anda apakah realistis untuk melihat laba atas investasi yang membenarkan modal tersebut dalam waktu dekat?
Sung Cho: Itulah inti dari semua perdebatan saat ini.
Brook Dane: Pertanyaan terbesar di pasar saat ini adalah: Apakah kita mendapatkan laba atas investasi? Saya cukup yakin bahwa kita melihat laba tersebut. Dan ada beberapa data yang saya lihat yang membuat saya yakin.
Pertama: Kami menghabiskan banyak waktu dalam perjalanan ini untuk berbicara dengan CFO dari hyperscaler yang baru saja kembali dari perencanaan strategis mereka, di mana mereka melakukan proyeksi satu, tiga, lima tahun ke depan. Orang ini berbicara dengan sangat terbuka, tanpa angka apa pun, tentang bagaimana mereka melakukan perhitungan RoI di seluruh kluster tempat mereka menggunakan GPU dan bagaimana mereka menemukan bahwa hal itu sangat menguntungkan dari sudut pandang pengembalian.
Kini, perusahaan ini telah menjalankan beban kerja inferensi besar-besaran (menggunakan model AI yang telah dilatih untuk bernalar atau membuat prediksi) di seluruh infrastruktur mereka untuk mesin rekomendasi. Mereka melihat hasil dalam bentuk peningkatan waktu yang dihabiskan di platform mereka, seperti yang diprediksi oleh model ini, dengan konten berikutnya.
Jadi bagi mereka, perhitungan RoI mungkin adalah yang paling sederhana untuk dihitung, karena Anda dapat menggunakan klaster, Anda dapat menggunakan algoritma yang lebih canggih yang kemudian dapat menghabiskan lebih banyak waktu, yang dapat menghasilkan lebih banyak permukaan iklan, yang kemudian dapat menghasilkan pendapatan.
Hal kedua, dan ini dari mengikuti industri dalam jangka panjang dan telah melakukan banyak diskusi baru-baru ini dengan hyperscaler lain mengenai rencana belanja modal mereka: Kami tahu betapa disiplinnya mereka selama ini, dan bagaimana mereka melihat peningkatan pendapatan tambahan, dan melihat keuntungan tambahan yang mereka dapatkan dari belanja modal mereka. CFO ini menegaskan bahwa mereka punya uang, dan jika mereka bisa mendapatkan lebih banyak GPU untuk digunakan, mereka akan melakukannya.
Setelah mengenal orang ini selama 20 tahun, dan memahami bagaimana mereka mendekati anggaran modal, bagaimana mereka membelanjakan modal mereka — orang ini tidak akan melakukan itu jika tidak ada hasil nyata, nyata, dan nyata yang dapat mereka lihat di depan mereka. Dan mereka cukup tegas.
Namun, ini masih awal, dan sisi buruk lainnya adalah bahwa untuk model-model perintis ini, Anda tidak dapat jatuh dari garis terdepan. Anda tidak dapat menjadi model perintis keempat yang tidak menghabiskan tambahan $1 miliar dolar untuk membuat model Anda menjadi lebih baik. Jadi bagi mereka, ada sedikit persaingan di sini, dan ada sedikit lompatan keyakinan yang tertanam di dalamnya.
Sung, apa pandangan Anda tentang pertanyaan RoI?
Sung Cho: Ini adalah salah satu pertanyaan terpenting. Dan itulah yang akan menentukan arah pasar setidaknya selama enam hingga 12 bulan ke depan, dan apakah teknologi akan terus mengungguli atau tidak.
Tentu saja, dengan pertanyaan RoI apa pun, Anda harus memahami skala investasi yang telah dilakukan sejauh ini. Jika Anda melihat pendapatan NVIDIA pada tahun kalender 2022, mereka memperoleh pendapatan sebesar $26 miliar dolar. Dan mereka memperoleh pendapatan sebesar $26 miliar dolar pada kuartal terakhir ini. Jadi, pada dasarnya dalam dua tahun, NVIDIA telah melipatgandakan pendapatannya. Jika Anda membandingkan apa yang dibelanjakan untuk NVIDIA dengan total belanja modal cloud, hampir 50% digunakan untuk chip NVIDIA.
Jadi investasi dalam AI sangat besar. Dan jika Anda memikirkan RoI, titik awalnya adalah sekitar "I," yang sangat, sangat tinggi.
Jika Anda seorang yang optimis, hal terpenting di sini, dan Brook menyebutkan hal ini, adalah bahwa saat ini ada persaingan untuk melihat siapa yang dapat membangun model dasar terbaik (model tujuan umum yang dapat diterapkan pada banyak aplikasi). Persaingan itu tidak akan melambat dalam waktu dekat. Dari perspektif RoI, jika Anda melihatnya selama satu atau dua tahun ke depan, mungkin RoI tidak bagus. Namun, jika Anda memiliki aliran pengembalian selama 20 tahun yang terkait dengan pembangunan tumpukan teknologi terbaik saat ini, maka Anda tentu dapat membenarkan investasi tersebut.
Di sisi lain, NVIDIA berpikir mereka akan menjadi satu juta kali lebih efisien dalam memproses AI selama dekade berikutnya. Itu satu juta kali lebih efisien pada jenis infrastruktur chip yang sama. Dan juga, ketika Anda berbicara kepada mereka, Anda memahami bahwa infrastruktur yang sedang dibangun untuk pelatihan saat ini juga merupakan infrastruktur yang sama yang akan kita gunakan untuk inferensi. Jadi saat dunia beralih dari pelatihan ke inferensi, semuanya akan dapat dipertukarkan. Anda tidak perlu membangun infrastruktur yang sama sekali baru untuk inferensi.
Dan kita melihat sekeliling dan berkata: Oke, ada beberapa aplikasi keren. Namun tidak ada aplikasi hebat yang langsung menghabiskan banyak kapasitas.
Jadi, kami memahami alasan mengapa ada begitu banyak investasi dalam AI. Mungkin akan ada jeda dalam waktu dekat, tentu saja, dan itu akan menentukan arah pasar dalam jangka pendek. Namun, saya rasa kami berdua yakin dalam jangka menengah hingga panjang bahwa AI tetap menjadi salah satu tren terbesar yang pernah kami lihat dalam sejarah kami. Jadi, saya rasa itu benar-benar tergantung pada kerangka waktu Anda. Namun, kami sangat memahami kedua sisi argumen tersebut.
Jadi kemana arah pasar dan fokus dari sini?
Brook Dane: Terkait dengan pendapat Sung, dan itu adalah hal yang sangat penting, tidak ada siklus teknologi yang naik secara linear. Tidak demikian. Anda mendapatkan gelombang dari penyerapan investasi dan sensasi-realitas. Dan keduanya terjadi dalam jangka waktu beberapa tahun.
Perspektif kami saat ini adalah bahwa kami sedang menyiapkan semua infrastruktur ini untuk menjalankan hal-hal ini. Dan kami melihat peningkatan luar biasa dalam cara kerja model-model ini dan apa yang dapat mereka lakukan. Namun, seperti yang disebutkan Sung, kami benar-benar perlu melihat, pada suatu saat selama satu setengah tahun ke depan, aplikasi yang menggunakan teknologi ini dengan cara yang lebih mendalam daripada chatbot pengodean dan layanan pelanggan.
Jika ini hanya akan berakhir dengan melakukan pengodean dan layanan pelanggan, kita akan mengeluarkan terlalu banyak biaya untuk ini. Sekali lagi, saya rasa kita berdua sangat yakin bahwa, dalam jangka menengah, kita akan melihat aplikasi dan kasus penggunaan tersebut. Dan itu akan mengubah cara kita semua bekerja secara mendalam.
Namun, menurut saya seluruh pasar sedang mencoba mencari tahu apa lagi yang perlu dilakukan agar aplikasi dan kasus penggunaan baru dapat dikembangkan, dan apa yang akan Anda lihat setelahnya. Jadi, saat ini kita sedang berada dalam periode di mana kita perlu melihat kemajuan dalam hal itu.
Kedengarannya seperti Anda mengatakan bahwa ini adalah pasar yang pemenangnya akan mengambil semuanya. Apakah ini seperti perkembangan internet, di mana akan ada pemain yang dominan seperti yang telah kita lihat di platform pencarian atau email?
Brook Dane: Ini topik besar lainnya.
Sung Cho: Kami tahu tidak akan ada lebih dari empat. Tidak ada yang bisa bersaing. Satu-satunya perusahaan yang dapat melakukan investasi pada level ini adalah Meta, Google, OpenAI, dan Anthropic.
Brook Dane: Namun yang belum kita ketahui adalah: Seiring dengan semakin matangnya model-model ini, dan seiring dengan berhentinya peningkatan fungsi langkah ini, yang akan terjadi pada suatu titik, apakah model terbaik tiga tahun mendatang akan jauh lebih baik daripada model orang lain sehingga menguasai 80% pangsa pasar? Atau apakah kita memiliki empat model yang sangat bagus, dan orang-orang akan menggunakannya untuk kasus penggunaan yang berbeda, di area yang berbeda, dan dengan cara yang berbeda? Apakah kita akan memiliki empat model dalam skala besar?
Jika ada empat model yang sama-sama tangguh, Anda akan mengira hal itu akan menjadi komoditas dengan cukup cepat. Sedangkan jika salah satu dari mereka menjadi pemimpin yang jelas dan dominan, maka akan ada ekonomi yang luar biasa. Kami belum tahu jawabannya.
Namun yang kita tahu adalah bahwa tidak satu pun dari keempatnya mampu untuk tertinggal dalam kecepatan inovasi. Karena jika Anda tertinggal, jika Anda berhenti pada tingkat kecerdasan mahasiswa tahun pertama, dan orang-orang lainnya menjadi setingkat Phd, mungkin sulit bagi Anda untuk memiliki pasar jika mereka jauh lebih baik, dan mereka memanfaatkan efisiensi dan kurva biaya lebih cepat daripada Anda.
Sung Cho: Menurut saya, yang akan terjadi seiring berjalannya waktu adalah: Akan ada spesialis vertikal. Jadi, menurut saya, persaingan yang lebih dari sekadar kecepatan dan kecerdasan adalah: Bagaimana kita dapat membangun model yang jauh lebih efisien untuk subsektor dan kasus penggunaan tertentu?
Rekan-rekan kami di Goldman Sachs Research mengatakan bahwa AI lebih disukai oleh perusahaan-perusahaan teknologi besar yang sudah ada. Saya mendengar hal yang sama dari Anda hari ini. Apakah Anda melihat sesuatu yang menantang narasi itu?
Sung Cho: Dari perspektif infrastruktur, perlombaan sebagian besar sudah berakhir.
Namun dalam hal membangun LLM dan model vertikal dan spesifik industri, dan banyak kasus penggunaan tepi, saya rasa itu belum terselesaikan, dan saya rasa di situlah banyak inovasi akan muncul.
Brook Dane: Dan yang ingin saya tambahkan di sini adalah saya tidak menganggap pasar ini hanya dihuni oleh segelintir nama perusahaan berkapitalisasi besar sebagai pemenang. Hal terpenting di luar pelatihan model di sini adalah: Data unik apa yang Anda miliki, yang dapat Anda gunakan untuk membantu klien?
Jadi, apa yang benar-benar kami cari, pada lapisan perangkat lunak itu, adalah perusahaan yang memiliki data kepemilikan mendalam yang dapat mereka gunakan untuk menciptakan kasus penggunaan dan pengalaman yang berbeda.
Namun, ini sebagian besar merupakan fenomena pasar publik dari perspektif peluang investasi. Tidak akan ada banyak perusahaan swasta yang muncul untuk mengganggu struktur industri ini.
Jadi kesimpulannya: Apa hasil terbesar Anda dari penelitian ini?
Sung Cho: Poin utama saya sedikit lebih spesifik pada semikonduktor. NVIDIA jelas telah mendominasi lanskap silikon AI selama hampir dua tahun. Namun kini ada alternatif nyata yang akan mulai memasuki pasar. Dan saya pikir ada perdebatan nyata mengenai apakah NVIDIA akan terus mempertahankan pangsa 100% atau mereka akan mulai menyerahkan sebagian pangsa itu kepada pihak lain. Dan kami mulai percaya bahwa akan ada penerima manfaat lain selain NVIDIA selama beberapa tahun ke depan.
Brook Dane: Hal utama yang saya pahami adalah bahwa kita masih berada di tahap sangat awal dari transisi teknologi yang sangat mendalam dan berdampak besar, dan ada keyakinan bahwa status model ini dan bagaimana mereka bergerak maju akan mendorong perubahan struktural yang telah kita semua pikirkan dan harapkan akan terwujud.
Keyakinan kami terus meningkat bahwa siklus teknologi ini nyata. Akan menjadi besar, seperti yang mereka katakan.