Prediksi itu bukan sekadar basa-basi. Huang, yang hadir sebagai bintang tamu dalam keynote Marvell, menegaskan bahwa infrastruktur AI skala besar — untuk pelatihan, inferensi, dan sistem agen — sudah mulai mendorong jaringan data center ke batas maksimalnya. Kabel tembaga, yang selama puluhan tahun menjadi tulang punggung konektivitas, kini mulai kewalahan.
Kecepatan Data Makin Tinggi, Jangkauan Tembaga Makin Pendek
“Jarak yang bisa ditempuh sinyal melalui kabel tembaga berbanding terbalik dengan bandwidth. Setiap kali Anda menggandakan bandwidth, jaraknya harus dipotong setengah,” jelas Murphy. Saat ini, interkoneksi jaringan tercepat beroperasi pada 200 Gbps per lane. Pada kecepatan itu, kabel tembaga hanya mampu membawa sinyal sejauh 2,5 meter.
Masalah ini akan semakin parah. Nvidia, melalui platform Vera Rubin dan NVSwitch generasi berikutnya, akan menggandakan kecepatan menjadi 400 Gbps. Artinya, jangkauan tembaga akan kembali menyusut drastis. Murphy memprediksi, dalam waktu dekat, bahkan koneksi di dalam satu rak server pun akan beralih ke optik.
Optik Bukan Tanpa Masalah: Konsumsi Daya Jadi Kendala
Meski optik menawarkan jangkauan yang jauh lebih panjang, teknologinya belum sempurna. Modul optik yang bisa dicabut (pluggable optics) tidak hanya boros daya, tetapi juga rentan rusak. Huang sendiri mengakui bahwa penggunaan optik pada sistem NVL72 milik Nvidia akan menambah beban daya hingga 20 kilowatt di atas konsumsi 120 kilowatt yang sudah sangat besar.
“Anda pakai optik di mana Anda harus, dan pakai tembaga di mana Anda bisa,” kata Huang. Namun, Marvell justru bersiap untuk masa depan di mana bahkan jalur di papan sirkuit cetak (PCB) pun akan digantikan oleh kabel serat optik.
Akuisisi Besar dan Investasi Nvidia Siapkan Panggung
Marvell tidak main-main. Pada 2020, perusahaan mengakuisisi Inphi yang spesialisasi di interkoneksi optoelektrik. Baru-baru ini, mereka kembali menggelontorkan miliaran dolar untuk membeli teknologi interkoneksi silikon fotonik milik Celestial AI. Pada Maret lalu, Nvidia sendiri menginvestasikan 2 miliar dolar AS ke Marvell untuk memajukan teknologi yang sama.
“Kami membangun modul optik yang berisi semua elektronik untuk menggerakkan dan memodulasi laser, lalu mengirimkan data dalam jarak jauh,” ujar Murphy. Ia membayangkan dunia sepuluh tahun ke depan di mana jarak tidak lagi menjadi hambatan. “Dengan optik, jarak tidak masalah. Kita bisa mengubah ukuran domain scale-up dari 72 atau 144 XPU menjadi 1.000 atau lebih, semuanya terhubung secara optik.”
Arsitektur Data Center Bisa Dirombak Total
Dampaknya tidak hanya pada GPU. Murphy menjelaskan, ketika CPU, GPU, memori, dan penyimpanan semuanya terhubung secara optik, komponen-komponen itu tidak perlu lagi berada dalam satu kotak yang sama. Arsitektur server modern yang selama ini menyatukan semua komponen di satu sistem semata-mata karena keterbatasan jarak.
“Bayangkan arsitektur yang sepenuhnya terdisagregasi: XPU di satu sistem, memori di sistem lain, CPU agen di sistem lain lagi,” kata Murphy. Sumber daya ini bisa dikonfigurasi ulang secara dinamis untuk rasio CPU, GPU, dan memori yang ideal bagi beban kerja tertentu. Google, misalnya, sudah menerapkan ini dalam skala terbatas di cloud TPU miliknya.
Broadcom Mengintai, Persaingan Sengit Menanti
Namun, jalan Marvell menuju valuasi triliun dolar tidak akan mulus. Broadcom, yang kapitalisasi pasarnya sudah menembus 2 triliun dolar, juga telah mengakumulasi portofolio silikon fotonik dan teknologi optik yang luas. Pelanggan mereka termasuk Google dan Meta.
CEO Broadcom, Hock Tan, memiliki pandangan yang hampir sama. “Saya bisa melihat suatu titik di masa depan di mana ini menjadi satu-satunya cara,” kata Tan kepada analis akhir tahun lalu. “Pemicu terakhir adalah ketika Anda tidak bisa lagi melakukannya dengan baik menggunakan pluggable optics. Saat itulah Anda beralih ke silikon fotonik.”
