Elon Musk Launches AI Supercomputer "Colossus", Claimed to be the Most Powerful in the World

Elon Musk Launches AI Supercomputer "Colossus", Claimed to be the Most Powerful in the World

Tesla CEO and founder Elon Musk.(SHUTTERSTOCK/FREDERIC LEGRAND - COMEO)

HOLIDAY NEWS - Billionaire, owner of

Most recently, Elon Musk said that the technology company he founded, xAI has finished building an AI supercomputer called "Colossus". This AI supercomputer has officially launched and has started to be activated. 

News about the construction of this supercomputer first broke last May. 

According to Musk, the AI ​​supercomputer powered by 100,000 H100 graphics processing units (GPUs from Nvidia has been active or online since last weekend. This was conveyed by Elon Musk in a post on his personal X/Twitter account. 

In the tweet, Musk said the AI ​​supercomputer built in 122 days was the "world's strongest" AI training system. 

The claim to be the most powerful supercomputer is likely based on the number of GPUs used by this system, which reaches 100,000 Nvidia H100 GPUs. 

That's four times more than the largest GPU cluster currently available, as used by Meta to train its AI models. 

“This weekend, the @xAI team launched our Colossus 100k H100 training cluster online. From start to finish, it was all done in 122 days. Colossus is the world's most powerful AI training system," tweeted @elonmusk. 

Musk also boasted that he would double Colossus' computing capacity in a matter of months once he was able to acquire 50,000 of the new, more advanced Nvidia H200 GPUs. This chip is roughly twice as powerful as the Nvidia H100. 

Currently, the H100 GPU from Nvidia, which will be released in 2023, is the favorite and is in great demand in the chip market for AI data centers. 

Grok is the first chatbot made by xAI, an artificial intelligence company owned by Elon Musk, built to train Grok

The Colossus AI supercomputer was built to train and run the new generation "Grok" large language model (LLM), namely Grok-3. LLM Grok is the brains of the AI Grok chatbot which can be enjoyed by paying customers on X/Twitter. 

LLM Grok was first introduced by xAI in 2023 in response to the success of its competitors such as GPT on ChatGPT, Gemini, Llama 3.1, and Claude. 

Then, xAI released a beta version of LLM Grok-2 in August. Grok-2 was reportedly trained by 15,000 Nvidia H100 GPU units. 

With Grok-2, the AI ​​chatbot on social media X (formerly Twitter) promises improved performance compared to its predecessor, and is equipped with new capabilities to create (generate) images directly from X. 

So, xAI plans to release Grok-3 in December. This new generation of LLM which is claimed to be "the strongest" will be trained and run with Colossus which is supported by 100,000 Nvidia H100 GPUs, as compiled by KompasTekno from Fortune, Wednesday (4/9/2024). 

The AI ​​Colossus supercomputer project is believed to cost up to billions of US dollars. To help level the playing field in the global AI race, xAI raised $6 billion in a Series B funding round in May, with the help of venture capitalists like Andreessen Horowitz and Sequoia Capital, as well as deep-pocketed investors like Fidelity and Kingdom Holdingbelonging to Saudi prince Alwaleed bin Talal. 

Elon Musk Luncurkan Superkomputer AI "Colossus", Diklaim Terkuat di Dunia

CEO dan pendiri Tesla Elon Musk.(SHUTTERSTOCK/FREDERIC LEGRAND - COMEO)

HOLIDAY NEWS - Miliarder, pemilik X (dulu Twitter), sekaligus CEO Tesla Elon Musk benar-benar serius ikut dalam perlombaan teknologi kecerdasan buatan/artificial intelligence (AI) global.

Yang terbaru, Elon Musk mengatakan bahwa perusahaan teknologi yang didirikannya, xAI sudah rampung membangun superkomputer AI bernama "Colossus". Superkomputer AI ini pun resmi meluncur dan sudah mulai diaktifkan.

Kabar soal pembangunan superkomputer ini pertama kali tersiar pada Mei lalu.

Menurut Musk, super komputer AI yang ditenagai 100.000 unit pengolah grafis (GPU) H100 dari Nvidia itu sudah aktif atau online sejak akhir pekan lalu. Hal ini disampaikan Elon Musk lewat sebuah posting di akun X/Twitter pribadinya.

Dalam twit tersebut, Musk mengatakan, superkomputer AI yang dibangun dalam waktu 122 hari sebagai sistem pelatihan AI "terkuat di dunia".

Klaim sebagai superkomputer terkuat itu kemungkinan didasarkan pada jumlah GPU yang digunakan oleh sistem ini yang mencapai 100.000 GPU Nvidia H100.

Jumlah itu empat kali lebih banyak ketimbang klaster GPU terbesar yang ada saat ini, seperti yang digunakan oleh Meta untuk melatih model AI-nya.

“Akhir pekan ini, tim @xAI meluncurkan klaster pelatihan Colossus 100k H100 kami secara daring. Dari awal hingga akhir, semuanya selesai dalam 122 hari. Colossus adalah sistem pelatihan AI terkuat di dunia," twit @elonmusk.

Musk juga sesumbar akan menggandakan kapasitas komputasi Colossus dalam hitungan bulan setelah ia dapat memperoleh 50.000 GPU Nvidia H200 yang baru dan lebih canggih. Chip ini kira-kira dua kali lebih kuat dari Nvidia H100.

Saat ini, GPU H100 dari Nvidia yang dirilis pada 2023, menjadi primadona dan sangat diminati di pasar chip untuk data center AI.

Grok menjadi chatbot pertama bikinan xAI, yakni perusahaan kecerdasan buatan milik Elon Musk

Dibangun untuk latih Grok

Superkomputer Colossus AI ini dibangun guna melatih dan menjalankan model bahasa besar (LLM) "Grok" generasi baru, yakni Grok-3. LLM Grok ini merupakan otak dari chatbot AI Grok yang bisa dinikmati oleh pelanggan berbayar di X/Twitter.

LLM Grok pertama diperkenalkan oleh xAI pada tahun 2023 sebagai respons atas keberhasilan para pesaingnya seperti GPT di ChatGPT, Gemini, Llama 3.1, dan Claude.

Kemudian, xAI merilis LLM Grok-2 versi beta pada bulan Agustus. Grok-2 dilaporkan dilatih oleh 15.000 unit GPU Nvidia H100.

Dengan Grok-2, chatbot AI di media sosial X (dahulu Twitter) ini menjanjikan peningkatan performa dibanding pendahulunya, serta dibekali kapabilitas baru untuk membuat (generate) gambar langsung dari X.

Nah, xAI berencana merilis Grok-3 pada bulan Desember mendatang. LLM generasi baru yang diklaim sebagai "yang terkuat" inilah yang akan dilatih dan dijalankan dengan Colossus yang dibekingi GPU Nvidia H100 sebanyak 100.000 unit, sebagaimana dihimpun KompasTekno dari Fortune, Rabu (4/9/2024).

Proyek superkomputer AI Colossus ini diyakini menelan biaya hingga miliaran dollar AS. Untuk membantu menyeimbangkan peluang di perlombaan AI global, xAI mengumpulkan 6 miliar dollar AS dalam putaran pendanaan Seri B pada bulan Mei, dengan bantuan pemodal ventura seperti Andreessen Horowitz dan Sequoia Capital, serta investor berkantong tebal seperti Fidelity dan Kingdom Holding milik pangeran Saudi Alwaleed bin Talal.