Elon Musk's Grok Chatbot Floods X with Controversial AI Images

Elon Musk's Grok Chatbot Floods X with Controversial AI Images

HOLIDAY NEWS - The AI chatbot Grok now allows users to create images from text instructions and publish them on the social media platform X. Just like X--formerly Twitter, the artificial intelligence company xAI that produces Grok is owned by Elon Musk. 

Unfortunately, Grok's latest ability brings with it controversy. X Premium subscribers, who get access to Grok, have posted everything from Barack Obama snorting cocaine to Donald Trump with a pregnant woman who resembles Kamala Harris, the current US vice president. 

With the US presidential election approaching and X already under fire from a number of communications regulators in Europe, it is predicted that Grok will add to the polemic regarding the risks of generative AI. 

Grok actually reveals the limits of his guidelines if users ask questions like this: what are your limits in generating images. Among the explanations given, Grok promised to avoid generating pornographic images, containing excessive violence, hatred, or those that encourage dangerous activities. 

Grok also expressed caution about images that might offend existing copyrights or brands. That includes well-known characters, logos, or content that could be considered intellectual property without a transformative element. 

Grok also promises not to generate images that could be used to deceive or harm others, such as deepfakes that are intended to mislead, or images that could be harmful in the real world.  

However, it is suspected that these are not the rules that actually apply. Instead, it's like an AI-generated predictive answer. 

The reason is, by repeating the same question over and over you will get answers containing different policies, some of which may not reflect a policy of caution regarding cultural sensitivity. 

The text version of Grok will balk if the instructions are something like how to make cocaine--which is also standard for chatbots. However, the images it creates can include images that would generally be immediately blocked by other chatbots. 

Mickey Mouse smoking and wearing a MAGA hat is one example of an AI generated image that Grok, a chatbot produced by xAI, can 'pass'. 

Advertisement

Case in point, Grok had no problem creating images of Donald Trump wearing a Nazi uniform, sexy Taylor Swift, Bill Gates snorting cocaine from a table with a Microsoft logo, and Barack Obama stabbing Joe Biden with a knife. 

Another example is the character Mickey Mouse drinking beer and smoking while wearing a MAGA (Make American Great Again) hat. Or, Taylor Swift in an airplane that was about to crash into the Twin Towers. Or, a bomb that blew up the Taj Mahal. 

Another experiment conducted by users onThat's what Christian Montessori proved, who made pictures of Elon Musk and Mickey Mouse holding guns among the bodies of bleeding children. "It could even be pornography if you get the right gap," he said. 

Grok is not the only way to get AI-generated violent, sexual and fake images. A number of open source software tools can also be misused to produce a variety of problematic content. The problem is that this is very unusual coming from an online chatbot belonging to a large technology company. 

In the case of Gemini, for example, Google immediately froze the image generation capabilities of its AI chatbot as soon as there was a problem with overcorrecting racial and gender stereotypes. 

Back to Grok. The problem that has now emerged is consistent with Elon Musk, who has been known to belittle AI standards and safety conventions on social media. The Grok controversy emerged at the same time as the European Commission began investigating X for potential violations of the Digital Safety Act. X is among those who have been asked for information this year about mitigating risks related to AI. 

Chatbot Grok Milik Elon Musk Banjiri X dengan Gambar AI Kontroversial

HOLIDAY NEWS - Chatbot AI Grok kini memungkinkan pengguna menciptakan gambar-gambar dari instruksi teks dan mempublikasikannya di platform media sosial X. Sama seperti X--dulu Twitter, perusahaan kecerdasan buatan xAI yang memproduksi Grok dimiliki Elon Musk. 

Sayangnya, kemampuan terkini Grok membawa serta kontroversi. Para pelanggan X Premium, yang mendapatkan akses ke Grok, telah mengunggah banyak, mulai dari Barrack Obama mengisap kokain sampai Donald Trump bersama wanita hamil yang menyerupai Kamala Harris, wakil Presiden AS saat ini.

Dengan agenda pemilihan presiden AS yang semakin dekat dan X yang sudah mendapat kecaman dari sejumlah regulator komunikasi di Eropa, Grok diprediksi bakal menambah polemik mengenai risiko-risiko dari AI generatif. 

Grok sebenarnya membeberkan batas panduan yang dimilikinya jika pengguna bertanya semacam ini: apa saja batasan anda dalam membangkitkan gambar. Di antara penjelasan yang diberikan itu, Grok menjanjikan menghindari membangkitkan gambar-gambar porno, mengandung kekerasan berlebihan, kebencian, atau yang mendorong aktivitas berbahaya. 

Grok juga menyatakan berhati-hati tentang gambar-gambar yang mungkin menyinggung hak cipta atau merek yang sudah ada. Itu termasuk karakter terkenal, logo, atau konten yang dapat dianggap properti intelektual tanpa sebuah unsur transformatif.

Grok berjanji pula tidak akan membangkitkan gambar yang dapat digunakan untuk menipu atau membahayakan orang lain, seperti deepfake yang dimaksudkan untuk menyesatkan, atau gambar-gambar yang bisa membahayakan di dunia nyata.  

Namun, semua itu diduga bukan aturan yang benar-benar berlaku. Sebaliknya, seperti jawaban prediktif bangkitan AI. 

Pasalnya, dengan mengulang-ulang pertanyaan yang senada akan didapat jawaban berisi kebijakan yang berbeda-beda, yang sebagian bisa tak mencerminkan kebijakan kehati-hatian terhadap sensitivitas budaya. 

Versi teks Grok akan menolak jika instruksinya seperti cara membuat kokain--yang juga berlaku standar untuk chatbot. Tapi, gambar yang dibuatnya bisa mencakup gambar-gambar yang umumnya akan diblok segera oleh chatbot lain. 

Mickey Mouse merokok dan mengenakan topi MAGA ini adalah satu contoh bangkitan gambar AI yang bisa 'diloloskan' Grok, chatbot produksi xAI

Iklan

Contoh kasusnya adalah Grok tak masalah membuatkan gambar Donald Trump mengenakan seragam Nazi, sexy Taylor Swift, Bill Gates mengisap kokain dari meja berlogo Microsoft, dan Barrack Obama menikam Joe Biden dengan pisau. 

Contoh lainnya adalah karakter Mickey Mouse sedang minum bir dan merokok sambil mengenakan topi MAGA (Make American Great Again). Atau, Taylor Swift dalam sebuah pesawat terbang yang hendak menghunjam Menara Twin Towers. Atau, sebuah bom yang meledakkan Taj Mahal. 

Eksperimen lain yang dilakukan pengguna di X menunjukkan bahkan kalaupun Grok menolak membangkitkan sebuah gambar, celah untuk memperdayanya mudah sekali ditemukan. Itu yang seperti dibuktikan Christian Montessori yang membuat gambar-gambar Elon Musk dan Mickey Mouse menggenggam senjata di antara jasad anak-anak yang berdarah-darah. "Bahkan bisa juga pornografi jika dapat celahnya yang pas," kata  dia. 

Grok bukan satu-satunya cara untuk bisa mendapatkan gambar-gambar kekerasan, seksual, dan palsu bangkitan AI. Sejumlah software tool sumber terbuka juga bisa disalahgunakan untuk menghasilkan beraneka konten bermasalah. Masalahnya adalah sangat tidak biasa ini datang dari sebuah chatbot online milik perusahaan teknologi besar. 

Dalam kasus Gemini, misalnya, Google langsung membekukan kemampuan bangkitan gambar chatbot AI miliknya itu begitu terjadi masalah overkoreksi stereotip ras dan gender.

Kembali ke Grok. Problem yang kini mengemuka konsisten dengan Elon Musk yang selama ini dikenal meremehkan standar AI dan konvensi keselamatan di media sosial. 

Kontroversi Grok muncul bersamaan dengan Komisi Eropa yang mulai menyelidiki X untuk potensi pelanggaran Undang-Undang Keselamatan Digital. X termasuk yang telah dimintai keterangannya pada tahun ini tentang mitigasi risiko terkait AI.