Google Gets Blasphemed After Giving Misguided Answers
- Google has been flooded with insults after providing strange answers to search results for their AI products. The new product, called AI Overviews from Google, gives misleading answers, from asking users to put glue on pizza to suggesting that they eat rocks.
At the Google I/O 2024 event, the search giant introduced the AI Overviews feature. However, not long after this feature was launched, many users manually disabled it for certain searches when various were posted.
This has been questioned by many, because Google has been testing AI Overviews for a year, and this feature was launched in beta in May 2023 as a Generative Search Experience. At that time, CEO Sundar Pichai said that the company served more than one billion queries during beta testing.
But Pichai also said that Google had lowered the cost of delivering AI answers by 80 percent in the same period, driven by hardware, engineering and technical breakthroughs. Some experts argue that such optimization may happen too early, before the technology is ready.
"A company that was once known as a leading company and delivering high-quality goods, is now known for low-quality output that becomes a meme," said one of AI's founders, who did not want to be named, quoted from The Verge, Monday (27/5 /2024).
Gary Marcus, an AI expert from New York University, said that many AI companies are simply "selling the dream" that the technology will progress from 80 percent to 100 percent.
"Achieving the initial 80 percent is relatively easy because it involves approximating a large amount of human data," Marcus said
However, he continued, the last 20 percent was very challenging. In fact, according to Marcus, the last 20 percent that companies have to work on is probably the hardest part.
"You actually need to do some deliberation to decide: is this reasonable? Is this source legitimate? You have to do things that a human fact checker might do, which might require artificial general intelligence," Marcus said.
Marcus and Meta AI head Yann LeCun both agree that the large language models that power current AI systems like Google Gemini and OpenAI GPT-4 will not create AGI. Google says its AI Overviews product delivers mostly high-quality information to users. "Many of the examples we saw were unusual questions, and we also saw examples that were doctored or that we couldn't reproduce," said Google spokesperson Meghann Farnsworth.
Farnsworth also confirmed that the company "took swift action" to remove AI Overviews on certain questions where appropriate under its content policy, and used these examples to develop broader improvements to the system some of whichhas been launched. While Google itself has big plans for AI Overviews, the current features are just a fraction of what the company announced last week.
"[These models] are constitutionally incapable of doing a 'sanity' check on their own work, and that's what then hurts the industry," Marcus said.
Google Dihujat Habis-habisan Setelah Kasih Jawaban Sesat
- Google banjir hujatan usai memberikan jawaban nyeleneh dari hasil pencarian produk AI mereka. Produk baru bernama AI Overviews dari Google itu memberi jawaban sesat, mulai dari meminta pengguna menempelkan lem pada pizza hingga menyarankan agar mereka makan batu.
Dalam ajang Google I/O 2024, perusahaan raksasa pencarian itu memperkenalkan fitur AI Overviews. Namun tak lama setelah fitur ini meluncur, pengguna banyak yang menonaktifkannya secara manual untuk pencarian tertentu saat berbagai diposting.
Hal ini banyak dipertanyakan, karena Google telah menguji AI Overviews selama satu tahun, dan fitur ini sudah lebih dulu diluncurkan dalam versi beta pada Mei 2023 sebagai Pengalaman Generatif Penelusuran. Saat itu, CEO Sundar Pichai mengatakan bahwa perusahaan melayani lebih dari satu miliar kueri ketika uji coba versi beta.
Namun Pichai juga mengatakan bahwa Google telah menurunkan biaya penyampaian jawaban AI sebesar 80 persen pada periode yang sama, karena didorong oleh terobosan perangkat keras, teknik, dan teknis. Beberapa ahli berpendapat, pengoptimalan semacam itu mungkin terjadi terlalu dini, sebelum teknologinya siap.
"Sebuah perusahaan yang dahulu dikenal sebagai perusahaan terdepan dan mengirimkan barang-barang berkualitas tinggi, kini dikenal dengan keluaran berkualitas rendah yang menjadi meme," kata salah satu pendiri AI, yang tidak ingin disebutkan namanya, dikutip dari The Verge, Senin (27/5/2024).Gary Marcus, pakar AI dari Universitas New York, mengatakan bahwa banyak perusahaan AI hanya "menjual impian" bahwa teknologi ini akan berkembang dari 80 persen menjadi 100 persen. "Mencapai 80 persen awal relatif mudah karena melibatkan perkiraan sejumlah besar data manusia," kata Marcus
Namun, lanjut dia, 20 persen terakhir sangatlah menantang. Faktanya, menurut Marcus, 20 persen terakhir yang harus dikerjakan perusahaan kemungkin merupakan bagian tersulit.
"Anda sebenarnya perlu melakukan beberapa pertimbangan untuk memutuskan: apakah hal ini masuk akal? Apakah sumber ini sah? Anda harus melakukan hal-hal seperti yang mungkin dilakukan oleh pemeriksa fakta manusia, yang mungkin memerlukan kecerdasan umum buatan," ujar Marcus.
Marcus dan kepala AI Meta Yann LeCun sama-sama setuju bahwa model bahasa besar yang mendukung sistem AI saat ini seperti Google Gemini dan OpenAI GPT-4 tidak akan menciptakan AGI. Google mengatakan bahwa produk AI Overviews-nya sebagian besar menghasilkan informasi berkualitas tinggi kepada pengguna. "Banyak contoh yang kami lihat merupakan pertanyaan yang tidak biasa, dan kami juga melihat contoh yang direkayasa atau tidak dapat kami reproduksi," ujar juru bicara Google Meghann Farnsworth.
Farnsworth juga menegaskan bahwa perusahaan tersebut "mengambil tindakan cepat" untuk menghapus AI Overviews pada pertanyaan tertentu jika sesuai berdasarkan kebijakan konten, dan menggunakan contoh-contoh ini untuk mengembangkan perbaikan yang lebih luas pada sistem yang beberapa di antaranya sudah diluncurkan.
Google sendiri memiliki rencana besar untuk AI Overviews, fitur yang ada saat ini hanyalah sebagian kecil dari yang diumumkan perusahaan pekan lalu. "[Model-model ini] secara konstitusional tidak mampu melakukan pemeriksaan 'kewarasan' atas pekerjaan mereka sendiri, dan itulah yang kemudian merugikan industri," kata Marcus.