Horrified, Scientists Reveal the Possibility of AI Destroying Humanity
Illustration of AI (Artificial Intelligence) ()
AI (artificial intelligence) technology continues to develop and become more sophisticated. In fact, AI can now do various human jobs.
A survey of leading AI scientists says there is a 5% chance that AI will get out of control and wipe out humanity.
In the short term, researchers predict AI will become much more advanced. The technology will be able to create Top 40 pop songs, write books, assemble LEGO, translate new languages and create video games before 2030.
By 2063, researchers predict AI could do the work of a surgeon or even an AI researcher.
"While these AI researchers' predictions should not be seen as a reliable guide to objective truth, they may provide an important piece of the puzzle," said researchers from Berkeley and the University of Oxford who conducted the study last month. December 2023.
"Their familiarity with the technology and the dynamics of its past development puts them in a good position to make informed guesses about the future of AI," he continued.
This survey asked 2,778 scientists who have published peer-reviewed AI studies about their predictions about AI in the future, reported by Gizmodo.
As many as 68% said that AI would have a good rather than bad impact on humans. However, this means that there is a possibility that AI will become a new "doomsday" for humans.
This study highlights the perceived dangers surrounding the creation of powerful AI from the world's leading scientists.
There is broad agreement that research aimed at minimizing AI risks should be given more priority, but scientists are also divided on whether AI progress in general should be accelerated or slowed.
Additionally, more than 80% of AI researchers also expressed “extreme” or “substantial” concerns about AI enabling the spread of misinformation.
The majority of researchers expressed similar concerns about authoritarian rulers using AI to control their populations, AI systems exacerbating economic inequality, and AI's role in creating engineered viruses.
In December last year, OpenAI released its first paper on aligning super AI with human values.
Meanwhile, Anthropic has a constitution that governs its AI systems to ensure that they act in harmony with the rules of society.
However, will this method really work with AI models that are smarter than humans? That remains to be seen because current AI is not that smart.
Ngeri, Para Ilmuwan Ungkap Kemungkinan AI Musnahkan Umat Manusia
Ilustrasi AI (Artificial Intelligence) ()
Teknologi AI (artificial intelligence) terus mengalami perkembangan dan semakin canggih. Bahkan, AI kini bisa melakukan berbagai pekerjaan manusia.
Sebuah survei terhadap para ilmuwan AI terkemuka mengatakan bahwa ada 5% kemungkinan AI akan menjadi tidak terkendali dan memusnahkan umat manusia.
Dalam jangka pendek, para peneliti memperkirakan AI akan menjadi jauh lebih maju. Teknologi itu bakal mampu menciptakan lagu pop Top 40, menulis buku, merakit LEGO, menerjemahkan bahasa baru, dan membuat video game sebelum tahun 2030.
Pada tahun 2063, para peneliti memperkirakan AI dapat melakukan pekerjaan seorang ahli bedah atau bahkan peneliti AI.
"Meskipun prediksi para peniliti AI ini tidak boleh dilihat sebagai panduan yang dapat diandalkan untuk kebenaran yang obyektif, mereka dapat memberikan satu bagian penting dari teka-teki ini," kata para peneliti dari Berkeley dan University of Oxford yang melakukan penelitian ini pada bulan Desember 2023.
"Keakraban mereka dengan teknologi dan dinamika perkembangannya di masa lalu menempatkan mereka pada posisi yang baik untuk membuat tebakan yang tepat tentang masa depan AI," lanjutnya.
Survei ini menanyakan kepada 2.778 ilmuwan yang telah mempublikasikan studi AI yang telah ditinjau oleh sesama ilmuwan tentang prediksi mereka tentang AI di masa depan, dilansir dari Gizmodo.
Sebanyak 68% mengatakan bahwa AI akan memberikan dampak baik dibandingkan buruk bagi manusia. Namun demikian, artinya ada kemungkinan AI menjadi "kiamat" baru bagi manusia.
Studi ini menyoroti bahaya yang dirasakan seputar penciptaan AI yang kuat dari para ilmuwan terkemuka di dunia.
Ada kesepakatan luas bahwa penelitian yang bertujuan meminimalkan risiko AI harus lebih diprioritaskan, tetapi pandangan para ilmuwan juga terpecah mengenai apakah kemajuan AI secara umum harus dipercepat atau diperlambat.
Selain itu, lebih dari 80% peneliti AI juga menyatakan kekhawatiran "ekstrem" atau "substansial" tentang AI yang memungkinkan penyebaran misinformasi.
Mayoritas peneliti mengungkapkan kekhawatiran serupa tentang penguasa otoriter yang menggunakan AI untuk mengendalikan populasi mereka, sistem AI yang memperburuk ketidaksetaraan ekonomi, dan peran AI dalam menciptakan virus yang direkayasa.
Pada bulan Desember tahun lalu, OpenAI merilis makalah pertamanya tentang menyelaraskan AI super dengan nilai-nilai kemanusiaan.
Sementara itu, Anthropic memiliki konstitusi yang mengatur sistem AI-nya untuk memastikan bahwa mereka bertindak selaras dengan aturan di masyarakat.
Namun, apakah metode ini akan benar-benar berhasil dengan model AI yang lebih pintar dari manusia? Hal itu masih harus dilihat karena AI saat ini belum sepintar itu.
Post a Comment