The Impact of AI in the Digital Space, Ordinary People Can Become Dangerous Hackers
- The development of artificial intelligence (AI) based technology is increasingly rapid. This could be bad for the security of the digital space.
The UK's National Cyber Security Center (NCSC) says AI could help improve ransomware threats. It is estimated that these side effects will get worse in the next two years, as quoted by Bleeping Computer.
NCSC believes that AI can turn ordinary people into dangerous hackers. With AI, people no longer need to spend time learning to launch ransomware because artificial intelligence can do it instantly.
While most AI platforms such as ChatGPT and Bing Chat have safeguards in place to prevent the platforms from creating anything malicious, the NCSC warns cybercriminals are designing and marketing generative AI services specifically to support criminal activity.
Take WormGPT, for example, a paid service that allows users to generate malicious content, including malware and phishing lures. This shows the technology has escaped the confines of a controlled and secure framework.
"Threat actors, including ransomware actors, are already using AI to improve the efficiency and effectiveness of aspects of cyber operations, such as reconnaissance, phishing, and coding. This trend will almost certainly continue through 2025 and beyond," the NCSC said.
The report notes, the role of AI in the cyber risk landscape is expected to be evolutionary, enhancing existing threats, rather than transformative. According to the NCSC, AI enhances reconnaissance and social engineering, making them more effective and harder to detect.
Additionally, AI can also lower the barriers to entry for novice cybercriminals, thereby contributing to the global ransomware threat. And it says by 2025, the commoditization of AI capabilities will likely expand access to advanced tools for cybercriminals and state actors.
Overall, the NCSC warns, generative AI and large language models will make it difficult for everyone, regardless of experience and skill level, to identify phishing, spoofing and social engineering attempts.
Editor: Dini Listiyani
Follow iNews News on Google News
Send your questions about the law, we are ready to answer and help with your problems.
Dampak AI di Ruang Digital, Orang Awam Bisa Jadi Hacker Berbahaya
- Perkembangan teknologi berbasis artificial intelligence (AI) semakin pesat. Ini bisa berdampak buruk untuk keamanan ruang digital.
Pusat Keamanan Siber Nasional (NCSC) Inggris mengatakan AI bisa membantu meningkatkan ancaman ransomware. Diperkirakan efek samping ini semakin buruk dalam dua tahun ke depan, sebagaimana dikutipi dari Bleeping Computer.
NCSC percaya, AI dapat menjadikan orang awam menjadi hacker berbahaya. Dengan AI, orang tidak perlu lagi menghabiskan waktu belajar melancarkan ransomware karena kecerdasan buatan dapat melakukannya secara instan.
Meski sebagian besar platform AI seperti ChatGPT dan Bing Chat memiliki perlindungan untuk mencegah platform membuat sesuatu yang berbahaya, NCSC memperingatkan penjahat dunia maya sedang merancang dan memasarkan layanan AI generatif khusus mendukung aktivitas kriminal.
Sebagai contoh WormGPT, layanan berbayar yang memungkinkan pengguna menghasilkan konten berbahaya, termasuk malware dan umpan phishing. Ini menunjukkan teknologi telah lolos dari batasan kerangkan kerja yang terkendali dan aman.
"Pelaku ancaman, termasuk pelaku ransomware, sudah menggunakan AI untuk meningkatkan efisiensi dan efektivitas aspek operasi siber, seperti pengintaian, phishing, dan pengkodean. Tren ini hampir pasti akan berlanjut hingga tahun 2025 dan seterusnya," kata NCSC.
Laporan mencatat, peran AI dalam landskap risiko siber diperkirakan bersifat evolusioner, meningkatkan ancaman yang ada, dan bukannya bersifat transformatif. Menurut NCSC, AI meningkatkan pengintaian dan rekayasa sosial, menjadikannya lebih efektif dan sulit dideteksi.
Selain itu, AI juga bisa menurunkan hambatan masuk bagi penjahat dunia maya pemula, sehingga berkontribusi terhadap ancaman ransomware global. Dan dikatakan pada tahun 2025, komoditis kemampuan AI kemungkinan akan memperluas akses terhadap alat-alat canggih bagi penjahat dunia maya dan aktor negara.
Secara keseluruhan, NCSC memperingatkan, AI generatif dan model bahasa yang besar akan mempersulit semua orang, terlepas dari pengalaman dan tingkat keahliannya, untuk mengidentifikasi upaya phishing, spoofing, dan rekayasa sosial.
Editor : Dini Listiyani
Follow Berita iNews di Google News
Kirimkan pertanyaanmu seputar hukum, Kami siap menjawab dan membantu permasalahanmu.