Microsoft Restricts State-Sponsored Hackers for Mastering OpenAI Artificial Intelligence
Tom Burt, Microsoft Vice President of Customer Security, (photo: x @TomBurt45)
- On Wednesday, February 14, a report was published stating that state-backed hackers from Russia, China , and Iran have used tools from Microsoft-backed OpenAI to improve their skills and deceive their targets.
Microsoft announced these findings as it implemented a blanket ban on state-backed hacking groups from using its artificial intelligence (AI) products.
Tom Burt, Microsoft's Vice President of Customer Security, stated in an interview with Reuters prior to the release of the report that they did not want actors they identified as threat actors to have access to the technology, regardless of violation of law or regulations. service.
A hacking group allegedly working on behalf of Russia's military intelligence agency, the GRU, used large language models to study satellite and radar technology related to conventional military operations in Ukraine.
North Korean hackers used the model to generate content that would likely be used in a spear-phishing campaign against regional experts. Iranian hackers also exploited the model to write more convincing emails, even trying to attract "prominent feminists" to the trapped websites.
Microsoft and OpenAI describe hackers' use of AI tools as "early stage" and "incremental." They stated that there has been no visible breakthrough from the hackers.
The ban covers state-backed hacking groups, including those allegedly affiliated with the military intelligence agencies of Russia, Iran, and the governments of China and North Korea. This raises concerns about the rapid proliferation of AI technology and its potential for abuse. Senior cybersecurity officials in the West have warned since last year that bad actors are using such tools, although details remain scant.
Microsoft confirmed that the ban covers all of their AI products, but does not include their search engine, Bing. This was done due to concerns about the use of this new and powerful AI technology.
In the interview, Burt also defended his zero-tolerance ban on hacker groups by expressing concern about the spread of AI technology. He stated that this technology is new and very powerful.
Microsoft Batasi Hacker yang Disponsori Negara karena Kuasai Kecerdasan Buatan OpenAI
Tom Burt, Wakil Presiden Keamanan Pelanggan Microsoft, (foto: x @TomBurt45)
- Pada Rabu, 14 Februari, sebuah laporan yang diterbitkan menyatakan bahwa peretas yang didukung negara dari Rusia, China , dan Iran telah menggunakan alat dari OpenAI yang didukung oleh Microsoft untuk meningkatkan keterampilan mereka dan menipu target mereka.
Microsoft mengumumkan temuan ini saat menerapkan larangan menyeluruh bagi kelompok peretas yang didukung negara untuk menggunakan produk kecerdasan buatan (AI) mereka.
Tom Burt, Wakil Presiden Keamanan Pelanggan Microsoft, menyatakan dalam sebuah wawancara dengan Reuters sebelum rilis laporan bahwa mereka tidak ingin aktor-aktor yang mereka identifikasi sebagai pelaku ancaman memiliki akses ke teknologi tersebut, terlepas dari pelanggaran hukum atau ketentuan layanan.
Kelompok peretas yang diduga bekerja atas nama badan intelijen militer Rusia, GRU, menggunakan model bahasa besar untuk mempelajari teknologi satelit dan radar yang berkaitan dengan operasi militer konvensional di Ukraina.
Hacker Korea Utara menggunakan model untuk menghasilkan konten yang kemungkinan akan digunakan dalam kampanye spear-phishing terhadap pakar regional. Hacker Iran juga memanfaatkan model tersebut untuk menulis email yang lebih meyakinkan, bahkan mencoba menarik "feminis terkemuka" ke situs web yang terjebak.
Microsoft dan OpenAI menggambarkan penggunaan alat AI oleh peretas sebagai "tahap awal" dan "inkremental." Mereka menyatakan bahwa belum ada terobosan yang terlihat dari para peretas.
Larangan tersebut mencakup kelompok peretas yang didukung negara, termasuk yang diduga berafiliasi dengan badan intelijen militer Rusia, Iran, dan pemerintahan China dan Korea Utara. Ini menimbulkan kekhawatiran tentang proliferasi teknologi AI yang cepat dan potensinya untuk disalahgunakan. Para pejabat keamanan siber senior di Barat telah memperingatkan sejak tahun lalu bahwa aktor-aktor nakal menggunakan alat-alat semacam itu, meskipun detailnya masih minim.
Microsoft menegaskan bahwa larangan tersebut mencakup semua produk AI mereka, tetapi tidak termasuk mesin pencari mereka, Bing. Hal ini dilakukan karena kekhawatiran tentang penggunaan teknologi AI yang baru dan kuat ini.
Dalam wawancara tersebut, Burt juga membela larangan nol toleransi terhadap kelompok peretas dengan menunjukkan kekhawatiran tentang penyebaran teknologi AI. Dia menyatakan bahwa teknologi ini baru dan sangat kuat.