Dragged by Taylor Swift's AI porn photos, this is Microsoft's promise
Taylor Swift is considering taking legal action after becoming a victim of the use of pornographic images generated by artificial intelligence (AI). (AP/Natacha Pisarenko)
Microsoft was dragged into the case of Taylor Swift porn deepfakes due to the process of creating these images using Microsoft Designer. Responding to this, Microsoft CEO stated that they will fight against such deepfakes.
Satya Nadella, who is the CEO of Microsoft, revealed that Microsoft will act quickly in combating non-consensual sexual deepfake images as reported by detikINET from NBC, Thursday (1/2/2024).
"Yes, we have to act, I think we all benefit when the online world is a safe world. So, I don't think anyone wants an online world that is completely unsafe for content creators and content consumers. "Because of that, I think it's important for us to move quickly on this," Nadella said.
SCROLL TO CONTINUE WITH CONTENT
Nadella also commented on the deepfake AI porn about Taylor Swift as something very worrying and scary.
Microsoft is considered to be very involved in the Taylor Swift AI deepfake case. Previously, 404Media reported that in the 4chan and Telegram communities that produced pornographic AI deepfake images, Microsoft's AI was able to produce fake and explicit images.
In response, Microsoft said that it is investigating existing reports of deepfakes and taking immediate action.44
"Our Code of Conduct prohibits the use of our tools to create adult intimate or non-consensual content, and any repeated attempts to generate content that goes against our policies may result in loss of access to the service," Microsoft told 404Media.
Microsoft also gave a recent statement saying that they are committed to providing security for everyone and will immediately address misuse of their services.
"We take this report very seriously and are committed to providing a safe experience for everyone. We have investigated this report and have not been able to reproduce the explicit images in this report," said Microsoft.
"Our content security filters for explicit content are ongoing and we have found no evidence of them being bypassed so far. "Out of an abundance of caution, we have taken steps to strengthen our text filtering requests and address abuse of our services," they added.
Nadella believes that there must be fences that limit technology so that AI-generated content is safer. He also revealed that currently Microsoft has a large team tasked with providing safety barriers by filtering content and detecting system misuse.
In AI development, Microsoft has invested in creating their own AI technology by becoming a major investor in OpenAI. After that, Microsoft began to integrate their various products with AI, such as the presence of Copilot, which is a chatbot on Microsoft's search engine, Bing.
Terseret Foto Porno AI Taylor Swift, Ini Janji Microsoft
Taylor Swift mempertimbangkan mengambil langkah hukum usai menjadi korban penggunaan gambar porno hasil kecerdasan buatan (AI). (AP/Natacha Pisarenko)
Microsoft terseret dalam kasus deepfake porno Taylor Swift akibat proses penciptaan gambar tersebut menggunakan Microsoft Designer. Merespon ini, CEO Microsoft menyatakan bahwa mereka akan memerangi deepfake semacam itu.
Satya Nadella yang merupakan CEO Microsoft mengungkapkan bahwa Microsoft akan bertindak cepat dalam memerangi gambar-gambar deepfake secara seksual non-konsensual seperti dilansir detikINET dari NBC, Kamis (1/2/2024).
"Ya, kita harus bertindak, saya pikir kita semua mendapat manfaat ketika dunia online adalah dunia yang aman. Jadi, saya tidak berpikir ada orang yang menginginkan dunia online yang sama sekali tidak aman bagi pembuat konten dan konsumen konten. Karena itu, saya pikir penting bagi kita untuk bergerak cepat dalam hal ini," ungkap Nadella.
SCROLL TO CONTINUE WITH CONTENT
Nadella juga mengomentari deepfake AI porno soal Taylor Swift ini sebagai sesuatu yang sangat mengkhawatirkan sekaligus mengerikan.
Microsoft dinilai sangat terlibat dari kasus deepfake AI Taylor Swift tersebut. Sebelumnya 404Media melaporkan bahwa di komunitas 4chan dan Telegram yang menghasilkan gambar deepfake AI porno tersebut, AI Microsoft mampu menghasilkan gambar palsu dan eksplisit.
Menanggapi hal ini, Microsoft mengatakan bahwa mereka sedang menyelidiki laporan-laporan yang ada mengenai deepfake dan segera mengambil tindakan.44
"Kode Etik kami melarang penggunaan alat kami untuk membuat konten intim dewasa atau non-konsensual, dan setiap upaya berulang untuk menghasilkan konten yang bertentangan dengan kebijakan kami dapat mengakibatkan hilangnya akses ke layanan," ungkap Microsoft pada 404Media.
Microsoft juga memberi pernyataan terbaru yang mengatakan bahwa mereka berkomitmen untuk memberi rasa aman bagi semua orang dan akan segera mengatasi penyalahgunaan layanan mereka.
"Kami menanggapi laporan ini dengan sangat serius dan berkomitmen untuk memberikan pengalaman yang aman bagi semua orang. Kami telah menyelidiki laporan ini dan belum dapat mereproduksi gambar eksplisit dalam laporan ini," sebut Microsoft.
"Filter keamanan konten kami untuk konten eksplisit sedang berjalan dan kami belum menemukan bukti bahwa mereka dilewati sejauh ini. Karena sangat berhati-hati, kami telah mengambil langkah-langkah untuk memperkuat permintaan penyaringan teks kami dan mengatasi penyalahgunaan layanan kami," tambah mereka.
Nadella memandang bahwa harus ada pagar yang membatasi teknologi agar konten yang dihasilkan AI lebih aman. Ia juga mengungkap bahwa saat ini Microsoft memiliki tim besar yang bertugas untuk memberi pagar keselamatan dengan melakukan penyaringan konten sampai mendeteksi penyalahgunaan sistem.
Dalam pengembangan AI, Microsoft telah berinvestasi menciptakan teknologi AI mereka sendiri dengan menjadi investor utama di OpenAI. Setelah itu, Microsoft mulai mengintegrasikan berbagai produk mereka dengan AI seperti kehadiran Copilot yang merupakan chatbot di mesin pencarian asal Microsoft, Bing.