YouTube Launches AI-Based Fake Content Detection Feature

YouTube Launches AI-Based Fake Content Detection Feature

YouTube. FOTO/ CNET

LONDON - YouTube recently announced the development of new tools to protect creators from artificial Intelligence (AI)-based content, such as deepfakes. 

The tool is designed to address serious issues arising from deepfake technology, which can accurately imitate a creator's voice and face, often for detrimental purposes. 

While AI is often used to support creativity, misuse of this technology has resulted in a lot of disturbing deepfake content. To solve this problem, YouTube has launched two new tools. 

The first tool being developed by YouTube is technology to identify synthetic singing in Content ID. This technology is designed to detect artificial voices that imitate artists or creators in songs. 

YouTube explains, "(the tool) automatically detects and manages AI-generated content that mimics their singing voices. We are refining this technology with our partners, and a pilot program is planned for early next year."

The second tool is technology designed to detect fake faces in AI-generated content. This technology aims to help creators overcome misuse of their faces on YouTube. 

"We are actively developing new technology that enables a wide range of industries from creators and actors to musicians and athletes to detect and manage AI-generated content featuring their faces on YouTube," YouTube said. 

YouTube is committed to working with their partners to ensure future development of these tools. "We will continue to develop barriers to overcome problems and achieve our shared goals," YouTube said on its official website. 

With the launch of this tool, YouTube hopes to provide better protection for creators, maintain content integrity, and minimize the negative impact of misuse of AI technology. 

YouTube Luncurkan Fitur Deteksi Konten Tiruan Berbasis AI

YouTube. FOTO/ CNET

LONDON - YouTube baru-baru ini mengumumkan pengembangan alat baru untuk melindungi kreator dari konten tiruan berbasis Kecerdasan Buatan (AI), seperti deepfake.

Alat ini dirancang untuk menangani masalah serius yang muncul dari teknologi deepfake, yang dapat meniru suara dan wajah kreator secara akurat, sering kali untuk tujuan yang merugikan.

Meskipun AI sering digunakan untuk mendukung kreativitas, penyalahgunaan teknologi ini menghasilkan banyak konten deepfake yang meresahkan. Untuk mengatasi masalah ini, YouTube telah meluncurkan dua alat baru.

Alat pertama yang sedang dikembangkan oleh YouTube adalah teknologi untuk mengidentifikasi nyanyian sintetis dalam Content ID. Teknologi ini dirancang untuk mendeteksi suara tiruan yang meniru artis atau kreator dalam lagu.

YouTube menjelaskan, "(alat ini) secara otomatis mendeteksi dan mengelola konten yang dihasilkan AI yang menirukan suara nyanyian mereka. Kami sedang menyempurnakan teknologi ini dengan mitra kami, dan program percontohan direncanakan untuk awal tahun depan."

Alat kedua adalah teknologi yang dirancang untuk mendeteksi wajah tiruan dalam konten buatan AI. Teknologi ini bertujuan membantu kreator dalam mengatasi penyalahgunaan wajah mereka di YouTube.

"Kami aktif mengembangkan teknologi baru yang memungkinkan berbagai industri dari kreator dan aktor hingga musisi dan atlet untuk mendeteksi dan mengelola konten buatan AI yang menampilkan wajah mereka di YouTube," ungkap YouTube.

YouTube berkomitmen untuk bekerja sama dengan mitra mereka untuk memastikan perkembangan alat ini di masa mendatang. "Kami akan terus mengembangkan pembatas untuk mengatasi masalah dan mencapai tujuan bersama kami," kata YouTube di situs resminya.

Dengan peluncuran alat ini, YouTube berharap dapat memberikan perlindungan yang lebih baik bagi para kreator, menjaga integritas konten, dan meminimalisir dampak negatif dari penyalahgunaan teknologi AI.