Bahaya Serangan Deepfake AI dan Upaya Perlawanannya

Halo sobat MI, Tahukah kalian tentang Deepfake?

Deepfake menggunakan AI untuk menghasilkan video atau audio yang benar-benar baru, dengan tujuan akhir untuk menggambarkan sesuatu yang sebenarnya tidak terjadi pada kenyataannya. Istilah "deepfake" berasal dari teknologi yang mendasarinya, yakni algoritma pembelajaran mendalam, yang memungkinkan mesin belajar sendiri untuk memecahkan masalah dengan kumpulan data yang besar dan dapat digunakan untuk membuat konten palsu dari orang sungguhan. Sementara itu, menurut Britannica, istilah deepfake menggabungkan kata deep, yang diambil dari teknologi deep-learning AI atau sebuah jenis pembelajaran mesin yang melibatkan beberapa tingkat pemrosesan, dan fake, yang merujuk pada konten tidak nyata. Istilah ini mulai digunakan untuk media sintetis pada tahun 2017 ketika seorang moderator Reddit membuat subreddit yang disebut "deepfakes" dan mulai memposting video yang menggunakan teknologi penukaran wajah untuk menyisipkan kemiripan selebritas ke dalam video porno

Ciri-ciri Deepfake yang dapat dikenali AI

Deepfake sering kali sulit dibedakan dengan konten asli karena kemajuan teknologi AI dalam menghasilkan gambar dan video yang realistis. Namun, HONOR AI Deepfake Detection menggunakan pendekatan komprehensif untuk mengidentifikasi deepfake dengan menganalisis beberapa elemen seperti:

1. Ketidaksempurnaan piksel pada area wajah yang dihasilkan AI.
2. Artefak komposit pada tepi gambar yang menunjukkan manipulasi digital.
3. Konsistensi antara frame video untuk mendeteksi perubahan abnormal.
4. Keanehan pada gaya rambut dan posisi telinga yang sering tidak selaras dengan wajah asli.
5. Gangguan visual seperti jitter dan flicker yang muncul akibat proses penyuntingan AI.

"Teknologi AI Deepfake Detection HONOR adalah solusi AI berbasis perangkat yang secara ahli mendeteksi pemalsuan wajah dan memperingatkan pengguna tentang potensi risiko dengan cepat. Dilatih dengan dataset besar dari video dan gambar, teknologi ini dapat dengan cepat mendeteksi serta memberi peringatan kepada pengguna mengenai wajah yang dihasilkan atau diubah," ujar Juru Bicara HONOR, Justin Li. Dengan kemampuan ini, fitur AI Deepfake Detection dapat memberikan peringatan dini kepada pengguna jika terdapat indikasi konten yang telah dimanipulasi.

Upaya dunia dalam melawan penyebaran Deepfake

Sejumlah perusahaan teknologi dunia turut bergerak dalam melawan penyebaran deepfake dengan mengembangkan berbagai sistem keamanan. Adobe, Arm, Intel, Microsoft, dan Truepic misalnya, yang mendirikan Content Provenance and Authenticity (C2PA) untuk mengembangkan standar sertifikasi konten digital. Microsoft menggunakan AI untuk mendeteksi deepfake dengan fitur otomatis yang mengaburkan wajah dalam konten yang diunggah ke Copilot. Truepic dan Qualcomm mengembangkan teknologi enkripsi media di Snapdragon® 8 Gen 3 Mobile Platform untuk memastikan keaslian konten sejak pertama kali dibuat. McAfee memanfaatkan AI Snapdragon X Elite NPU untuk mendeteksi deepfake secara lokal, meningkatkan kecepatan dan menjaga privasi pengguna.

Selain itu, teknologi AI berbasis perangkat menjadi salah satu langkah efektif dalam menghadapi deepfake. Hal ini sebagaimana disampaikan oleh Marco Kamiya, perwakilan UNIDO Kantor Sub-Regional di Jakarta.AI Deepfake Detection dapat mengidentifikasi anomali seperti gerakan mata, pencahayaan, kejelasan gambar, serta pemutaran video, yang sering kali luput dari perhatian manusia.

Langkah ini penting mengingat 49% perusahaan telah mengalami serangan deepfake audio dan video dalam periode November 2023 hingga November 2024. Sayangnya, 61% eksekutif bisnis mengakui belum memiliki protokol khusus untuk menangani risiko deepfake. Oleh karena itu, adopsi teknologi AI Deepfake Detection menjadi solusi yang krusial dalam melindungi individu maupun bisnis. HONOR hadir dengan solusi inovatif melalui teknologi AI Deepfake Detection, sebuah fitur berbasis AI yang mampu mendeteksi pemalsuan wajah secara real-time di perangkat seluler. Teknologi ini dirancang untuk melindungi pengguna dari konten sintetis yang sulit dikenali oleh mata manusia.

Kesimpulan

Deepfake adalah media palsu (video/audio) buatan AI yang sangat realistis. Meskipun sulit dikenali, AI dapat mendeteksinya melalui ciri-ciri seperti cacat piksel dan inkonsistensi. Perusahaan seperti HONOR mengembangkan AI deteksi deepfake berbasis perangkat untuk memberi peringatan real-time. Upaya global juga dilakukan melalui kolaborasi (C2PA) dan teknologi dari Microsoft, Qualcomm, dan McAfee. Deteksi ini sangat penting karena serangan deepfake marak (49% perusahaan terdampak) namun kesiapan menghadapinya masih rendah (61% belum punya protokol).