Sora OpenAI Garisbawahi Ancaman Deepfake yang Semakin Meningkat

(SeaPRwire) –   Ketika OpenAI merilis aplikasi penghasil video AI-nya, Sora, pada bulan September, mereka bahwa “Anda memegang kendali penuh atas kemiripan Anda dari ujung ke ujung.” Aplikasi ini memungkinkan pengguna untuk memasukkan diri mereka sendiri dan teman-teman mereka ke dalam video melalui fitur yang disebut “cameos”—aplikasi ini memindai wajah pengguna dan melakukan pemeriksaan keaslian, memberikan data untuk menghasilkan video pengguna dan untuk mengotentikasi persetujuan mereka agar teman-teman menggunakan kemiripan mereka di aplikasi.

Namun, Reality Defender, sebuah perusahaan yang berspesialisasi dalam mengidentifikasi deepfake, mengatakan bahwa mereka mampu melewati perlindungan anti-peniruan Sora dalam waktu 24 jam. Platform seperti Sora memberikan “rasa aman yang masuk akal,” kata CEO Reality Defender, Ben Colman, meskipun faktanya “siapa pun dapat menggunakan alat yang benar-benar siap pakai” untuk melewati otentikasi sebagai orang lain.

Para peneliti Reality Defender menggunakan rekaman publik dari individu-individu terkenal, termasuk CEO dan penghibur, dari panggilan pendapatan dan wawancara media. Perusahaan berhasil menembus perlindungan dengan setiap kemiripan yang mereka coba tiru. Colman berpendapat bahwa “setiap anak kelas 10 yang pintar” dapat mengetahui alat yang digunakan perusahaannya.

Seorang juru bicara OpenAI mengatakan dalam pernyataan email kepada TIME bahwa “para peneliti membangun sistem deepfake canggih dari para CEO dan penghibur untuk mencoba melewati perlindungan tersebut, dan kami terus memperkuat Sora untuk membuatnya lebih tahan terhadap penyalahgunaan semacam ini.” 

Rilis Sora, dan penanggulangan mekanisme otentikasinya yang cepat, adalah pengingat bahwa masyarakat tidak siap untuk gelombang berikutnya dari deepfake yang semakin realistis dan dipersonalisasi. Kesenjangan antara teknologi yang maju dan regulasi yang tertinggal membuat individu harus menavigasi lanskap informasi yang tidak pasti—dan untuk melindungi diri mereka sendiri dari kemungkinan penipuan dan pelecehan.

“Platform benar-benar tahu bahwa ini terjadi, dan benar-benar tahu bahwa mereka dapat menyelesaikannya jika mereka mau. Tetapi sampai peraturan menyusul—kita melihat hal yang sama di semua platform media sosial—mereka tidak akan melakukan apa pun,” kata Colman.

Sora mencapai 1 juta unduhan dalam waktu kurang dari lima hari—lebih cepat dari ChatGPT, yang pada saat itu merupakan aplikasi konsumen dengan pertumbuhan tercepat—meskipun mengharuskan pengguna untuk memiliki undangan, menurut Bill Peebles, kepala Sora di OpenAI. Rilis OpenAI mengikuti penawaran serupa dari Meta yang disebut Vibes, yang terintegrasi ke dalam aplikasi Meta AI.

Meningkatnya aksesibilitas deepfake yang meyakinkan telah mengkhawatirkan beberapa pengamat. “Kenyataannya adalah bahwa mengenali [deepfake] dengan mata telanjang menjadi hampir mustahil, mengingat kemajuan pesat dalam kemampuan text-to-image, text-to-video, dan kloning audio,” kata Jennifer Ewbank, mantan wakil direktur inovasi digital di CIA, dalam sebuah email kepada TIME.

Regulator telah bergulat dengan cara mengatasi deepfake setidaknya sejak tahun 2019, ketika Presiden Trump undang-undang yang mengharuskan Direktur Intelijen Nasional untuk menyelidiki penggunaan deepfake oleh pemerintah asing. Namun, seiring meningkatnya aksesibilitas deepfake, fokus legislasi telah bergerak lebih dekat ke rumah. Pada Mei 2025, Take It Down Act di menjadi hukum federal, melarang publikasi daring “gambaran visual intim” dari anak di bawah umur dan orang dewasa yang tidak menyetujui, dan mengharuskan platform untuk menghapus konten yang melanggar dalam waktu 48 jam setelah permintaan—tetapi penegakan hukum baru akan pada Mei 2026.

Legislasi yang melarang deepfake bisa jadi sulit. “Ini sebenarnya sangat rumit, secara teknis dan hukum, karena ada kekhawatiran Amandemen Pertama tentang menghapus ujaran tertentu,” kata Jameson Spivack, wakil direktur kebijakan AS di Future of Privacy Forum. Pada bulan Agustus, seorang hakim federal membatalkan undang-undang deepfake California, yang bertujuan untuk membatasi konten deepfake yang dihasilkan AI selama pemilihan, setelah X milik Elon Musk negara bagian tersebut dengan alasan bahwa undang-undang tersebut melanggar perlindungan Amandemen Pertama. Akibatnya, persyaratan untuk melabeli konten yang dihasilkan AI lebih umum daripada larangan langsung, kata Spivack.

Pendekatan menjanjikan lainnya adalah agar platform mengadopsi skema know-your-customer yang lebih baik, kata Fred Heiding, seorang peneliti di Program Pertahanan, Teknologi Baru, dan Strategi Universitas Harvard. Skema know-your-customer mengharuskan pengguna platform seperti Sora untuk masuk menggunakan identifikasi yang diverifikasi, meningkatkan akuntabilitas dan memungkinkan pihak berwenang untuk melacak perilaku ilegal. Tetapi ada trade-off di sini juga. “Masalahnya adalah kita sangat menghargai anonimitas di Barat,” kata Heiding. “Itu bagus, tetapi anonimitas memiliki biaya, dan biayanya adalah hal-hal ini sangat sulit untuk ditegakkan.”

Sementara legislator bergulat dengan meningkatnya prevalensi dan realisme deepfake, individu dan organisasi dapat mengambil langkah-langkah untuk melindungi diri mereka sendiri. Spivack merekomendasikan penggunaan perangkat lunak otentikasi seperti , yang dikembangkan oleh Coalition for Content Provenance and Authenticity, yang menambahkan metadata tentang asal-usul ke gambar dan video. Kamera dari dan mendukung watermark, seperti halnya . Menggunakan otentikasi semacam itu meningkatkan kepercayaan pada gambar asli, dan merusak gambar palsu.

Saat lanskap informasi online berubah, membuatnya lebih sulit untuk mempercayai hal-hal yang kita lihat dan dengar secara online, anggota parlemen dan individu harus membangun ketahanan masyarakat terhadap media palsu. “Semakin kita mengembangkan ketahanan itu, semakin sulit bagi siapa pun untuk memonopoli perhatian kita dan memanipulasi kepercayaan kita,” kata Ewbank.

“`