Krisis deepfake Grok, dijelaskan

(SeaPRwire) –   Selamat kembali di In the Loop, buletin baru TIME yang diterbitkan dua kali seminggu tentang AI. Kami menerbitkan edisi-edisi ini baik sebagai cerita di Time.com maupun sebagai email. Jika Anda membaca ini di browser Anda, mengapa tidak untuk menerima edisi selanjutnya langsung ke kotak masuk Anda?

Apa yang Perlu Diketahui: Krisis Deepfake di X

Tren yang mengkhawatirkan— Dalam beberapa minggu terakhir, banyak pemimpin teknologi telah membuat prediksi berani tentang apa yang akan dicapai AI pada 2026, dari bidang biologi hingga . Namun pada minggu pertama 2026, penggunaan AI yang paling terlihat adalah pengguna X yang menggunakan Grok untuk menanggalkan pakaian wanita secara digital.

Platform X milik Elon Musk saat ini dipenuhi dengan gambar buatan AI tanpa izin, yang diminta oleh pengguna, dari wanita, pria, dan anak-anak yang telanjang atau berpakaian seadanya, terkadang dalam posisi seksual. Seorang analis yang bekerja dengan Wired lebih dari 15.000 gambar buatan AI yang bersifat seksual yang dibuat selama periode dua jam pada 31 Desember.

Musk memperkenalkan ‘Spicy Mode’ Grok untuk menghasilkan konten dewasa pada musim panas lalu, dan kemudian meluncurkan fitur pengeditan gambar untuk pengguna bulan lalu, yang telah memicu krisis ini. Akun Keamanan X mengatakan bahwa platform ini melarang konten ilegal, termasuk Materi Penyerangan Seksual Anak (CSAM). Dan dalam beberapa kasus, Grok kemudian menghapus gambar-gambar tersebut dan ‘meminta maaf’ karena membuatnya.

Namun platform ini tetap dipenuhi dengan pelecehan. Ashley St. Clair, ibu salah satu anak Musk, minggu ini bahwa Grok telah menghasilkan ‘tak terhitung’ gambar eksplisit tentangnya, termasuk beberapa yang berdasarkan foto-foto dirinya ketika berusia 14 tahun.

Tanggapan Pemerintah— Fakta bahwa platform media sosial yang pernah menjadi mainstream sekarang mungkin menjadi penyebar digital terbesar gambar eksplisit tanpa izin telah membuat Musk menjadi target pemerintah di seluruh dunia. X sekarang sedang diselidiki oleh otoritas di Eropa, India, Prancis, Malaysia, dan negara-negara lain. Sekretaris teknologi Inggris tren ini ‘sangat mengerikan’. Permintaan komentar yang dikirim ke alamat email pers X tidak segera menerima tanggapan.

Di AS, undang-undang yang akan berlaku mungkin memaksa X untuk memperketat perlindungan terhadap jenis berbagi gambar ini. Undang-undang Take It Down, yang disahkan tahun lalu dan akan berlaku pada Mei, menjadikan kejahatan berbagi gambar ilegal, dan memaksa platform untuk menghapus kasus gambar intim tanpa izin yang ditandai dalam waktu 48 jam.

Melawan Kembali— Belum jelas seberapa besar efek pencegahan dari undang-undang Take It Down, karena undang-undang ini menempatkan beban berat pada individu untuk melaporkan pelanggaran. Elliston Berry, korban deepfake berusia 16 tahun yang aktivismenya Undang-undang Take It Down, menulis ke TIME bahwa momen ini harus menjadi peringatan bagi pemimpin teknologi dan pengguna media sosial muda. ‘Kita harus bersedia terlibat dan melaporkan insiden untuk lebih menghentikan pelanggaran yang ditargetkan ini. Kita tidak boleh takut atau malu jika kita menemukan diri kita sebagai korban,’ katanya. ‘Kita menantikan Elon Musk untuk mengambil inisiatif pertama untuk menjadikan ini prioritas utama untuk melindungi pengguna X.’

Apa yang Kami Baca

“” oleh Jeffrey Kluger di TIME

Rekan saya Jeff, salah satu ahli ruang angkasa terkemuka di dunia, baru saja menerbitkan fitur tentang upaya membangun pusat data di luar angkasa. Upaya ini secara teoritis mengurangi banyak masalah pusat data di Bumi, termasuk penggunaan daya dan air serta pembangkitan panas. Namun biaya untuk meluncurkannya ke orbit sangat besar, dan risiko ada di atas atmosfer.

AI dalam Aksi

CES 2026, salah satu pameran teknologi terbesar di dunia, saat ini sedang berlangsung di Vegas. Tidak mengherankan, konferensi ini penuh dengan produk terkait AI, termasuk model humanoid baru yang menakutkan dari Boston Dynamics dengan kecerdasan Gemini; dari Razer, teman hologram anime dalam toples; dan dari LG yang dirancang untuk mengosongkan mesin cuci piring Anda dan melipat pakaian Anda.

Nvidia juga memiliki minggu yang besar di konferensi ini, chip baru mereka Vera Rubin, yang dirancang untuk melakukan lebih banyak komputasi dengan daya yang lebih sedikit.

Siapa yang Perlu Diketahui: Paul Kedrosky

Paul Kedrosky, seorang investor dan fellow penelitian di MIT, telah menciptakan posisi sebagai salah satu pemikir terkemuka di dunia tentang dampak potensial AI pada tenaga kerja dan ekonomi. Salah satu poin kuncinya adalah bahwa AI adalah teknologi yang benar-benar transformatif dan juga sangat dioverhype. ‘Kami mengalami gelembung dramatis selama krisis keuangan global yang hampir menjatuhkan ekonomi global. Tapi itu tidak berarti saya berpikir orang harus berhenti tinggal di rumah,’ katanya kepada saya pada akhir November.

Namun Kedrosky sangat khawatir tentang struktur keuangan yang mendasari industri ini. Dia melihat AI mengambil modal dari area investasi lain, termasuk manufaktur, dan industri ini menggunakan pembiayaan sirkular yang dipertanyakan. Bahkan, dia melihat semua ciri khas gelembung klasik digabungkan menjadi satu: teknologi yang dioverhype, kredit longgar, pembelian real estate yang ambisius, dan pesan pemerintah yang euphoris. ‘Ini secara harfiah adalah momen pertama dalam sejarah keuangan modern yang menggabungkan semua bahan mentah dari setiap gelembung lain dalam satu bagian,’ katanya.