Mengapa Browser AI Seperti Comet Perplexity Dapat Membuat Web Lebih Berisiko

(SeaPRwire) –   Selamat datang kembali di In the Loop, buletin dua mingguan baru TIME tentang AI. Jika Anda membaca ini di peramban Anda, mengapa tidak berlangganan untuk mendapatkan edisi berikutnya langsung ke kotak masuk Anda?

Yang Perlu Diketahui: Bahaya Peramban AI

Minggu lalu, Perplexity mengumumkan bahwa peramban bertenaga AI-nya, yang disebut Comet, akan tersedia gratis untuk semua pengguna setelah sebelumnya memerlukan langganan berbayar. Comet adalah jenis peramban baru, yang berisi chatbot AI terintegrasi yang dapat menjelajahi web atas nama Anda, ditambah melakukan tindakan otonom seperti melakukan pembelian, mengirim email, atau membuat acara kalender.

Hanya ada satu masalah. AI internal Comet hingga baru-baru ini dapat dibajak oleh tautan berbahaya, yang menyebabkan peramban menyedot informasi pribadi dari layanan yang terhubung seperti Gmail dan mengirimkannya ke penyerang tiruan, menurut temuan baru dari perusahaan keamanan siber LayerX. Ini adalah tanda bahwa meskipun peramban bertenaga AI mungkin membuat pengguna lebih produktif, mereka juga dapat memperkenalkan kerentanan baru.

Serangan — LayerX menemukan kerentanan yang disebut “CometJacking,” di mana prompt berbahaya ke AI peramban tersembunyi di dalam URL. Ketika pengguna mengklik tautan tersebut, peramban salah mengira prompt berbahaya itu sebagai instruksi dari pengguna—dan mulai melaksanakannya. Dalam contoh LayerX, penyerang tiruan berhasil membuat Comet mengekstrak data dari akun email dan kalender pengguna. Meskipun Comet memiliki perlindungan terhadap pencurian data, penyerang dapat melewati mereka dengan menginstruksikan AI untuk mengodekan informasi yang dicuri dalam base64 (pada dasarnya mengacaknya agar terlihat seperti teks yang tidak berbahaya) sebelum mengirimkannya ke server jarak jauh di bawah kendali mereka.

Tanda-tanda yang akan datang—Hari ini, Google Chrome sejauh ini merupakan peramban paling populer. Tetapi beberapa percaya bahwa “perang peramban” baru mungkin akan segera tiba, didorong oleh pendatang baru seperti Comet dari Perplexity. (OpenAI juga diyakini sedang mengerjakan peramban bertenaga AI-nya sendiri, meskipun belum merilisnya.) Tetapi ketika pembuat peramban bergegas menambahkan fitur AI, mereka mungkin juga menambahkan kelas kerentanan baru, kata Or Eshed, CEO LayerX. Kita mungkin akan memasuki “dunia di mana penjelajahan menjadi lebih berisiko,” kata Eshed. “Kita akan melihat jenis serangan lama yang hampir punah kembali, atau bahkan jenis serangan baru seperti yang baru saja kita temukan.”

Tanggapan Perplexity — Ketika LayerX memberi tahu Perplexity tentang kerentanan itu bulan lalu, perusahaan “menjawab bahwa mereka tidak dapat mengidentifikasi dampak keamanan apa pun,” tulis LayerX dalam posting blog. Tetapi dalam sebuah pernyataan kepada TIME, juru bicara Perplexity mengatakan bahwa laporan bug LayerX telah ditulis dengan buruk, bahwa mereka tidak menanggapi permintaan klarifikasi, dan bahwa Perplexity “kemudian mengidentifikasi masalah itu secara independen dan menambalnya.” Juru bicara itu mengatakan kerentanan itu tidak pernah dieksploitasi, dan melanjutkan: “Kami berterima kasih kepada komunitas keamanan yang berpartisipasi dalam program bounty kami yang berkembang pesat, dan kami bekerja untuk memastikan jenis miskomunikasi ini tidak terjadi di masa depan.”

Jika Anda punya waktu, silakan luangkan waktu sejenak untuk mengikuti survei singkat kami untuk membantu kami lebih memahami siapa Anda dan topik AI mana yang paling menarik bagi Anda.

Yang Perlu Dikenal: Lisa Su, CEO AMD

Pada hari Senin, pembuat chip Advanced Micro Devices (AMD) mengumumkan telah mencapai kesepakatan multi-miliar dolar dengan OpenAI, yang akan membuat pembuat ChatGPT mengakuisisi chip AI terbaru miliknya senilai 6 gigawatt selama beberapa tahun—atau setara dengan konsumsi daya sekitar 4 juta rumah di AS. Ini adalah mega-kesepakatan terbaru untuk OpenAI, yang mencapai kesepakatan $100 miliar dengan Nvidia bulan lalu, karena berusaha mencari daya komputasi yang dibutuhkan untuk melatih dan menjalankan model AI-nya yang rakus—termasuk model yang diluncurkan minggu lalu.

Ketika saya mewawancarai Lisa Su tahun lalu, dia sedang dalam proses mengarahkan perusahaannya untuk membangun jenis chip akselerator AI yang baru. Usahanya tampaknya telah membuahkan hasil. AMD tetap berada di posisi kedua yang jauh di belakang Nvidia dalam industri semikonduktor yang lebih luas, tetapi kesepakatan OpenAI adalah bentuk kepercayaan bahwa chip AMD cocok untuk beban kerja AI teratas. Ini juga merupakan tanda lain bahwa OpenAI berusaha mengurangi ketergantungannya pada Nvidia, bahkan saat ia mendekatkan perusahaan Jensen Huang.

OpenAI dan AMD tidak mengungkapkan nilai dolar dari kesepakatan itu, meskipun mereka mengatakan bahwa kesepakatan itu memberi OpenAI hak untuk mengakuisisi hingga 10% dari perusahaan. Saham AMD melonjak sekitar 25% atas berita tersebut.

AI dalam Aksi

Sekitar seminggu setelah meluncurkan aplikasi pembuatan videonya Sora, OpenAI memungkinkan pengguna lebih banyak pilihan untuk membatasi bagaimana kemiripan mereka muncul dalam video. Sebelumnya, pengguna memiliki opsi untuk mengizinkan atau melarang kemiripan mereka (disebut “cameo” dalam istilah OpenAI) dalam video Sora. Sekarang, pengguna dapat memberikan instruksi seperti “jangan masukkan saya dalam video yang melibatkan komentar politik” atau “jangan biarkan saya mengucapkan kata ini,” kata kepala Sora OpenAI, Bill Peebles.

Apa yang Kami Baca

Breakneck, oleh Dan Wang

Bukan artikel kali ini, tetapi buku yang sangat mudah dibaca yang telah beredar tentang kebangkitan tak terhindarkan Tiongkok. Argumen utama Dan Wang adalah bahwa Tiongkok adalah negara teknik, yang berfokus pada pembangunan dengan segala cara, sedangkan AS adalah masyarakat hukum, di mana lebih mudah menghentikan pembangunan daripada membangun. Hasilnya, seperti yang dijelaskan Wang secara rinci, adalah bahwa Tiongkok sekarang memiliki infrastruktur publik yang cemerlang dan ekonomi manufaktur yang kuat, sementara AS belum membangun pekerjaan umum besar dalam beberapa dekade, dan melupakan pengetahuan manufakturnya. Breakneck mengajukan pertanyaan yang menyedihkan tentang AI, karena ekonomi AS berlipat ganda pada teknologi: Apa gunanya kecerdasan digital yang melimpah jika tiba di ekonomi yang telah lupa cara menerapkannya?