Baru-baru ini, ditemukan bahwa penjahat siber memakai AI milik platform X, disebut Grok, untuk menyebarkan malware dengan cara yang cerdik dan tersembunyi. Teknik ini telah mencuri perhatian banyak pakar keamanan siber karena memanfaatkan celah dalam sistem moderasi iklan dan interaksi publik di platform tersebut.

Bagaimana Skema “Grokking” Itu Beroperasi

1. Penyusupan Tautan Lewat Metadata: Iklan berbayar di X secara resmi hanya boleh memuat teks, gambar, atau video. Tautan yang mengarah ke situs eksternal biasanya diawasi ketat agar tak membahayakan pengguna. Namun para pelaku kejahatan menemukan cara untuk menempatkan tautan berbahaya di metadata, tepatnya di bagian “From:” yang muncul di bawah video. Di bagian itu biasanya tertulis siapa yang mengunggah atau sumber video.
2. Iklan Tipu Daya untuk Menarik Perhatian: Untuk menarik pengguna agar klik atau melihat iklan, konten video seringkali dibuat sensasional atau mengandung unsur dewasa. Fokusnya untuk menarik perhatian. Karena tautan berbahaya tidak ditampilkan secara langsung di badan video atau teks iklan, sistem moderasi iklan X tidak mendeteksinya.
3. Aktifkan AI Grok dalam Interaksi Publik: Setelah iklan tersebut tayang, akun palsu akan “menyapa” atau mengomentarinya dengan pertanyaan seperti “Dari mana video ini berasal?” dan men-tag Grok, chatbot AI milik X. Karena dirancang untuk merespon pertanyaan berdasarkan metadata, Grok kemudian memberikan jawaban yang menyertakan tautan yang tersembunyi di metadata tersebut, sehingga tautan jahat itu menjadi publik dan terlihat sah.
4. Keterpercayaan Palsu dan Penyebaran Luas: Karena balasan dari Grok dianggap sebagai konten resmi dan sering muncul dalam hasil pencarian atau sebagai bagian dari SEO internal, tautan jahat tersebut mendapat “perlakuan” eksposur lebih luas dan dipercaya pengguna. Akibatnya, korban potensial lebih mudah terdorong untuk mengklik.

Dampak yang Ditimbulkan

• Akses ke Situs Berbahaya
  Tautan yang disebar mengarahkan pengguna ke situs-situs yang merupakan bagian dari sistem distribusi trafik jahat (Traffic Distribution System/TDS). Di situ, ada berbagai jebakan keamanan.
• Penipuan CAPTCHA Palsu
  Salah satu varian taktik adalah menampilkan CAPTCHA atau verifikasi palsu—yang jika dilakukan oleh pengguna bisa mengunduh malware atau konten berbahaya lain.
• Pencurian Data
  Malware yang tersembunyi dapat menginfeksi perangkat pengunjung, mencuri data pribadi seperti password, informasi keuangan, dan data sensitif lainnya.
• Skema Monetisasi Gelap
  Situs-situs tujuan sering kali menggunakan “smartlink” atau metode lain untuk memperoleh keuntungan dengan memonetisasi lalu lintas internet yang masuk, walau melalui cara-cara yang menipu atau berbahaya.

Persiapan dan Struktur Penyerang

• Ada ratusan akun palsu yang terlibat, dan tiap akun mempublikasikan ratusan hingga ribuan konten serupa secara konsisten.
• Ketika akun-akun tersebut ditindak (misalnya ditangguhkan dari platform), muncul akun baru yang melanjutkan kegiatan serupa, menandakan bahwa aksi ini dilakukan secara terorganisir dan tidak bersifat satu kali saja.

Implikasi untuk Keamanan AI dan Sosial Media

Kasus “Grokking” memberi pelajaran penting bahwa:

• Teknologi yang dibuat untuk memberi manfaat, seperti AI dalam menyampaikan informasi atau menjawab pertanyaa, bisa disalahgunakan.
• Moderasi konten dan sistem pengawasan metadata harus diperkuat. Bagian metadata yang saat ini mungkin dianggap “kurang penting” atau “tidak diperiksa secara mendalam” ternyata bisa menjadi pintu masuk serangan besar.
• Platform seperti X harus meningkatkan pemindaian iklan, interaksi pengguna, serta respon otomatis AI terhadap konten yang terkait dengan metadata tersembunyi atau tautan eksternal yang dimasukkan dalam metadata.

Saran untuk Pengguna

Untuk mengurangi risiko menjadi korban:

• Hati-hati terhadap iklan/video di sosmed yang tampak mencurigakan, terutama jika menarik perhatian lewat elemen sensasional dan mengajakmu untuk klik tautan.
• Lihat lebih dalam sebelum klik: perhatikan bagian “From:” atau metadata lain bila memungkinkan, dan jangan langsung percaya pada respons dari chatbot atau AI yang menyebutkan sumber video.
• Pastikan perangkat Anda punya sistem keamanan, antivirus, anti-malware, yang terbaru.
• Jangan sembarangan memasukkan data pribadi ke situs yang mencurigakan atau dilalui tautan dari sumber yang tidak terpercaya.

Kesimpulan

Kasus penyalahgunaan Grok di X ini menunjukkan betapa cepatnya penjahat siber beradaptasi dengan teknologi baru. AI yang awalnya diciptakan untuk membantu pengguna justru bisa menjadi celah berbahaya jika tidak diawasi dengan ketat. Strategi penyerang yang memanfaatkan metadata, chatbot AI, serta sistem distribusi trafik jahat membuktikan bahwa keamanan dunia maya kini semakin kompleks.

Untuk itu, perusahaan teknologi perlu memperkuat sistem moderasi dan pengawasan, sementara pengguna dituntut untuk selalu waspada, kritis, dan tidak sembarangan mengklik tautan. Dengan sinergi antara pengembang platform, pakar keamanan, dan kesadaran pengguna, risiko penyebaran malware melalui cara-cara kreatif seperti ini bisa ditekan seminimal mungkin.