LONDON – Laporan terbaru menunjukkan bahwa generative Artificial Intelligence i ni digunakan untuk melancarkan serangan spear-phishing, mengembangkan malware, juga aktivitas jahat lainnya.
Salah satu serangan yang dimaksud teridentifikasi terjadi pada November 2024, dilaporkan oleh Cisco Talos. Serangan ini diadakan oleh aktor ancaman dengan syarat China yang berusaha mencapai pemerintah pada Asia.
Seperti dilansir dari CNET, metode spear-phishing yang digunakan dikenal dengan nama ‘SweetSpecter’, yang digunakan melibatkan pengiriman file ZIP berisi file berbahaya.
Jika didownload kemudian dibuka, file ini dapat menciptakan rantai infeksi di dalam sistem pengguna. Open Artificial Intelligence menemukan bahwa SweetSpecter dikembangkan menggunakan beberapa akun yang digunakan memanfaatkan Asisten Percakapan GPT untuk menulis skrip kemudian menemukan kerentanan dengan alat LLM.
Serangan berbasis Artificial Intelligence kedua dijalankan oleh kelompok selama Iran yang dikenal dengan nama ‘CyberAv3ngers’. Mereka menggunakan Pengolah Bahasa Alami GPT untuk mengeksploitasi kerentanan juga mencuri kata sandi pengguna dari komputer berbasis macOS.
Serangan ketiga, yang digunakan dipimpin oleh kelompok lain dengan syarat Iran bernama Storm-0817, memanfaatkan Chatbot GPT untuk mengembangkan malware untuk perangkat Android.
Malware ini mampu mencuri daftar kontak, mengekstrak log panggilan kemudian riwayat penelusuran, mendapatkan lokasi tepat perangkat, juga mengakses file di tempat perangkat yang terinfeksi.
Meskipun semua serangan ini menggunakan metode yang sudah ada ada untuk mengembangkan malware, laporan yang disebutkan menyatakan bahwa tiada ada indikasi bahwa Chatbot GPT menciptakan malware baru yang tersebut substansial.
Namun, hal ini menunjukkan betapa mudahnya aktor ancaman memanfaatkan layanan generative Teknologi AI untuk menimbulkan alat serangan yang berbahaya. Situasi ini membuka diskusi penting mengenai batasan implementasi Teknologi AI generatif.
OpenAI mengonfirmasi bahwa merek akan terus meningkatkan keamanan Kecerdasan Buatan merekan untuk menjaga dari metode-metode sama digunakan di dalam masa depan.
Selain itu, mereka akan bekerja identik dengan kelompok keamanan internal serta terus berbagi temuan dengan rekan bidang dan juga komunitas riset guna menjaga dari situasi sama terulang.
