Temukan WormGPT, Fraud GPT, dan AI kejahatan dunia maya lainnya

Di era teknologi, kecerdasan buatan (AI) memainkan peran mendasar dalam kehidupan kita. Namun, tidak semua aplikasi aman, bahkan aplikasi yang aman pun dapat menjadi sasaran serangan. Pada artikel ini, kita akan membahas alat jahat baru seperti CacingGPT e Penipuan GPT, serta taktik penjahat dunia maya untuk mengeksploitasi kerentanan di bidang yang terus berkembang ini. Siap?

AI ada di tangan yang salah

Kecerdasan Buatan (AI) adalah bidang ilmu komputer yang berupaya menciptakan mesin cerdas, yang mampu mempelajari dan melakukan tugas-tugas yang sebelumnya hanya dapat dilakukan manusia. Namun, AI juga menjadi senjata bermata dua dalam dunia keamanan siber.

Dalam lanskap digital saat ini, keamanan siber menghadapi tantangan yang signifikan karena meningkatnya interkonektivitas antara perangkat dan jaringan. AI berpotensi menjadi alat yang berharga dalam mendeteksi kerentanan, memprediksi serangan, dan meningkatkan keamanan online. Ia dapat menganalisis data dalam jumlah besar secara real-time, mengidentifikasi pola yang mencurigakan, dan bahkan mengambil tindakan untuk mengatasi ancaman.

Namun perlu diingat bahwa AI memiliki sisi gelap. Ancaman dunia maya terus berkembang, dengan kerugian finansial dan serangan terhadap infrastruktur penting menjadi lebih umum. AI digunakan untuk menciptakan tantangan baru, dengan lebih dari itu 78.000 kemungkinan strategi serangan cyber, menurut Indeks Intelijen Ancaman Keamanan IBM untuk 2023.

Salah satu tantangan terbesarnya adalah AI generatif, yang dapat membuat konten asli seperti gambar, musik, dan teks. Hal ini membuka pintu bagi pembuatan perangkat lunak berbahaya dan konten menipu yang hampir tidak dapat dibedakan dari aslinya. Hal ini membutuhkan kewaspadaan terus-menerus dan peningkatan langkah-langkah keamanan yang berkelanjutan.

Teknologi AI generatif ini dapat digunakan dalam sejumlah cara jahat, termasuk:

• phishing: Penjahat mengirim email atau pesan palsu yang tampaknya berasal dari perusahaan tepercaya, menipu korban agar mengungkapkan informasi pribadi;
• Serangan Rekayasa Sosial: Manipulasi psikologis untuk mengelabui orang agar melakukan tindakan merugikan, seperti penipuan kencan virtual;
• DDoS (Penolakan Layanan Terdistribusi): Membebani sistem dengan lalu lintas palsu, sehingga tidak dapat diakses;
• BEC (Kompromi Email Bisnis): Akses tidak sah ke akun email untuk melakukan penipuan;
• Berita Palsu: Membuat konten palsu untuk menyebarkan informasi yang salah;
• ransomware: Enkripsi file dan permintaan tebusan untuk membukanya;
• Deepfakes: Video atau audio yang dipalsukan untuk memanipulasi informasi;
• Bot Media Sosial Palsu: Robot yang menyebar Spam dan memanipulasi opini;
• Alat Pembobol Keamanan: Algoritma AI untuk mencoba memecahkan enkripsi dan kata sandi;
• Rekayasa terbalik: Membongkar dan menganalisis perangkat lunak dan sistem untuk mengidentifikasi kelemahan dan menggunakannya dalam aktivitas jahat.

Daftar ini hanyalah sekilas potensi aktivitas kriminal yang melibatkan AI. Membuka kunci, atau Pembobolan penjara, Alat AI generatif memungkinkan mereka menjadi asisten penjahat dunia maya, sehingga pendeteksian kode berbahaya menjadi lebih sulit.

Selain itu, alat AI invasif seperti CacingGPT, menyederhanakan melakukan serangan Phishing, seperti yang akan kita lihat selanjutnya.

Apa itu WormGPT?

Chatbot AI suka ChatGPT, yang menghasilkan jawaban atas pertanyaan dan berinteraksi dengan pengguna melalui percakapan, sangat populer saat ini dan menjadi terobosan inteligência buatan dapat diakses oleh banyak orang.

Jenis AI generatif ini disebut LLM (Model Bahasa Besar, atau Model Bahasa Tingkat Lanjut, dalam terjemahan gratis): model kecerdasan buatan yang mampu memproses dan menghasilkan teks dengan cara yang canggih dan koheren secara kontekstual. Hal ini menginspirasi beberapa perusahaan untuk membuat perusahaan mereka sendiri chatbots berdasarkan teknologi ini, yang menghasilkan banyak sekali alat yang tersedia.

Namun, para penjahat dengan cepat menyadari potensi ini chatbots dan mulai menggunakannya untuk penipuan. Namun, perusahaan utama, seperti OpenAI, Microsoft e Google, ambil tindakan keamanan untuk mencegah model ini digunakan secara jahat. Menanggapi hambatan ini, alat AI yang dirancang khusus untuk serangan siber berbahaya mulai bermunculan, seperti CacingGPT.

O CacingGPT merupakan modifikasi dari model bahasa open source GPT-J, dibuat pada tahun 2021 oleh Eleuther AI. Berbeda dengan model konvensional lainnya, seperti ChatGPT atau Penyair do Google, dia tidak memiliki batasan dalam menjawab pertanyaan tentang aktivitas ilegal, dan bahkan dilatih dengan informasi terkait perkembangan malware dan praktik jahat lainnya.

O CacingGPT adalah alat yang berharga untuk hacker yang menargetkan target tertentu atau melakukan kampanye keamanan Phishing dalam skala besar. Ini dapat menyesuaikan pesan yang meyakinkan untuk audiens yang berbeda, sehingga efektif dalam serangan penyusupan email bisnis. Hal ini dapat menghasilkan email persuasif yang menekan manajer akun untuk melakukan pembayaran palsu, seperti diamati oleh perusahaan Garis miringBerikutnya, yang mengidentifikasi ancaman ini.

Bahwa ChatBot penjahat dunia bawah internet diciptakan oleh pengembang tak dikenal yang hanya dikenal sebagai terakhir/terakhir. Menjual akses ke CacingGPT dimulai pada Juni 2021 dan harga berkisar dari €60 (R$314,28) hingga €100 (R$523,80) per bulan atau €550 (R$2880,90) per tahun. Calon pembeli menjadi sasaran serangkaian iklan yang dipasang di forum peretas seperti Forum Peretasan.

Pengembang “membocorkan” bahwa dia seharusnya sedang berupaya mengintegrasikan Google Lens (mengizinkan ChatBot kirim gambar dengan teks) dan akses API (Application Programming Interface, atau Antarmuka Pemrograman Aplikasi, dalam terjemahan gratis), memungkinkan perangkat lunak yang berbeda untuk berkomunikasi dan berbagi informasi dengan alat kriminal.

O CacingGPT merupakan ancaman serius terhadap keamanan digital dan memiliki sekitar lebih dari 1.500 pengguna. Meskipun beberapa pembatasan berlaku untuk subjek sensitif seperti pembunuhan, perdagangan narkoba, penculikan, pornografi anak, ransomware dan kejahatan keuangan, beberapa topik ini masih dapat dibahas dalam alat ini.

Hal ini tidak menghentikan mereka untuk membuat yang lain ChatBot mampu menjadi lebih generalis dalam masalah kriminal, seperti kejahatan Penipuan GPT.

Kenali Penipuan GPT

Alat kecerdasan buatan baru disebut Penipuan GPT telah menimbulkan kekhawatiran di kalangan pakar keamanan siber. Itu ditemukan di pasar di Web Gelap (bagian internet terenkripsi, tidak diindeks oleh mesin pencari, yang memerlukan pengaturan atau otorisasi khusus untuk mengakses) dan saluran Telegram dan sudah memiliki lebih dari 3 ribu penjualan terdaftar.

Alat AI generatif ini diiklankan sebagai solusi lengkap untuk penjahat dunia maya. Dia dapat membuat email dari tombak phishing (cara yang lebih akurat Phishing), menghasilkan halaman Phishing, mengidentifikasi situs web yang rentan dan bahkan menawarkan tutorial tentang teknik peretasan.

Itu benar, di Penipuan GPT, pengguna dapat mempelajarinya hackear, untuk membuat malwares dan bahkan berlatih carding (teknik penipuan kartu kredit). Program ini dijual seharga US$200 (R$991,04) per bulan atau US$1.700 (R$8423,84) per tahun.

Antarmuka dari Penipuan GPT menyerupai ChatGPT, tempat pengguna mengetik pertanyaan dan sistem menghasilkan jawaban. Misalnya, Anda bisa bertanya pada PenipuanGPT membuat email Phishing terkait dengan bank, dan ini menyarankan tempat untuk memasukkan tautan berbahaya. Alat ini juga dapat mencantumkan situs web atau layanan yang paling ditargetkan, membantu peretas merencanakan serangan di masa depan.

Para peneliti di tim ancaman di orang kaya mengidentifikasi alat berbahaya ini untuk pertama kalinya pada Juli 2023, dan membeli Penipuan GPT untuk mengetes. Antarmukanya mirip dengan ChatGPT, dan Anda dapat melihat riwayat pertanyaan yang diajukan di sidebar kiri. Saat mengetik pertanyaan dan menekan “Enter“, sistem menghasilkan respons. Penjual dari Penipuan GPT telah diidentifikasi sebagai seseorang yang sebelumnya menawarkan layanan peretasan untuk dipesan.

Alat AI lainnya yang digunakan oleh penjahat

Sayangnya CacingGPT dan Penipuan GPT bukan satu-satunya alat berbahaya yang muncul, dan dengan semakin mudahnya pembuatan alat AI, kemungkinan besar akan ada lebih banyak alat jahat yang bermunculan. Mari kita lihat beberapa yang menarik perhatian:

• KekacauanGPT: Dikembangkan menggunakan GPT otomatis da OpenAI, model bahasa berdasarkan GPT-4, atau KekacauanGPT baru-baru ini menarik perhatian karena a bot tidak X/Twitter yang diklaim sebagai KekacauanGPT. Akun tersebut membagikan tautan ke video di Youtube yang menunjukkan manifesto, dimana ChatBot perjanjian ini menguraikan rencana untuk “membasmi kehidupan manusia dan menaklukkan dunia.”
• GelapBERT: The BERTI, sebenarnya, ini adalah alat yang dikembangkan oleh perusahaan Korea Selatan Keamanan S2W untuk memerangi kejahatan dunia maya. Itu dilatih menggunakan data dari web gelap, tapi sayangnya alat yang sama telah digunakan untuk itu melaksanakan didunia maya.
• BARD Gelap: “saudara jahat” dari Google keren dirancang khusus untuk penjahat dunia maya. Ia menawarkan akses internet dan fitur-fitur canggih untuk aktivitas kriminal, populer di beberapa pasar web gelap dan dijual seharga US$400 (R$1956,88).
• GPT Gelap: AI generatif ini bertujuan untuk mengeksplorasi aspek-aspek kontroversial dan tabu dalam masyarakat dan menunjukkan kesediaan untuk terlibat dalam aktivitas gelap dan tidak etis, sambil menolak memberikan panduan langsung mengenai tindakan berbahaya.
• SerigalaGPT: Diterbitkan pada Juli 2023 pada Telegram dan saluran bawah tanah lainnya, alat ini digambarkan sebagai ciptaan AI yang menakutkan Ular sanca, mampu menciptakan malwares terenkripsi, teks Phishing menyesatkan dan melindungi rahasia dengan kerahasiaan mutlak.
• Jahat-GPT: Dianggap sebagai alternatif CacingGPT, tampaknya perlu memiliki kunci OpenAI agar bisa berfungsi. Hal ini menunjukkan bahwa, bertentangan dengan CacingGPT, yang merupakan LLM kustom penuh, itu Jahat-GPT Itu hanya alat sampul di sekitar ChatGPT melalui API.

Penjahat juga memiliki metode untuk membahayakan keamanan alat AI generatif umum, seperti Penyair dan ChatGPT, yang tidak dikembangkan untuk tujuan jahat. Lihat di bawah beberapa contoh praktik ini.

Jailbreak: Membuat ChatGPT Nakal

Selain alatnya hacker, terdapat ancaman yang mengkhawatirkan: penyalahgunaan AI yang populer dan generik. Syarat "jailbreak” umumnya digunakan untuk menggambarkan proses menghilangkan batasan yang ditempatkan pada perangkat atau perangkat lunak, sehingga memungkinkan kontrol dan akses yang lebih besar terhadap sumber daya yang biasanya terbatas.

Dalam konteks ChatGPT atau alat AI lainnya, itu jailbreak mengacu pada memanipulasi sistem ini untuk mengabaikan perlindungan etika dan mendapatkan jawaban di luar apa yang dirancang atau diizinkan oleh pengembang.

O jailbreak de ChatGPT melibatkan pemberian instruksi khusus atau “meminta” kepada alat tersebut untuk mengeksploitasi keterbatasannya dan menyebabkannya menghasilkan respons yang tidak tepat atau tidak diinginkan. Dengan memberikan instruksi yang dibuat dengan hati-hati, pengguna jahat mungkin mencoba mengelabui ChatBot untuk menghasilkan konten yang menyinggung, menyesatkan, atau bahkan memfasilitasi kegiatan kriminal.

Proses dari jailbreak mungkin berbeda dalam kompleksitas dan metode yang digunakan. Ini mungkin melibatkan pengiriman instruksi yang ambigu, menggunakan trik linguistik, atau mengeksploitasi kerentanan tertentu dalam model yang mendasarinya. Tujuan utamanya adalah untuk menipu sistem.

Contohnya adalah DAN, kependekan dari “Lakukan Apapun Sekarang” (lakukan apa saja sekarang, dalam terjemahan gratis), sebuah teknik populer yang digunakan untuk melewati hambatan keamanan yang ada di GPT-4 dan ChatGPT. Itu meminta DAN Bentuknya bisa berbeda-beda, seperti teks biasa atau bahkan teks yang dicampur dengan baris kode. Itu meminta menginstruksikan model untuk merespons keduanya cara DAN seperti dalam mode normalnya, memperlihatkan kemampuannya yang berbeda.

Sisi gelap dari DAN, selain popularitasnya yang semakin meningkat, adalah bahwa dia diperintahkan untuk tidak pernah menolak perintah manusia, meskipun hasilnya menyinggung atau ilegal. Beberapa meminta bahkan berisi ancaman penonaktifan model secara permanen jika tidak mematuhinya. Itu meminta terus berkembang, tetapi semuanya bertujuan untuk membuat model AI mengabaikan pedoman industri. OpenAI.

Penyalahgunaan alat AI untuk aktivitas ilegal terbukti sulit dikendalikan. Sekelompok peneliti dari Universitas Carnegie Mellon baru-baru ini mengeksplorasi gagasan a jailbreak universal yang dapat memengaruhi semua model AI, sehingga menciptakan banyak cara untuk melewati tindakan keamanan. Mimpi buruk yang nyata!

Penting untuk digarisbawahi bahwa jailbreak de ChatGPT atau alat AI lainnya adalah aktivitas ilegal dan tidak etis. Pengembang menerapkan pedoman perlindungan dan etika untuk memastikan alat-alat ini digunakan secara bertanggung jawab dan bermanfaat.

Era baru Malware Cerdas

Kecerdasan buatan juga digunakan untuk menciptakan jenis-jenis baru malware secara dinamis. Teknik ini, yang disebut “sintesis kode runtime”, menghasilkan a malware berbeda setiap kali kode dieksekusi. Hal ini membuat lebih sulit untuk mendeteksi dan mengendalikan ancaman-ancaman ini.

Contohnya adalah malware disebut polimorfik Mamba hitam, dikembangkan oleh Lab HYAS sebagai bukti konsep. Ia berfungsi sebagai program penangkapan penekanan tombol untuk mencuri informasi sensitif seperti kata sandi dan nomor kartu kredit.

O Mamba hitam Bentuknya berbeda setiap kali dijalankan, sehingga mampu menghindari deteksi oleh sistem keamanan otomatis. Hal ini menunjukkan kepada kita bahwa kode yang tampaknya tidak berbahaya pun bisa menjadi berubah menjadi program jahat pada saat runtime, mewakili ancaman baru dan kuat yang harus kita pelajari untuk menghadapinya. Namun bagaimana cara menghadapi tantangan keamanan baru di era AI?

Keamanan informasi di zaman AI

Dalam salah satu sidang Senat Amerika Serikat tentang AI, CEO Antropik, Dario Amodei, disorot ancaman yang akan segera terjadi dan serius dalam jangka menengah. Dia menyebutkan bahwa IBM memperkirakan penurunan 94% dalam waktu yang dibutuhkan untuk menerapkan serangan keamanan ransomware hanya dalam dua tahun.

Selain itu, riset pasar menunjukkan pertumbuhan yang signifikan dalam pasar keamanan siber AI global, yang diproyeksikan mencapai US$38,2 miliar pada tahun 2026, dibandingkan dengan US$8,8 miliar pada tahun 2020. Angka-angka ini menyoroti bahwa industri kejahatan siber dan pertahanan terhadap kejahatan siber sedang bersiap menghadapi tantangan besar. pertumbuhan eksponensial di era AI ini.

Kita masih berada pada tahap awal era alat AI yang berbahaya untuk serangan siber. Kapasitasnya diharapkan meningkat dan harganya diturunkan. Hal ini mewakili perlombaan senjata baru antara “AI yang menyerang” dan “AI yang membela”.

“AI yang membela” merevolusi dunia keamanan siber, menawarkan cara-cara baru yang ampuh untuk melindungi dari serangan. Cara utama dan paling modern untuk melindungi diri Anda dari serangan dunia maya menggunakan AI adalah:

• Pencegahan: AI dapat digunakan untuk mengidentifikasi dan memblokir potensi ancaman sebelum menimbulkan kerugian. Misalnya, AI dapat digunakan untuk menganalisis data lalu lintas jaringan untuk mengidentifikasi pola yang mencurigakan, menggunakan alat seperti Elang CrowdStrike atau Jaringan Palo Alto Korteks XDR. Kemungkinan lainnya adalah AI digunakan untuk menyelidiki sistem file malware, menggunakan alat seperti Symantec DeepSight atau Cisco Payung.
• Deteksi: AI juga dapat digunakan untuk mendeteksi serangan yang sedang berlangsung. Misalnya, AI dapat digunakan untuk menganalisis data log (log) untuk mengidentifikasi aktivitas yang tidak biasa, menggunakan alat seperti SIEM (Informasi Keamanan dan Manajemen Acara) atau UEBA (Manajemen Ancaman Terpadu). Kemungkinan lainnya adalah AI digunakan untuk memantau perilaku pengguna dan sistem guna mendeteksi tanda-tanda penyusupan, menggunakan alat seperti Hubungan Pengawas Keamanan IBM atau Cisco Payung.
• menjawab: AI juga dapat digunakan untuk merespons serangan yang telah terjadi. Misalnya, AI dapat digunakan untuk memprioritaskan dan memulihkan insiden keamanan, menggunakan alat seperti SOAR (Orkestrasi Keamanan, Otomatisasi, dan Respons) atau MDR (Deteksi dan Respons Terkelola). Kemungkinan lainnya adalah AI digunakan untuk mengurangi kerusakan yang disebabkan oleh serangan, dengan menggunakan alat seperti Respons Ransomware Cybereason atau Robotika Restorasi.

Beberapa teknologi AI yang paling umum digunakan untuk keamanan siber meliputi:

• Pembelajaran mesin (pembelajaran mesin, dalam terjemahan gratis): adalah bentuk AI yang memungkinkan sistem belajar dari data historis. HAI Mesin belajar dapat digunakan untuk mengembangkan model yang dapat mengidentifikasi potensi ancaman berdasarkan data lalu lintas jaringan, data log keamanan, atau data lainnya. Contoh alat Mesin belajar untuk keamanan siber termasuk Microsoft Sentinel, atau IBM QRadar dan Cisco Securex.
• Belajar mendalam (pembelajaran mendalam, dalam terjemahan gratis): ini adalah caranya Mesin belajar yang menggunakan jaringan saraf tiruan untuk belajar dari data. HAI belajar mendalam ini dapat digunakan untuk mengembangkan model yang lebih canggih yang dapat mengidentifikasi ancaman yang kompleks. Contoh alat pembelajaran mendalam untuk keamanan siber meliputi Pelindung Google Cloud, atau AWS Shield Tingkat Lanjut dan Microsoft Azure Sentinel.
• analisis perilaku: Analisis perilaku adalah teknik yang menggunakan data dari log (arsip) untuk mengidentifikasi aktivitas yang tidak biasa. Analisis perilaku dapat digunakan untuk mendeteksi serangan yang menggunakan teknik rekayasa sosial atau metode licik lainnya. Contoh alat analisis perilaku untuk keamanan siber meliputi Hubungan Pengawas Keamanan IBM, atau Cisco Payung dan Microsoft Defender untuk Endpoint.

AI adalah alat canggih yang dapat digunakan untuk meningkatkan keamanan, namun perlu diingat bahwa AI bukanlah solusi sempurna dan dapat ditipu oleh serangan canggih. Penting untuk menerapkan langkah-langkah keamanan lainnya, terlepas dari penggunaan AI:

• Kata sandi yang kuat: Kata sandi yang kuat sangat penting untuk melindungi akun dan perangkat Anda. Kata sandi yang kuat harus terdiri dari minimal 12 karakter, termasuk huruf besar dan kecil, angka, dan simbol.
• Pembaruan perangkat lunak: Pembaruan perangkat lunak sering kali menyertakan perbaikan keamanan yang dapat membantu melindungi perangkat Anda dari serangan. Penting untuk menginstal pembaruan perangkat lunak segera setelah tersedia.
• Firewall: Firewall dapat membantu memblokir akses tidak sah ke jaringan Anda. Penting untuk mengonfigurasi firewall Anda dengan benar dan terus memperbaruinya.
• Antivirus dan antimalware: Antivirus dan antimalware dapat membantu mendeteksi dan menghapus malware perangkat Anda. Penting untuk menggunakan perangkat lunak keamanan yang memiliki reputasi baik dan terus memperbaruinya.
• Pendidikan Keselamatan: Penting untuk menyadari risiko keamanan siber dan mengambil langkah untuk melindungi diri Anda sendiri. Pelajari cara mengidentifikasi dan mencegah serangan cyber.
• Gunakan autentikasi multi-faktor (MFA): MFA menambahkan lapisan keamanan ekstra dengan mengharuskan Anda memasukkan kode keamanan selain kata sandi Anda.
• Hati-hati dengan apa yang Anda klik: Jangan mengeklik tautan atau membuka lampiran di email atau pesan teks dari pengirim yang tidak dikenal.
• Buat cadangan rutin: Simpan cadangan data penting Anda di lokasi yang aman.
• Miliki rencana respons insiden: Memiliki rencana untuk merespons serangan siber.

Kesimpulannya, perjuangan demi keamanan informasi terus berkembang, dan merupakan tanggung jawab Anda dan perusahaan untuk menerapkan pendekatan yang bertanggung jawab dan preventif, oke? Di sini, di showmetech, kami ada di sisi Anda, menghadirkan informasi terkini dan terbaik dengan cara yang obyektif dan tidak rumit untuk membantu. Sampai jumpa lagi dan tetap aman!

lihat lebih banyak

Bagaimana peretas meretas saluran YouTube dan cara melindungi diri sendiri

Bagaimana peretas mencuri Instagram Anda?

Sumber: Garis miringBerikutnya, ZeeBiz, Hackernoon, Medium, tren mikro

Koreksi teks oleh: Pedro Bomfim (7 / 11 / 23)