AI Mulai Mengubah Cybersecurity: Mengapa Serangan Siber Semakin Cepat dan Otomatis
Perkembangan ini kembali menjadi perhatian setelah CEO Thales, Patrice Caine, menyerukan peningkatan investasi pada pertahanan berbasis AI untuk menghadapi serangan siber yang semakin diperkuat oleh artificial intelligence. Menurutnya, AI memungkinkan penyerang bekerja lebih cepat dan menjalankan serangan yang lebih kompleks, sementara sejumlah model juga semakin mampu melakukan pekerjaan dengan tingkat otonomi yang lebih tinggi.
Masalahnya bukan sekadar AI dapat membantu hacker.
Perubahan yang lebih penting adalah AI mulai mengurangi jumlah pekerjaan manual yang sebelumnya harus dilakukan oleh manusia dalam sebuah cyber attack.
AI-driven cyber attack mulai bergerak dari eksperimen ke otomatisasi
Serangan siber secara tradisional membutuhkan banyak pekerjaan manual.
Penyerang harus mencari target, mengumpulkan informasi, mencari kelemahan, membuat atau menyesuaikan tools, mencoba mendapatkan akses, kemudian mempertahankan akses dan mengambil data.
AI dapat digunakan untuk mempercepat beberapa bagian dari proses tersebut.
Google Threat Intelligence Group melaporkan pada September 2026 bahwa mereka melihat perubahan dari penggunaan AI melalui prompting sederhana menuju agentic AI workflows dan otomatisasi. Dalam salah satu kasus yang diamati pada kuartal kedua 2026, pelaku ancaman berhasil mengompromikan resource cloud dan kemudian merencanakan, membangun, serta menjalankan kampanye credential harvesting berbasis agen dalam waktu kurang dari enam jam.
Ini merupakan perubahan yang cukup penting.
Ketika sebagian pekerjaan dapat dilakukan oleh AI agent, kecepatan serangan tidak lagi sepenuhnya bergantung pada seberapa cepat manusia dapat menjalankan setiap langkah.
AI dapat membantu menghubungkan beberapa proses menjadi satu workflow.
Dari chatbot menjadi cyber attack assistant
Pada tahap awal perkembangan AI generatif, banyak perhatian tertuju pada kemampuan chatbot dalam menjawab pertanyaan.
Dalam cybersecurity, penggunaan AI sekarang jauh lebih kompleks.
AI dapat digunakan untuk membantu menganalisis kode, memahami dokumentasi, mencari informasi mengenai target, menghasilkan variasi komunikasi phishing, membantu menganalisis vulnerability, dan mengotomatisasi pekerjaan tertentu.
Google Threat Intelligence Group mengatakan adversary yang mereka amati mulai menggunakan AI dalam workflow yang lebih terintegrasi. Beberapa operasi bahkan menggunakan agentic workflows yang dapat menjalankan berbagai tahapan dengan lebih sedikit intervensi manusia.
Anthropic juga melaporkan perkembangan serupa. Dalam laporan threat intelligence September 2026, perusahaan tersebut menyebut telah menemukan operasi yang menggunakan Claude untuk aktivitas siber berbahaya. Penggunaan AI dalam kasus-kasus tersebut tidak lagi terbatas pada percakapan dengan chatbot, tetapi melibatkan orkestrasi beberapa tahapan cyber operation.
Perubahan ini membuat istilah AI-driven cyber attack semakin relevan.
AI bukan selalu menjadi “senjata” dalam pengertian tradisional. Dalam banyak kasus, AI lebih tepat dipahami sebagai lapisan otomatisasi yang meningkatkan kemampuan operator manusia.
AI dapat mempercepat pencarian vulnerability
Salah satu bagian yang paling menarik adalah vulnerability discovery.
Sistem software modern sangat kompleks. Sebuah aplikasi enterprise dapat terdiri dari ribuan komponen, dependency, library, API, container, cloud service, dan konfigurasi.
Memeriksa semuanya secara manual membutuhkan waktu.
AI dapat membantu menganalisis kode dan menemukan pola yang berpotensi menunjukkan kelemahan keamanan.
Google Threat Intelligence Group pada Mei 2026 melaporkan bahwa mereka telah mengidentifikasi threat actor yang menggunakan zero-day exploit yang menurut penilaian mereka kemungkinan dikembangkan dengan bantuan AI. Laporan tersebut menggambarkan perkembangan AI-enabled operations yang mulai bergerak menuju penggunaan generative models secara lebih luas dalam workflow adversary.
Namun, penting membedakan antara AI membantu menemukan vulnerability dan AI secara otomatis mampu membobol semua sistem.
Keduanya bukan hal yang sama.
Keamanan sebuah sistem tetap dipengaruhi oleh konfigurasi, authentication, network segmentation, patching, privilege management, monitoring, dan banyak faktor lainnya.
AI hanya mengubah sebagian dari proses tersebut.
Phishing juga menjadi lebih sulit dikenali
AI tidak hanya digunakan untuk vulnerability dan technical attacks.
Social engineering juga menjadi area yang terdampak.
AI dapat membantu menghasilkan pesan yang lebih relevan dengan target, menyesuaikan bahasa, serta membuat komunikasi palsu terlihat lebih natural.
Salah satu contoh terbaru muncul pada awal Oktober 2026. Reuters melaporkan bahwa kelompok yang oleh Proofpoint disebut TA419 menargetkan sejumlah profesional yang bekerja di bidang kebijakan AI dengan email yang menyamar sebagai komunikasi dari pakar AI dan mantan pejabat pemerintah Amerika Serikat. Pesan tersebut menggunakan tema kolaborasi AI sebelum mengarahkan korban ke situs pencurian password.
Kasus seperti ini menunjukkan bahwa cybersecurity tidak hanya berkaitan dengan firewall atau antivirus.
Human layer tetap menjadi bagian penting dari security architecture.
Semakin meyakinkan komunikasi yang dihasilkan AI, semakin penting pula identity verification, phishing-resistant authentication, passwordless authentication, dan security awareness.
AI juga menjadi target serangan
Ada sisi lain yang sering terlewat.
AI bukan hanya digunakan untuk menyerang sistem IT.
Sistem AI sendiri juga menjadi target.
Google Threat Intelligence Group melaporkan peningkatan kasus LLM-jacking, yaitu ketika pelaku kejahatan mencuri akses ke layanan AI premium atau membajak cloud server untuk menjalankan workload AI tanpa izin. CERT-EU mencatat perkembangan ini dalam Cyber Brief September 2026.
Artinya, perusahaan yang mulai menggunakan AI harus memikirkan keamanan pada beberapa lapisan sekaligus.
Ada keamanan infrastructure.
Ada keamanan aplikasi.
Ada keamanan data.
Dan sekarang ada keamanan AI.
AI versus AI dalam cybersecurity
Perkembangan ini pada akhirnya menghasilkan situasi yang cukup menarik.
Jika penyerang menggunakan AI untuk meningkatkan serangan, defender juga dapat menggunakan AI untuk meningkatkan pertahanan.
Hal tersebut sudah menjadi bagian dari strategi cybersecurity modern.
AI dapat digunakan untuk membantu menganalisis security logs, mendeteksi pola abnormal, melakukan threat hunting, mengidentifikasi suspicious behavior, dan membantu security analyst memproses data dalam jumlah besar.
Karena itu, pernyataan bahwa “AI adalah ancaman cybersecurity” sebenarnya tidak sepenuhnya menggambarkan situasinya.
AI adalah technology multiplier.
Kemampuannya dapat digunakan untuk mempercepat aktivitas yang berbahaya maupun aktivitas pertahanan.
CEO Thales juga menekankan sisi tersebut: AI dipandang sebagai tantangan cybersecurity sekaligus sebagai alat yang dapat digunakan defender untuk menghadapinya.
Infrastruktur IT harus ikut berubah
Menurut saya, dampak terbesar AI terhadap cybersecurity justru akan terlihat pada bagaimana perusahaan membangun infrastrukturnya.
Sebelumnya, security architecture banyak dibangun berdasarkan asumsi bahwa sebagian besar aktivitas berbahaya membutuhkan manusia untuk menjalankannya.
Asumsi tersebut semakin kurang relevan ketika AI agent dapat melakukan lebih banyak pekerjaan secara otomatis.
Network monitoring harus mampu melihat aktivitas yang terjadi dengan cepat.
Identity management harus mampu membatasi apa yang dapat dilakukan setiap account atau agent.
Cloud infrastructure membutuhkan logging dan monitoring yang lebih baik.
API membutuhkan authentication dan authorization yang jelas.
Dan data harus memiliki kontrol akses yang ketat.
Dalam lingkungan seperti ini, prinsip least privilege menjadi semakin penting.
Jika sebuah AI agent diberikan akses terlalu besar, masalahnya bukan hanya kemungkinan model menghasilkan jawaban yang salah.
Agent tersebut mungkin memiliki kemampuan untuk melakukan tindakan nyata terhadap sistem.
Karena itu, AI security pada akhirnya tidak dapat dipisahkan dari infrastructure security.
Apa yang perlu diperhatikan perusahaan?
Perusahaan tidak harus langsung membangun sistem cybersecurity yang sepenuhnya menggunakan AI.
Hal yang lebih mendasar adalah memastikan fondasi security tetap kuat.
Beberapa area yang semakin penting antara lain:
Identity and Access Management
Multi-factor authentication
Least-privilege access
Network segmentation
Endpoint security
Cloud security
API security
Vulnerability management
Security logging
Threat detection
Data protection
Backup dan recovery
Security awareness
AI dapat menjadi tambahan di atas fondasi tersebut.
Bukan pengganti fondasi tersebut.
Jika authentication lemah, AI security tidak akan menyelesaikan seluruh masalah.
Jika akses cloud terlalu luas, agentic AI justru dapat memperbesar dampak ketika credential berhasil dicuri.
Jika logging tidak tersedia, security team akan kesulitan mengetahui apa yang sebenarnya terjadi.
Opini Betariko: ancaman sebenarnya adalah kecepatan
Menurut saya, bagian paling penting dari perkembangan AI dalam cybersecurity bukan bahwa AI membuat hacker menjadi “lebih pintar”.
Yang lebih penting adalah AI dapat membuat proses serangan menjadi lebih cepat, murah, dan scalable.
Perubahan ini mirip dengan otomatisasi dalam bidang lain.
Ketika pekerjaan manual diubah menjadi proses otomatis, kapasitas pekerjaan meningkat.
Hal yang sama dapat terjadi pada cybersecurity.
Seorang attacker tidak harus memiliki kemampuan luar biasa pada setiap tahapan jika sebagian pekerjaan dapat dibantu oleh AI.
Karena itu, organisasi tidak cukup hanya bertanya:
“Apakah kita menggunakan AI?”
Pertanyaan yang lebih penting adalah:
“Apa yang dapat dilakukan AI terhadap sistem kita jika account, API, cloud resource, atau agent tersebut berhasil disalahgunakan?”
Menurut saya, pertanyaan kedua jauh lebih relevan untuk infrastructure dan security planning.
Perusahaan perlu mulai melihat AI sebagai bagian dari attack surface baru.
Bukan hanya karena model AI dapat diserang, tetapi karena AI semakin terhubung dengan data, aplikasi, API, cloud infrastructure, dan workflow bisnis.
Dan ketika sebuah sistem memiliki akses untuk melakukan tindakan nyata, keamanan AI tidak lagi hanya menjadi persoalan model.
Itu sudah menjadi persoalan infrastruktur.
Pada akhirnya, perkembangan AI tidak menghilangkan kebutuhan terhadap cybersecurity.
Justru sebaliknya.
Semakin banyak pekerjaan yang diserahkan kepada AI, semakin penting memastikan bahwa identity, access, data, network, infrastructure, dan monitoring dibangun dengan benar.
Karena dalam dunia yang semakin otomatis, kecepatan bukan hanya menjadi keunggulan bagi defender.
Kecepatan juga dapat menjadi keunggulan bagi attacker.