Tantangan Keamanan Baru dalam Tren Integrasi AI dan Web3

Baru-baru ini, Minggu Blockchain Istanbul (IBW 2025) memfokuskan pada tren penggabungan AI dan Web3, menjadi platform diskusi penting di bidang keamanan Web3 tahun ini. Dalam acara selama dua hari tersebut, banyak ahli industri melakukan diskusi mendalam tentang keadaan aplikasi teknologi AI dalam keuangan terdesentralisasi (DeFi) dan tantangan keamanannya.

Dengan pesatnya perkembangan model bahasa besar (LLM) dan agen AI, sebuah paradigma keuangan baru—keuangan AI terdesentralisasi (DeFAI) sedang perlahan terbentuk. Namun, inovasi ini juga membawa permukaan serangan dan risiko keamanan yang baru.

Para ahli yang hadir menunjukkan bahwa DeFAI meskipun memiliki prospek yang luas, tetapi juga mengharuskan kita untuk meninjau kembali mekanisme kepercayaan dalam sistem terdesentralisasi. Berbeda dengan kontrak pintar yang berdasarkan logika tetap, proses pengambilan keputusan agen AI dipengaruhi oleh konteks, waktu, dan bahkan interaksi sejarah, ketidakpastian ini tidak hanya memperburuk risiko, tetapi juga menciptakan kesempatan bagi penyerang.

Agen AI pada dasarnya adalah entitas cerdas yang dapat mengambil keputusan dan melakukan eksekusi secara mandiri berdasarkan logika AI, biasanya diotorisasi untuk berjalan oleh pengguna, protokol, atau DAO. Di antara mereka, perwakilan yang paling khas adalah robot perdagangan AI. Saat ini, sebagian besar agen AI beroperasi di atas arsitektur Web2, bergantung pada server dan API terpusat, yang membuatnya rentan terhadap serangan injeksi, manipulasi model, atau pemalsuan data. Begitu diretas, tidak hanya dapat menyebabkan kerugian finansial, tetapi juga dapat mempengaruhi stabilitas seluruh protokol.

Sebuah skenario serangan yang khas disebutkan dalam forum: ketika agen perdagangan AI yang dijalankan oleh pengguna DeFi sedang memantau pesan media sosial sebagai sinyal perdagangan, penyerang mungkin memposting alarm palsu, seperti "sebuah protokol diserang", yang menggoda agen tersebut untuk segera memulai likuidasi darurat. Tindakan ini tidak hanya akan menyebabkan kerugian aset pengguna, tetapi juga akan memicu volatilitas pasar, yang kemudian dapat dimanfaatkan oleh penyerang melalui perdagangan mendahului (Front Running).

Menyikapi risiko ini, para ahli yang hadir umumnya berpendapat bahwa keamanan agen AI tidak seharusnya menjadi tanggung jawab satu pihak saja, melainkan merupakan tanggung jawab bersama antara pengguna, pengembang, dan lembaga keamanan pihak ketiga.

Pertama, pengguna perlu memahami dengan jelas ruang lingkup hak yang dimiliki oleh agen, memberikan hak dengan hati-hati, dan memperhatikan ulasan operasi berisiko tinggi dari agen AI. Kedua, pengembang harus menerapkan langkah-langkah pertahanan sejak fase desain, seperti: penguatan kata kunci, isolasi sandbox, pembatasan laju, dan logika fallback. Sementara itu, perusahaan keamanan pihak ketiga harus memberikan ulasan independen terhadap perilaku model agen AI, infrastruktur, serta cara integrasi on-chain, dan bekerja sama dengan pengembang dan pengguna untuk mengidentifikasi risiko dan mengusulkan langkah-langkah mitigasi.

Para ahli memperingatkan: "Jika kita terus menganggap agen AI sebagai 'kotak hitam', kecelakaan keamanan di dunia nyata hanyalah masalah waktu." Bagi para pengembang yang sedang menjelajahi arah DeFAI, saran yang diberikan adalah: "Sama seperti kontrak pintar, logika perilaku agen AI juga diimplementasikan melalui kode. Karena ini adalah kode, ada kemungkinan untuk diserang, oleh karena itu perlu dilakukan audit keamanan profesional dan pengujian penetrasi."

Sebagai salah satu acara blockchain paling berpengaruh di Eropa, IBW telah menarik lebih dari 15.000 peserta dari pengembang global, penyelenggara proyek, investor, dan regulator. Tahun ini, dengan dimulainya penerbitan lisensi proyek blockchain oleh Komisi Pasar Modal Turki (CMB), posisi industri IBW semakin meningkat.