Peretas Bisa Meracuni Model AI Lewat Infrastruktur Inti

Ancaman keamanan terhadap kecerdasan buatan (AI) tidak hanya berasal dari manipulasi chatbot atau pencurian data pengguna. Peretas juga berpotensi merusak model AI dengan menyusup ke infrastruktur inti yang digunakan dalam proses pengembangan, pelatihan, dan distribusi sistem tersebut.

Serangan semacam ini dapat dilakukan melalui manipulasi komponen penting dalam rantai pasokan teknologi AI. Jika penyerang berhasil mengubah data pelatihan, perangkat lunak, pustaka kode, atau model dasar yang digunakan pengembang, mereka berpeluang memasukkan perilaku berbahaya ke dalam sistem AI.

Salah satu bentuk ancaman tersebut dikenal sebagai data poisoning atau peracunan data. Dalam metode ini, penyerang menyisipkan informasi yang telah dimanipulasi ke dalam kumpulan data pelatihan sehingga model mempelajari pola yang keliru atau menghasilkan respons tertentu sesuai skenario yang dirancang.

Infrastruktur AI Menjadi Sasaran Serangan

Ketergantungan pengembangan AI terhadap berbagai komponen eksternal memperluas potensi titik masuk serangan. Infrastruktur AI umumnya melibatkan penyimpanan data, repositori kode, layanan komputasi awan, perangkat lunak pihak ketiga, hingga sistem distribusi model.

Apabila salah satu komponen tersebut berhasil disusupi, dampaknya dapat menjalar ke berbagai sistem yang menggunakannya. Model yang telah terkontaminasi berpotensi menghasilkan keluaran tidak akurat, mengabaikan instruksi keamanan tertentu, atau menunjukkan perilaku yang sebelumnya tidak terdeteksi selama pengujian.

Risiko lain muncul ketika model yang telah dimodifikasi didistribusikan secara luas. Pengembang atau perusahaan yang mengunduh dan mengintegrasikan model tersebut mungkin tidak menyadari adanya perubahan berbahaya di dalamnya.

Ancaman ini membuat keamanan rantai pasokan AI menjadi perhatian penting bagi perusahaan teknologi. Pemeriksaan asal-usul data, verifikasi integritas model, pengawasan akses repositori, serta audit komponen perangkat lunak diperlukan untuk mengurangi risiko manipulasi.

Pengujian keamanan juga perlu dilakukan secara berkala, termasuk setelah model diperbarui atau menggunakan komponen dari pihak ketiga. Langkah tersebut membantu mendeteksi perubahan yang tidak sah sebelum sistem diterapkan dalam lingkungan operasional.

Seiring meningkatnya penggunaan AI dalam sektor bisnis, pemerintahan, kesehatan, dan layanan digital, perlindungan terhadap infrastruktur dasarnya menjadi semakin penting. Keamanan AI tidak cukup hanya berfokus pada aplikasi yang digunakan masyarakat, tetapi juga harus mencakup seluruh proses yang membangun dan memasok teknologi tersebut.

Aditya Pratama