jpnn.com, JAKARTA - Direktur Digital Business PERURI, Farah Fitria Rahmayanti mengungkapkan pentingnya tata kelola Artificial Intelligence (AI) yang aman dan berkelanjutan di Indonesia.
Hal itu disampaikan dalam AI Innovation Summit 2025 bertema “AI for Sustainable Future - Bridging Innovation and Humanity”.
Farah menyoroti meningkatnya risiko kebocoran data seiring adopsi AI yang masif. Mengutip data IBM Report, dia menyebut 74% organisasi mengalami kebocoran AI pada 2024, naik 67% dibanding tahun sebelumnya.
“Fakta ini menunjukkan perlunya regulasi, standar, dan panduan jelas agar AI tidak menimbulkan kerugian,” ujar Farah, dalam keterangannya, Jumat (19/9).
Menurut Farah, kunci utama pengembangan teknologi AI terletak pada penerapan prinsip Privacy by Design. Dia menegaskan, privasi tidak boleh diperlakukan sekadar fitur tambahan.
“Analogi pentingnya, prinsip ini seperti sabuk pengaman yang dipasang pada mobil saat dirakit, bukan setelah kendaraan selesai dibuat,” katanya.
Farah juga menggarisbawahi prinsip kedaulatan data di era generatif AI. Panduan praktis yang perlu diterapkan organisasi antara lain Zero-Trust Data Input, layanan AI kelas enterprise dengan jaminan zero data retention, anonimisasi data sensitif, serta penyusunan panduan internal prompt.
Sebaliknya, dia mengingatkan agar organisasi menghindari praktik berisiko seperti penggunaan shadow AI oleh karyawan, mengunggah dokumen internal secara penuh ke platform publik, mengabaikan analisis kontrak layanan, hingga membiarkan celah serangan prompt injection.
