Munculnya Agen AI Menandakan Semakin Pentingnya Privasi Data

Oleh Sherlie Karnidta, Country Manager Indonesia, Cloudera

Privasi data menjadi semakin rumit dan kian penting ketika banyak organisasi menggunakan AI untuk meningkatkan kinerja dan proses bisnis mereka. Salah satu dari kemajuan AI ini adalah munculnya apa yang disebut agentic AI atau agen AI, yang dirancang untuk menjalankan berbagai tugas secara otonom tanpa intervensi manusia dan sesuai dengan namanya, bertindak dengan inisiatif sendiri.
Agen AI sudah diadopsi dan digunakan secara luas di berbagai industri. Di sektor keuangan misalnya, agen AI bisa memonitor berbagai tren pasar secara mandiri, menguraikan sinyal-sinyal trading, menyesuaikan strategi, dan mitigasi risiko secara real time. Agen-agen AI juga digunakan di sektor publik untuk meningkatkan kinerja pemerintahan antara lain mempermudah evaluasi kelayakan pemberian dana hibah, dan memberikan layanan kependudukan yang lebih personal.
Namun untuk memberikan semua manfaat itu, agen AI akan sangat tergantung pada data pribadi dalam jumlah besar, yang pada akhirnya memunculkan kekhawatiran yang tinggi akan privasi dan meningkatkan ketidakpercayaan konsumen terhadap cara organisasi mengelola informasi pribadi mereka. Hal ini akan semakin serius ketika agen AI menjadi mainstream di sektor-sektor yang sangat penting, seperti layanan kesehatan dan keuangan, di mana data pribadi sangatlah berharga.
Menurut studi Understanding Asia dari Ipsos, meskipun AI membangkitkan optimisme, ada kekhawatiran yang tinggi terkait AI, privasi digital, dan keamanan. Tujuh dari 10 konsumen di Asia Pasifik khawatir dengan cara perusahaan mengumpulkan informasi-informasi pribadi mereka, dan hal ini sangat dirasakan terutama di Singapura (81%).
Di Indonesia, selain kekhawatiran akan ancaman AI terhadap dunia kerja dan potensi penggunaannya sebagai alat kejahatan, teknologi AI juga dikhawatirkan akan menimbulkan masalah keamanan data dan privasi yang membuka potensi penyalahgunaan data. Karena itulah pemerintah merilis sebuah panduan penggunaan AI yang etis sebagai langkah untuk memitigasi potensi ancaman AI terhadap perubahan sosial, ekonomi, dan bahkan pertahanan. Panduan ini akan memastikan bahwa teknologi AI digunakan dengan mengedepankan prinsip-prinsip etika, kehati-hatian, keselamatan, dan berorientasi pada dampak positifnya.
Bertepatan dengan Data Privacy Day baru-baru ini, perusahaan harus menyadari bahwa penerapan kebijakan privasi data dan tata kelola yang kuat tidak boleh jadi sekadar sebuah perenungan, namun merupakan elemen mendasar dari inovasi yang berkelanjutan dan bertanggungjawab.
Mengenali dan melindungi informasi penting
Langkah pertama dan terpenting dalam menjaga kepercayaan konsumen adalah melindungi informasi penting dan personally identifiable information (PII) atau informasi yang dapat diidentifikasi secara pribadi. Semua data adalah sama di mata AI dan akan digunakan secara serampangan, kecuali parameter yang tepat diterapkan. Memakai agen AI tanpa perlindungan yang kuat akan menyebabkan informasi sensitif rentan disalahgunakan.
Organisasi harus berinvestasi di platform data yang aman dan terkelola dengan baik, yang menerapkan strategi enkripsi dan tokenization yang komprehensif. Langkah-langkah ini harus diterapkan secara konsisten di seluruh lingkungan data, baik di on-premise atau di cloud, dan di berbagai solusi penyimpanan. Dengan membangun pertahanan kuat melawan pembobolan dan para pelaku kejahatan, perusahaan dapat memastikan data mereka tetap terlindungi saat mereka mengadopsi teknologi AI secara aman.
Mematuhi ketentuan tata kelola data dan keamanan
Saat pemerintah di seluruh dunia memperkuat regulasi untuk melindungi hak-hak privasi data warga negara mereka, kepatuhan terhadap peraturan di market lokal dan regulasi mengenai kedaulatan data menjadi semakin kompleks. Tumbuhnya pengadopsian agen AI menimbulkan kesulitan-kesulitan baru, sebab sistem ini seringkali membutuhkan akses ke data lama dan cross-border, supaya sistem itu bisa bekerja dengan efektif.
Untuk mengatasi masalah ini, perusahaan harus mengadopsi pendekatan granular untuk tata kelola data, yang didukung arsitektur zero-trust, sebuah model keamanan yang memastikan tidak ada pengguna atau sistem yang dipercayai secara default. Seperti mengidentifikasi secara akurat di mana data pelanggan tertentu berada, menerapkan kontrol yang tepat, dan bersiap untuk menghasilkan laporan audit yang mendetail.
Selain itu, mekanisme untuk menghapus atau menganonimkan catatan atau rekaman-rekaman data harus diimplementasikan untuk memenuhi ketentuan regulasi dan ekspektasi konsumen. Shared Data Experience dari Cloudera menyediakan keamanan dan tata kelola data yang terintegrasi, sekaligus memastikan hanya orang yang tepat yang bisa mengakses informasi yang tepat, pada waktu yang tepat untuk alasan yang tepat.
Mengintegrasikan privasi dan kepercayaan ke dalam setiap aspek bisnis
Membangun budaya kepercayaan dan transparansi sangat penting dalam mengelola ekspektasi penggunaan data dan batasan etika inovasi dengan pengadopsian agen AI. Pada tingkat manajemen, mengadopsi prinsip Privacy by Design akan memastikan bahwa privasi diintegrasikan ke dalam produk, layanan, dan sistem sejak awal – terutama dengan model-model AI. Di sisi konsumen, pola pikir ‘trust but verify’ adalah kunci untuk memahami data apa saja yang dikumpulkan dan bagaimana data tersebut digunakan.
Ketika agen AI semakin lazim dalam proses pengambilan keputusan yang melibatkan data konsumen, organisasi harus memprioritaskan transparansi dalam setiap aspek penanganan data. Hal ini bukan hanya untuk membangun kepercayaan, namun juga untuk memitigasi risiko terhadap reputasi dan kesuksesan jangka panjang mereka.
Data Privacy Day 2025 adalah sebuah reminder yang sangat penting bahwa membangun kepercayaan dan menjaga transparansi bukan lagi sebuah pilihan. Pada akhirnya, kesuksesan di era agen AI akan bergantung pada kemampuan untuk menyeimbangkan inovasi dengan tanggung jawab, memastikan bahwa privasi data tetap menjadi landasan kemajuan berkelanjutan.