Di balik kemampuannya yang seolah ajaib, kecerdasan buatan sejatinya membutuhkan bahan bakar utama yang tidak bisa ditawar: Data. Tanpa asupan data dalam jumlah yang sangat masif (Big Data), sebuah algoritma Machine Learning tidak akan memiliki kemampuan untuk belajar, mengidentifikasi pola, dan terus berkembang menjadi semakin presisi. Di titik inilah terjadi benturan yang sangat keras antara kemajuan teknologi kecerdasan buatan dengan prinsip-prinsip hak asasi manusia, khususnya hak atas privasi dan pelindungan data pribadi. Di Indonesia sendiri, Undang-Undang Pelindungan Data Pribadi (UU PDP) Nomor 27 Tahun 2022 baru saja disahkan, yang mengamanatkan dengan sangat ketat bahwa setiap pengumpulan data pribadi harus didasari oleh persetujuan (consent) yang sah, transparan, spesifik, dan memegang prinsip minimalisasi data.
Kasus hukum berskala internasional yang sangat relevan dengan ancaman ini adalah kontroversi yang melibatkan Clearview AI. Perusahaan teknologi pengenal wajah (facial recognition) ini menjadi sorotan dunia setelah terungkap bahwa mereka telah menyedot dan mengumpulkan lebih dari 20 miliar foto wajah manusia dari berbagai platform media sosial seperti Facebook, Instagram, dan LinkedIn. Pengumpulan ini dilakukan secara diam-diam melalui teknik web scraping otomatis tanpa seperseribu pun izin dari individu di dalam foto tersebut. Otoritas privasi di berbagai negara Eropa yang bernaung di bawah regulasi GDPR (General Data Protection Regulation), serta lembaga di Inggris dan Australia, merespons dengan menjatuhkan denda puluhan juta dolar kepada Clearview AI. Mereka juga memerintahkan perusahaan tersebut untuk segera menghapus seluruh basis data biometrik warga negaranya karena dianggap melanggar privasi secara massal dan sistematis.
Selain kasus Clearview AI, intervensi hukum terhadap model bahasa besar (Large Language Models) juga mulai terjadi. Pada tahun 2023, otoritas pelindungan data Italia (Garante) mengambil langkah drastis dengan mengeluarkan perintah pelarangan sementara terhadap penggunaan ChatGPT di seluruh wilayah negaranya. Keputusan hukum ini didasari oleh kekhawatiran serius bahwa OpenAI mengumpulkan, memproses, dan menyimpan data pribadi pengguna secara tidak sah untuk melatih algoritmanya. Selain itu, otoritas Italia menyoroti ketiadaan mekanisme verifikasi usia yang mumpuni, sehingga anak-anak di bawah umur sangat rentan terekspos pada konten yang tidak pantas atau tidak akurat. Pelarangan ini baru dicabut setelah OpenAI setuju untuk menerapkan perubahan kebijakan privasi yang jauh lebih transparan dan menyediakan formulir penolakan pemrosesan data.
Dalam konteks hukum telematika masa depan, konsep hukum “Hak untuk Dilupakan” (Right to be Forgotten) menjadi salah satu tantangan teknis dan yuridis terbesar bagi pengembang AI. Jika seorang warga negara Indonesia, berdasarkan haknya di UU PDP, meminta pengembang AI untuk menghapus data pribadinya, bagaimana cara melakukannya jika data tersebut sudah terlanjur dipelajari dan melebur menjadi miliaran parameter di dalam “otak” AI? Proses membuat algoritma melupakan data tertentu (dikenal sebagai machine unlearning) saat ini masih sangat mahal dan sulit diimplementasikan secara teknis tanpa merusak integritas sistem AI itu sendiri.
Oleh karena itu, hukum telematika kini dituntut untuk bergeser dari sekadar pendekatan penjatuhan sanksi (punitive) menjadi pendekatan preventif melalui integrasi konsep Privacy by Design dan Privacy by Default. Konsep ini mewajibkan perusahaan teknologi untuk menanamkan standar pelindungan privasi tertinggi sejak hari pertama koding dibuat, bukan hanya sebagai tambahan setelah produk dirilis. Pada akhirnya, inovasi AI yang hebat tidak boleh dibangun di atas penderitaan eksploitasi data pribadi masyarakat, dan hukum memegang peranan krusial sebagai penjaga gawang etika tersebut.
