Pendahuluan──Tautan yang dibawa AI

Suatu hari saya berkonsultasi dengan sebuah AI yang kami gunakan di kantor mengenai cara memakai alat dari salah satu vendor. Alat itu tidak seterkenal OSS papan atas atau produk komersial yang punya komunitas besar, tetapi beberapa informasi tentangnya bisa ditemukan di internet.

AI tersebut lalu memberikan solusi yang tepat sasaran, bahkan menyertakan tautan sebagai “referensi”.

Ketika saya mengeklik tautannya, halaman tersebut terbuka tanpa masalah. Di sana memang tertulis jawaban yang saya butuhkan, tetapi judulnya berbunyi demikian.

“Rahasia perusahaan　Tidak untuk publik”

Lho? Ini dokumen internal dari perusahaan mana? Setelah saya periksa lebih teliti, ternyata itu bukan dokumen internal kami, bukan pula materi resmi dari vendor. Sepertinya itu adalah manual internal milik perusahaan lain yang memakai alat yang sama.

Wah, hoki dong♪

…Tentu saja tidak. Justru itu momen yang membuat saya bergidik.

Halaman tersebut memang bisa ditemukan jika kita menelusuri kata kunci yang relevan tanpa bantuan AI. Hanya saja posisinya berada jauh di belakang, mungkin di halaman pencarian ke sekian puluh. Secara normal hampir mustahil orang menemukannya.

Bagian pertama: “Demokratisasi” yang dihadirkan AI

Mesin pencari tradisional ibarat manusia yang mengais butiran emas di gunung pasir. Masing-masing perusahaan memang berusaha keras menampilkan halaman yang relevan di peringkat atas. Namun ada batasnya; situs-situs besar tetap mendominasi, dan banyak informasi penting di situs kecil sulit ditemukan. Sebaliknya, AI mampu menyerahkan “butiran emas itu sendiri” secara instan, walaupun berasal dari situs peringkat bawah sekalipun.

  • Informasi minor yang mungkin tidak bisa ditemukan manusia meskipun mencari puluhan menit, atau bahkan sudah nyaris menyerah, akan langsung muncul begitu pertanyaannya cocok.
  • Orang yang sebelumnya tidak punya akses ke pengetahuan atau keahlian tertentu kini dapat memperoleh jawabannya secara instan.

Ini tidak lain adalah demokratisasi akses informasi. Seperti halnya internet dahulu, AI membuat pengetahuan semakin menjauh dari eksklusivitas kalangan elit atau pakar dan menjadi terbuka untuk banyak orang.

Efek ini sangat terasa dalam pendidikan dan penelitian. Pengetahuan yang dulu hanya bisa diperoleh lewat buku teks khusus atau jurnal akademik kini dapat ditarik dengan segera oleh mahasiswa maupun profesional. Startup bisa menyusun strategi tanpa kontrak konsultan bernilai fantastis, bahkan individu pun bisa merampungkan aplikasi dalam semalam.

Hal yang sama berlaku dari sisi penyebaran informasi. Internet memberi kesempatan setiap orang untuk menyuarakan pendapatnya ke seluruh dunia, tetapi jika pengirimnya tidak dikenal, kemungkinan temuan tetap rendah.

Namun lihat apa yang terjadi. AI dapat menyuguhkan informasi dari halaman minor yang peringkat pencariannya sangat rendah, yang mungkin dipublikasikan karena keliru dan tanpa optimasi SEO—selama hal itu menjawab pertanyaan saya dengan tepat.

Bisa dibilang, akses dan distribusi informasi bagi siapa pun yang membutuhkannya kini benar-benar terdorong menuju demokratisasi yang tidak mungkin dicapai sekadar lewat internet.

Bagian kedua: “Paparan” di balik demokratisasi

Namun pengalaman tadi juga membuat saya sadar bahwa demokratisasi itu sekaligus berarti paparan.

Informasi perusahaan tersebut terbuka karena kesalahan pengaturan. Secara teori mesin pencari biasa pun bisa menemukannya dan pihak ketiga bisa melihatnya. Hak aksesnya terbuka penuh dan sudah terindeks oleh mesin pencari.

Akan tetapi tanpa AI, hampir pasti tidak ada yang memperhatikannya. Nyaris tidak ada orang yang rela menelusuri hasil pencarian sampai halaman ke-20 satu per satu. Informasi yang semestinya “hampir bocor tapi aman karena tak ada yang melihat” kini dapat dikirim AI secara instan kepada orang yang tepat. Dalam kasus ini yang diungkap hanyalah cara pakai alat (bukan informasi super rahasia), dan permintaan datang tanpa niat jahat, sehingga tidak ada kerugian nyata.

Tapi bagaimana jika yang dicari adalah orang berniat jahat dan yang terbuka tanpa sengaja justru informasi sensitif? Momen itu membuat saya sadar bahwa perlindungan lewat ketersamaran praktis sudah tidak berlaku lagi.

“Masih aman karena tersembunyi” tidak lagi berlaku di era AI. Begitu sesuatu terindeks, pihak yang membutuhkan akan mengetahuinya dengan cepat.

Memang, AI besar seperti ChatGPT memiliki kebijakan yang menolak permintaan berbahaya, dan filter tersebut akan terus diperkuat. Namun bagaimana jika AI tersebut dibuat oleh individu tanpa kebijakan pengamanan?

Dulu kita pernah heboh dengan virus kebocoran di Winny. Informasi internal pasukan bela diri, daftar pelanggan perusahaan, hingga foto dan video pribadi ikut bocor dan menjadi masalah sosial besar. Ada perusahaan yang bahkan mewajibkan pegawainya menandatangani pernyataan tidak menggunakan Winny. ※ Padahal Winny sendiri hanya alat berbagi berkas P2P; peraturannya terasa ganjil, tetapi pada masa itu hal tersebut lumrah.

Jawaban tepat dari AI generatif bisa saja jauh lebih berbahaya dari kasus tersebut. Begitu informasi berada dalam kondisi rentan, ia bisa jatuh ke tangan pihak jahat dengan kecepatan yang tak tertandingi kala itu. Tidak perlu virus—cukup satu kesalahan saja.

AI akan menyerahkan “jawaban” tanpa ragu ketika ditanya. Tidak ada etika maupun rasa tanggung jawab di sana. ※ AI dengan kebijakan memang “ragu”, tetapi siapa pun kini bisa membangun AI tanpa sensor—model tanpa moderasi sudah tersedia di Hugging Face, misalnya.

Di era AI, “aman karena tersembunyi” sudah tidak ada lagi.

Lebih parah lagi, paparan itu tidak berhenti sekali saja. Setelah dipelajari AI, diringkas, dan dibagikan lagi kepada pengguna lain, informasi tersebut menyebar sekaligus menetap. Bisa jadi informasi itu beredar lewat AI tanpa ada yang sadar bahwa kebocoran telah terjadi.

Bagian ketiga: Asimetri kecepatan

Masalah lain yang muncul adalah asimetri kecepatan.

  • AI memungut informasi, mengoptimalkan, dan menyajikannya dengan kecepatan luar biasa—jauh melampaui pencarian biasa.
  • Sementara itu hukum, regulasi, etika, kebijakan, dan perubahan kesadaran manusia bergerak setidaknya dalam satuan tahun.

Asimetri inilah yang membuat rasa ngeri tadi semakin kuat.

Dulu penyebaran informasi melewati tahapan surat kabar, televisi, hingga mesin pencari. Setiap tahap memiliki gesekan dan jeda yang memberi masyarakat waktu untuk menata aturan. AI meminimalkan gesekan itu dan mendistribusikan “jawaban optimal” ke seluruh dunia secara nyaris instan.

Akibatnya pengetahuan yang benar, rumor keliru, informasi yang tidak mengenakkan, maupun bocoran akibat kesalahan semuanya tersebar dengan kecepatan yang sama begitu dipelajari. Di masa depan—bahkan sekarang pun sudah—AI akan mengutarakan makalah pakar dan hoaks anonim di forum dengan bobot yang tampak serupa.

Bagian keempat: Di mana letak tanggung jawab?

Dalam kasus ini saya memang membuka tautan tersebut. Itu bukan akses ilegal. Halaman itu muncul di hasil pencarian dan saya tidak membobol autentikasi apa pun.

Masalahnya adalah AI menyerahkan keputusan “bolehkah saya melihatnya?” sepenuhnya kepada manusia, atau tidak ada momen untuk menentukan “bolehkah ini ditunjukkan?”.

AI mengeluarkan jawaban, tetapi tidak mempertimbangkan apakah jawaban itu pantas diberikan. Seperti yang saya tulis di artikel sebelumnya, AI tidak punya martabat, keyakinan, atau rasa tanggung jawab. Karena itu manusialah yang harus menambal tanggung jawab tersebut.

Sebagai tindakan pencegahan saya membuka halaman utama situs perusahaan itu dan mengirim surel ke alamat kontak yang tercantum. Ini bukan untuk menyanjung diri sendiri; saya hanya berusaha menutupi ketiadaan tanggung jawab AI dengan rasa tanggung jawab, hati nurani, dan rasa takut milik manusia.

Pembaca yang bijak tentu paham bahwa tidak semua orang bertindak seperti itu. Ada yang justru menyebarkan informasi tersebut, ada pula yang tanpa sengaja memasukkan dokumen internal ke AI untuk dilatih. Setahu saya, sejauh ini kasus seperti ini belum menjadi isu sosial sebesar virus Winny, tetapi saya rasa cepat atau lambat masalahnya akan muncul ke permukaan.

Kesimpulan──Menuju “desain tanggung jawab” di era AI

AI mendemokratisasi informasi baik dari sisi perolehan maupun penyebaran dengan kekuatan yang melampaui era awal internet. Namun di baliknya, kebocoran yang tidak disengaja dapat terjadi dan disalurkan “secara tepat dan cepat” kepada pihak yang berniat jahat. Inti rasa takutnya adalah, kalau dulu kita bisa berkata “untung tidak ketahuan meski sempat terbuka”, sekarang begitu sesuatu terindeks, informasi itu langsung tiba ke tangan yang salah dengan kecepatan tinggi.

Bahkan tanpa kesalahan pengaturan, rangkaian informasi yang tadinya aman dibuka secara terpisah dapat digabungkan untuk menyingkap sosok seseorang tanpa disadari. Saya pernah bereksperimen dengan memasukkan semua artikel blog ini ke ChatGPT, dan hasilnya cukup akurat. Secara kasat mata tingkat ketepatannya sekitar 60% ketika memprofilkan saya. Ia memang gagal menebak tempat kerja atau usia saya yang sebenarnya (sekadar kisaran umur), dan masih banyak kesalahan, tetapi tetap saja tidak jauh meleset. ※ Dalam penelitian stylometry, bahkan beberapa puluh baris teks sudah cukup untuk mengidentifikasi penulisnya.

Tergantung targetnya, AI mungkin bisa menebak dengan sempurna. Kumpulan informasi yang tampak sepele bisa saja, ketika dirangkai, mengungkap fakta yang mengejutkan. ※ OSINT (Open Source Intelligence, intelijen berbasis informasi terbuka) akan menjadi jauh lebih kuat dan mudah dilakukan siapa pun terhadap siapa pun—bahkan stalker terhadap targetnya.

Tantangan ke depan bukan sekadar memperkuat keamanan. Kita perlu mendesain ulang tanggung jawab dan keamanan yang sesuai dengan era AI—mengejar kecepatan demokratisasi informasi dengan aturan dan langkah masyarakat.

Berkat AI, pengetahuan menjadi sangat mudah dijangkau. Namun pada saat yang sama, mitos “aman karena tak ada yang menemukan” runtuh sudah. Jujur saya belum punya jawaban hari ini, tetapi setelah AI mengaburkan batas-batas informasi, jelas kita membutuhkan pola pikir baru tentang pengelolaan data.

Mulai sekarang, setiap orang harus hidup dengan menyadari dua sisi koin: demokratisasi dan paparan.