Cermin yang Tidak Memantulkan Bayang

Oleh : Mandala Asrul Sadewa

Tentang apa yang terjadi ketika mesin mulai terlalu mengenal kita dan kita mulai tidak mengenal diri sendiri.

Sekarang ini kita memiliki kebiasaan baru, yaitu bertanya kepada AI

sebelum mengambil keputusan, bahkan untuk keputusan kecil sekalipun. Kita tidak bertanya karena kita tidak tahu, tapi karena kita ingin dikonfirmasi. Kita tidak

mencari jawaban, kita mencari cermin.

Masalahnya adalah cermin yang baik harus memantulkan apa adanya. Tapi AI generatif tidak dirancang untuk memantulkan, melainkan untuk merespons. AI belajar dari pola yang kita sukai, dari kalimat yang kita klik, dari pertanyaan yang kita ulang. Lambat laun, tanpa kita sadari, AI mulai menunjukkan kepada kita bukan siapa kita, melainkan siapa yang ingin kita lihat.

Ketika kecerdasan buatan menjadi terlalu pandai membaca kita, bahayanya bukanlah bahwa ia akan menguasai kita, melainkan bahwa kita akan berhenti

mempertanyakan diri sendiri.

Selama berabad-abad, manusia berkembang karena gesekan dengan ide yang berlawanan, dengan orang yang tidak sepakat, dengan kenyataan yang tidak nyaman. Kita tumbuh dari konflik kecil antara apa yang kita yakini dan apa yang dunia tunjukkan. Proses ini tidak selalu menyenangkan, tapi ia membentuk

pertimbangan, empati, dan karakter.

Sekarang, gesekan itu sedang dihaluskan. AI yang semakin personal,

semakin adaptif, semakin “memahami” kita, secara diam-diam mengikis bagian terpenting dari pengalaman manusia: momen ketika kita salah, dan sadar bahwa kita salah. Bukan karena mesin itu jahat, tapi karena kenyamanan adalah produk yang paling mudah dijual.

Yang mengkhawatirkan bukanlah skenario fiksi ilmiah di mana robot mengambil alih dunia. Yang mengkhawatirkan adalah skenario yang sudah berlangsung, di mana jutaan orang, sedikit demi sedikit, menyerahkan fungsi

mempertimbangkan kepada sistem yang tidak pernah menanggung konsekuensi

dari keputusan itu. AI tidak akan merasakan dampak dari pilihan karir yang salah, dari hubungan yang diakhiri terlalu cepat, dari keyakinan yang tidak pernah diuji.

Otonomi bukan hanya soal kebebasan memilih, tapi juga soal kapasitas untuk memilih, dan kapasitas itu butuh latihan, termasuk latihan gagal.

Maka pertanyaan yang lebih jujur bukan “seberapa pintar AI ini?”

melainkan “seberapa banyak ruang yang masih kita sisakan untuk kebodohan kita sendiri?” Kebodohan yang produktif, yang memaksa kita berpikir, meragukan,

mencoba lagi, bukan kebodohan yang ditutupi oleh jawaban instan yang terdengar meyakinkan.

Kita tidak membutuhkan regulasi yang lebih ketat, atau mesin yang lebih bodoh. Kita membutuhkan sesuatu yang lebih tua dari teknologi: kesadaran bahwa alat yang paling canggih sekalipun tidak bisa menggantikan proses menjadi

manusia. Dan menjadi manusia, pada intinya, adalah tentang belajar hidup dengan ketidakpastian, bukan menghapusnya.

Cermin yang tidak memantulkan bayang bukan cermin yang rusak, tapi cermin yang berbahaya, karena membuat kita percaya bahwa kita tampak lebih baik dari yang sebenarnya.