Maka, pertanyaan etisnya bukan apakah perusahaan boleh menggunakan AI, melainkan bagaimana transisi itu dilakukan. Apakah pekerja diberi pelatihan ulang? Apakah keuntungan produktivitas dibagi secara adil? Apakah AI dipakai untuk memperkuat manusia atau sekadar mengganti manusia demi margin laba?
Hal ini secara jelas tampak pada pekerja data labeler dan moderator konten. Di balik kecerdasan AI, ada jutaan pekerja yang memberi label gambar, membersihkan data, memoderasi konten kekerasan, dan melatih model.
Brookings mencatat adanya gerakan pekerja data dan moderator konten di Kenya serta Global South yang menuntut upah layak, kondisi kerja aman, dan dukungan kesehatan mental. Kasus ini menunjukkan bahwa AI yang tampak “otomatis” sering berdiri di atas kerja manusia yang tersembunyi.
Kebebasan dan Perbudakan Digital Baru
Ensiklik ini juga kuat karena menyebut kemungkinan munculnya “perbudakan baru” dalam ekonomi digital. Istilah ini dapat dibaca secara luas, bahwa bukan hanya perdagangan manusia yang difasilitasi platform, tetapi juga bentuk eksploitasi digital seperti kerja mikro berupah rendah, pengawasan pekerja, manipulasi perilaku konsumen, dan ketergantungan manusia pada sistem rekomendasi.
Dalam ekonomi platform, kebebasan sering tampak sebagai pilihan, yaitu memilih aplikasi, memilih pekerjaan fleksibel, memilih konten. Namun di balik itu, algoritma menentukan visibilitas, pendapatan, rating, bahkan reputasi seseorang. Kebebasan menjadi semu ketika manusia tidak memahami bagaimana sistem mengambil keputusan atas dirinya.
Di sinilah prinsip subsidiaritas menjadi relevan. Keputusan teknologi tidak boleh hanya ditentukan oleh perusahaan besar, investor, atau negara kuat. Komunitas terdampak harus memiliki suara. Data, algoritma, dan paten tidak boleh hanya menjadi barang privat yang memperkaya segelintir elit, sebab dampaknya menyentuh kehidupan publik.
Senjata Otonom dan Hilangnya Tanggung Jawab Moral
Paus Leo XIV memperingatkan bahaya senjata otonom yang dapat membuat keputusan hidup dan mati semakin jauh dari pertimbangan manusia. Reuters melaporkan bahwa dalam ensiklik ini Paus mendesak regulasi AI yang lebih ketat dan memperingatkan bahwa sebagian senjata kini bergerak menuju operasi di luar kendali manusia langsung.
Persoalan utama senjata otonom bukan hanya akurasi, tetapi tanggung jawab. Jika drone atau sistem AI salah menargetkan warga sipil, siapa yang bertanggung jawab? Programmer? Komandan? Produsen? Negara? Davison, N. (2018) telah lama memperingatkan bahwa keterbatasan kontrol manusia atas senjata otonom dapat menyulitkan pertanggungjawaban dalam hukum humaniter internasional (Davison, 2018).
Dalam kasus perang modern teknologi militer semakin terdigitalisasi, seperti drone, sistem target otomatis, pengawasan satelit, dan analisis medan tempur berbasis AI. Dalam situasi perang, kecepatan algoritmik dapat mengalahkan refleksi moral. Padahal keputusan membunuh tidak boleh direduksi menjadi kalkulasi probabilitas.
Peradaban Kasih sebagai Alternatif
Konsep “Peradaban Kasih” dalam ensiklik ini bukan slogan sentimental. Ia adalah tawaran politik-etis untuk melawan budaya kekuasaan. Dalam budaya kekuasaan, AI dipakai untuk menguasai pasar, memantau warga, memenangkan perang, dan memaksimalkan profit.
Halaman : 1 2 3 4 Selanjutnya
