Paus Leo XIV memanfaatkan manifesto pertamanya, yang diterbitkan pada Senin (26/05), untuk mendesak para pemerintah melucuti kecerdasan buatan (AI) dan berpegang pada kebaikan bersama, bukan pada kekuasaan atau keuntungan. Paus pertama asal Amerika Serikat ini menekankan bahwa meskipun AI dapat menjadi alat yang berharga, kecerdasan buatan juga menimbulkan banyak bahaya bagi umat manusia.
AI Harus Dilucuti
Kecerdasan Buatan kini perlu dilucuti, dibebaskan dari logika yang mengubahnya menjadi alat dominasi, pengucilan, dan kematian, kata Paus Leo XIV dalam sebuah presentasi khusus di Vatikan mengenai dokumen tersebut, yang dikenal sebagai ensiklik. Ensiklik dianggap sebagai bentuk pengajaran yang otoritatif dari seorang paus kepada 1,4 miliar umat Gereja Katolik.
Magnifica Humanitas atau dalam terjemahan bahasa Indonesia berarti Kemanusiaan yang Luar Biasa adalah ensiklik pertama Paus Leo XIV. Ensiklik tersebut merupakan hasil dari penelitian bertahun-tahun yang dilakukan Gereja mengenai teknologi terkait kecerdasan buatan.
Isi Magnifica Humanitas tentang AI dan Perang
Dalam naskah tersebut, Paus Leo XIV juga secara spesifik mengkritik peran perkembangan teknologi yang berkembang pesat dalam penggunaannya di ranah konflik. Dia berpendapat bahwa AI telah membuat perang menjadi lebih mudah terjadi. Paus Leo mengatakan bahwa penggunaan AI dalam peperangan harus tunduk pada batasan etis yang terketat, sambil menekankan bahwa keputusan yang mematikan tidak boleh diserahkan kepada sistem AI.
Leo menekankan bahwa melucuti senjata tidak berarti menolak teknologi, melainkan mencegah teknologi tersebut mendominasi umat manusia. AI harus ramah terhadap manusia, dapat diakses oleh semua orang, dan terbuka untuk diskusi serta perdebatan, tambahnya, sambil menyayangkan bahwa kekuasaan sering kali terpusat pada segelintir penguasa.
Ini berarti bahwa kelompok-kelompok kecil yang sangat berpengaruh dapat membentuk pola informasi dan konsumsi, mempengaruhi proses demokrasi, serta mengarahkan dinamika ekonomi demi keuntungan mereka sendiri, tulisnya. Oleh karena itu, sangatlah penting bahwa AI diatur secara ketat dan dihadapkan pada kerangka hukum yang kokoh, pengawasan independen, pengguna yang terinformasi, serta sistem politik yang tidak melepaskan tanggung jawabnya, tegas Paus Leo.
Presentasi di Vatikan tersebut dihadiri oleh para pakar AI, termasuk Chris Olah, salah satu pendiri perusahaan raksasa AI yang berbasis di AS, Anthropic. Perusahaan tersebut saat ini terlibat dalam perselisihan hukum dengan pemerintahan Donald Trump terkait penolakannya untuk memberikan akses ke model AI-nya. Dalam presentasi tersebut, Olah mengakui bahwa perusahaan AI beroperasi di dalam serangkaian keuntungan dan batasan, yang terkadang dapat bertentangan dalam melakukan hal yang benar. Dia menambahkan bahwa pihaknya menyambut masukan dari sumber luar seperti Gereja Katolik untuk membuat perkembangan ke arah yang lebih baik.
Permintaan Maaf atas Perbudakan
Dalam ensiklik itu, Paus Leo memperingatkan bahwa kehadiran AI juga disertai dengan bentuk-bentuk baru perbudakan, misalnya seorang moderator konten dipaksa menonton materi yang membuat tidak nyaman, hingga anak-anak menjadi penambang mineral tanah jarang yang sangat dibutuhkan untuk ekonomi digital. Tubuh orang-orang ini penuh luka, disakiti, dan dikuras habis agar aliran data dapat terus berlanjut tanpa henti, ungkap Paus Leo XIV. Kenyataan ini sangat menentang hati nurani dan moral zaman kita.
Dalam kesempatan itu, Paus Leo juga menyampaikan permintaan maaf, sesuatu yang belum pernah dilakukan sebelumnya, terkait peran Vatikan dalam perdagangan budak Transatlantik dan menyebutnya sebagai luka dalam ingatan Katolik. Dia menyesalkan bahwa baru pada abad ke-19 penolakan formal, mutlak, dan universal terhadap perbudakan diungkapkan dengan jelas oleh Gereja Katolik. Untuk hal tersebut, atas nama Gereja Katolik, saya memohon maaf dengan sepenuh hati, tulis Paus Leo XIV.
