Refleksi Atas Pesan Paus tentang Kecerdasan Artifisial dan Kebijaksanaan Hati

Ringkasan: Gereja Katolik (GK) tidak anti teknologi AI, tetapi GK merangkul mereka yang membuat teknologi AI, memberi bimbingan agar AI dipakai untuk kebaikan bersama (bonnum commune).

Saya sebenarnya ingin mengatakan bagaimana GK punya peranan yang luar biasa dalam mendorong pendekatan a human-centric Artificial Intelligence (kecerdasan artifisial yang bermuara pada manusia). Saya akan ceritakan tentang peran GK lewat Pastor Antonio Zampini, The Pontifical Academy for LIfe — RenAIssance Foundation, Rome Call (Seruan Roma), Algorethics – etika untuk algoritma. 6 prinsip dengan tujuan untuk mempromosikan kecerdasan artifisial yang menghormati manusia, hingga di dalam AI Advisory Body di mana saya sekarang berkarya.

Poin-poin penting:

• AI bukan lagi memiliki pengertian sebagai mesin yang belajar (machine learning), atau kecerdasan buatan, tetapi telah menjadi kecerdasan artifisial. Dulu, mesin yang belajar dan kecerdasan buatan menempatkan manusia masih terlibat dalam proses pengambilan keputusan, namun saat ini AI bukan lagi diciptakan seperti pada model-model AI lama, melainkan menciptakan (Generative AI/Gen AI). AI memutuskan mengambil tindakan setelah berpikir mandiri. Sampai sejauh ini, AI tidak punya kesadaran (conscience), AI tidak punya kompas moral. AI tidak punya hati.

• Pada Hari Komunikasi Sedunia 2024, Paus Fransiskus menyoroti peran kecerdasan artifisial (AI) dalam kehidupan manusia. Beliau menekankan bahwa pengembangan teknologi harus selalu didasarkan pada prinsip kebijaksanaan hati, bukan hanya pada kemajuan teknologi semata. Paus menekankan pentingnya menghadirkan kecerdasan artifisial dengan integritas moral yang sejalan dengan tujuan kemanusiaan. Ia mengingatkan bahwa teknologi harus melayani manusia, bukan sebaliknya, dan bahwa tanggung jawab moral atas penggunaan AI harus dipegang oleh semua pihak, termasuk pembuat kebijakan, pengembang, dan pengguna teknologi. Dengan demikian, Paus mengajak untuk membangun hubungan yang seimbang antara kemajuan teknologi dan nilai-nilai kemanusiaan, menggarisbawahi pentingnya etika dan moral dalam pengembangan dan penerapan kecerdasan artifisial.

• Pesan Paus Fransiskus di Hari Komunikasi Sedunia tentang Kecerdasan Artifisial (AI) dan Kebijaksanaan Hati dapat dianalisis dengan perspektif sejarah yang menyoroti evolusi hubungan antara teknologi dan nilai-nilai manusia. Secara historis, manusia selalu mengembangkan teknologi untuk meningkatkan kualitas hidup dan efisiensi. Dalam hal ini, AI muncul sebagai tonggak baru dalam sejarah perkembangan teknologi yang memiliki potensi besar untuk memengaruhi cara kita hidup, bekerja, dan berkomunikasi. Namun, Paus Fransiskus menegaskan bahwa kemajuan teknologi, termasuk AI, tidak boleh terlepas dari pertimbangan nilai-nilai moral dan etika yang mendasar.

• Sejarah telah menunjukkan bahwa tanpa kesadaran moral, teknologi bisa digunakan untuk kepentingan yang merugikan atau bahkan membahayakan kemanusiaan. Contohnya adalah penggunaan senjata nuklir dan pemakaian teknologi digital untuk tujuan yang tidak etis. Atau misalnya contoh terkini bagaimana AI digunakan dalam situasi konflik, seperti The Gospel dan Habsora. “The Gospel” dipakai untuk membantu memilih target dalam konflik Israel-Hamas yang sedang berlangsung. Sistem yang dikembangkan oleh Pasukan Pertahanan Israel (IDF) digambarkan sebagai platform pembuatan target AI yang mempercepat identifikasi dan pemilihan target. Oleh karena itu, pesan Paus Fransiskus menekankan perlunya kembali kepada kebijaksanaan hati dalam pengembangan dan penerapan AI. Dengan mengaitkan isu ini dengan perspektif sejarah, pesan Paus Fransiskus memberikan pengingat bahwa perkembangan teknologi harus selalu dipandu oleh pertimbangan moral yang mendalam, sebagaimana yang telah diajarkan oleh sejarah tentang dampak negatif dari penggunaan teknologi tanpa pertimbangan etika. Ini memicu perdebatan dan refleksi tentang bagaimana manusia dapat memandu kemajuan teknologi ke arah yang membawa manfaat bagi kemanusiaan secara keseluruhan, bukan hanya keuntungan bagi segelintir orang atau kelompok.

• Sejarah keterlibatan Gereja Katolik dalam merespon kehadiran Kecerdasan Artifisial (AI) dapat dilacak melalui serangkaian pernyataan, panduan, dan dokumen yang dikeluarkan oleh berbagai lembaga gerejawi dan pemimpin gerejawi. Di bawah ini adalah ringkasan sejarahnya: a. Awal 2000-an hingga Pertengahan 2010-an: Gereja Katolik mengamati perkembangan teknologi AI dengan penuh perhatian. Pada periode ini, diskusi-diskusi awal mulai muncul tentang implikasi etis dan moral dari kecerdasan artifisial. Paus Yohanes Paulus II dan Paus Benediktus XVI menyuarakan keprihatinan mereka tentang kemungkinan penyalahgunaan teknologi dan pentingnya memastikan bahwa AI digunakan untuk kebaikan bersama (bonum commune). b. 2010-an: Paus Fransiskus, sejak awal masa kepausannya, telah menyoroti pentingnya dialog antara ilmu pengetahuan dan agama dalam menghadapi tantangan teknologi modern, termasuk AI. Lembaga-lembaga Katolik seperti Dewan Kepausan untuk Kebudayaan dan Akademi Kepausan untuk Ilmu Pengetahuan telah memfasilitasi dialog ini melalui konferensi, seminar, dan publikasi. c. 2019: Paus Fransiskus secara resmi menyatakan perhatiannya terhadap AI dalam pesannya untuk Hari Komunikasi Sedunia. Dia menekankan bahwa kebijaksanaan hati harus membimbing pengembangan dan penggunaan teknologi, serta memperingatkan tentang risiko penggunaan AI yang tidak terkendali. d. 2020-an: Gereja Katolik semakin terlibat dalam diskusi tentang etika AI dan kebijaksanaan hati. Lembaga-lembaga Katolik, seperti Pontifical Academy for Life dan Pusat Etika di Universitas Kepausan Gregorian, terus memimpin inisiatif dan penelitian dalam hal ini. Ada juga upaya untuk mengintegrasikan pandangan etis Katolik ke dalam pedoman dan kebijakan terkait AI.

• Hasil-hasil dari keterlibatan Gereja Katolik ini termasuk peningkatan kesadaran akan implikasi etis dari AI, promosi dialog antara agama dan ilmu pengetahuan dalam hal ini, serta upaya konkret untuk mengembangkan panduan etis dan moral untuk pengembangan dan penggunaan AI.

• Saya bertemu dengan Pastor Augusto Zampini-Davies SJ — utusan Tanah Suci untuk bicara tentang AI di Forum Tata Kelola Internet Dunia (Internet Governance Forum) di Berlin, Jerman, tahun 2019. Dalam sesi diskusi tentang apakah AI merupakan public goods? Ia mengkritisi gagasan banyak orang agar AI menjadi public goods karena situasinya di Argentina dan kebanyakan negara Global South, AI hanya bisa diakses segelintir orang dan hanya memperkaya segelintir orang juga. Siapa yang dapat menjadi adanya keadilan dari keberadaan teknologi AI ini? Pastor Zampini telah berpartisipasi dalam berbagai forum, konferensi, dan diskusi tentang etika AI, di mana ia telah menyoroti pentingnya memperhitungkan dampak sosial, etika, dan lingkungan dari pengembangan teknologi AI. Dia juga telah berbicara tentang bagaimana nilai-nilai Katolik dapat memberikan panduan untuk pengembangan dan penggunaan AI yang sesuai dengan martabat manusia dan keadilan sosial. Peran Pastor Zampini dalam teknologi AI tidak hanya terbatas pada advokasi, tetapi juga mencakup kerja langsung dalam mengembangkan panduan dan prinsip-prinsip etika untuk penggunaan teknologi AI. Melalui kontribusinya, Zampini berusaha untuk memastikan bahwa kemajuan teknologi AI tidak hanya menguntungkan sebagian kecil masyarakat, tetapi juga menghormati dan memperkuat martabat manusia secara keseluruhan.

• Pada tahun 2020, GK berhasil mempromosikan pendekatan etis terhadap kecerdasan artifisial dengan melibatkan cukup banyak perusahan tech platform lewat Rome Call (Seruan Roma) https://www.romecall.org/. Ide di balik hal ini adalah untuk meningkatkan rasa tanggung jawab bersama di antara organisasi internasional, pemerintah, lembaga dan sektor swasta dalam upaya menciptakan masa depan di mana inovasi digital dan kemajuan teknologi memberikan sentralitas pada umat manusia. Menunjuk pada algoritma baru Algorethics (Algoretika), para penandatangan berkomitmen untuk meminta pengembangan kecerdasan buatan yang melayani setiap orang dan umat manusia secara keseluruhan; yang menjunjung tinggi harkat dan martabat manusia, sehingga setiap orang dapat memperoleh manfaat dari kemajuan teknologi; dan hal ini tidak bertujuan untuk mendapatkan keuntungan yang lebih besar atau penggantian pekerja secara bertahap.

• Seruan Roma untuk Etika AI terdiri dari 3 bidang dampak dan 6 prinsip. 3 Bidang terdiri atas: 1.⁠ ⁠Etika 2.⁠ ⁠⁠Pendidikan 3.⁠ ⁠⁠Hak-hak warga. Sedang 6 Prinsip adalah: 1.⁠ ⁠Transparansi 2.⁠ ⁠⁠Inklusi 3.⁠ ⁠⁠Akuntabilitas 4.⁠ ⁠⁠Imparsial 5.⁠ ⁠⁠Bisa diandalkan dan 6.⁠ ⁠⁠Keamanan dan privasi.

• Seruan untuk Etika AI adalah dokumen yang ditandatangani oleh Pontifical Academy for Life, Microsoft, IBM, FAO dan Kementerian Inovasi, bagian dari pemerintah Italia, di Roma pada tanggal 28 Februari 2020 untuk mempromosikan pendekatan etis terhadap teknologi Kecerdasan Artifisial.

• Ada beberapa alasan mengapa Gereja Katolik mendorong algoretika: 1. Perlindungan Martabat Manusia: Gereja Katolik percaya bahwa setiap orang memiliki martabat yang tidak dapat dilepaskan, dan bahwa teknologi harus digunakan untuk memperkuat dan melindungi martabat manusia, bukan menguranginya. 2. Keadilan dan Solidaritas: Gereja Katolik menekankan pentingnya keadilan dan solidaritas dalam pengembangan dan penggunaan teknologi. Algoritma dan sistem AI harus didesain sedemikian rupa sehingga tidak menghasilkan ketidakadilan atau kesenjangan sosial yang lebih besar. 3. Etika dalam Pengambilan Keputusan: Gereja Katolik mengajarkan bahwa pengambilan keputusan harus didasarkan pada prinsip-prinsip etis dan moral. Oleh karena itu, algoritma dan sistem AI harus memperhitungkan implikasi moral dari keputusan yang diambilnya. 4. Perlindungan Terhadap Kerusakan Lingkungan: Gereja Katolik juga mengajarkan tanggung jawab kita untuk merawat lingkungan alam. Oleh karena itu, algoritma dan teknologi harus mempertimbangkan dampaknya terhadap lingkungan dan dunia alam secara lebih luas.

• Seruan Roma dibawa menjadi salah satu usulan GK ke dalam AI Advisory Board (AIAB) lewat RennAIssance Foundation, di mana direktur RennAIssance Foundation menjadi salah satu pakar AI yang duduk di High Level AIAB UNSG.

• Kritik yang disuarakan oleh Gereja Katolik terutama berkaitan dengan kekhawatiran akan kemungkinan penyalahgunaan AI, peningkatan kesenjangan sosial karena perkembangan teknologi, dan pengurangan peran manusia dalam pengambilan keputusan yang penting. Gereja Katolik juga mengkritik pendekatan utilitarianisme yang mungkin mendominasi pengembangan AI tanpa memperhatikan nilai-nilai etis dan moral yang lebih luas.

• Pesan Paus juga mengungkap pemikiran Romano Guardini, seorang teolog Katolik dan filsuf Jerman yang dikenal karena kontribusinya dalam berbagai bidang, termasuk teologi, filsafat, dan pendidikan. Pandangan Guardini tentang teknologi tercermin dalam pemikirannya tentang hubungan antara manusia dan teknologi, serta dampaknya terhadap kehidupan spiritual dan moral manusia. Secara umum, Guardini menekankan pentingnya mempertimbangkan implikasi etis dari perkembangan teknologi dan menghadapi tantangan yang dihadirkan oleh modernitas dengan landasan nilai-nilai moral dan spiritual. Salah satu konsep sentral dalam pemikiran Guardini adalah “penyempurnaan teknis”, di mana teknologi dapat menjadi kendala atau hambatan bagi pertumbuhan manusia jika digunakan tanpa memperhatikan aspek-aspek moral dan spiritual. Guardini merasa bahwa manusia harus tetap berada dalam kendali atas teknologi, bukan sebaliknya, dan bahwa penggunaan teknologi harus selaras dengan tujuan-tujuan spiritual dan moral yang lebih tinggi. Dalam karya-karyanya, Guardini menggarisbawahi pentingnya refleksi, kontemplasi, dan pertimbangan etis dalam menghadapi kemajuan teknologi. Dia menegaskan bahwa manusia harus mengembangkan kebijaksanaan dalam menggunakan teknologi, serta tetap memelihara hubungan yang sehat dengan alam dan dunia spiritual. Secara keseluruhan, pandangan Guardini tentang teknologi menyoroti pentingnya mempertimbangkan aspek moral dan spiritual dalam perkembangan dan penggunaan teknologi, serta pentingnya memelihara keseimbangan antara kemajuan teknologi dan nilai-nilai kemanusiaan yang lebih luas.

• Ke depan, GK di Indonesia perlu menyamakan langkah dengan apa yang telah dilakukan GK di tingkat global. Perlu menjaga suara kenabian di tengah kemajuan teknologi AI dengan berpijak pada algoretika agar perkembangan pemanfaatan AI di Indonesia berjalan sesuai harkat dan martabat manusia, sekaligus mereduksi potensi risiko yang menimbulkan ketidakadilan dan penghilangan martabat manusia.