Paus serukan tata kelola AI, untuk menjunjung tinggi martabat manusia dan mendorong dialog

ISTANBUL

Paus Leo XIV menyerukan kepada komunitas internasional untuk membentuk kerangka kerja terkoordinasi dan tata kelola etis bagi kecerdasan buatan (AI), serta menekankan bahwa teknologi tersebut harus digunakan untuk melayani kemanusiaan dan perdamaian.

Dalam pesan yang disampaikan Kamis oleh Kardinal Sekretaris Negara Pietro Parolin pada KTT AI for Good yang diselenggarakan PBB di Jenewa, Paus menekankan bahwa AI harus dikelola secara etis dan berlandaskan pada pengakuan akan martabat manusia dan kebebasan dasar.

“Saya ingin mengambil kesempatan ini untuk mendorong Anda semua mencari kejelasan etis dan membentuk tata kelola AI yang terkoordinasi secara lokal maupun global, berdasarkan pengakuan bersama atas martabat yang melekat dan kebebasan mendasar setiap pribadi manusia,” bunyi pesan tersebut.

KTT AI for Good, yang diselenggarakan oleh International Telecommunication Union (ITU) PBB dan diselenggarakan bersama oleh pemerintah Swiss, mempertemukan para perwakilan dari pemerintahan, perusahaan teknologi, akademisi, dan masyarakat sipil untuk mengeksplorasi bagaimana AI dapat membantu mengatasi tantangan global.

Memperingatkan bahwa umat manusia berada di persimpangan penting dalam “era inovasi yang mendalam” ini, Paus Leo menekankan pentingnya refleksi terhadap implikasi etis dari teknologi AI yang semakin mampu bertindak secara otonom.

“Ketika AI menjadi mampu beradaptasi secara otonom dalam berbagai situasi melalui keputusan algoritmik teknis semata, maka penting untuk mempertimbangkan implikasi antropologis dan etisnya, nilai-nilai yang dipertaruhkan, serta tugas dan kerangka regulasi yang diperlukan untuk menjunjung nilai-nilai tersebut,” tulis pesan itu.

Paus menekankan bahwa tanggung jawab etis tidak hanya terletak pada para pengembang dan regulator AI, tetapi juga pada para penggunanya. “AI memerlukan pengelolaan etis yang tepat serta kerangka regulasi yang berpusat pada manusia, yang melampaui sekadar kriteria kegunaan atau efisiensi,” ujarnya.

Mengutip konsep St. Agustinus tentang “ketenangan dalam keteraturan” (*tranquility of order*), Paus Leo mengatakan bahwa AI harus berkontribusi dalam membangun “masyarakat yang damai dan adil demi pengembangan manusia yang menyeluruh dan kebaikan keluarga manusia.” Konsep “ketenangan dalam keteraturan” dari St. Agustinus berarti bahwa kedamaian sejati muncul ketika segala sesuatu ditata dengan tepat sesuai tujuan hakikinya, menciptakan harmoni dan stabilitas.

Meskipun mengakui bahwa AI dapat memajukan sektor-sektor seperti kesehatan, pendidikan, pemerintahan, dan komunikasi, Paus memperingatkan bahwa AI tidak dapat menggantikan penilaian moral atau hubungan manusia. “AI tidak dapat mereplikasi kemampuan untuk memilah secara moral atau membentuk relasi yang tulus,” tegasnya.

Ia menutup pesannya dengan menyerukan agar pengembangan AI dipandu oleh hati nurani, tanggung jawab, dan pencarian akan kebaikan bersama.

“Diperlukan kebijaksanaan untuk memastikan bahwa AI dikembangkan dan dimanfaatkan demi kebaikan bersama, membangun jembatan dialog, dan mendorong persaudaraan,” kata Paus.