Hubungan antara kecerdasan buatan dan demokrasi tidak bersifat linier atau searah, melainkan mewakili jalinan kekuatan yang saling bertentangan yang secara bersamaan meningkatkan dan merusak fondasi proses demokrasi.
AI telah mengubah ruang publik secara mendalam di mana perdebatan demokratis terjadi. Perubahan ini jauh melampaui masalah disinformasi yang sederhana. Kita menyaksikan fragmentasi pengalaman informasi kolektif yang secara historis telah menjadi prasyarat mendasar bagi demokrasi modern.
Ketika warga negara yang berbeda hidup dalam realitas informasi yang sangat berbeda yang terstruktur oleh algoritme rekomendasi, landasan bersama yang diperlukan untuk dialog demokratis akan hilang.
Paradoksnya, meskipun AI telah melipatgandakan sumber informasi yang tersedia, AI juga mengikis kemampuan masyarakat demokratis untuk mencapai konsensus tentang apa yang disebut sebagai 'fakta'. Erosi epistemik ini menimbulkan tantangan yang lebih dalam dan lebih berbahaya daripada sekadar menyebarkan berita palsu.
Negara-negara demokrasi dihadapkan pada dilema mendasar: keputusan tentang AI membutuhkan keahlian teknis yang sangat spesifik, tetapi mempercayakan keputusan ini secara eksklusif kepada para ahli berarti menyingkirkannya dari proses demokrasi. Dengan demikian, ada ketegangan yang belum terselesaikan antara prinsip demokrasi (keputusan yang dibuat oleh dan untuk warga negara) dan kebutuhan akan keahlian spesialis.
Ketegangan ini diperparah dengan fakta bahwa sistem AI yang semakin kompleks tidak hanya tidak dapat dipahami oleh masyarakat awam, tapi juga oleh para ahli yang mengembangkannya. Bagaimana kontrol demokratis dapat berfungsi ketika instrumen yang seharusnya diatur melebihi kemampuan manusia untuk memahaminya?
Penargetan mikro politik melalui AI telah menjadi semakin canggih dalam kampanye kontemporer. Sistem AI menganalisis kumpulan data yang sangat besar tentang pemilih untuk membuat pesan politik yang sangat personal. Keamanan yang adil
Penelitian menunjukkan bahwa iklan politik yang ditargetkan secara personal dan dihasilkan oleh AI secara signifikan lebih persuasif daripada konten umum. PubMedNih
Skala dan efisiensi AI memungkinkan kampanye menghasilkan konten yang disesuaikan untuk jutaan pemilih secara bersamaan, membuat penargetan mikro jauh lebih layak dan hemat biaya daripada sebelumnya. Pemasar PolitikCSET
Studi terbaru menunjukkan bahwa alat kampanye yang disempurnakan dengan AI dapat mengidentifikasi kerentanan psikologis pada pemilih dan membuat pesan yang mengeksploitasi karakteristik ini. OUPAcademicTechInformed
Kekhawatiran demokratisnya cukup besar:
Sistem pemungutan suara dan infrastruktur pemilu juga dipengaruhi oleh AI, baik secara positif maupun negatif:
AI menawarkan peluang dan tantangan bagi partisipasi demokratis:
AI tidak hanya mengubah mode debat demokratis, tetapi juga merestrukturisasi hubungan kekuasaan di dalam masyarakat. Kontrol atas infrastruktur AI sekarang mewakili bentuk kekuasaan yang sebanding, jika tidak lebih unggul, dari yang secara tradisional dilakukan oleh lembaga-lembaga demokratis seperti parlemen.
Kita menyaksikan pergeseran kekuasaan pengambilan keputusan dari lembaga-lembaga publik yang tunduk pada kontrol demokratis ke entitas-entitas swasta yang beroperasi menurut logika yang berbeda. Migrasi kekuasaan ini sering kali terjadi secara tidak terlihat, melalui pendelegasian keputusan secara progresif kepada sistem otomatis yang beroperasi sesuai dengan parameter yang tidak selalu transparan atau ditetapkan secara demokratis.
AI mengubah konsep partisipasi demokratis. Di satu sisi, AI menawarkan alat untuk bentuk demokrasi yang lebih langsung dan partisipatif, di sisi lain, AI memperkenalkan hambatan kognitif dan teknologi baru untuk mengaksesnya. Dalam proses ini, nilai dari opini individu juga sedang didefinisikan ulang: dalam konteks personalisasi algoritmik yang semakin meningkat, bagaimana seseorang dapat membedakan antara preferensi pribadi yang otentik dan preferensi yang disebabkan oleh sistem rekomendasi?
Ambivalensi ini juga muncul dalam sistem musyawarah dengan bantuan AI: sistem ini dapat membuat proses pengambilan keputusan yang kompleks menjadi lebih mudah diakses, tetapi juga berisiko menyederhanakan isu-isu yang membutuhkan refleksi publik yang lebih mendalam.
Lembaga-lembaga demokrasi tradisional, yang dibangun pada era pra-digital, berjuang untuk beradaptasi dengan kecepatan yang dipaksakan oleh inovasi teknologi. Ketidaksinkronan sementara antara evolusi AI yang cepat dan proses demokrasi yang lebih lambat menciptakan kekosongan tata kelola yang berisiko diisi oleh mekanisme pengambilan keputusan yang tidak demokratis.
Tantangannya bukan sekadar mengatur AI melalui institusi yang sudah ada, tetapi juga memikirkan kembali institusi-institusi tersebut agar sesuai dengan era di mana kecerdasan buatan menjadi semakin penting dalam proses sosial, ekonomi, dan politik.
Untuk mengatasi tantangan-tantangan ini, konsepsi baru tentang kewarganegaraan demokratis harus dikembangkan yang menggabungkan kesadaran akan peran AI. Hal ini berarti mengatasi optimisme tekno-optimisme naif yang melihat AI hanya sebagai peluang untuk perbaikan demokrasi dan pesimisme yang melihatnya hanya sebagai ancaman.
Sebaliknya, hal ini membutuhkan pengembangan literasi kewarganegaraan yang mencakup kemampuan untuk mengevaluasi secara kritis pengaruh algoritme, berpartisipasi secara sadar dalam debat tentang masalah teknologi yang kompleks, dan menuntut transparansi dan akuntabilitas dari pihak-pihak yang mengembangkan dan mengimplementasikan sistem AI yang memiliki dampak sosial yang signifikan.
Pada analisis terakhir, hubungan antara AI dan demokrasi tidak ditentukan oleh teknologi itu sendiri, tetapi akan bergantung pada kemampuan kolektif kita untuk membayangkan dan membangun institusi, norma, dan praktik yang memungkinkan pengembangan teknologi diarahkan pada penguatan, bukan pengikisan nilai-nilai demokrasi yang mendasar.
AI dapat meningkatkan partisipasi demokratis dengan membuat informasi pemerintah lebih mudah diakses, memungkinkan partisipasi multibahasa, menganalisis masukan publik dalam skala besar, dan mempersonalisasi pengalaman keterlibatan warga negara. Misalnya, layanan penerjemahan yang ditingkatkan dengan AI dapat memungkinkan minoritas bahasa untuk berpartisipasi lebih penuh dalam proses demokrasi, ECNL sementara alat analisis data dapat membantu pemerintah mengidentifikasi dan mengatasi ketidaksetaraan dalam pemberian layanan publik. Kota berikutnya + 2
Risiko yang paling signifikan meliputi: proliferasi misinformasi persuasif dan pemalsuan mendalam yang merusak fakta yang dibagikan; manipulasi melalui konten politik yang ditargetkan secara mikro; bias algoritmik OUPAcademicMediaengagement yang mengecualikan kelompok-kelompok tertentu dari proses demokratis; dan kerentanan keamanan pada infrastruktur pemilu. Sage Journals + 5 Penelitian menunjukkan bahwa risiko-risiko ini tidak hanya bersifat teoretis-studi mendokumentasikan kekuatan persuasif dari konten politik yang dihasilkan oleh AI yang disesuaikan dengan profil psikologis individu. PubMed + 2
Pendekatan regulasi yang efektif meliputi: persyaratan pengungkapan wajib untuk konten politik yang dihasilkan oleh AI; batasan jenis data pribadi yang dapat digunakan untuk penargetan mikro politik; mekanisme pengawasan independen untuk memantau sistem AI kampanye; dan inisiatif pendidikan publik untuk meningkatkan kesadaran pemilih akan teknik persuasi yang ditingkatkan dengan AI. PBS + 4 Undang-Undang AI Uni Eropa memberikan contoh kerangka kerja peraturan berbasis risiko yang secara khusus membahas penggunaan AI dalam proses demokrasi. Eropa + 2
Warga negara harus memiliki kesempatan yang signifikan untuk membentuk tata kelola IA melalui mekanisme partisipatif seperti majelis warga negara, konsultasi publik, dan proses pelibatan pemangku kepentingan yang berkelanjutan. Penelitian Brookings menunjukkan bahwa melibatkan beragam pemangku kepentingan di sepanjang siklus hidup AI akan menghasilkan sistem yang lebih andal dan lebih mencerminkan nilai-nilai masyarakat. Adalovelaceinstitute + 13 Model yang berhasil seperti Piagam Data Camden menunjukkan bagaimana partisipasi warga negara dapat membangun kerangka kerja etis untuk penggunaan AI dalam layanan publik. Oecd
Strategi perlindungan meliputi: menerapkan langkah-langkah keamanan siber yang kuat seperti otentikasi multi-faktor; melatih petugas pemilu untuk mengenali upaya phishing yang disempurnakan oleh AI; mengembangkan sistem untuk mengidentifikasi dan melawan informasi yang keliru yang dihasilkan oleh AI tentang pemungutan suara; Sophos News membangun proses verifikasi untuk komunikasi pemilu resmi; dan menciptakan sistem yang berlebihan untuk infrastruktur pemilu yang penting. ABC News + 2 Badan Keamanan Siber dan Keamanan Infrastruktur (CISA) memberikan panduan khusus untuk petugas pemilu dalam memitigasi risiko AI. CisaCisa
AI dapat mengubah hubungan antara warga dan pemerintah dengan memungkinkan layanan publik yang lebih personal, menciptakan saluran baru untuk partisipasi warga, Nextcity mengotomatisasi fungsi-fungsi pemerintah tertentu, dan berpotensi mengubah dinamika kekuasaan dalam sistem yang demokratis. Arah transformasi ini sangat bergantung pada pilihan tata kelola, apakah AI diimplementasikan dengan cara-cara yang meningkatkan akuntabilitas demokratis atau memusatkan kekuasaan pada sistem teknis dengan pengawasan yang terbatas. ScienceDirect + 2
Kerja sama internasional sangat penting untuk menetapkan standar bersama, mencegah fragmentasi peraturan, mengatasi dampak lintas batas AI, dan mendorong keselarasan nilai-nilai demokrasi dalam pengembangan AI. OECD + 2 Prinsip-prinsip AI OECD mewakili model untuk koordinasi internasional, memberikan kerangka kerja umum yang diadopsi oleh 47 yurisdiksi di seluruh dunia sambil memungkinkan fleksibilitas untuk implementasi nasional. OECD
Memastikan bahwa AI memberikan manfaat bagi demokrasi membutuhkan: kerangka kerja tata kelola berbasis nilai yang proaktif; persyaratan transparansi dan akuntabilitas yang berarti; pendekatan partisipatif untuk pengembangan dan regulasi AI; investasi dalam literasi digital; perlindungan hak-hak dasar dalam aplikasi AI; dan mekanisme untuk meminta pertanggungjawaban sistem AI dan para pengembangnya. Eff + 4
Bukti menunjukkan bahwa pendekatan tata kelola yang antisipatif lebih efektif daripada regulasi yang reaktif. OecdBrookings (Pendekatan-pendekatan)
AI menghadirkan peluang dan tantangan yang signifikan bagi sistem demokrasi global. Tinjauan komprehensif kami menunjukkan beberapa kesimpulan utama:
.svg)
.svg)
.svg)
