Hubungan antara kecerdasan buatan dan demokrasi tidak bersifat linier atau searah, melainkan mewakili jalinan kekuatan yang saling bertentangan yang secara bersamaan meningkatkan dan merusak fondasi proses demokrasi.

‍

Transformasi agora publik

AI telah mengubah ruang publik secara mendalam di mana perdebatan demokratis terjadi. Perubahan ini jauh melampaui masalah disinformasi yang sederhana. Kita menyaksikan fragmentasi pengalaman informasi kolektif yang secara historis telah menjadi prasyarat mendasar bagi demokrasi modern.

‍

Ketika warga negara yang berbeda hidup dalam realitas informasi yang sangat berbeda yang terstruktur oleh algoritme rekomendasi, landasan bersama yang diperlukan untuk dialog demokratis akan hilang.

‍

Paradoksnya, meskipun AI telah melipatgandakan sumber informasi yang tersedia, AI juga mengikis kemampuan masyarakat demokratis untuk mencapai konsensus tentang apa yang disebut sebagai 'fakta'. Erosi epistemik ini menimbulkan tantangan yang lebih dalam dan lebih berbahaya daripada sekadar menyebarkan berita palsu.

‍

Dilema antara kekuasaan dan kompetensi

Negara-negara demokrasi dihadapkan pada dilema mendasar: keputusan tentang AI membutuhkan keahlian teknis yang sangat spesifik, tetapi mempercayakan keputusan ini secara eksklusif kepada para ahli berarti menyingkirkannya dari proses demokrasi. Dengan demikian, ada ketegangan yang belum terselesaikan antara prinsip demokrasi (keputusan yang dibuat oleh dan untuk warga negara) dan kebutuhan akan keahlian spesialis.

‍

Ketegangan ini diperparah dengan fakta bahwa sistem AI yang semakin kompleks tidak hanya tidak dapat dipahami oleh masyarakat awam, tapi juga oleh para ahli yang mengembangkannya. Bagaimana kontrol demokratis dapat berfungsi ketika instrumen yang seharusnya diatur melebihi kemampuan manusia untuk memahaminya?

‍

Penargetan mikro politik dan proses pemilu

Penargetan mikro politik melalui AI telah menjadi semakin canggih dalam kampanye kontemporer. Sistem AI menganalisis kumpulan data yang sangat besar tentang pemilih untuk membuat pesan politik yang sangat personal. Keamanan yang adil

‍

Penelitian menunjukkan bahwa iklan politik yang ditargetkan secara personal dan dihasilkan oleh AI secara signifikan lebih persuasif daripada konten umum. PubMedNih

‍

Skala dan efisiensi AI memungkinkan kampanye menghasilkan konten yang disesuaikan untuk jutaan pemilih secara bersamaan, membuat penargetan mikro jauh lebih layak dan hemat biaya daripada sebelumnya. Pemasar PolitikCSET

‍

Studi terbaru menunjukkan bahwa alat kampanye yang disempurnakan dengan AI dapat mengidentifikasi kerentanan psikologis pada pemilih dan membuat pesan yang mengeksploitasi karakteristik ini. OUPAcademicTechInformed

‍

Kekhawatiran demokratisnya cukup besar:

• Potensi manipulasi ditunjukkan oleh penelitian yang menunjukkan bagaimana penargetan mikro dapat mengeksploitasi kerentanan psikologis OUPAcademicTechInformed
• AI dapat berkontribusi pada polarisasi dengan mengekspos pemilih terutama pada konten yang selaras dengan pandangan mereka saat ini .
• Para pemilih biasanya tetap tidak menyadari bahwa mereka menerima konten politik yang disesuaikan SFGateTechInformed
• Kampanye yang didanai dengan baik dapat menggunakan alat AI yang lebih canggih, yang berpotensi menciptakan pengaruh politik yang tidak setara SFGateBrennancenter

Sistem pemungutan suara dan infrastruktur pemilu juga dipengaruhi oleh AI, baik secara positif maupun negatif:

• AI dapat meningkatkan keamanan pemilu dengan mendeteksi anomali dan memantau infrastruktur untuk potensi gangguan R StreetInstituteBrookings
• Administrasi pemilihan umum bisa lebih efisien berkat AI yang menyederhanakan proses seperti verifikasi pendaftaran pemilih CisaBrookings
• Namun, AI juga menimbulkan risiko seperti serangan phishing yang lebih canggih, pemalsuan disinformasi pemilu, dan kampanye disinformasi otomatis berskala besar Sophos News + 3

‍

Partisipasi demokratis dan keterlibatan sipil

AI menawarkan peluang dan tantangan bagi partisipasi demokratis:

Dampak Positif

• Peningkatan akses ke informasi kewarganegaraan: Alat bantu AI dapat menyederhanakan informasi pemerintah yang kompleks IeeeBrookings
• Penyediaan layanan publik yang lebih baik: Sistem yang mendukung AI dapat menganalisis data kependudukan untuk membantu pemerintah merespons kebutuhan warga secara lebih efisien Nextcity + 2
• Alat partisipatif yang diperluas: platform seperti Pol.is menggunakan AI untuk menganalisis masukan dari masyarakat dalam skala besar ECNLBrookings
• Mengurangi hambatan partisipasi: Layanan penerjemahan AI dapat memungkinkan partisipasi masyarakat multibahasa ECNLBrookings

Dampak Negatif

• Manipulasi informasi: Konten yang dihasilkan AI dapat digunakan untuk menyebarkan disinformasi BrennancenterBrookings
• Penguatan bias yang sudah ada: Sistem AI yang dilatih dengan data yang bias dapat melanggengkan dan memperkuat ketidaksetaraan dalam partisipasi sipil BrennancenterBrookings
• Berkurangnya peran manusia: ketergantungan yang berlebihan pada pengambilan keputusan algoritmik dalam tata kelola dapat mengurangi penilaian dan akuntabilitas manusia
• Memperparah kesenjangan digital: akses yang tidak setara ke teknologi sipil yang ditingkatkan dengan AI dapat memperdalam kesenjangan partisipasi yang sudah ada Aiworldtoday + 2

‍

Restrukturisasi hubungan kekuasaan

AI tidak hanya mengubah mode debat demokratis, tetapi juga merestrukturisasi hubungan kekuasaan di dalam masyarakat. Kontrol atas infrastruktur AI sekarang mewakili bentuk kekuasaan yang sebanding, jika tidak lebih unggul, dari yang secara tradisional dilakukan oleh lembaga-lembaga demokratis seperti parlemen.

‍

Kita menyaksikan pergeseran kekuasaan pengambilan keputusan dari lembaga-lembaga publik yang tunduk pada kontrol demokratis ke entitas-entitas swasta yang beroperasi menurut logika yang berbeda. Migrasi kekuasaan ini sering kali terjadi secara tidak terlihat, melalui pendelegasian keputusan secara progresif kepada sistem otomatis yang beroperasi sesuai dengan parameter yang tidak selalu transparan atau ditetapkan secara demokratis.

‍

Pendefinisian ulang partisipasi demokratis

AI mengubah konsep partisipasi demokratis. Di satu sisi, AI menawarkan alat untuk bentuk demokrasi yang lebih langsung dan partisipatif, di sisi lain, AI memperkenalkan hambatan kognitif dan teknologi baru untuk mengaksesnya. Dalam proses ini, nilai dari opini individu juga sedang didefinisikan ulang: dalam konteks personalisasi algoritmik yang semakin meningkat, bagaimana seseorang dapat membedakan antara preferensi pribadi yang otentik dan preferensi yang disebabkan oleh sistem rekomendasi?

‍

Ambivalensi ini juga muncul dalam sistem musyawarah dengan bantuan AI: sistem ini dapat membuat proses pengambilan keputusan yang kompleks menjadi lebih mudah diakses, tetapi juga berisiko menyederhanakan isu-isu yang membutuhkan refleksi publik yang lebih mendalam.

‍

Metamorfosis lembaga-lembaga demokrasi

Lembaga-lembaga demokrasi tradisional, yang dibangun pada era pra-digital, berjuang untuk beradaptasi dengan kecepatan yang dipaksakan oleh inovasi teknologi. Ketidaksinkronan sementara antara evolusi AI yang cepat dan proses demokrasi yang lebih lambat menciptakan kekosongan tata kelola yang berisiko diisi oleh mekanisme pengambilan keputusan yang tidak demokratis.

‍

Tantangannya bukan sekadar mengatur AI melalui institusi yang sudah ada, tetapi juga memikirkan kembali institusi-institusi tersebut agar sesuai dengan era di mana kecerdasan buatan menjadi semakin penting dalam proses sosial, ekonomi, dan politik.

‍

Konsep baru kewarganegaraan di era AI

Untuk mengatasi tantangan-tantangan ini, konsepsi baru tentang kewarganegaraan demokratis harus dikembangkan yang menggabungkan kesadaran akan peran AI. Hal ini berarti mengatasi optimisme tekno-optimisme naif yang melihat AI hanya sebagai peluang untuk perbaikan demokrasi dan pesimisme yang melihatnya hanya sebagai ancaman.

‍

Sebaliknya, hal ini membutuhkan pengembangan literasi kewarganegaraan yang mencakup kemampuan untuk mengevaluasi secara kritis pengaruh algoritme, berpartisipasi secara sadar dalam debat tentang masalah teknologi yang kompleks, dan menuntut transparansi dan akuntabilitas dari pihak-pihak yang mengembangkan dan mengimplementasikan sistem AI yang memiliki dampak sosial yang signifikan.

‍

Pada analisis terakhir, hubungan antara AI dan demokrasi tidak ditentukan oleh teknologi itu sendiri, tetapi akan bergantung pada kemampuan kolektif kita untuk membayangkan dan membangun institusi, norma, dan praktik yang memungkinkan pengembangan teknologi diarahkan pada penguatan, bukan pengikisan nilai-nilai demokrasi yang mendasar.

‍

Tanya Jawab tentang kecerdasan buatan dan demokrasi

‍

Bagaimana AI dapat memperkuat partisipasi demokratis?

AI dapat meningkatkan partisipasi demokratis dengan membuat informasi pemerintah lebih mudah diakses, memungkinkan partisipasi multibahasa, menganalisis masukan publik dalam skala besar, dan mempersonalisasi pengalaman keterlibatan warga negara. Misalnya, layanan penerjemahan yang ditingkatkan dengan AI dapat memungkinkan minoritas bahasa untuk berpartisipasi lebih penuh dalam proses demokrasi, ECNL sementara alat analisis data dapat membantu pemerintah mengidentifikasi dan mengatasi ketidaksetaraan dalam pemberian layanan publik. Kota berikutnya + 2

‍

Apa risiko AI yang paling mengkhawatirkan bagi sistem demokrasi?

Risiko yang paling signifikan meliputi: proliferasi misinformasi persuasif dan pemalsuan mendalam yang merusak fakta yang dibagikan; manipulasi melalui konten politik yang ditargetkan secara mikro; bias algoritmik OUPAcademicMediaengagement yang mengecualikan kelompok-kelompok tertentu dari proses demokratis; dan kerentanan keamanan pada infrastruktur pemilu. Sage Journals + 5 Penelitian menunjukkan bahwa risiko-risiko ini tidak hanya bersifat teoretis-studi mendokumentasikan kekuatan persuasif dari konten politik yang dihasilkan oleh AI yang disesuaikan dengan profil psikologis individu. PubMed + 2

‍

Bagaimana pemerintah dapat mengatur AI dalam kampanye politik?

Pendekatan regulasi yang efektif meliputi: persyaratan pengungkapan wajib untuk konten politik yang dihasilkan oleh AI; batasan jenis data pribadi yang dapat digunakan untuk penargetan mikro politik; mekanisme pengawasan independen untuk memantau sistem AI kampanye; dan inisiatif pendidikan publik untuk meningkatkan kesadaran pemilih akan teknik persuasi yang ditingkatkan dengan AI. PBS + 4 Undang-Undang AI Uni Eropa memberikan contoh kerangka kerja peraturan berbasis risiko yang secara khusus membahas penggunaan AI dalam proses demokrasi. Eropa + 2

‍

Peran apa yang harus dimainkan oleh warga negara dalam tata kelola AI?

Warga negara harus memiliki kesempatan yang signifikan untuk membentuk tata kelola IA melalui mekanisme partisipatif seperti majelis warga negara, konsultasi publik, dan proses pelibatan pemangku kepentingan yang berkelanjutan. Penelitian Brookings menunjukkan bahwa melibatkan beragam pemangku kepentingan di sepanjang siklus hidup AI akan menghasilkan sistem yang lebih andal dan lebih mencerminkan nilai-nilai masyarakat. Adalovelaceinstitute + 13 Model yang berhasil seperti Piagam Data Camden menunjukkan bagaimana partisipasi warga negara dapat membangun kerangka kerja etis untuk penggunaan AI dalam layanan publik. Oecd

‍

Bagaimana kita dapat melindungi infrastruktur pemilu dari ancaman yang diaktifkan oleh AI?

Strategi perlindungan meliputi: menerapkan langkah-langkah keamanan siber yang kuat seperti otentikasi multi-faktor; melatih petugas pemilu untuk mengenali upaya phishing yang disempurnakan oleh AI; mengembangkan sistem untuk mengidentifikasi dan melawan informasi yang keliru yang dihasilkan oleh AI tentang pemungutan suara; Sophos News membangun proses verifikasi untuk komunikasi pemilu resmi; dan menciptakan sistem yang berlebihan untuk infrastruktur pemilu yang penting. ABC News + 2 Badan Keamanan Siber dan Keamanan Infrastruktur (CISA) memberikan panduan khusus untuk petugas pemilu dalam memitigasi risiko AI. CisaCisa

‍

Bagaimana AI dapat mengubah hubungan antara warga negara dan pemerintah?

AI dapat mengubah hubungan antara warga dan pemerintah dengan memungkinkan layanan publik yang lebih personal, menciptakan saluran baru untuk partisipasi warga, Nextcity mengotomatisasi fungsi-fungsi pemerintah tertentu, dan berpotensi mengubah dinamika kekuasaan dalam sistem yang demokratis. Arah transformasi ini sangat bergantung pada pilihan tata kelola, apakah AI diimplementasikan dengan cara-cara yang meningkatkan akuntabilitas demokratis atau memusatkan kekuasaan pada sistem teknis dengan pengawasan yang terbatas. ScienceDirect + 2

Kerja sama internasional apa yang diperlukan untuk tata kelola IA dalam konteks demokrasi?

Kerja sama internasional sangat penting untuk menetapkan standar bersama, mencegah fragmentasi peraturan, mengatasi dampak lintas batas AI, dan mendorong keselarasan nilai-nilai demokrasi dalam pengembangan AI. OECD + 2 Prinsip-prinsip AI OECD mewakili model untuk koordinasi internasional, memberikan kerangka kerja umum yang diadopsi oleh 47 yurisdiksi di seluruh dunia sambil memungkinkan fleksibilitas untuk implementasi nasional. OECD

‍

Bagaimana kita dapat memastikan bahwa AI bermanfaat bagi demokrasi dan bukannya merusaknya?

Memastikan bahwa AI memberikan manfaat bagi demokrasi membutuhkan: kerangka kerja tata kelola berbasis nilai yang proaktif; persyaratan transparansi dan akuntabilitas yang berarti; pendekatan partisipatif untuk pengembangan dan regulasi AI; investasi dalam literasi digital; perlindungan hak-hak dasar dalam aplikasi AI; dan mekanisme untuk meminta pertanggungjawaban sistem AI dan para pengembangnya. Eff + 4

Bukti menunjukkan bahwa pendekatan tata kelola yang antisipatif lebih efektif daripada regulasi yang reaktif. OecdBrookings (Pendekatan-pendekatan)

‍

Kesimpulan

AI menghadirkan peluang dan tantangan yang signifikan bagi sistem demokrasi global. Tinjauan komprehensif kami menunjukkan beberapa kesimpulan utama:

1. Evolusi teknologi terus berlanjut: Alat-alat AI untuk membuat dan menyebarkan disinformasi menjadi semakin canggih dan mudah diakses, sehingga membutuhkan kewaspadaan yang berkelanjutan dan respons yang adaptif. Dialog politik
2. Dampaknya bersifat kontekstual: dampak dari disinformasi yang disempurnakan oleh AI sangat bervariasi di seluruh konteks sosial, politik, dan media, dengan beberapa masyarakat terbukti lebih tangguh daripada yang lain. The Washington Post + 2
3. Solusi membutuhkan kolaborasi: respons yang efektif terhadap misinformasi AI membutuhkan kerja sama berbagai pemangku kepentingan antara perusahaan teknologi, pemerintah, masyarakat sipil, dan warga negara. Acigjournal + 4
4. Penilaian manusia tetap penting: terlepas dari kemajuan dalam sistem deteksi AI, pemikiran kritis manusia dan literasi media terus menjadi pertahanan utama terhadap disinformasi yang canggih. VtAARP
5. Diperlukan pemahaman yang bernuansa: selain solusi teknologi, mengatasi disinformasi yang disempurnakan oleh AI memerlukan penanganan polarisasi sosial yang mendasarinya, tantangan ekosistem media, dan kesenjangan dalam pendidikan kewarganegaraan. Taylor &FrancisNature