Regulasi kecerdasan buatan sedang mengalami transformasi penting pada tahun 2025, dengan fokus khusus pada aplikasi yang berhadapan langsung dengan konsumen. Perusahaan yang menggunakan chatbot AI, sistem pengambilan keputusan otomatis, dan teknologi generatif harus bersiap menghadapi lanskap regulasi yang semakin kompleks dan ketat.
Tahun 2025 menandai berakhirnya era 'Wild West' dalam pengembangan AI. Undang-Undang AI Eropa mulai berlaku pada tanggal 1 Agustus 2024, dengan ketentuan utama yang mulai berlaku pada tahun 2025: Kewajiban literasi AI mulai berlaku pada tanggal 2 Februari 2025, sementara aturan tata kelola dan kewajiban untuk model GPAI mulai berlaku pada tanggal 2 Agustus 2025.
Peraturan yang muncul mengikuti pendekatan risiko tiga tingkat:
1. Sistem AI Infrastruktur Kritis: Aplikasi di bidang kesehatan, transportasi, energi, dan pasar keuangan sekarang memerlukan sertifikasi pra-penerapan, pemantauan berkelanjutan, dan pengawasan manusia yang berarti.
2. AI yang Berhadapan dengan Konsumen: Aplikasi yang berinteraksi langsung dengan konsumen harus menyediakan komunikasi yang jelas tentang penggunaan AI, memelihara jejak audit yang komprehensif, dan menerapkan protokol pendeteksian bias.
3. Tujuan Umum AI: Sistem umum juga memerlukan pendaftaran, pengujian keamanan dasar, dan pengungkapan metodologi pelatihan.
RUU Senat California 243, yang diperkenalkan oleh Senator Steve Padilla, muncul sebagai tanggapan atas bunuh diri tragis Sewell Setzer, seorang bocah laki-laki berusia 14 tahun dari Florida yang bunuh diri setelah mengembangkan hubungan emosional dengan chatbot.
SB 243 Persyaratan Utama:
Undang-undang tersebut mengatur gugatan pribadi dengan ganti rugi aktual atau berdasarkan undang-undang sebesar $1.000 per pelanggaran, mana saja yang lebih besar.
SB 420 bertujuan untuk menyediakan kerangka kerja peraturan untuk memastikan bahwa sistem AI menghormati hak asasi manusia, mempromosikan keadilan, transparansi, dan akuntabilitas. Undang-undang ini mengatur pengembangan dan implementasi 'sistem pengambilan keputusan otomatis berisiko tinggi' dengan mewajibkan penilaian dampak untuk mengevaluasi tujuan, penggunaan data, dan potensi bias.
Kewajiban Pemberitahuan Konsumen: Menurut SB 420, individu yang tunduk pada sistem pengambilan keputusan otomatis harus mengetahui kapan alat tersebut digunakan untuk mengambil keputusan tentang mereka, menerima rincian tentang sistem tersebut dan, jika memungkinkan secara teknis, memiliki kesempatan untuk mengajukan banding atas keputusan tersebut untuk ditinjau oleh manusia.
Alabama, Hawaii, Illinois, Maine, dan Massachusetts telah memperkenalkan undang-undang pada tahun 2025 yang akan membuat kegagalan untuk memberi tahu ketika konsumen berinteraksi dengan chatbot AI sebagai pelanggaran terhadap Tindakan atau Praktik Tidak Adil atau Menipu (UDAP), yang membuat perusahaan harus diselidiki oleh Jaksa Agung dan kemungkinan tindakan hukum.
Hawaii (HB 639): Akan mengklasifikasikan penggunaan chatbot AI yang mampu meniru perilaku manusia sebagai tindakan yang tidak adil atau menipu tanpa terlebih dahulu mengkomunikasikan hal ini kepada konsumen dengan cara yang jelas dan nyata. Bisnis kecil yang tidak sadar menggunakan chatbot AI dikecualikan kecuali jika ada pemberitahuan yang jelas.
Illinois (HB 3021): Akan mengamandemen Undang-Undang Penipuan Konsumen dan Praktik Bisnis yang Menipu untuk mewajibkan pemberitahuan yang jelas ketika konsumen berkomunikasi dengan chatbots, agen AI, atau avatar yang mungkin membuat konsumen percaya bahwa mereka berkomunikasi dengan manusia.
California memberlakukan undang-undang pengungkapan bot pertama (Cal. Bus. & Prof. Code § 17940-17942) yang mewajibkan pengungkapan ketika bot digunakan untuk "dengan sengaja menipu" seseorang untuk transaksi bisnis atau pengaruh pemilu.
Undang-Undang Kebijakan Kecerdasan Buatan Utah, yang berlaku efektif 1 Mei 2024, mengharuskan bot yang berhadapan dengan konsumen untuk mengungkapkan 'sesuai permintaan' bahwa konsumen berinteraksi dengan 'kecerdasan buatan generatif dan bukan manusia'.
Pada tahun 2022, pelanggan aplikasi penurunan berat badan Noom menggugat perusahaan tersebut karena diduga melanggar undang-undang pengungkapan bot di California, mengklaim bahwa Noom secara keliru menyatakan bahwa anggotanya akan menerima paket yang disesuaikan dari pelatih manusia ketika mereka sebenarnya adalah bot otomatis. Kedua belah pihak mencapai penyelesaian senilai $56 juta.
FTC mengeluarkan pedoman yang mengharuskan perusahaan untuk "transparan tentang sifat alat yang berinteraksi dengan pengguna" dan memperingatkan agar tidak menggunakan alat otomatis untuk mengelabui orang.
Menurut Undang-Undang AI Uni Eropa, per Agustus 2026, penyedia AI harus memberi tahu pengguna ketika mereka berinteraksi dengan AI kecuali jika sudah jelas. Konten yang dihasilkan oleh AI harus diberi label yang jelas dengan cara yang dapat dibaca oleh mesin, kecuali untuk modifikasi kecil.
Bahkan perusahaan yang tidak menganggap diri mereka sebagai perusahaan AI dapat menggunakan chatbot yang tunduk pada regulasi. Chatbots tersebar luas di layanan pelanggan, perawatan kesehatan, perbankan, pendidikan, pemasaran, dan hiburan.
Perusahaan harus menavigasi lanskap peraturan yang terfragmentasi dengan persyaratan yang berbeda-beda di seluruh yurisdiksi. Kurangnya pre-emption federal berarti bahwa perusahaan harus mematuhi persyaratan yang berbeda di berbagai negara bagian.
Legislator negara bagian sedang mempertimbangkan berbagai macam undang-undang AI, dengan ratusan peraturan yang diperkenalkan pada tahun 2025, termasuk undang-undang perlindungan konsumen yang komprehensif, peraturan sektoral, dan peraturan chatbot.
Organisasi yang memprioritaskan tata kelola AI akan mendapatkan keunggulan kompetitif, karena kepatuhan proaktif adalah kunci untuk membuka potensi penuh AI sekaligus menghindari jebakan hukum.
Lanskap regulasi untuk aplikasi AI yang berhadapan dengan konsumen berkembang dengan cepat, dengan California memimpin melalui undang-undang komprehensif yang membahas keamanan chatbot (SB 243) dan transparansi keputusan AI yang lebih luas (SB 420).
Tambal sulam peraturan tingkat negara bagian ini menciptakan tantangan kepatuhan bagi perusahaan yang beroperasi di berbagai yurisdiksi, sementara kurangnya pengecualian federal berarti perusahaan harus menavigasi persyaratan yang bervariasi.
Penekanan pada transparansi, hak-hak pengawasan manusia, dan perlindungan terhadap populasi yang rentan menandakan pergeseran ke arah tata kelola AI yang lebih preskriptif yang memprioritaskan perlindungan konsumen daripada fleksibilitas dalam inovasi.
Aplikasi AI yang berhadapan dengan konsumen adalah sistem kecerdasan buatan yang berinteraksi langsung dengan konsumen, termasuk chatbot untuk layanan pelanggan, asisten virtual, sistem rekomendasi, dan AI percakapan yang digunakan di berbagai sektor seperti e-commerce, perawatan kesehatan, layanan keuangan, dan hiburan.
Persyaratan utama meliputi:
Tidak, SB 243 secara khusus berlaku untuk 'chatbot pendamping' - sistem AI dengan antarmuka bahasa alami yang memberikan respons adaptif seperti manusia dan mampu memenuhi kebutuhan sosial pengguna. Tidak semua chatbot layanan pelanggan termasuk dalam definisi ini.
Sanksi berbeda-beda di setiap negara bagian, tetapi dapat mencakup:
Perusahaan harus melakukannya:
Ya, Undang-Undang AI berlaku untuk semua sistem AI yang melayani pengguna di Uni Eropa, di mana pun perusahaan tersebut berada. Mulai Agustus 2026, penyedia layanan harus memberi tahu pengguna ketika mereka berinteraksi dengan AI kecuali jika sudah jelas.
Perusahaan harus mematuhi hukum di setiap negara bagian tempat mereka beroperasi. Saat ini, tidak ada pengecualian federal, sehingga perlu mengembangkan strategi kepatuhan multi-negara bagian yang memenuhi persyaratan yang paling ketat.
Beberapa peraturan memberikan pengecualian atau pengurangan persyaratan untuk bisnis kecil. Misalnya, Hawaii HB 639 mengecualikan bisnis kecil yang tanpa sadar menggunakan chatbot AI, asalkan mereka mematuhinya setelah menerima pemberitahuan yang tepat.
Sumber dan Tautan Referensi:
.svg)
.svg)
.svg)
