Analisis Kritis Kasus Penggunaan Nyata LLM: Antara Janji dan Kenyataan

Sementara perdebatan tentang nilai sebenarnya dari model bahasa besar (LLM) terus berlanjut, sangat penting untuk secara kritis memeriksa kasus penggunaan nyata yang diimplementasikan oleh perusahaan. Analisis ini bertujuan untuk memeriksa aplikasi konkret dari LLM di berbagai sektor, secara kritis menilai nilai aktual, keterbatasan, dan potensinya.

‍

E-commerce dan Ritel: Pengoptimalan Bertarget atau Rekayasa Berlebihan?

Di sektor ritel dan e-commerce, LLM digunakan untuk berbagai tugas:

• Asisten internal dan peningkatan alur kerja: Instacart telah mengembangkan asisten AI yang disebut Ava untuk mendukung tim dalam menulis, meninjau, dan men-debug kode, meningkatkan komunikasi, serta membangun alat bantu internal. Meskipun menjanjikan, kita bertanya-tanya apakah asisten ini menawarkan nilai yang jauh lebih besar daripada alat kolaborasi yang lebih tradisional dan tidak terlalu rumit.
• Moderasi dan keamanan konten: Whatnot menggunakan LLM untuk meningkatkan moderasi konten multimodal, perlindungan terhadap penipuan, dan deteksi ketidakberesan dalam penawaran. Zillow menggunakan LLM untuk mengidentifikasi konten diskriminatif dalam iklan properti. Kasus-kasus ini mewakili aplikasi spesifik di mana LLM dapat menawarkan nilai yang nyata, tetapi membutuhkan sistem verifikasi yang akurat untuk menghindari kesalahan positif dan negatif.
• Ekstraksi dan klasifikasi informasi: OLX menciptakan Asisten AI Prosus untuk mengidentifikasi peran pekerjaan dalam iklan, sementara Walmart mengembangkan sistem untuk mengekstrak atribut produk dari PDF. Kasus-kasus ini menunjukkan kegunaan LLM dalam mengotomatiskan tugas-tugas berulang yang jika tidak, akan membutuhkan banyak tenaga kerja manual.
• Pembuatan konten kreatif: StitchFix menggabungkan teks yang dibuat secara algoritmik dengan pengawasan manusia untuk menyederhanakan pembuatan tajuk iklan dan deskripsi produk. Instacart menghasilkan gambar produk makanan. Aplikasi-aplikasi ini menimbulkan pertanyaan tentang keaslian konten yang dihasilkan dan potensi homogenisasi bahasa iklan.
• Peningkatan pencarian: Leboncoin, Mercado Libre, dan Faire menggunakan LLM untuk meningkatkan relevansi pencarian, sementara Amazon menggunakan LLM untuk memahami hubungan yang masuk akal dan memberikan rekomendasi produk yang lebih relevan. Kasus-kasus ini mewakili area di mana nilai tambah LLM berpotensi signifikan, tetapi kompleksitas komputasi dan biaya energi yang terkait mungkin tidak membenarkan peningkatan tambahan atas algoritme pencarian yang ada.

Fintech dan Perbankan: Menavigasi Antara Nilai dan Risiko Regulasi

‍

Di sektor keuangan, LLM diterapkan dengan hati-hati, mengingat sifat data yang sensitif dan persyaratan peraturan yang ketat:

• Klasifikasi dan penandaan data: Grab menggunakan LLM untuk tata kelola data, mengklasifikasikan entitas, mengidentifikasi informasi sensitif, dan memberikan tag yang sesuai. Kasus penggunaan ini sangat menarik karena menjawab tantangan penting bagi lembaga keuangan, tetapi membutuhkan mekanisme kontrol yang ketat untuk menghindari kesalahan klasifikasi.
• Pembuatan laporan kejahatan keuangan: SumUp menghasilkan narasi terstruktur untuk laporan penipuan keuangan dan pencucian uang. Aplikasi ini, meskipun menjanjikan untuk mengurangi beban kerja manual, menimbulkan kekhawatiran tentang kemampuan LLM untuk menangani topik-topik yang sensitif secara hukum dengan baik tanpa pengawasan manusia.
• Dukungan untuk pertanyaan keuangan: Digits menyarankan pertanyaan yang berkaitan dengan transaksi perbankan. Kasus penggunaan ini menunjukkan bagaimana LLM dapat membantu para profesional tanpa menggantikan mereka, sebuah pendekatan yang berpotensi lebih berkelanjutan daripada otomatisasi penuh.

Teknologi: Otomasi dan Layanan

‍

Di sektor teknologi, LLM banyak digunakan untuk meningkatkan alur kerja internal dan pengalaman pengguna:

• Manajemen insiden dan keamanan: Menurut security.googleblog.com, Google menggunakan LLM untuk memberikan ringkasan insiden keamanan dan privasi untuk berbagai penerima, termasuk para eksekutif, manajer, dan tim mitra. Pendekatan ini menghemat waktu bagi para manajer dan meningkatkan kualitas ringkasan insiden. Microsoft menggunakan LLM untuk mendiagnosis insiden produksi, sementara Meta telah mengembangkan sistem analisis akar masalah dengan bantuan AI. Incident.io menghasilkan ringkasan insiden perangkat lunak. Kasus-kasus ini menunjukkan nilai LLM dalam mempercepat proses kritis, tetapi menimbulkan pertanyaan tentang keandalannya dalam situasi berisiko tinggi.
• Bantuan pemrograman: GitHub Copilot menawarkan saran kode dan penyelesaian otomatis, sementara Replit telah mengembangkan LLM untuk perbaikan kode. NVIDIA menggunakan LLM untuk mendeteksi kerentanan perangkat lunak. Alat-alat ini meningkatkan produktivitas pengembang, tetapi juga dapat menyebarkan pola kode yang tidak efisien atau tidak aman jika digunakan secara tidak kritis.
• Kueri data dan pencarian internal: Honeycomb membantu pengguna menulis kueri pada data, Pinterest mengubah kueri pengguna menjadi kueri SQL. Kasus-kasus ini menunjukkan bagaimana LLM dapat mendemokratisasi akses ke data, tetapi juga dapat menyebabkan salah tafsir atau inefisiensi tanpa pemahaman yang menyeluruh tentang struktur data yang mendasarinya.
• Klasifikasi dan pengelolaan permintaan dukungan: GoDaddy mengklasifikasikan permintaan dukungan untuk meningkatkan pengalaman pelanggan. Dropbox meringkas dan menjawab pertanyaan tentang file. Kasus-kasus ini menunjukkan potensi LLM dalam meningkatkan layanan pelanggan, namun menimbulkan kekhawatiran tentang kualitas dan keakuratan jawaban yang dihasilkan.

Pengiriman dan Mobilitas: Efisiensi dan Kustomisasi Operasional

‍

Di sektor pengiriman dan mobilitas, LLM digunakan untuk meningkatkan efisiensi operasional dan pengalaman pengguna:

• Pengujian dan dukungan teknis: Uber menggunakan LLM untuk menguji aplikasi seluler dengan DragonCrawl dan telah membangun Genie, sebuah co-pilot AI untuk menjawab pertanyaan-pertanyaan dukungan. Alat-alat ini dapat secara signifikan mengurangi waktu yang dihabiskan untuk pengujian dan dukungan, tetapi mungkin tidak dapat menangkap masalah yang kompleks atau kasus-kasus yang tidak biasa seperti yang dapat dilakukan oleh penguji manusia.
• Mengekstrak dan mencocokkan informasi produk: DoorDash mengekstrak detail produk dari data SKU dan Delivery Hero mencocokkan inventarisnya dengan produk pesaing. Kasus-kasus ini menunjukkan bagaimana LLM dapat mengotomatiskan proses pencocokan data yang kompleks, tetapi dapat menimbulkan bias atau salah tafsir tanpa kontrol yang memadai.
• Pencarian percakapan dan relevansi: Picnic meningkatkan relevansi pencarian untuk daftar produk, sementara Swiggy mengimplementasikan pencarian saraf untuk membantu pengguna menemukan makanan dan bahan makanan dengan cara percakapan. Kasus-kasus ini menggambarkan bagaimana LLM dapat membuat antarmuka pencarian menjadi lebih intuitif, tetapi juga dapat menciptakan 'gelembung filter' yang membatasi penemuan produk baru.
• Otomatisasi dukungan: DoorDash telah membangun chatbot dukungan berbasis LLM yang mengambil informasi dari basis pengetahuan untuk menghasilkan jawaban yang dengan cepat menyelesaikan masalah. Pendekatan ini dapat meningkatkan waktu respons, tetapi membutuhkan pagar pembatas yang kuat untuk menangani situasi yang kompleks atau penuh emosi.

Sosial, Media, dan B2C: Konten dan Interaksi yang Dipersonalisasi

‍

Di media sosial dan layanan B2C, LLM digunakan untuk membuat konten yang disesuaikan dan meningkatkan interaksi:

• Analisis dan moderasi konten: Yelp telah memperbarui sistem moderasi kontennya dengan LLM untuk mendeteksi ancaman, pelecehan, kecabulan, serangan pribadi, atau ujaran kebencian. LinkedIn menganalisis berbagai konten di platform untuk mengekstrak informasi tentang keterampilan. Kasus-kasus ini menunjukkan potensi LLM dalam meningkatkan kualitas konten, tetapi menimbulkan kekhawatiran tentang penyensoran dan potensi pembatasan kebebasan berekspresi.
• Pembuatan dan pemasaran konten pendidikan: Duolingo menggunakan LLM untuk membantu para perancang membuat latihan yang relevan, sementara Nextdoor menggunakan LLM untuk membuat objek email yang menarik. Aplikasi-aplikasi ini bisa meningkatkan efisiensi, namun juga bisa menyebabkan standarisasi konten yang berlebihan.
• Terjemahan dan komunikasi multibahasa: Roblox mengeksploitasi model multibahasa yang disesuaikan untuk memungkinkan pengguna berkomunikasi dengan lancar menggunakan bahasa mereka sendiri. Aplikasi ini menunjukkan potensi LLM dalam mengatasi hambatan bahasa, tetapi dapat memperkenalkan nuansa budaya dalam terjemahan.
• Interaksi dengan konten media: Vimeo memungkinkan pengguna untuk berkomunikasi dengan video melalui sistem tanya jawab berbasis RAG yang dapat meringkas konten video, menautkan ke momen-momen penting, dan menyarankan pertanyaan tambahan. Aplikasi ini menunjukkan bagaimana LLM dapat mengubah cara kita berinteraksi dengan konten multimedia, tetapi menimbulkan pertanyaan tentang ketepatan interpretasi yang dihasilkan.

Evaluasi Kritis: Nilai Nyata vs Mengikuti Tren

Seperti yang dikatakan oleh Chitra Sundaram, direktur praktik manajemen data di Cleartelligence, Inc., "LLM adalah pemakan sumber daya. Melatih dan menjalankan model-model ini membutuhkan daya komputasi yang sangat besar, sehingga menghasilkan jejak karbon yang signifikan. TI yang berkelanjutan adalah tentang mengoptimalkan penggunaan sumber daya, meminimalkan pemborosan, dan memilih solusi dengan ukuran yang tepat. Pengamatan ini sangat relevan ketika menganalisis kasus-kasus penggunaan yang disajikan.

‍

Menganalisis kasus-kasus penggunaan ini, beberapa pertimbangan penting muncul:

1. Nilai Tambahan vs Kompleksitas

‍

Banyak aplikasi LLM yang menawarkan peningkatan tambahan dari solusi yang ada, namun dengan biaya komputasi, energi, dan implementasi yang jauh lebih tinggi. Seperti yang dikatakan oleh Chitra Sundaram, 'Menggunakan LLM untuk menghitung rata-rata sederhana seperti menggunakan bazoka untuk memukul lalat' (paste-2.txt). Sangat penting untuk menilai apakah nilai tambah yang dihasilkan sesuai dengan kerumitan ini, terutama dengan mempertimbangkan:

• Kebutuhan akan sistem pemantauan yang kuat
• Biaya energi dan dampak lingkungan
• Kompleksitas pemeliharaan dan pembaruan
• Persyaratan keterampilan khusus

2. Ketergantungan pada Pengawasan Manusia

‍

Sebagian besar kasus penggunaan yang berhasil mempertahankan pendekatan human-in-the-loop, di mana LLM membantu dan bukannya sepenuhnya menggantikan campur tangan manusia. Hal ini menunjukkan bahwa:

• Otomatisasi penuh melalui LLM tetap bermasalah
• Nilai utamanya adalah meningkatkan kemampuan manusia, bukan menggantikannya
• Efektivitas tergantung pada kualitas interaksi manusia dan mesin

3. Kekhususan Domain vs Aplikasi Generik

‍

Kasus penggunaan yang paling meyakinkan adalah kasus di mana LLM telah diadaptasi dan dioptimalkan untuk domain tertentu, dengan pengetahuan domain yang tertanam di dalamnya:

• Menyempurnakan data spesifik industri
• Integrasi dengan sistem dan sumber pengetahuan yang ada
• Pagar pembatas dan batasan-batasan yang sesuai dengan konteks

4. Integrasi dengan Teknologi yang Sudah Ada

Kasus yang paling efektif tidak menggunakan LLM secara terpisah, tetapi melengkapinya dengan:

• Sistem Pemulihan dan Pengarsipan Data (RAG)
• Algoritme khusus dan alur kerja yang ada
• Mekanisme verifikasi dan kontrol

Seperti yang disoroti oleh Google, integrasi LLM ke dalam alur kerja insiden keamanan dan privasi memungkinkan 'respons insiden yang dipercepat menggunakan AI generatif', dengan rangkuman yang dihasilkan disesuaikan dengan berbagai audiens, memastikan bahwa informasi yang relevan menjangkau orang yang tepat dalam format yang paling berguna.

‍

Kesimpulan: Pendekatan Pragmatis terhadap LLM

Chitra Sundaram menawarkan perspektif yang mencerahkan ketika ia mengatakan: 'Jalan menuju analisis yang berkelanjutan adalah tentang memilih alat yang tepat untuk pekerjaan itu, bukan hanya mengejar tren terbaru. Ini adalah tentang berinvestasi pada analis yang terampil dan tata kelola data yang baik. Ini adalah tentang menjadikan keberlanjutan sebagai prioritas utama'.

‍

Analisis terhadap contoh-contoh kasus nyata ini menegaskan bahwa LLM bukanlah solusi ajaib, namun merupakan alat bantu yang ampuh, yang jika diterapkan secara strategis pada masalah-masalah tertentu, dapat memberikan nilai yang signifikan. Organisasi harus melakukannya:

1. Mengidentifikasi masalah-masalah spesifik di mana pemrosesan bahasa alami menawarkan keuntungan besar dibandingkan pendekatan tradisional
2. Mulailah dengan proyek percontohan yang dapat menunjukkan nilai dengan cepat dan terukur
3. Mengintegrasikan LLM dengan sistem yang sudah ada, bukan mengganti alur kerja sepenuhnya
4. Mempertahankan mekanisme pengawasan manusia, terutama untuk aplikasi yang penting
5. Secara sistematis mengevaluasi rasio biaya-manfaat, dengan mempertimbangkan tidak hanya peningkatan kinerja tetapi juga biaya energi, pemeliharaan, dan peningkatan

Perusahaan yang berkembang di era LLM belum tentu perusahaan yang mengadopsinya secara luas, tetapi perusahaan yang menerapkannya secara lebih strategis, menyeimbangkan antara inovasi dan pragmatisme, dan tetap memperhatikan nilai nyata yang dihasilkan di luar hype.

‍