Diketahui, minat terhadap AI Generatif telah meningkat sejak akhir tahun lalu. Awalnya, hal ini didorong oleh ChatGPT dari OpenAI yang berkembang dari sekadar tool penelitian yang berguna, menjadi agen percakapan yang sangat mumpuni.
AI Generatif sendiri merupakan cabang Kecerdasan Buatan yang mampu menghasilkan teks, gambar, atau media lain sebagai respons terhadap teks yang diinput. Teks yang kita input ini biasanya disebut sebagai prompt.
Prompt inilah yang membuat model Generative AI memberikan respons yang berbeda tergantung pada konteksnya. Beberapa kelompok Generative AI yang paling umum termasuk Text-to-Text, Text-to-Image, dan Text-to-Speech.
Kini, Enterprise telah mengeksplorasi bagaimana mereka dapat menggunakan solusi Generative AI yang terus bertambah secara aman untuk memberikan nilai pada sejumlah kasus penggunaan dan lini bisnis. Hal ini meliputi (1)Pengembangan produk yang lebih cepat, (2)Pengalaman pelanggan yang dipersonalisasi, (3)Peningkatan produktivitas karyawan, (4)Pengambilan keputusan yang lebih baik, (5)Pengurangan biaya melalui otomatisasi, dan (6)Menangkap peluang bisnis baru.
Makin masifnya penggunaan AI pada dunia industri, tentunya akan berdampak pada berbagai fungsi bisnis, seperti:
- Peningkatan produktivitas: Generative AI dapat digunakan untuk mengotomatisasi pekerjaan-pekerjaan yang saat ini dilakukan secara manual, sehingga karyawan bisa fokus pada pekerjaan yang lebih strategis. Hal ini dapat meningkatkan produktivitas dan efisiensi.
- Pengambilan keputusan yang lebih baik: Generative AI dapat digunakan untuk menghasilkan insight dari data yang sulit atau tidak mungkin diidentifikasi secara manual. Hal ini dapat membantu bisnis membuat keputusan yang lebih baik tentang segala hal, mulai dari pengembangan produk hingga kampanye pemasaran.
- Pengalaman yang dipersonalisasi: Generative AI dapat digunakan untuk menciptakan pengalaman yang dipersonalisasi bagi pelanggan, yang dapat meningkatkan loyalitas dan engagement. Hal ini dapat meningkatkan penjualan dan pendapatan.
- Mengurangi biaya: Generative AI dapat digunakan untuk mengurangi biaya dengan mengotomatisasi tugas dan menghilangkan kebutuhan untuk entri data manual. Hal ini dapat menurunkan biaya operasional dan meningkatkan keuntungan.
- Peluang bisnis baru: Generative AI dapat digunakan untuk menciptakan peluang bisnis baru dengan memungkinkan bisnis melakukan hal-hal yang tidak mungkin dilakukan sebelumnya. Hal ini dapat mengarah pada pengembangan produk, layanan, dan pasar baru.
Namun demikin, tetap ada dampak potensial untuk AI Generatif. Hal ini diungkapkan McKinsey, “Generative AI dapat meningkatkan produktivitas dan menambah sekitar US$2,6 triliun hingga US$4,4 triliun bagi perekonomian dunia setiap tahunnya. Fakta ini terlihat dari 63 kasus penggunaan yang dianalisis, mereka memperkirakan 75% dari dampak tersebut akan berasal dari Penjualan, Pemasaran, R&D Produk, Rekayasa Software, dan operasional Pelanggan.”
Sementara, Gartner menemukan bahwa Generative AI memiliki tiga area fokus utama yaitu: (1) Meningkatkan pengalaman pelanggan dan retensi pelanggan, (2) Meningkatkan pertumbuhan pendapatan, dan (3) Optimalisasi biaya.
Tren AI Terbaru AI Generatif dan Model Large Language (LLM)
Saat ini, Model Large Languageatau LLM dan use case-nya telah menjadi cerita besar di tahun 2023 sejak ChatGPT merilis v3.5 pada bulan November tahun lalu.
Beberapa use case yang mendapatkan banyak minat dan perhatian di dalam perusahaan adalah:
1. Developer Productivity
LLM digunakan dalam Lingkungan Perkembangan Terpadu (Integrated Development Environments/IDE) untuk menulis kode berdasarkan spesifikasi. Ini seperti memiliki developer magang yang bekerja bersama developer berpengalaman.
LLM juga digunakan untuk meringkas kode dan menjelaskan dalam bahasa Inggris yang jelas mengenai apa yang dilakukannya. Meskipun developer harus menulis kode yang jelas dan mudah dimengerti, diketahui bahwa kenyataannya tidak selalu seperti itu. LLM juga dapat digunakan untuk membantu developer memecahkan masalah secara real time.
Contoh bagaimana LLM digunakan untuk meningkatkan efisiensi developer adalah Co-pilot Github dan solusi berdasarkan Star Coder.
2. Otomatisasi Call Centre
Ada beberapa kasus penggunaan dalam call center, mulai dari Interactive Voice Response (IVR), chatbot untuk menangani Tanya Jawab dan menganalisis transkrip panggilan untuk menilai sentimen pelanggan, serta mengarahkan tindakan terbaik selanjutnya atau berpotensi menangani eskalasi in-call.
3. Layanan Intelligent Document.
LLM digunakan untuk beberapa use case termasuk hal-hal seperti penerjemahan dokumen, rangkuman, tanya jawab berbasis dokumen, dan penelitian.
Dengan potensi besar yang dimiliki LLM, beberapa organisasi masih menahan diri untuk mendapatkan manfaat terbesar dan adopsi terluas saat ini. Ada beberapa alas an, yaitu:
- Alasan pertama adalah konteks. Artinya memberikan kepada model akses ke data perusahaan. Tanpa konteks, model tidak dapat memberikan tanggapan yang paling relevan. Oleh karena itu, Cloudera perlu memberikan akses untuk menggunakan data perusahaan.
- Alasan kedua adalah relevansi dan akurasi. Hal ini agak terkait dengan penggunaan data, tetapi relevansi tidak hanya berasal dari konteks yang disediakan oleh data, tetapi juga dari prompt itu sendiri. Akurasi juga merupakan sebuah tantangan. Pendekatan tradisional untuk ML melibatkan model pelatihan dan kemudian memvalidasi model pada set pelatihan tertentu. Model dilatih ulang ketika kinerjanya jatuh di bawah ambang batas tertentu. LLM terkadang dapat mengalami halusinasi jika data dan prompt tidak dikontrol dengan baik. Diperlukan kehati-hatian dalam mengekspos LLM secara langsung kepada pengguna atau konsumen.
- Alasan ketiga berfokus pada kepercayaan dan keamanan. Hal ini terkait dengan bidang Ethical AI, Responsibly AI, Explainability, dan Transparency. LLM berukuran besar dan kompleks dengan model open source yang samar. Oleh karena itu, lebih sulit untuk menempatkan rel pengaman di sekitar perilaku mereka atau untuk dapat menjelaskan bagaimana dan mengapa mereka memberikan jawaban seperti itu.
- Dan alasan terakhir adalah RISIKO dan KEPATUHAN. Organisasi membutuhkan kontrol yang kuat atas data. Hal ini termasuk produk data turunan seperti LLM. Memiliki visibilitas yang lebih besar tentang bagaimana model dilatih, menggunakan sumber data yang mana dan memastikan bahwa SEMUA data (pertanyaan, jawaban, konteks) dilindungi sesuai dengan pedoman keamanan informasi, akan mengurangi risiko.
Saat ini, meskipun sebagian besar enterprise melatih dan mengelola sejumlah besar model AI/ML, terkadang mencapai 1.000 model dalam produksi. Namun, dengan diperkenalkannya Generative AI dan Large Language Models (LLMs), kami melihat bahwa sejumlah kecil model dapat digunakan untuk sejumlah besar Aplikasi AI.
LLM dapat memberikan hasil yang luar biasa, namun perlu diberikan konteks yang sesuai. Konteks ini biasanya disediakan melalui prompt engineering dan biasanya mencakup penambahan dengan basis pengetahuan.
Hal ini mengubah fokus MLOP untuk membangun dan mengelola platform untuk mendukung model yang lebih sedikit, tetapi model yang lebih besar yang membutuhkan hardware komputasi GPU khusus dalam jumlah besar.
Dengan jumlah aplikasi yang lebih besar yang berbagi sejumlah kecil model besar, hal ini membutuhkan kemampuan integrasi data yang kuat.
Melihat potensi ini, Cloudera ingin agar pelanggan dapat segera menggunakan LLM dengan cepat,. Untuk mewujudkannya, Cloudera merilis LLM ChatBot AMP baru pada Juni 2023. AMP ini didasarkan pada Open Source LLM, menggunakan dokumen teks untuk memberikan konteks yang relevan dan berjalan sepenuhnya dalam privasi lingkungan, baik di on premise maupun di cloud.
Dalam beberapa menit saja, pengguna dapat menerapkan LLM AMP ke CML. Semuanya dilakukan secara otomatis. Kami merasa ini adalah titik awal yang baik untuk membantu pelanggan menjelajahi apa saja yang bisa dilakukan dengan cepat.
SF-Admin
