Confluent, Inc, perusahaan pengembang data streaming, hari ini mengumumkan Streaming Agents, fitur terbaru dalam Confluent Cloud yang mendukung Apache Flink, sehingga mempermudah pembuatan dan skalabilitas agen AI yang mengawasi, menganalisis, serta merespons data secara real-time.
Streaming Agents menghapus hambatan dalam penerapan AI berbasis agen perusahaan dengan menggabungkan pemrosesan data dan alur kerja AI, serta menawarkan koneksi yang sederhana dan aman ke setiap bagian bisnis, termasuk Large Language Models (LLMs), model embedding, alat, dan sistem lainnya. Fitur ini mempercepat penerapan AI berbasis agen, memudahkan alur kerja yang lebih efektif, waktu implementasi yang lebih singkat, serta pengembangan model bisnis dan peluang baru yang sangat inovatif.
“AI yang berfokus pada tindakan agen ada dalam rencana setiap perusahaan. Namun, sebagian besar perusahaan terjebak di tahap prototipe yang tidak selesai, sehingga ketinggalan, sementara yang lain berlomba mencapai hasil yang bisa diukur,” ujar Shaun Clowes (Chief Product Officer di Confluent).
“Meskipun agen AI yang paling pintar pun akan kehilangan arah tanpa memiliki konteks bisnis terkini. Streaming Agents mempermudah tugas-tugas rumit dalam mengintegrasikan alat dan data yang menghasilkan kecerdasan nyata, memberikan dasar yang kuat bagi organisasi untuk menerapkan agen AI yang mendorong perubahan signifikan di seluruh bisnis,” katanya.
Laporan IDC mengungkapkan bahwa meskipun perusahaan rata-rata melakukan 23 percobaan konsep AI generatif antara tahun 2023 dan 2024, hanya tiga dari uji coba tersebut yang sampai pada tahap produksi. Dari angka tersebut, sebanyak 62% di antaranya berhasil memenuhi ekspektasi.
Agen akan memiliki kemampuan yang kuat berkat alat dan data yang tersedia, namun proses kerja saat ini terlalu rumit dan mahal, menghambat bisnis dalam memaksimalkan manfaat dari AI agen.
Meskipun kerangka kerja AI yang tersedia mempermudah penggunaan agen, banyak perusahaan mengalami kesulitan dalam mengintegrasikan data real-time ke dalam proyek AI agen, sehingga menghasilkan respons yang tidak tepat dan tidak dapat dipercaya.
“Meskipun sebagian besar perusahaan sedang melakukan investasi dalam AI yang bersifat mandiri, struktur data mereka tidak mampu mendukung kemampuan pengambilan keputusan mandiri yang diperlukan oleh sistem-sistem tersebut,” ujar Stewart Bond (Wakil Presiden Divisi Perangkat Lunak Intelijen dan Integrasi Data di IDC).
“Sebaiknya organisasi memprioritaskan solusi AI mandiri yang menawarkan integrasi yang sederhana dan aman, serta memanfaatkan data waktu nyata untuk memberikan konteks yang diperlukan dalam pengambilan keputusan yang cerdas,” katanya.
Menciptakan dan Meningkatkan Agen AI Real-Time Melalui Agen Streaming
Agen Streaming mengintegrasikan AI berbasis agen langsung ke dalam alur pemrosesan streaming guna membantu perusahaan dalam membangun, menerapkan, dan mengatur agen yang berbasis kejadian dengan menggunakan Apache Kafka dan Apache Flink.
Dengan menggabungkan pemrosesan data dan kemampuan berpikir AI, agen dapat mengakses informasi kontekstual terkini dari sumber yang menyediakan data secara real-time, sehingga mampu beradaptasi dengan cepat dan berkomunikasi dengan agen serta sistem lain ketika situasi berubah.
Agen Streaming selalu beroperasi dan bekerja untuk kepentingan bisnis, berjalan secara dinamis, menangani aliran data yang besar, serta merespons sinyal real-time secara langsung dengan kemampuan berpikir yang memahami konteks, mirip dengan cara kerja manusia.
Sebagai contoh, Streaming Agents mampu menetapkan harga yang kompetitif dengan mengawasi harga secara terus-menerus di berbagai toko online dan secara otomatis memperbarui harga barang di situs penjual agar sesuai dengan penawaran paling menarik bagi konsumen.
Fitur utama dari Streaming Agents meliputi:
Alat Komunikasi untuk Otomatisasi Konteks: Komunikasi alat melalui Protokol Konteks Model (MCP) memungkinkan agen memilih alat eksternal yang sesuai, seperti basis data, perangkat lunak sebagai layanan (SaaS), atau API, untuk melakukan tindakan yang relevan. Komunikasi alat mempertimbangkan apa yang terjadi dalam bisnis dan apa yang dilakukan oleh sistem serta agen lain.
Koneksi untuk keamanan integrasi: Konekkan secara aman ke model, basis data vektor, dan MCP langsung melalui Flink. Koneksi ini menjaga kerahasiaan kredensial, memfasilitasi penggunaan kembali yang lebih luas dengan berbagi koneksi antara berbagai tabel, model, dan fungsi, serta mengelola secara terpusat untuk penerapan skala besar.
Tabel Eksternal dan Pencarian untuk Meningkatkan Akurasi AI: Pastikan data yang diproses secara real-time diperkaya dengan sumber data selain Kafka, seperti basis data relasional dan REST APIs, agar mendapatkan wawasan data terkini dan lengkap. Hal ini meningkatkan akurasi pengambilan keputusan AI, pencarian vektor, serta generasi augmentasi retrieval (RAG), mengurangi biaya dan kesulitan penggunaan dengan memanfaatkan Flink SQL, serta memanfaatkan fitur keamanan dan jaringan Confluent Cloud.
Kemampuan untuk mengulang proses iterasi dan menjaga keamanan: Agen bisa dikembangkan dan diuji dengan data nyata tanpa dampak langsung, memungkinkan peluncuran yang tersembunyi, pengujian A/B, serta pengulangan yang lebih cepat.
Agen Streaming tersedia saat ini dalam versi pra-peluncuran terbuka.
