Red Hat Tingkatkan Dukungan AI untuk Perusahaan Telko

Oleh Azhar Sayeed, Senior Director, Global Telco Technical Development, Red Hat

Awal tahun ini, Chris Wright telah menyingkapkan apa yang akan terjadi selanjutnya pada penyedia layanan telekomunikasi di tahun 2024 dan dari sini kita tahu bahwa fokus perusahaan telko adalah mengadopsi intelligent automation dan teknologi AI dengan tujuan akhir untuk meningkatkan efisiensi bisnis dan operasional di seluruh jaringan, keamanan, infrastruktur dan aplikasi dalam lingkungan hybrid. Sejak itu, Red Hat sudah meluncurkan sejumlah proyek menarik pada acara Red Hat Summit 2024, termasuk memperkenalkan Red Hat Enterprise Linux (RHEL) AI, yang merupakan peningkatan pada Red Hat OpenShift AI dan banyak lagi, yang akan menyediakan platform AI yang kuat untuk perusahaan telko dan membantu mereka meningkatkan operasional, mengurangi biaya, menyempurnakan layanan pelanggan, dan mendorong inovasi.
Hari ini, saya secara khusus ingin menyoroti bagaimana beberapa solusi berbasis AI ini akan membantu perusahaan telko tetap kompetitif dengan kemampuan untuk mendeteksi penipuan, mengalami peningkatan dalam pengelolaan data, jaringan otonom dan optimasi sumber daya, pengelolaan trafik jaringan, pengelolaan energi, chatbots, dukungan pelanggan yang makin dipersonalisasi, model AI di radio access networks (RAN) dan core, dan banyak lagi – sekaligus memenuhi peningkatan permintaan infrastruktur digital modern.
Memperkenalkan Red Hat Enterprise Linux AI
Tahun ini Red Hat mengumumkan RHEL AI, platform model dasar yang memungkinkan pengguna untuk mengembangkan, menguji dan menjalankan model AI generatif (GenAI) dengan lebih lancar. RHEL AI menghadirkan large language model (LLM) Granite yang berlisensi open source dari IBM Research, tool penyelarasan model InstructLab berbasis metodologi LAB (Large-scale Alignment for chatBots) dan pendekatan yang community-driven untuk pengembangan model melalui proyek InstructLab. Keseluruhan solusi dikemas sebagai RHEL image yang dioptimalkan dan bootable untuk digunakan di server individual di seluruh hybrid cloud dan juga dimasukkan sebagai bagian dari Red Hat OpenShift AI, yakni platform hybrid machine learning operations (MLOps) dari Red Hat, yang digunakan untuk membangun, melatih, memantapkan dan menyajikan model pada skala besar di lingkungan cluster yang tidak berada di satu tempat alias tersebar.

RHEL AI akan membantu perusahaan telko dengan mempermudah pengembangan dan eksperimen dengan model AI, dan menyempurnakannya, sehingga perusahaan lebih mudah dalam memulai perencanaan pemanfaatan potensi AI dalam perusahaan mereka, tanpa membutuhkan investasi besar di depan untuk membangun skill atau membeli hardware. Penawaran ini juga dapat membantu meningkatkan pengalaman pelanggan di perusahaan telko secara keseluruhan, dengan memungkinkan lebih banyak orang yang ahli dalam bidang dan domain tertentu, tidak hanya ilmuwan data, untuk berkontribusi dalam pelatihan, penyempurnaan, dan penyelarasan LLM.
Ini berarti bahwa chatbot, asisten code, layanan konsumen, dan banyak lagi, bisa dikembangkan dengan menggunakan input dari orang-orang yang melakukan tugas-tugas itu secara langsung, tanpa harus melalui alur kerja ilmuwan data. Ini membantu perusahaan telko melihat AI dalam cara yang baru, sebagai sesuatu yang bisa diuji coba dengan cepat dan efisien, sekaligus menyediakan jalan untuk mengembangkan kemampuan AI dari pengetahuan yang unik dan keterampilan mereka sendiri.
Merevolusi operasional perusahaan telko dengan Red Hat OpenShift AI
Di Red Hat Summit, kami mengumumkan hadirnya kemampuan baru pada Red Hat OpenShift AI, platform open hybrid AI dan machine learning (ML), yang dibangun pada Red Hat OpenShift, solusi yang memungkinkan perusahaan telko untuk menciptakan dan meluncurkan aplikasi berbasis AI pada skala besar di seluruh hybrid cloud. Ada banyak update di antaranya:
Penyajian model di edge ke lokasi yang jauh menggunakan Red Hat OpenShift single-node yang bisa digunakan untuk kasus penggunaan yang spesifik (tech preview)
Meningkatkan penyajian model dengan menambahkan kemampuan untuk menggunakan beberapa server model untuk mendukung AI prediktif dan GenAI
Pengembangan model yang lebih baik dan pelatihan model yang tersebar
Visualisasi monitoring model untuk melihat metrik performa dan operasional, dan masih banyak lagi.
Semua peningkatan ini akan membuat inovasi terjadi dengan lebih cepat, produktivitas dan kapasitas yang makin besar untuk menambahkan AI ke dalam operasional sehari-hari di perusahaan telko. Tetapi bagaimana caranya?
Sebenarnya, menghadirkan pelatihan dan penyajian model di edge bisa memakan biaya karena kerumitan pengaturannya. Namun memiliki platform umum seperti Red Hat OpenShift AI dari core hingga ke edge akan menjadikan pekerjaan ini menjadi lebih efisien berkat peningkatan pada otomatisasi yang akan mengurangi pengeluaran operasional. Dengan otomatisasi yang cerdas, perusahaan telko dapat menyederhanakan operasional jaringan mereka, meningkatkan langkah-langkah keamanan dan mengoptimalkan alokasi sumber daya.
Hal ini terutama sangat penting saat perusahaan telko menghadapi tekanan finansial yang disebabkan oleh modernisasi sistem lama yang sudah usang dan perluasan jaringan 5G. Dengan adanya AI di edge, perusahaan telko akan mendapatkan manfaat dari pemrosesan data yang lebih cepat dan pengambilan keputusan secara real time, yang akan meningkatkan performa aplikasi AI dan layanan secara signifikan. Pendekatan ini cocok untuk pertambahan volume data yang dihasilkan oleh mesin dan meningkatkan konektivitas dan kemampuan analitik. Bayangkan layanan concierge digital untuk pelanggan bisnis atau kasus penggunaan telko seperti monitoring trafik, manajemen beban, peningkatan infrastruktur, manajemen lifecycle jaringan atau manajemen daya.
Jika kita melihat RAN, perusahaan telko dapat memanfaatkan model AI di RAN untuk pengendalian frekuensi, sektor, sel, dan base station secara dinamis, lebih dari sekadar pengaturan waktu. Mereka bisa menerapkan teknik AI untuk estimasi channel dan pekerjaan-pekerjaan yang terkait dengan SON.
Red Hat OpenShift AI juga menyediakan MLOps dengan mengintegrasikan kemampuan AI dan ML ke dalam model DevOps standar, yang mencakup keseluruhan lifecycle model AI. Ini termasuk membangun, melatih, menyajikan, dan mengawasi model AI, dengan fokus pada penyempurnaan akurasi yang sangat penting untuk perusahaan telko.
Turkcell, penyedia layanan telekomunikasi dan teknologi konvergen terdepan, mengembangkan arsitektur layanan AI dan application hub di Red Hat OpenShift yang berhasil meningkatkan pengalaman pelanggan, mendorong efisiensi operasional, dan menarik pelanggan yang lebih beragam serta mampu menghadirkan inovasi bisnis ke pasar dengan lebih cepat.
Dan kami juga bekerja sama dengan mitra-mitra untuk mengintegrasikan teknologi AI terbaik mereka ke dalam Red Hat OpenShift AI. Lihatlah apa yang kami umumkan bersama dengan AMD, Intel, NVIDIA dan Run.ai.
Integrasi kuat dengan AMD akan membantu perusahaan telko menjalankan platform mereka dengan Red Hat OpenShift, termasuk penggunaan GPU sets terbaru. Dan dengan semakin terintegrasinya Red Hat OpenShift AI dengan hardware AI Intel, perusahaan telko akan mampu mewujudkan interoperabilitas dari pusat data ke cloud, hingga ke edge dengan portabilitas beban kerja AI yang lebih besar untuk membangun, menjalankan, dan menerapkan beban kerja AI di manapun dibutuhkan.
Red Hat juga mengumumkan kolaborasi dengan NVIDIA untuk memungkinkan pengguna menggabungkan model AI yang dilatih menggunakan Red Hat OpenShift AI dengan layanan mikro NVIDIA NIM, untuk mengembangkan aplikasi berbasis GenAI pada satu platform MLOps. Ini akan membantu penyedia layanan menggunakan Red Hat OpenShift sebagai platform pengembang untuk membangun co-pilot seperti asisten chat untuk layanan pelanggan, pengecekan kepatuhan, pendeteksian malware, dan banyak lagi.
Red Hat bekerja sama dengan Run:ai untuk membawa pengalokasian sumber daya, pengelolaan infrastruktur AI, dan kemampuan orkestrasi GPU mereka ke Red Hat OpenShift AI. Dengan melancarkan operasional AI dan mengoptimalkan infrastruktur dasarnya, kolaborasi ini akan membantu penyedia layanan mengoptimalkan sumber daya mereka untuk membangun sebuah infrastruktur cerdas yang bisa beradaptasi dan menyesuaikan dirinya sendiri berdasarkan beban kerja seperti 5G core dan aplikasi RAN.
Otomatisasi yang lebih besar untuk jaringan pintar masa depan
Red Hat Lightspeed berekspansi ke berbagai platform untuk mendorong AI yang enterprise-ready untuk Red Hat OpenShift dan Red Hat Enterprise Linux. Hal ini dimaksudkan untuk menyediakan kemampuan pemrosesan natural language yang cerdas, supaya Linux level enterprise dari Red Hat dan platform aplikasi cloud-native dapat digunakan oleh pengguna baru dengan lebih mudah dan bertindak sebagai pendorong peningkatan kekuatan bagi kalangan profesional berpengalaman.
Ini berarti perusahaan telko yang menggunakan Red Hat OpenShift untuk mengelola dan mengembangkan aplikasi atau RHEL sebagai sistem operasi mereka, kini bisa menciptakan dan menyediakan software dengan lebih cepat berkat bantuan GenAI. Tugas ini juga akan membuat operasional IT dan jaringan menjadi lebih efisien melalui bantuan digital, memberikan lebih banyak waktu untuk menciptakan inovasi-inovasi yang penting atau inovasi bisnis baru. Perusahaan telko dapat memanfaatkan tools otomatisasi ini dalam penciptaan, penerapan, dan pemeliharaan jaringan telko di masa depan, mendorong tim mereka meraih tingkat pengembangan dan efisiensi yang belum pernah terjadi sebelumnya.
Patuh terhadap peraturan tanpa menghambat inovasi
Red Hat mengumumkan hadirnya automated policy as code, kemampuan baru yang akan ditanamkan pada versi Red Hat Ansible Automation Platform berikutnya. Kemampuan ini akan membantu penerapan kebijakan dan kepatuhan di seluruh hybrid cloud estate yang sekarang memiliki lebih banyak aplikasi AI yang berbeda-beda. Langkah lain dalam kematangan otomatisasi, policy as code akan memungkinkan perusahaan untuk mematuhi persyaratan internal atau eksternal yang berubah dan mempersiapkan infrastruktur yang lebih luas untuk mendukung peningkatan beban kerja AI.
Ini artinya perusahaan telko akan mendapatkan keuntungan dari:
Integrasi yang lebih erat dari policy engine dan kemampuan dengan Ansible Automation Platform untuk meningkatkan keseluruhan postur keamanan infrastruktur.
Kemampuan untuk mendefinisikan kebijakan dalam teks sederhana yang bisa diterjemahkan dan diterapkan dalam infrastruktur mereka – sebagai contoh: “Cek kepatuhan semua switch saya di seluruh jaringan.”
Lebih mudah untuk memenuhi persyaratan dan mematuhi peraturan.

Red Hat secara signifikan telah meningkatkan portofolio produknya untuk menyediakan kemampuan native AI bagi perusahaan telko, sehingga perusahaan ini dapat mengembangkan, melatih, dan menjalankan model, baik AI prediktif dan GenAI. Kami akan terus meningkatkan penawaran ini untuk memudahkan pelanggan memanfaatkan AI untuk infrastruktur dan layanan mereka.(m28)