Red Hat Hadirkan Inovasi AI Generatif Open Source yang Mudah Diakses dengan Red Hat Enterprise Linux AI

EKSEKUTIF.com — Red Hat, Inc., penyedia solusi open source terkemuka di dunia, baru-baru ini mengumumkan peluncuran Red Hat Enterprise Linux AI (RHEL AI), sebuah platform foundation model yang membantu pengguna dalam mengembangkan, menguji, dan menjalankan model AI generatif (GenAI) tanpa hambatan.

RHEL AI menggabungkan large language model (LLM) Granite yang berlisensi open source dari IBM Research, tools untuk model alignment dari InstructLab yang berbasis metodologi LAB (Large-scale Alignment for chatBots), dan pendekatan berbasis komunitas untuk pengembangan model melalui proyek InstructLab.

Keseluruhan solusi dikemas sebagai RHEL image yang dioptimalkan dan bootable, untuk penggunaan di server individual di seluruh hybrid cloud dan juga termasuk bagian dari OpenShift AI, platform machine learning operations (MLOps) hybrid dari Red Hat, untuk menjalankan model dan pengembangan InstructLab di seluruh lingkungan cluster yang tersebar.

Peluncuran ChatGPT telah menimbulkan ketertarikan sangat besar terhadap GenAI, dengan inovasi yang semakin cepat sejak saat itu. Enterprise mulai berpindah dari penilaian awal terhadap layanan GenAI ke fase pengembangan aplikasi dengan AI. Ekosistem opsi open model yang terus berkembang pesat telah memacu inovasi AI lebih jauh dan menggambarkan bahwa tidak akan ada “satu model yang mengendalikan semua.

Pelanggan akan mendapatkan manfaat dari berbagai pilihan yang ada untuk memenuhi kebutuhan-kebutuhan spesifik, yang semuanya akan semakin dipercepat dengan pendekatan terbuka terhadap inovasi.

Menerapkan strategi AI membutuhkan lebih dari sekadar memilih sebuah model; perusahaan teknologi membutuhkan keahlian untuk menyempurnakan model tertentu untuk kasus penggunaan yang spesifik bagi mereka, serta mengatasi biaya yang besar dalam penerapan AI. Kelangkaan keahlian data science makin dipersulit dengan kebutuhan keuangan yang besar, termasuk:

  • Pengadaan infrastruktur AI atau memanfaatkan layanan AI
  • Proses yang rumit dalam menyempurnakan model AI untuk kebutuhan bisnis yang spesifik
  • Mengintegrasikan AI ke dalam aplikasi enterprise
  • Mengelola aplikasi dan lifecycle model

Untuk benar-benar menerobos hambatan dalam inovasi AI, enterprise harus bisa mengumpulkan daftar siapa saja yang bisa bekerja untuk inisiatif AI dan pada saat yang sama berusaha mengontrol biaya. Dengan alignment tools dari InstructLab, model Granite, dan RHEL AI, Red Hat akan memberikan manfaat dari proyek open source yang sebenarnya, yaitu berupa akses gratis dan bisa digunakan kembali, transparan dan terbuka terhadap kontribusi, ke dalam GenAI sebagai upaya untuk menghilangkan penghambat tersebut.

Mengembangkan AI secara terbuka dengan InstructLab

IBM Research menciptakan teknik Large-scale Alignment for chatBots (LAB), sebuah pendekatan model alignment yang menggunakan penciptaan data sintetis yang dipandu oleh taksonomi dan tuning framework multi-fase yang baru. Pendekatan ini menjadikan pengembangan model AI lebih terbuka dan bisa diakses oleh semua pengguna dengan mengurangi ketergantungan terhadap anotasi manusia yang mahal dan model proprietary.

Dengan menggunakan metode LAB, model bisa ditingkatkan dengan melakukan spesifikasi pada keahlian dan pengetahuan yang terkait dengan sebuah taksonomi, sehingga menghasilkan data sintetis dari informasi tersebut pada skala besar untuk memengaruhi model dan menggunakan data yang dihasilkan tersebut untuk pelatihan model.

Setelah melihat bahwa metode LAB bisa membantu memperbaiki kinerja model secara signifikan, IBM dan Red Hat memutuskan untuk meluncurkan InstructLab, komunitas open source yang dibangun di seputar metode LAB dan model Granite open source dari IBM. Proyek InstructLab bertujuan untuk meletakkan pengembangan LLM di tangan para pengembang dengan membuat, mengembangkan, dan berkontribusi ke sebuah LLM semudah berkontribusi ke proyek open source apapun.

Sebagai bagian dari peluncuran InstructLab, IBM juga merilis satu paket Granite, sebuah code model berbahasa Inggris dan berbasis open source. Model ini diluncurkan di bawah lisensi Apache dengan transparansi pada dataset yang digunakan untuk melatih model tersebut. Model Granite 7B telah diintegrasikan ke dalam komunitas InstructLab, di mana pengguna akhir bisa menyumbangkan keahlian dan pengetahuan mereka untuk menyempurnakan model tersebut secara kolektif, seperti yang mereka lakukan untuk proyek open source lain. Dukungan yang sama untuk code model Granite di InstructLab akan segera tersedia.

“GenAI merepresentasikan lompatan revolusioner bagi enterprise, namun hanya jika perusahaan teknologi mampu menjalankan dan menggunakan model AI dengan cara yang sesuai dengan kebutuhan bisnis spesifik mereka. RHEL AI dan proyek InstructLab, bersama dengan Red Hat OpenShift AI pada skala besar, didesain untuk menerobos hambatan yang dihadapi GenAI di seluruh hybrid cloud, mulai dari keterampilan data science yang terbatas, hingga jumlah sumber daya yang dibutuhkan, sekaligus mendorong inovasi baik saat digunakan di enterprise maupun di komunitas upstream,”ujar Ashesh Badani, senior vice president dan chief product officer, Red Hat , Senin ( 03/06/2024).

Inovasi AI open source pada tulang punggung Linux tepercaya

RHEL AI membangun pendekatan terbuka ini berdasarkan inovasi AI, yang menggabungkan proyek InstructLab versi yang enterprise-ready dan bahasa serta code model Granite bersama dengan platform Linux enterprise terdepan di dunia untuk menyederhanakan penggunaan di semua lingkungan infrastruktur hybrid. Ini menciptakan sebuah platform foundation model untuk membawa model GenAI berlisensi open source ke enterprise. RHEL AI meliputi:

  • Bahasa dan code modelGranite berlisensi open source yang didukung dan dilindungi oleh Red Hat
  • Distribusi InstructLab yang didukung dan di-lifecycledyang menyediakan solusi yang skalabel dan hemat biaya untuk meningkatkan kemampuan LLM dan membuat lebih banyak orang dapat menyumbangka ilmu serta keterampilan mereka.
  • Runtime instancemodel yang bootable dan dioptimalkan  dengan model Granite dan paket tooling InstructLab sebagai RHEL image melalui image mode RHEL, termasuk runtime libraries Pytorch yang dioptimalkan dan akselerator untuk kerangka kerja AMD Instinct™ MI300X, Intel dan NVIDIA GPUs dan NeMo.
  • Dukungan enterprisedan janji lifecycle terlengkap dari Red Hat yang dimulai dengan pendistribusian produk enterprise paling tepercaya, dukungan produksi 24×7 dan dukungan lifecycle yang panjang.

Ketika perusahaan bereksperimen dan menyempurnakan model AI terbaru mereka di RHEL AI, mereka siap untuk menskalakan alur kerja ini dengan Red Hat OpenShift AI, yang akan menyertakan RHEL AI, dan tempat di mana mereka bisa memanfaatkan mesin Kubernetes di OpenShift untuk melatih dan mendukung model AI pada skala besar dan kemampuan MLOps yang terintegrasi di OpenShift AI untuk mengelola model lifecycle.

Enterprise studio watsonx.ai dari IBM yang dibangun di Red Hat OpenShift AI saat ini, akan memetik manfaat dari penyertaan RHEL AI dalam OpenShift AI berdasarkan ketersediaan, sehingga memberikan kemampuan tambahan untuk pengembangan AI enterprise, pengelolaan data, tata kelola model, dan harga yang lebih baik.

“AI adalah salah satu pergeseran paling penting dalam teknologi selama 50 tahun terakhir. Untuk membantu mempercepat pengadopsian AI yang lebih luas, model dan tool yang digunakan untuk membangun aplikasi AI harus bisa diakses oleh enterprise. Dibangun di tulang punggung Linux dengan tooling open source dan model berlisensi open source, RHEL AI adalah salah satu platform yang menyediakan hal ini, dan kami gembira bisa mendukung upaya Red Hat dalam mendorong AI di enterprise dengan teknologi AMD kami, termasuk akselerator Instinct AI,” jelas Ramine Roane, corporate vice president, AI Group, AMD

Cloud bersifat hybrid , Begitu juga AI

Selama lebih dari 30 tahun, teknologi open source telah menyandingkan inovasi yang pesat dengan penghematan biaya IT yang besar serta mengurangi penghambat inovasi. Red Hat telah memimpin perubahan ini sejak lama, mulai dari menyediakan platform Linux enterprise yang terbuka dengan RHEL pada awal tahun 2000an, hingga mendorong container dan Kubernetes sebagai landasan open hybrid cloud dan komputasi cloud-native dengan Red Hat OpenShift.

Dorongan ini berlanjut dengan Red Hat yang memberdayakan strategi AI/ML di semua open hybrid cloud, sehingga memungkinkan beban kerja AI berjalan di mana data berada, baik di pusat data, di beberapa public cloud atau di edge. Lebih dari sekadar beban kerja, visi Red Hat untuk AI membawa pelatihan model dan tuning ke jalur yang sama untuk mengatasi batasan di seputar kedaulatan data, kepatuhan dan integritas operasional dengan lebih baik.

Konsistensi platform Red Hat di berbagai lingkungan tersebut, di manapun mereka dijalankan, sangat penting untuk menjaga keberlanjutan inovasi AI.

RHEL AI dan komunitas InstructLab semakin memenuhi visi ini, mendobrak banyak penghalang untuk bereksperimen dan mengembangkan model AI sekaligus menyediakan tools, data dan konsep yang dibutuhkan untuk mendorong gelombang beban kerja cerdas berikutnya.

Red Hat Enterprise Linux AI kini tersedia sebagai pratinjau pengembang. Dibangun di atas infrastruktur GPU yang tersedia di IBM Cloud, yang digunakan untuk melatih model Granite dan mendukung InstructLab, IBM Cloud kini akan menambahkan dukungan untuk RHEL AI dan OpenShift AI. Integrasi ini akan memungkinkan enterprise untuk menjalankan AI generatif dengan lebih mudah ke dalam aplikasi penting mereka.

 

 

Tinggalkan Balasan

Situs ini menggunakan Akismet untuk mengurangi spam. Pelajari bagaimana data komentar Anda diproses.