Inflection for Enterprise, yang ditenagai oleh Gaudi dan Intel Tiber AI Cloud, membantu enterprise menangani beban kerja yang sangat penting dengan AI
JAKARTA, ( Waspada); What’s New: Hari ini Inflection AI dan Intel mengumumkan kolaborasi untuk mempercepat pengadopsian dan dampak AI bagi perusahaan serta pengembang. Inflection AI meluncurkan Inflection for Enterprise, sistem AI kelas enterprise pertama di industri dengan dukungan Intel® Gaudi® dan Intel® Tiber™ AI Cloud (AI Cloud), untuk menyediakan kemampuan AI yang penuh empati, conversational, ramah bagi karyawan, dan memberikan kendali, kustomisasi dan skalabilitas yang dibutuhkan untuk penerapan dalam skala besar yang kompleks. Sistem ini segera tersedia melalui AI Cloud dan akan dikirimkan kepada pelanggan sebagai perangkat AI pertama dalam industri dengan dukungan Gaudi 3 pada Kuartal 1 2025.
“Melalui kolaborasi strategis dengan Inflection AI, kami sedang menetapkan standar baru solusi AI yang memberikan hasil yang memberikan dampak besar secara langsung. Dengan dukungan pada model open-source, tools, dan performance per watt yang kompetitif, solusi Intel Gaudi 3 membuat penerapan GenAI menjadi mudah diakses, terjangkau, dan efisien bagi enterprise mana pun.”
–Justin Hotard, Intel executive vice president and general manager of the Data Center and AI Group
Why It Matters: Membangun sebuah sistem AI biasanya membutuhkan infrastruktur yang substansial – pengembangan dan pelatihan model yang ekstensif dan kolaborasi antara para engineer, saintis data dan pengembang aplikasi. Dengan Inflection for Enterprise, dikembangkan di Inflection 3.0, pelanggan enterprise kini bisa memanfaatkan solusi AI komprehensif yang memberdayakan tenaga kerja mereka dengan co-worker AI virtual yang secara spesifik dilatih dengan data, kebijakan dan budaya unik perusahaan mereka. Kemitraan dengan Intel memberikan performa tak tertandingi melalui accelerator AI Intel Gaudi 3, yang menawarkan harga/performa terdepan dalam industri untuk hasil yang efisien dan memberikan dampak besar. Teknologi Intel memastikan fleksibilitas dan skalabilitas untuk hasil yang berdampak besar. Selain itu, AI Cloud memudahkan pengembangan, pengujian dan penerapan aplikasi AI dalam lingkungan terpadu, sehingga mempercepat waktu pemasaran. Dengan value dan kelebihan yang ditawarkan layanan ini, Intel dan Inflection AI juga berkolaborasi untuk menjalankan Inflection for Enterprise di dalam Intel dengan antisipasi bahwa Intel akan menjadi pelanggan pertama solusi tersebut.
“Setiap CEO dan CTO yang kami temui merasa frustasi karena tools AI yang ada saat ini di pasar belum benar-benar enterprise-grade,” kata COO Inflection AI, Ted Shelton. “Perusahaan enterprise membutuhkan lebih dari AI generik yang siap pakai, namun mereka tidak memiliki keahlian untuk menyempurnakan model itu sendiri. Kami bangga menawarkan sistem AI yang menjawab masalah ini, dan dengan keuntungan performa yang kami lihat saat menjalankannya di Intel Gaudi, kami tahu ini bisa ditingkatkan untuk memenuhi kebutuhan setiap perusahaan.”
How It Works: Inflection AI menyempurnakan modelnya agar menjadi native di setiap perusahaan, mempercepat pengadopsian pengguna dan meningkatkan penggunaan dengan penyelarasan yang sesuai tone, tujuan, dan produk unik, layanan dan informasi operasional perusahaan. Inflection 3.0 memungkinkan pelanggan perusahaan mendapatkan nilai dengan lebih cepat melalui pengalaman AI generatif yang ramah bagi karyawan, sekaligus menawarkan keunggulan harga, performa dan keamanan/kepatuhan.
Menghilangkan Hambatan GenAI – Dikembangkan di AI Cloud, Inflection for Enterprise menyediakan template aplikasi yang didesain untuk membiarkan perusahaan melewati pengujian hardware dan pengembangan model dan menghindari kenaikan yang cepat dalam belanja modal. Pelanggan Kuartal 1-2025 juga akan memiliki opsi untuk membeli Inflection for Enterprise pada perangkat AI yang lengkap. Dengan memanfaatkan Gaudi 3, pelanggan perangkat ini bisa mendapatkan keuntungan dari 2x harga performa yang lebih baik serta 128GB kapasitas memori bandwidth yang besar yang lebih jauh lagi mengoptimalkan performa GenAI mereka dibandingkan dengan penawaran kompetitif saat ini.
Harga/Performa yang Dioptimalkan – Walaupun aplikasi konsumen Pi dari Inflection AI sebelumnya dijalankan di NVIDIA GPU, Inflection 3.0 akan didukung oleh Gaudi 3 dengan instances on-premises atau di cloud dengan dukungan AI Cloud. Ini tidak hanya memangkas waktu deployment, namun juga total biaya kepemilikan.
Disesuaikan untuk Perusahaan – Memanfaatkan penyesuaian dan reinforcement learning from human feedback (RLHF) yang mendukung Pi dari Inflection AI, model Inflection for Enterprise unik sesuai etos bisnis dan cara beroperasi. Dimodelkan pada data dan insight dari sejarah, kebijakan, konten, tone, produk dan informasi operasional perusahaan, Inflection AI membantu mendorong produktivitas dan penyelarasan di seluruh perusahaan.
Kepemilikan dan Keamanan yang Ditingkatkan – Inflection for Enterprise memungkinkan perusahaan untuk memiliki intelligence mereka sepenuhnya. Model yang telah disempurnakan adalah milik pelanggan sepenuhnya dan tidak akan pernah dibagikan di luar perusahaan mereka. Selain itu, pelanggan bisa menjadi host dan menjalankan model di arsitektur pilihan mereka, baik di on-premise, di cloud, maupun hybrid.
What’s Next: Ke depannya, Inflection AI dan Intel juga bisa memungkinkan pengembang untuk mengembangkan aplikasi enterprise untuk Inflection for Enterprise, memanfaatkan sistem Inflection 3.0 yang kuat dan berpusat pada manusia, untuk menghasilkan software tools yang penting. Pelanggan enterprise yang tertarik dengan Inflection for Enterprise bisa mengunjungi https://inflection.ai/intel untuk mempelajari hal ini lebih lanjut atau mendaftar untuk melihat demo.
Tentang Intel
Intel (Nasdaq: INTC) adalah pemimpin industri, menciptakan teknologi yang mengubah dunia yang memungkinkan kemajuan global dan memperkaya hidup. Terinspirasi oleh Hukum Moore, kami terus berupaya untuk memajukan desain dan produksi semikonduktor untuk membantu mengatasi tantangan-tantangan terbesar pelanggan kami. Dengan membenamkan kecerdasan di cloud, jaringan, edge dan setiap jenis perangkat komputasi, kami mengeluarkan potensi data untuk mentransformasi bisnis dan masyarakat menjadi lebih baik. Untuk mengetahui lebih lanjut mengenai inovasi Intel, kunjungi newsroom.intel.com dan intel.com.
Sumber: Hasil pengukuran Intel vs sumber data H100: https://github.com/NVIDIA/TensorRT-LLM/blob/main/docs/source/ Performance/perf-overview.md input-output
Sequences: 128-2048tps pada 2 akselerator/GPU. Hasil Intel diperoleh pada 9 September 2024.
Hardware: Dua Intel Gaudi 3 AI Accelerator (HBM 128 GB) vs dua GPU Nvidia H100 (HBM 80 GB).
Software: Intel Gaudi software release 1.18.0.
Lihat tautan Nvidia untuk detail software H100.
Hasil mungkin bervariasi.
Perkiraan harga berdasarkan informasi yang tersedia untuk umum dan analisis internal Intel.
© Intel Corporation. Intel, the Intel logo and other Intel marks are trademarks of Intel Corporation or its subsidiaries. Other names and brands may be claimed as the property of others.
Update berita terkini dan berita pilihan kami langsung di ponselmu. Pilih saluran favoritmu akses berita Waspada.id WhatsApp Channel : https://whatsapp.com/channel/0029VaZRiiz4dTnSv70oWu3Z dan Google News Pastikan kamu sudah install aplikasi WhatsApp dan Google News ya.
