Red Hat, Inc. tutarlı, açık kaynaklı bir AI/ML hibrit bulut platformu tarafından desteklenen düzinelerce yapay zeka (AI) modeli için optimize edilmiş çıkarım sağlamak üzere Red Hat OpenShift AI üzerinde NVIDIA NIM mikro hizmetlerine yönelik entegrasyon desteğinin geldiğini duyurdu. Kurumlar, Red Hat OpenShift AI’yı NVIDIA NIM ile birlikte kullanabilecekler. NVIDIA AI Enterprise yazılım platformunun bir parçası olarak yer alan kullanımı kolay çıkarım mikro hizmetleri seti, daha hızlı değer elde etmek için üretken AI (GenAI) uygulamalarının sunumunu hızlandıracak.
Red Hat OpenShift AI üzerindeki NVIDIA NIM desteği, Red Hat Enterprise Linux ve Red Hat OpenShift gibi Red Hat’in sektör lideri açık hibrit bulut teknolojilerinde NVIDIA AI Enterprise’ın mevcut optimizasyonuna dayanıyor. Bu son iş birliğinin bir parçası olarak NVIDIA, yüksek düzeyde ölçeklenebilir yapay zeka kullanım durumlarında Kubernetes tabanlı bir açık kaynak projesi olan ve Red Hat OpenShift AI için temel bir katkı sağlayan KServe ile NIM’in birlikte çalışabilirliğini sağlayacak. Böylece, Red Hat OpenShift AI’nın gelecekteki sürümlerinde NVIDIA NIM mikro hizmetleri için sürekli birlikte çalışabilirlik mümkün olacak.
Bu entegrasyon, işletmelerin sanal asistanlarla müşteri hizmetlerinin kapsamını genişletme, BT talepleri için vaka özetleme ve alana özgü yardımcı pilotlarla iş operasyonlarını hızlandırma gibi GenAI özellikleriyle üretkenliği artırmasını sağlıyor.
Kurumlar, NVIDIA NIM ile Red Hat OpenShift AI kullanarak şunlardan faydalanabiliyor:
- Daha fazla tutarlılık ve daha kolay yönetim için NVIDIA NIM’i diğer yapay zeka kurulumlarıyla birlikte ortak bir iş akışında kullanmak üzere kolaylaştırılmış entegrasyon.
- Hibrit bulut ortamlarındaki diğer yapay zeka modeli kurulumlarıyla koordineli olarak NVIDIA NIM kurulumlarında entegre ölçeklendirme ve izleme.
- İşlerini yapay zeka üzerinde yürüten işletmeler için prototipten üretime sorunsuz bir geçiş sağlamak üzere kurumsal düzeyde güvenlik, destek ve kararlılık.
NVIDIA NIM mikro hizmetleri, işletmelerde GenAI dağıtımını hızlandırmak için tasarlandı. Açık kaynak topluluk modelleri, NVIDIA AI Foundation modelleri ve özel modeller dahil olmak üzere çok çeşitli AI modellerini destekleyen NIM, endüstri standardı uygulama programlama arayüzleri (API’ler) aracılığıyla şirket içinde veya bulutta sorunsuz, ölçeklenebilir AI çıkarımı sunuyor.
Red Hat kıdemli başkan yardımcısı ve Küresel Mühendislik baş teknoloji sorumlusu Chris Wright konu hakkında şöyle görüş bildirdi: “Red Hat’in, NVIDIA ile yaptığı bu işbirliği, yapay zeka özellikli uygulamaların hızla oluşturulması, yönetilmesi ve dağıtılmasıyla ilgili engelleri ve karmaşıklıkları ortadan kaldırmaya son derece odaklıdır. Red Hat OpenShift AI, NIM mikro hizmetlerinin erişimini artırmak için ölçeklenebilir, esnek bir temel sağlayarak, geliştiricileri önceden oluşturulmuş kapsayıcılar ve endüstri standardı API’lerle güçlendiriyor ve bunların tümü açık kaynak inovasyonuyla destekleniyor.”
NVIDIA Kurumsal Ürünlerden sorumlu Başkan Yardımcısı Justin Boitano ise şu değerlendirmeleri yapıyor: “Her kurumsal geliştirme ekibi, üretken yapay zeka uygulamalarını mümkün olduğunca hızlı ve güvenli bir şekilde üretime almak ister. NVIDIA NIM’in Red Hat OpenShift AI’ya entegre edilmesi, geliştiricilerin performans açısından optimize edilmiş temel ve gömülü modelleri kullanarak modern kurumsal uygulamaları herhangi bir bulut veya veri merkezinde hızla oluşturmasına ve ölçeklendirmesine yardımcı olacağından işbirliğimizde yeni bir kilometre taşına işaret ediyor.”
