Red Hat urychluje zavádění generativní AI v hybridním cloudu
Red Hat OpenShift AI je základem generativních služeb umělé inteligence IBM watsonx.ai, platformy umělé inteligence IBM určené ke škálování inteligentních aplikací a služeb ve všech oblastech podniku, které podporují novou generaci základních modelů.
Vzhledem k tomu, že jsou velké jazykové modely (Large Language Models, LLM) jako GPT-4 a LLaMA stále běžnější, zkoumají výzkumníci a vývojáři aplikací ve všech oblastech a odvětvích způsoby, jak tyto a další základní modely využít. Zákazníci mohou doladit komerční nebo open source modely pomocí dat specifických pro danou oblast, aby byly přesnější pro jejich konkrétní způsob použití. Počáteční trénink modelů umělé inteligence je neuvěřitelně náročný na infrastrukturu a vyžaduje specializované platformy a nástroje ještě předtím, než vstoupí do hry obsluha, ladění a správa modelu. Bez platformy, která dokáže tyto požadavky splnit, jsou organizace často omezeny v možnostech, jak mohou AI/ML skutečně využívat.
OpenShift AI tyto problémy řeší, když poskytuje konzistentní infrastrukturu pro trénink, nasazení a vyvozování závěrů, aby bylo možné potenciál umělé inteligence plně využít.
AI pro otevřený hybridní cloud
Red Hat OpenShift AI pomáhá odstranit mnohé z těchto překážek tím, že poskytuje standardizovaný základ pro vytváření produkčních modelů AI/ML i pro provoz výsledných aplikací. OpenShift AI nabízí konzistenci, snadné použití a možnosti nasazení od cloudu po okraj sítě v rámci platformy Red Hat OpenShift. Platformní inženýři mohou vytvářet škálovatelné konfigurace podle potřeb svých datových vědců a vývojářů. OpenShift AI lze použít k vyladění stávajících modelů, což šetří počáteční náklady na trénování modelů, zrychluje dosažení výsledků a rozšiřuje využití AI i mimo specializované datové vědce.
Red Hat OpenShift AI poskytuje několik možností propojení s nabídkami technologických partnerů, jako jsou Anaconda, IBM Watson Studio, Intel OpenVINO a AI Analytics Toolkit, Nvidia AI Enterprise a Starburst. V ekosystému OpenShift navíc poskytuje přístup k dalším 30 certifikovaným partnerům pro AI/ML.
Zákazníci se specifickými regulačními požadavky, včetně izolovaných a odpojených prostředí, mohou s pomocí OpenShift AI připravovat data a vyvíjet, trénovat i nasazovat modely v lokálním prostředí. Navíc lze pomocí stejných konzistentních nástrojů a rozhraní vyvíjet modely ve veřejném cloudu a nasazovat je lokálně nebo na okraji sítě, což poskytuje jedinečné hybridní prostředí MLOps, které umožňuje spolupráci mezi provozem IT, datovými vědci a vývojáři aplikací.
Osvědčený základ OpenShift AI umožňuje zákazníkům v lokálním prostředí i v cloudu spolehlivěji škálovat a trénovat základní modely pomocí nativních funkcí akcelerace GPU v OpenShift. Mezi klíčová vylepšení Red Hat OpenShift AI patří:
- Deployment pipelines pro sledování experimentů s AI/ML a automatizovaných pracovních postupů ML, které pomáhá datovým vědcům a vývojářům inteligentních aplikací rychleji iterovat projekty strojového učení a využít automatizaci při nasazování i aktualizacích aplikací.
- Model serving nyní zahrnuje podporu GPU pro odvozování závěrů a vlastní model serving runtimes, které zvyšují výkon inference a zlepšují nasazení základních modelů.
- Monitorování modelu, které umožňuje organizacím řídit výkonnostní a provozní metriky z centralizovaného řídicího panelu.
OpenShift AI podporuje IBM watsonx a Ansible Lightspeed
Red Hat OpenShift AI poskytuje základ pro nejnovější pokroky IBM v oblasti umělé inteligence, včetně IBM Watson Code Assistant, a poskytuje tak organizaci IT a týmům vývojářů umělou inteligenci pro konkrétní oblast využití.
Ansible Lightspeed přináší do Ansible výkon IBM Watson Code Assistant a umožňuje uživatelům všech úrovní dovedností psát Ansible Playbooks s doporučeními generovanými umělou inteligencí. Ansible Lightspeed zvyšuje produktivitu uživatelů Ansible a umožňuje jim vytvářet Ansible Playbook pomocí příkazů v anglickém jazyce bez ohledu na jejich úroveň znalostí automatizace.
