Red Hat OpenShift AI proširuje prediktivnu i generativnu fleksibilnost umjetne inteligencije u hibridnom Cloudu

Red Hat, vodeći svjetski pružatelj rješenja Open-Sourca, ovog tjedna je najavio napredak u Red Hat OpenShift AI, otvorenoj hibridnoj platformi umjetne inteligencije (AI) i strojnog učenja (ML) izgrađenoj na Red Hat OpenShiftu koja tvrtkama omogućuje stvaranje i isporuku AI-a. Ova ažuriranja ističu Red Hatovu viziju za AI, donoseći Red Hatovu predanost izboru korisnika u svijet inteligentnih radnih opterećenja, od temeljnog hardvera do usluga i softvera, kao što su Jupyter i PyTorch, koji se koriste za izgradnju na OpenShift AI platformi. To omogućuje brže inovacije, povećanu produktivnost i kapacitet za slojevitu umjetnu inteligenciju u svakodnevnim poslovnim operacijama kroz fleksibilniju, skalabilniju i prilagodljiviju platformu Open-Sourca. Platforma omogućuje i prediktivne i generativne modele, sa ili bez upotrebe okruženja u Cloudu.

Kupci se suočavaju s mnogim izazovima pri premještanju AI modela iz eksperimentiranja u proizvodnju, uključujući povećane troškove hardvera, brigu o privatnosti podataka i nedostatak povjerenja u dijeljenje svojih podataka s modelima temeljenim na SaaS-u. Generativni AI (GenAI) se brzo mijenja i mnoge se organizacije bore da uspostave pouzdanu temeljnu AI platformu koja može raditi on-premise ili u Cloudu.

Prema IDC-u, za uspješno iskorištavanje umjetne inteligencije, poduzeća će morati modernizirati mnoge postojeće aplikacije i podatkovna okruženja, razbiti prepreke između postojećih sustava i platformi za pohranu, poboljšati održivost infrastrukture i pažljivo odabrati gdje implementirati različita radna opterećenja u Cloudu, podatkovnim centrima i rubnim lokacijama. Za Red Hat to znači da AI platforme moraju pružiti fleksibilnost za podršku poduzećima dok napreduju kroz svoj put usvajanja AI i prilagođavaju se njihovim potrebama i resursima.

Red Hatova AI strategija omogućuje fleksibilnost u hibridnom Cloudu, pruža mogućnost poboljšanja unaprijed obučenih ili odabranih temeljnih modela s njihovim korisničkim podacima i slobodu omogućavanja raznih hardverskih i softverskih akceleratora. Nove i poboljšane značajke Red Hat OpenShift AI-a ispunjavaju te potrebe putem pristupa najnovijim AI/ML inovacijama i podrškom ekspanzivnog partnerskog ekosustava usmjerenog na AI. Najnovija verzija platforme, Red Hat OpenShift AI 2.9, donosi:

• Posluživanje modela na rubu proširuje implementaciju AI modela na udaljene lokacije koristeći OpenShift s jednim čvorom. Pruža mogućnosti zaključivanja u okruženjima s ograničenim resursima s povremenim ili zračnim pristupom mreži. Ova značajka tehnološkog pregleda pruža organizacijama skalabilno, dosljedno operativno iskustvo od jezgre preko Clouda do ruba i uključuje mogućnost promatranja izvan okvira.
• Poboljšano posluživanje modela s mogućnošću korištenja više poslužitelja modela za podršku i predviđanja i GenAI-ja, uključujući podršku za KServe, Kubernetes prilagođenu definiciju resursa koja orkestrira posluživanje za sve vrste modela, vLLM i poslužitelj za zaključivanje generiranja teksta (TGIS), koji poslužuje motore za LLMs i Caikit-nlp-tgis runtime, koji upravlja modelima i zadacima obrade prirodnog jezika (NLP). Poboljšano posluživanje modela omogućuje korisnicima pokretanje predviđanja i GenAI-ja na jednoj platformi za višestruke slučajeve upotrebe, smanjujući troškove i pojednostavljujući operacije. Ovo omogućuje posluživanje modela izvan okvira za LLM-ove i pojednostavljuje radni proces oko korisnika.​
• Distribuirana radna opterećenja uz Ray, koristeći CodeFlare i KubeRay, koji koristi više čvorova klastera za bržu, učinkovitiju obradu podataka i obuku modela. Ray je okvir za ubrzavanje AI radnih opterećenja, a KubeRay pomaže upravljati tim radnim opterećenjima na Kubernetesu. CodeFlare središnji je dio mogućnosti distribuiranog radnog opterećenja Red Hat OpenShift AI, pružajući okvir jednostavan za korištenje koji pomaže pojednostaviti orkestraciju zadataka i nadzor. Mogućnosti središnjeg čekanja i upravljanja omogućuju optimalno korištenje čvora i dodjelu resursa, kao što su GPU-ovi, pravim korisnicima i radnim opterećenjima.
• Poboljšan razvoj modela kroz projektne radne prostore i dodatne slike radnog stola koje znanstvenicima za podatke pružaju fleksibilnost za korištenje IDE-a i kompleta softvera, uključujući VS Code i RStudio, koji su trenutno dostupni kao tehnološki pregled, i poboljšanu CUDA, za različite slučajeve upotrebe i vrste modela.
• Model nadzire vizualizacije za performanse i operativne metrike, poboljšavajući vidljivost izvedbe AI modela.
• Novi profili akceleratora omogućuju administratorima da konfiguriraju različite vrste hardverskih akceleratora dostupnih za razvoj modela i tijekove rada za posluživanje modela. To omogućuje jednostavan, samoposlužni korisnički pristup odgovarajućoj vrsti akceleratora za određeno radno opterećenje.

Uz Red Hat OpenShift AI koji podupire IBM-ov watsonx.ai, poduzeća u svim industrijama opremaju se Red Hat OpenShift AI kako bi potaknula više AI inovacija i rasta, uključujući AGESIC i Ortec Finance.

Cloud je hibrid. To vrijedi i za umjetnu inteligenciju.

Više od 30 godina tehnologije Open-Sourca spajaju brze inovacije sa znatno smanjenim IT troškovima i smanjenim preprekama inovacija. Red Hat je u Open-Sourcu gotovo jednako dugo, počevši od isporuke otvorenih poslovnih Linux platformi s RHEL-om u ranim 2000-ima do pokretanja kontejnera i Kubernetesa kao temelj za otvoreni hibridni Cloud i računalstvo u Cloudu s Red Hat OpenShift.

Ovaj trend se nastavlja s Red Hatom koji pokreće AI/ML strategije u otvorenom hibridnom Cloudu, omogućujući da se AI radna opterećenja izvode tamo gdje podaci žive, bilo u podatkovnom centru, više javnih Clouda ili na rubu. Više od samog radnog opterećenja, Red Hatova vizija za AI donosi obuku modela i prilagođavanje istim putem kako bi se bolje riješila ograničenja u vezi s suverenošću podataka, usklađenošću i operativnim integritetom. Konzistentnost koju pružaju Red Hatove platforme u tim okruženjima, bez obzira na to gdje rade, ključna je za održavanje tijeka inovacija umjetne inteligencije.