Eurooppalaiset tekoälypilvipalvelut laajentavat alueellista laskentainfrastruktuuria ja lisäävät samalla erikoistuneita mallipalveluja sekä hallintakeinoja sille, miten tekoälyagentit käyttävät työkaluja ja liiketoimintajärjestelmiä. NVIDIAn kumppanipäivityksessä kuvataan yhdistelmä jo tehtyjä testejä, jo käytössä olevia palveluja ja suunniteltuja käyttöönottoja. Näihin kuuluvat Nscalen testit, joissa laskentakapasiteettia rajoitti käytettävissä oleva sähköteho, Mistralin vuonna 2027 suunniteltu Vera Rubin -toimitus sekä OpenShell Reference Architecturen saama ekosysteemituki.
Tärkeimmät huomiot
- Nscale kertoi testeistä, joissa saman varatun tehorajan puitteissa saatiin käyttöön 37 % enemmän GPU-suorittimia ja lähes 50 % suurempi yhteenlaskettu päättelysuorituskyky.
- Kumppanit yhdistävät alueelliseen infrastruktuuriin erikoistuneita palveluja, kuten CodeRabbitin koodikatselmoinnin reititysmallin ja Nebiuksen robotiikka-alustan.
- OpenShellin tukijat pyrkivät määrittämään agenttien käyttörajat ohjelmistojen ja laitteistojen välillä; kumppanien tuki ei tarkoita, että asiakasratkaisu olisi jo otettu käyttöön.
Sisällysluettelo
- Eurooppalaiset tekoälypilvipalvelut vastaavat sähkötehon rajoitteeseen
- Mikä on saatavilla, testattu tai vasta suunnitteilla?
- Erikoistuneet palvelut hyödyntävät alueellista kapasiteettia
- Agenttien hallinta ulottuu ohjelmistoihin ja laitteistoihin
- Yhteenveto
Eurooppalaiset tekoälypilvipalvelut vastaavat sähkötehon rajoitteeseen
Laajentuminen ei tarkoita vain uusien tietotekniikkalaitteiden asentamista. NVIDIAn mukaan sähköteho on rajoittava tekijä tekoälytehtaiden kasvaessa, joten olemassa olevan sähkötehon puitteissa tuotetun hyödyllisen laskentatyön määrä on tärkeä osa kapasiteetin suunnittelua.
Nscalen raportoimat testit tarjoavat konkreettisen esimerkin. NVIDIA GB300 NVL72 -järjestelmillä yhtiö osoitti, että DSX MaxLPS mahdollisti 37 % enemmän GPU-suorittimia ja lähes 50 % suuremman yhteenlasketun päättelysuorituskyvyn saman varatun tehorajan puitteissa. Tulokset koskevat testikokoonpanoa eivätkä kuvaa mitattua parannusta kaikissa Nscalen datakeskuksissa.
Nscale aikoo lisäksi ottaa käyttöön Vera Rubin -infrastruktuuria edistyneiden mallien koulutukseen ja tuotantokuormiin sekä laajentaa toimintaansa viidellä Euroopan markkinalla. Crusoe puolestaan kehittää Vera Rubin -alustalle Spark-nimistä nestejäähdytteistä, modulaarista tekoälytehdasmallia, jonka tavoitteena on tuoda päättelykapasiteettia lähemmäs käyttäjiä.
Maantieteellinen laajuus ulottuu Euroopan ulkopuolelle. NVIDIA mainitsee myös kumppanien, kuten Alerian, Cassava Technologiesin, Firebirdin, G42:n, Radiantin, SWI Computen ja Vultrin, infrastruktuurihankkeet ja laajentumisen Pohjoismaissa, Afrikassa ja Keski-Aasiassa.
| Kohde | Tiedot |
|---|---|
| Nscalen sähkötehokkuustestit | Raportoitiin 37 % enemmän GPU-suorittimia ja lähes 50 % suurempi yhteenlaskettu päättelysuorituskyky saman varatun tehorajan puitteissa DSX MaxLPS:n avulla. |
| Mistralin infrastruktuuri | Vera Rubin -toimitus on suunniteltu vuodelle 2027; Mistral Large 4 koulutettiin 3 800 Grace Blackwell -GPU:lla Mistralin operoimissa eurooppalaisissa datakeskuksissa. |
| CodeRabbitin reititysmalli | Reitityksen yhtäpitävyys nousi 75,8 prosentista 80,7 prosenttiin, ja arvioidut päättelykustannukset laskivat 50 % arvioidussa työkuormassa. |
| Nebiuksen vähittäiskaupan agentit | Varastoa, myymälätoimintoja ja hienosäätöä koskevat sinikopiot ovat tulleet saataville ennakkokäyttöön. |
| OpenShell Reference Architecture | Julkistettiin GTC Berlin -tapahtumassa kumppanien tuella; tarkoituksena on koordinoida agenttien käyttörajoja ajoympäristön ohjelmistojen, suorittimien ja DPU-yksiköiden välillä. |
Mikä on saatavilla, testattu tai vasta suunnitteilla?
NVIDIAn raportti alueellisista pilvipalvelukumppaneista ja agenttien hallinnasta käsittelee yhdessä useita toiminnan eri vaiheita. Niiden erottaminen on tärkeää: jo tuotantokäytössä oleva malli, ennakkokäyttöön tarkoitettu palvelu ja tuleva laitteistotoimitus eivät tarjoa asiakkaille samaa välitöntä saatavuutta.
Mistralin laajentuminen havainnollistaa tätä eroa. Sen Vera Rubin -infrastruktuurin toimitus on suunniteltu vuodelle 2027. NVIDIA kertoo erikseen, että Mistral Large 4 koulutettiin 3 800 Grace Blackwell -GPU:lla Mistralin operoimissa eurooppalaisissa datakeskuksissa. Mallin koulutusta kuvataan jo toteutuneeksi, kun taas seuraavaa infrastruktuuritoimitusta vasta odotetaan.
Myös Verda aikoo ottaa Vera Rubinin käyttöön, mutta sillä on jo tuotantokäytössä NVIDIA Nemotron- ja Cosmos-avoimien painojen malleja. Se käyttää päättelyn optimointiin myös Dynamo-avoimen lähdekoodin kehystä.
Erikoistuneet palvelut hyödyntävät alueellista kapasiteettia
Kehittäjien kannalta käytännön kysymys on, mitä lisäinfrastruktuurilla voidaan tehdä. Kumppanipäivityksessä mainitaan koodikatselmointi, robotiikka, vähittäiskaupan agentit ja yrityksille suunnatut mallipalvelut sen sijaan, että laskentakapasiteetti esitettäisiin yksinään valmiina tuotteena.
Baseten kehitti CodeRabbitille Nemotron 3.5 Lightningiin perustuvan erikoistuneen koodikatselmoinnin reititysmallin. Valvotun hienosäädön ja vahvistusoppimisen jälkeen reitityksen yhtäpitävyys parani 75,8 prosentista 80,7 prosenttiin, ja arvioidut päättelykustannukset laskivat 50 % arvioidussa työkuormassa. Kustannusluku on kyseiseen työkuormaan liittyvä arvio, eikä se tarkoita yleistä kustannusten laskua kaikessa mallien käytössä.
Nebius on ottanut käyttöön NVIDIA Groq 3 LPX:n ja hyödyntää Spectrum-X Ethernet -verkotusta sen integroimiseksi Vera Rubin NVL72:n kanssa Token Factory -alustallaan. NVIDIAn mukaan yhdistelmä nopeuttaa tokenien generointia viiveherkissä sovelluksissa ja agenttipohjaisissa järjestelmissä hallittujen palvelimettomien palvelujen ja omistettujen päätepisteiden kautta.
Nebius tarjoaa myös Physical AI Workbench -ympäristön, jota käyttävät robotiikkayritykset, kuten Rhoda AI, RoboForce ja Sereact. Sen NVIDIA-vähittäiskauppa-agenttien sinikopiot varastoa, myymälätoimintoja ja hienosäätöä varten ovat tulleet ennakkokäyttöön.
Fireworks ja Era4 valitsevat toisen lähestymistavan: ne yhdistävät mallien koulutus- ja päättelypalvelut Era4:n Chesterfieldin toimipisteessä suoraan saatavilla olevaan nestejäähdytteiseen Blackwell Ultra -kapasiteettiin. Kumppanuus tukee suunnitelmia kehittää yrityssovelluksia rahoituspalveluihin, vakuutusalalle ja biotieteisiin.
Agenttien hallinta ulottuu ohjelmistoihin ja laitteistoihin
Tekoälymallien yhdistäminen liiketoimintatyökaluihin tuo mukanaan erillisen vaatimuksen riittävän laskentatehon tarjoamisen lisäksi: organisaatioiden on määriteltävä ja valvottava, mitä agentit saavat käyttää ja tehdä. GTC Berlin -tapahtumassa julkistettu OpenShell Reference Architecture on suunniteltu hallitsemaan näitä rajoja koko käyttöönottopinoa koskien.
Arkkitehtuurin eri osilla on omat tehtävänsä. Vera Rubin NVL72 vastaa mallien päättelystä; OpenShell-tuelliset Vera-suorittimet tukevat agenttien ohjausympäristöjä ja työkalujen käyttöä; ja NVIDIA Sentryä käyttävät BlueField-4 DPU-yksiköt valvovat sääntöjen noudattamista piisirussa. Arkkitehtuurin perustana on OpenShellin suojattu ajo-ohjelmisto.
Tukijoihin kuuluu pilvi- ja mallipalvelujen tarjoajia, kuten Baseten, CoreWeave, Crusoe, DigitalOcean, Fireworks, Nebius, Nscale ja Vultr. Raportissa kuvataan ekosysteemin tukea, jonka tarkoituksena on mahdollistaa agenttien turvallinen käyttöönotto; siinä ei dokumentoida jokaisen nimetyn kumppanin osalta jo toteutunutta käyttöönottoa.
Yhteenveto
Päivityksessä alueelliset laskentainvestoinnit yhdistyvät konkreettisiin työkuormiin ja agenttien käyttörajojen hallintaan. Vahvinta näyttöä ovat mitatut testit ja jo käytössä olevat palvelut; suunnitellut Vera Rubin -käyttöönotot ja OpenShellin laajempi käyttöönotto ovat seuraava vaihe, eivät jo valmistunutta kapasiteettia.
Lue lisää uutisia
Vastuuvapauslauseke
Tämä FinanceVelix-artikkeli sisältää yleistä tietoa, eikä se ole henkilökohtaista taloudellista, sijoitus-, oikeudellista tai veroneuvontaa. Markkinahinnat, korot ja taloudelliset olosuhteet voivat muuttua, ja sijoittamiseen liittyy tappion riski. Tiedot perustuvat julkaisuhetkellä saatavilla olleeseen aineistoon ja voivat muuttua. Tarkista tärkeät tiedot itsenäisesti ja pyydä tarvittaessa neuvoa pätevältä ammattilaiselta. Omaisuuserän, yrityksen tai palvelun mainitseminen ei ole suositus.
