Anyscale

Anyscale förenklar infrastrukturproblemen vid utveckling och träning av storskaliga AI-system. Plattformen bygger på Ray, ett distribuerat ramverk med öppen källkod, och erbjuder hanterad samordning för utvecklare av grundmodeller och AI-företag.

Höjdpunkter

• Multimodala pipelines för datakurering av video, bilder, text och ljud
• Distribuerad GPU-accelererad modellträning med elastisk skalning
• Batchgenerering av embeddings och optimering av inferens
• Körning av arbetslaster i flera moln, bland annat AWS, GCP och Azure
• Avancerad observerbarhet och prestandaövervakning
• Finjusterad resursfördelning för CPU:er, GPU:er, TPU:er och specialiserade acceleratorer

Anyscale är utvecklat för forskningsteam och maskininlärningsingenjörer som bygger grundmodeller och behöver bearbeta mycket stora datamängder samt samordna komplexa träningsflöden effektivt. Plattformen erbjuder en gratisnivå med 100 dollar i kredit för nya användare och betalplaner för produktionsarbete, prissatta efter förbrukad beräkningskapacitet.