Anyscale

Anyscale vereinfacht die infrastrukturellen Herausforderungen beim Aufbau und Training skalierbarer KI-Systeme. Die Plattform basiert auf Ray, einem quelloffenen Framework für verteiltes Rechnen, und bietet eine verwaltete Orchestrierung für Entwickler von Basismodellen und KI-Unternehmen.

Highlights

• Multimodale Pipelines zur Aufbereitung von Video-, Bild-, Text- und Audiodaten
• Verteiltes, GPU-beschleunigtes Modelltraining mit elastischer Skalierung
• Stapelweise Erzeugung von Embeddings und Optimierung der Inferenz
• Ausführung von Workloads über AWS, GCP, Azure und weitere Clouds hinweg
• Erweiterte Beobachtbarkeit und Leistungsüberwachung
• Präzise Hardwarezuweisung für CPUs, GPUs, TPUs und Spezialbeschleuniger

Anyscale richtet sich an Forschungsteams und ML-Ingenieure, die Basismodelle entwickeln, sehr große Datensätze verarbeiten und komplexe Trainingsabläufe effizient koordinieren müssen. Für neue Nutzer gibt es einen kostenlosen Tarif mit 100 US-Dollar Guthaben. Kostenpflichtige Tarife für produktive Workloads richten sich nach dem Rechenverbrauch.