Anyscale

Anyscale simplifică dificultățile de infrastructură asociate construirii și antrenării sistemelor AI la scară mare. Construită peste Ray, un cadru open-source pentru calcul distribuit, platforma oferă orchestrare administrată dezvoltatorilor de modele fundamentale și companiilor AI.

Puncte forte

• Fluxuri multimodale de pregătire a datelor pentru procesarea videoclipurilor, imaginilor, textului și conținutului audio
• Antrenare distribuită a modelelor, accelerată de GPU-uri și cu scalare elastică
• Generarea în lot a reprezentărilor vectoriale și optimizarea inferenței
• Executarea sarcinilor în mai multe servicii cloud, inclusiv AWS, GCP și Azure
• Instrumente avansate de observabilitate și monitorizare a performanței
• Alocare optimizată a hardware-ului pentru CPU-uri, GPU-uri, TPU-uri și acceleratoare specializate

Anyscale este conceput pentru echipe de cercetare și ingineri ML care construiesc modele fundamentale și trebuie să proceseze seturi masive de date și să coordoneze eficient fluxuri complexe de antrenare. Platforma oferă utilizatorilor noi un plan gratuit cu un credit de 100 USD, iar planurile plătite pentru sarcini la scară de producție sunt tarifate în funcție de resursele de calcul consumate.