Anyscale – Ray କ୍ଲଷ୍ଟର, ଟ୍ରେନିଂ ଓ ସର୍ଭିଂ ପାଇଁ ବାଣିଜ୍ୟିକ ପ୍ଲାଟଫର୍ମ | Quasa.io

#Quasa #QUA #Anyscale

Anyscale ହେଉଛି Rayର ନିର୍ମାତାମାନଙ୍କ ବାଣିଜ୍ୟିକ ପ୍ଲାଟଫର୍ମ: CPU/GPU/TPU କ୍ଲଷ୍ଟରରେ ବିତରିତ ଡାଟା ପ୍ରକ୍ରିୟାକରଣ, ଟ୍ରେନିଂ, ବ୍ୟାଚ୍ ଇନଫରେନ୍ସ ଓ ସର୍ଭିଂ ପାଇଁ। ଆଧିକାରିକ ଦେୟ ବ୍ୟବସ୍ଥା ବ୍ୟବହାର ଆଧାରିତ Anyscale Creditsରେ ଚାଲେ—ସାର୍ବଜନୀନ ଭାବେ ଘୋଷିତ ସ୍ଥିର SaaS ସିଟ୍ ଦର ନାହିଁ। Hosted: Anyscale ପରିଚାଳିତ VMs, କାର୍ଡ ମାଧ୍ୟମରେ ବିଲ୍ ପୈଠ, କାର୍ଯ୍ୟାଳୟ ସମୟରେ ସହାୟତା। BYOC: ଆପଣଙ୍କ VPC ଓ ସଂରକ୍ଷିତ GPUs, ମାର୍କେଟପ୍ଲେସ୍ ଇନଭଏସ୍, 24×7 SLAs। ପ୍ରକାଶିତ Hosted ଦରର ଉଦାହରଣ: କେବଳ CPU ପାଇଁ ପ୍ରାୟ AC $0.0135/hrରୁ ଆରମ୍ଭ, T4 ~$0.57, L4 ~$0.95, A10G ~$1.36, A100 ~$4.96; H/B-class ପାଇଁ ଯୋଗାଯୋଗ କରିବାକୁ ପଡ଼େ। Kubernetes/ମେସିନ୍-ପୁଲ୍ ଦର ଭିନ୍ନ (H100 ପାଇଁ ~AC $7.16/hr ପ୍ଲାଟଫର୍ମ ଫି ସହିତ ଆପଣଙ୍କ କ୍ଲାଉଡ୍ ବିଲ୍)। କିଛି ଡଲାରର କ୍ରେଡିଟ୍ ଖର୍ଚ୍ଚ କରି ପ୍ରାରମ୍ଭିକ ଟେମ୍ପଲେଟ୍ ଚଲାଇପାରିବେ। ଓପନ୍-ସୋର୍ସ Ray ନିଜେ ଚଲାଇବା ଏବେ ବି ମାଗଣା। ଏହା ଗୋଟିଏ କ୍ଲିକ୍‌ରେ ଚାଲୁ ହେଉଥିବା LLM API ନୁହେଁ ଏବଂ କ୍ଲଷ୍ଟର ନିଷ୍କ୍ରିୟ ରହିଲେ ସିଧାସଳଖ କ୍ଲାଉଡ୍ ବ୍ୟବହାରଠାରୁ ଶସ୍ତା ନୁହେଁ। Hostedରୁ ଆରମ୍ଭ କରନ୍ତୁ। GPU ସଂରକ୍ଷଣ ଓ ଡାଟା କେଉଁ ଅଞ୍ଚଳରେ ରହିବ ତାହା ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ ହେଲେ BYOCକୁ ଯାଆନ୍ତୁ।

ମୁଖ୍ୟ ଶକ୍ତି
• Rayର ନିର୍ମାତାମାନେ ତିଆରି କରିଛନ୍ତି
• ଲାପଟପ୍‌ଠାରୁ 64+ GPUs ପର୍ଯ୍ୟନ୍ତ ସମାନ Python APIs
• Hosted କିମ୍ବା ଆପଣଙ୍କ କ୍ଲାଉଡ୍
• ଏକାଧିକ କ୍ଲାଉଡ୍‌ର GPUsକୁ ଏକାଠି ବ୍ୟବହାର କରିବାର ସୁବିଧା
• ଜବ୍ ଓ Serveର ସ୍ଥିତି ଓ କାର୍ଯ୍ୟଦକ୍ଷତା ନିରୀକ୍ଷଣ  

କାହା ପାଇଁ ଉପଯୁକ୍ତ
ପୂର୍ବରୁ Rayରେ କୋଡ୍ ଲେଖୁଥିବା ଏବଂ ଆଉ ଏକ ନୋଟବୁକ୍ ରାପର୍ ପରିବର୍ତ୍ତେ ପ୍ରଡକ୍ସନ୍ କ୍ଲଷ୍ଟର ଆବଶ୍ୟକ କରୁଥିବା ଟିମ୍‌ମାନଙ୍କ ପାଇଁ।

ପ୍ରମୁଖ ବିଶେଷତା
• Rayର 500M+ ଡାଉନଲୋଡ୍ ହୋଇଥିବା ଦାବି
• କେବଳ ଚାଲୁଥିବା ସମୟ ପାଇଁ ଦେୟ ଦିଅନ୍ତୁ
• ଗୋଟିଏ ପ୍ଲାଟଫର୍ମରେ vLLM / Train / Data
• BYOCରେ ମାର୍କେଟପ୍ଲେସ୍ ବିଲିଂ
• କିଛି ଡଲାରରୁ ଟେମ୍ପଲେଟ୍ ବ୍ୟବହାର ଆରମ୍ଭ  

ଧ୍ୟାନ ଦେବାକୁ ଥିବା କଥା
• କ୍ଲାଉଡ୍ GPUsର ଖର୍ଚ୍ଚ ସହିତ ଅତିରିକ୍ତ ପ୍ଲାଟଫର୍ମ ଫି ଲାଗେ
• Hosted ସୀମିତ ଅଞ୍ଚଳରେ ଉପଲବ୍ଧ
• H100+ ପାଇଁ ବିକ୍ରୟ ଟିମ୍ ସହ ଆଲୋଚନା କରିବାକୁ ପଡ଼େ
• ନିଷ୍କ୍ରିୟ କ୍ଲଷ୍ଟରକୁ ଚାଲୁ ରଖିଲେ ମଧ୍ୟ ଖର୍ଚ୍ଚ ହୁଏ
• ମାଲିକାନା ସମ୍ପର୍କିତ ଖବର (Nscale ଚୁକ୍ତି) ଉତ୍ପାଦଠାରୁ ଅଲଗା ବିଷୟ  

ସାମଗ୍ରିକ ମତ
4.4/5 ଷ୍ଟାର୍। ଜବ୍ ଠିକ୍ ଭାବେ ଚାଲୁଛି କି ନାହିଁ ପରଖିବାକୁ Hosted କ୍ରେଡିଟ୍ ବ୍ୟବହାର କରନ୍ତୁ। ଆପଣ ପୂର୍ବରୁ GPUs ପାଇଁ ଦେୟ ଦେଉଥିଲେ ଏବଂ VPCର ନିୟନ୍ତ୍ରଣ ନିଜ ପାଖରେ ରଖି Ray ପରିଚାଳନା ସୁବିଧା ଚାହୁଁଥିଲେ BYOC କିଣନ୍ତୁ। Quasa.ioରେ ସମୀକ୍ଷା ଲେଖି ମଧ୍ୟ 1 QUA ପୁରସ୍କାର ପାଆନ୍ତୁ!

ଆରମ୍ଭ କରନ୍ତୁ: https://quasa.io/projects/anyscale