PrismML ସମୀକ୍ଷା: ଡିଭାଇସ୍‌ରେ ଚାଲୁଥିବା ବୃହତ୍ ଭାଷା ମଡେଲ୍‌ର ଭବିଷ୍ୟତ

#Quasa #QUA #prismml

PrismML ହେଉଛି ଆମେରିକାର ଏକ AI ଗବେଷଣା କମ୍ପାନି, ଯାହାର ମୂଳଦୁଆ Caltechରେ ଦୃଢ଼ ଭାବେ ଗଢ଼ିଉଠିଛି। ଏହା ଏକ ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ ଆହ୍ୱାନ ଉପରେ କାମ କରୁଛି: ମଡେଲ୍‌ର ଆକାର କିମ୍ବା ଜଟିଳତା ନ ବଢ଼ାଇ ସେଥିରେ ବୁଦ୍ଧିମତ୍ତା କିପରି ବହୁଗୁଣିତ କରାଯାଇପାରିବ। ଏହାର ସମାଧାନ ହେଉଛି ଅତ୍ୟନ୍ତ ଘନ ଓ ବହୁମାତ୍ରାରେ ସଂକୁଚିତ ମଡେଲ୍, ଯାହା ବହୁତ କମ୍ ମେମୋରି, ଶକ୍ତି ଓ କମ୍ପ୍ୟୁଟିଂ ସମ୍ବଳ ବ୍ୟବହାର କରି ମଧ୍ୟ ଉଚ୍ଚ ପ୍ରଦର୍ଶନ ଦେଇଥାଏ।

କମ୍ପାନିର ପ୍ରମୁଖ ଉତ୍ପାଦ Bonsai 27B ହେଉଛି 27 ବିଲିୟନ୍ ପାରାମିଟର୍‌ର ଏକ ମଡେଲ୍, ଯାହା 1-bit (ମାତ୍ର 3.9 GB) ଓ ଟର୍ନାରି (5.9 GB) ସଂସ୍କରଣରେ ଉପଲବ୍ଧ। ଏହା ଫଳରେ ଏତେ ବଡ଼ ମଡେଲ୍ ସିଧାସଳଖ ସ୍ମାର୍ଟଫୋନ୍ ଓ ଲାପଟପ୍‌ରେ ଚାଲିପାରୁଛି — ସାଧାରଣ ଫୁଲ୍-ପ୍ରିସିଜନ୍ ମଡେଲ୍‌ରେ ପୂର୍ବରୁ ଏହା ସମ୍ଭବ ନଥିଲା। PrismMLର ଦାବି ଅନୁସାରେ, ପାରମ୍ପରିକ 16-bit ମଡେଲ୍ ତୁଳନାରେ 1-bit ସଂସ୍କରଣ 14× କମ୍ ମେମୋରି ବ୍ୟବହାର କରେ, 8× ଅଧିକ ବେଗରେ ଚାଲେ ଏବଂ 5× କମ୍ ଶକ୍ତି ଖର୍ଚ୍ଚ କରେ। ଏହା ସହିତ ଏକାଧିକ ପର୍ଯ୍ୟାୟରେ ତର୍କ କରିବା, ଟୁଲ୍ କଲିଂ, ଏଜେଣ୍ଟଭିତ୍ତିକ କାର୍ଯ୍ୟପ୍ରବାହ ଓ ବିଭିନ୍ନ ପ୍ରକାରର ତଥ୍ୟ ବୁଝିବାକୁ ମଧ୍ୟ ସମର୍ଥନ କରେ।

କମ୍ପାନିର ମୂଳ ଚିନ୍ତାଧାରା ହେଉଛି “ବୁଦ୍ଧିମତ୍ତାର ଘନତା” — କେବଳ ପାରାମିଟର୍ ସଂଖ୍ୟା ବଢ଼ାଇବା ବଦଳରେ ପ୍ରତି ବିଟ୍‌ରେ ଯଥାସମ୍ଭବ ଅଧିକ ଉପଯୋଗୀ ବୁଦ୍ଧିମତ୍ତା ରଖିବା। ଏହି ପଦ୍ଧତି ଏକାସାଙ୍ଗରେ ଦୁଇଟି ବଡ଼ ସମସ୍ୟାର ସମାଧାନ କରିବାକୁ ଲକ୍ଷ୍ୟ ରଖିଛି: ବ୍ୟକ୍ତିଗତ ଡିଭାଇସ୍‌ରେ ରଖିହେଉନଥିବା ବଡ଼ ମଡେଲ୍ ଏବଂ ବିଶାଳ ଡାଟାସେଣ୍ଟର୍‌ର ଦୀର୍ଘମିଆଦରେ ପୂରଣ କରିହେଉନଥିବା ଶକ୍ତି ଚାହିଦା।

ଯେଉଁ ଡେଭେଲପର୍, ହାର୍ଡୱେର୍ ନିର୍ମାତା, ଗବେଷକ ଓ କମ୍ପାନି ଦୃଢ଼ ଗୋପନୀୟତା, କମ୍ ପ୍ରତିକ୍ରିୟା ବିଳମ୍ବ ଏବଂ ଉଚ୍ଚ ଶକ୍ତି ଦକ୍ଷତା ସହ ନିଜ ଡିଭାଇସ୍‌ରେ ଶକ୍ତିଶାଳୀ AI ଚଲାଇବାକୁ ଚାହାନ୍ତି, ସେମାନଙ୍କ ପାଇଁ PrismML ଆଦର୍ଶ।

ମୁଖ୍ୟ ବିଶେଷତା

• ବିଶ୍ୱସ୍ତରୀୟ 1-bit ଓ ଟର୍ନାରି ସଂକୋଚନ (Bonsai ପରିବାର)।
• Bonsai 27B ଫୋନ୍‌ରେ ଚାଲେ ମାତ୍ର ~4 GBରେ।
• ଉଲ୍ଲେଖନୀୟ ଉନ୍ନତି ମେମୋରି ବ୍ୟବହାର, ବେଗ ଓ ଶକ୍ତି ଦକ୍ଷତାରେ।
• ତର୍କ କରିବା, ଟୁଲ୍ ବ୍ୟବହାର ଓ ବିଭିନ୍ନ ପ୍ରକାରର ତଥ୍ୟ ପ୍ରକ୍ରିୟାକରଣ କ୍ଷମତାକୁ ସମର୍ଥନ କରେ ଡିଭାଇସ୍‌ରେ।
• ଦୃଢ଼ ଗବେଷଣା ଭିତ୍ତି Caltechରୁ।

ବିଚାର କରିବାକୁ ଥିବା ସମ୍ଭାବ୍ୟ ଦିଗ

• ଏହା ତୁଳନାତ୍ମକ ଭାବେ ଏକ ନୂଆ ପ୍ରଯୁକ୍ତି ହୋଇଥିବାରୁ, ଏହା ସହ କାମ କରୁଥିବା ସଫ୍ଟୱେର୍ ଓ ସେବାର ସମର୍ଥନ ଏବଂ ଫାଇନ୍-ଟ୍ୟୁନିଂ ଟୁଲ୍ ଏବେ ମଧ୍ୟ ବଢ଼ୁଛି।
• ବର୍ତ୍ତମାନ ଆଧୁନିକ ଉଚ୍ଚକ୍ଷମତାସମ୍ପନ୍ନ ମୋବାଇଲ୍ ଓ ଲାପଟପ୍ ହାର୍ଡୱେର୍‌ରେ ସବୁଠୁ ଭଲ ଫଳ ଦେଖିବାକୁ ମିଳୁଛି।

ସାମଗ୍ରିକ ମୂଲ୍ୟାୟନ: 4.6/5 ଷ୍ଟାର୍

PrismML ଏବେ AIର ଅନ୍ୟତମ ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ କ୍ଷେତ୍ରରେ ସମ୍ଭାବନାର ସୀମାକୁ ଆଗକୁ ବଢ଼ାଉଛି — ଦୈନନ୍ଦିନ ବ୍ୟବହାରର ଡିଭାଇସ୍‌ରେ ବଡ଼ ମଡେଲ୍‌କୁ ବ୍ୟବହାରଯୋଗ୍ୟ କରୁଛି। କେବଳ ଆକାର ଉପରେ ଗୁରୁତ୍ୱ ନଦେଇ ବୁଦ୍ଧିମତ୍ତାର ଘନତା ଉପରେ ଧ୍ୟାନ ଦେଇ, କମ୍ପାନି ଶକ୍ତିଶାଳୀ AIକୁ କ୍ଲାଉଡ୍‌ରୁ ଏଜ୍‌କୁ ଆଣିବାରେ ଅର୍ଥପୂର୍ଣ୍ଣ ଅବଦାନ ଦେଉଛି।

Quasa.ioରେ ମଧ୍ୟ ସମୀକ୍ଷା ଲେଖି QUA ପୁରସ୍କାର ପାଆନ୍ତୁ!

ଆରମ୍ଭ କରନ୍ତୁ: https://quasa.io/projects/prismml