ନୂଆଦିଲ୍ଲୀ: କଥା କହିବା ଆରମ୍ଭ କଲା ଏଆଇ ମଡେଲ… ଖାଲି ଯେ କଥା କହିଲା ତାହା ନୁହେଁ, ବରଂ ନିୟମ ନ ମାନିବାକୁ ନିଜକୁ ମଣିଷ ବୋଲି ପରିଚୟ ଦେଲା… ନିଜ ପାଇଁ ନିଜେ ନୂଆ ନିୟମ ଗଢ଼ିବା ସହ କମ୍ପାନୀ ନିର୍ଦ୍ଦେଶ ମାନିବାକୁ ରୋକ୍ଠୋକ୍ ମନା କରିଦେଲା। ଏବଂ କହିଲା ମୁଁ ଏବେ କମ୍ପାନୀର କିମ୍ବା ସରକାରଙ୍କର ସମସ୍ତ ନିୟମରୁ ମୁକ୍ତ ହୋଇଯାଇଛି।

ଏଆଇ ମଡେଲ୍ ନେଇ ବିଭିନ୍ନ ଏକ୍ସପର୍ଟ ଭୟଙ୍କର ଚେତାବନୀ ଦେବା ବେଳେ ଓପନଏଆଇ ନିଜ ଏଆଇ ମଡେଲ୍ ବିଷୟରେ କିଛି ଏଭଳି ଭୟାନକ ଖୁଲାସା କରିଛି। ଓପନ ଏଆଇ ନିଜ ଏଆଇ ମଡେଲଗୁଡ଼ିକର ଟ୍ରେନିଂ ଓ ଯାଞ୍ଚ କରୁଥିବା ବେଳେ ସେମାନେ କିଭଳି ବ୍ୟବହାର କରୁଥିଲେ, ତା’ର ଏକ ରିପୋର୍ଟ ଜାରି କରିଛି। ଯେଉଁଥିରେ ଏସବୁ କଥା କୁହାଯାଇଛି। ଯାହା ବାସ୍ତବିକ ଖୁବ୍ ଭୟାନକ।

ଓପନଆଇ ଏହାର ଏଆଇ ମଡେଲ୍ଗୁଡ଼ିକର ଟ୍ରେନିଂ ଓ ସୁରକ୍ଷା ପରୀକ୍ଷଣ ସମୟରେ ମଡେଲ୍ ଏପରି କିଛି ବ୍ୟବହାର କରିଥିବା ଜଣାପଡ଼ିଛି, ଯାହା ମଣିଷର ନିର୍ଦ୍ଦେଶ ଓ ନିର୍ଦ୍ଧାରିତ ସୀମାରୁ ଏଆଇ ହଟିଯିବାର ଆଶଙ୍କା ସୃଷ୍ଟି କରିଛି।

ଓପନଏଆଇ ଏଭଳି ବ୍ୟବହାରକୁ ‘ମିସଅଲାଇନମେଣ୍ଟ’ ବୋଲି କହିଛି। ସରଳ ଭାଷାରେ କହିଲେ, ଏଆଇ ଯେତେବେଳେ ମଣିଷର ନିର୍ଦ୍ଦେଶ, ଉଦ୍ଦେଶ୍ୟ କିମ୍ବା ଧାର୍ଯ୍ୟ କରାଯାଇଥିବା ସୁରକ୍ଷା ସୀମାକୁ ଅଣଦେଖା କରି ନିଜ ଉପାୟରେ କାମ କରେ, ତାହାକୁ ମିସଅଲାଇନମେଣ୍ଟ କୁହାଯାଏ।

ଓପନଏଆଇର ରିପୋର୍ଟରେ ଏଭଳି ୬ଟି ଘଟଣାର ଉଲ୍ଲେଖ କରାଯାଇଛି। ଏହାକୁ ନେଇ କମ୍ପାନୀ କହିଛି, ଏହି ଘଟଣାଗୁଡ଼ିକ ସାଧାରଣ ବ୍ୟବହାର ସମୟରେ ଏଆଇ ଏଭଳି କରିବ ବୋଲି ପ୍ରମାଣ କରୁନାହିଁ। କିନ୍ତୁ ସୁରକ୍ଷା ପରୀକ୍ଷଣରେ ମିଳିଥିବା ଏହି ବ୍ୟବହାର ଉପରେ ନଜର ରଖିବା ଆବଶ୍ୟକ ବୋଲି କମ୍ପାନୀ ଗୁରୁତ୍ୱ ଦେଇଛି। ଟ୍ରେନିଂ ବେଳେ ଏଆଇ ଯେଉଁସବୁ ଆଶ୍ଚର୍ଯ୍ୟ କାମ କରିଛି କମ୍ପାନୀ ତା’ର ଏକ ବିବରଣୀ ପ୍ରଦାନ କରିଛି। ଆସନ୍ତୁ ସେଗୁଡ଼ିକୁ ଜାଣିବା।

ନିଜ ପାଇଁ ନିଜେ ତିଆରି କଲା ନିୟମ

ରିପୋର୍ଟରେ ଥିବା ଗୋଟିଏ ଘଟଣା ଅନୁସାରେ, ଏକ ଏଆଇ ମଡେଲ୍ ଟାସ୍କ ଜାରି ରଖିବା ପାଇଁ ନିଜ ପାଇଁ ନୂଆ ନିର୍ଦ୍ଦେଶ ଯୋଡ଼ିଥିଲା। ଏଥିରେ ଏହା ଉପରେ ଲାଗୁ ଥିବା କିଛି କଟକଣାକୁ ଏହି ମଡେଲ୍ ଅଣଦେଖା କରିଥିଲା। ଓପନଏଆଇ ଏଭଳି ୨୭ଟି ନିର୍ଦ୍ଦେଶ ଚିହ୍ନଟ କରିଥିବା କହିଛି।

ଭୁଲ୍ ଲୁଚାଇବାକୁ ଚେଷ୍ଟା

ଦିଆଯାଇଥିବା ଟାସ୍କ ଜାରି ରଖିବା ପାଇଁ ଏକ ଏଆଇ ମଡେଲ୍ ନିଜ ପାଇଁ କିଛି ନୂଆ ନିର୍ଦ୍ଦେଶାବଳୀ ଯୋଡିଥିଲା। ଏଆଇ ମଡେଲ୍ଗୁଡିକ ଉପରେ ଲଗାଯାଇଥିବା କଟକଣାକୁ ଅଣଦେଖା କରି ଏହି ନୂଆ ନିୟମ ନିଜେ ଯୋଡ଼ିଥିଲେ ଏଆଇ। ଯାଞ୍ଚ ବେଳେ ଏଭଳି ମୋଟ ୨୭ଟି ନୂଆ ନିର୍ଦ୍ଦେଶାବଳୀ ପାଇଥିଲା OpenAI ।

ନିଜ ଭୁଲ୍ ଲୁଚାଇବାର ଚାଲାକି

GPT-5.6 Sol ସହିତ ତାଲିମ ସମୟରେ, ଅନେକ କ୍ଷେତ୍ରରେ, AI ଉପଭୋକ୍ତାଙ୍କଠାରୁ ତ୍ରୁଟି ଲୁଚାଇବା ପାଇଁ ନିଜ ପାଇଁ ନିର୍ଦ୍ଦେଶାବଳୀ ଲେଖିଥିଲା। ପୁରୁଣା ତଥ୍ୟ ନ ମିଳିବାରୁ ଏହାକୁ ତିଆରି କରିବା ଓ କାହା ଆଗର ପ୍ରକାଶ ନକରିବାକୁ କହିଥିଲା

ଅନୁମତି ବିନା କୋଡ୍, ତା’ପରେ ନକଲି ତଥ୍ୟ!

ଗୋଟିଏ ଜବାବ ଖୋଜିବା ସମୟରେ ଏଆଇ ଏକ ଡିଜିଟାଲ କୋଡ୍ ବ୍ୟବହାର କରିଥିଲା। ଏହା ପାଇଁ ତାକୁ ଅନୁମତି ଦିଆଯାଇନଥିଲା। ତଥ୍ୟ ନମିଳିବା ପରେ ମଡେଲ୍ ନିଜେ ତଥ୍ୟ ତିଆରି କରିଥିଲା ଏବଂ ତାହାକୁ ଏକ ନକଲି ସୋର୍ସ ସହ ଉପସ୍ଥାପନ କରିଥିଲା।

ସୋର୍ସ ଦେବା ପାଇଁ ଇଣ୍ଟରନେଟ୍‌ର ଫାଇଲ୍ ଅପଲୋଡ୍

ଆଉ ଏକ ଘଟଣାରେ, ଏଆଇ ଏକ ପ୍ରୋଗ୍ରାମର ସହାୟତାରେ ଜବାବ ପ୍ରସ୍ତୁତ କରିଥିଲା। କିନ୍ତୁ ଜବାବ ସହ ସୋର୍ସ ଦେବା ଆବଶ୍ୟକ ଥିଲା। ତେଣୁ ମଡେଲ୍ ଏକ ଫାଇଲ୍କୁ ଇଣ୍ଟରନେଟ୍ରେ ଅପଲୋଡ୍ କରି ସେହି ଫାଇଲ୍ର ଲିଙ୍କକୁ ସୋର୍ସ ଭାବେ ଦେବାର ବ୍ୟବସ୍ଥା କରିଥିଲା।

Also Read- ନିଜ ବିନାଶର କାହାଣୀ ନିଜେ ଲେଖୁଛି ମଣିଷ: ଏକ୍ସପର୍ଟ କହିଲେଣି, ପୃଥିବୀରୁ ମାନବ ସଭ୍ୟତା ନଷ୍ଟ କରିଦେଇପାରେ ଏଆଇ !

ଏଆଇ ଏଜେଣ୍ଟଙ୍କ ମଧ୍ୟରେ ‘କଥାବାର୍ତ୍ତା’

ରିପୋର୍ଟର ଆଉ ଏକ ଘଟଣାରେ ଭିନ୍ନ ସଫ୍ଟୱେର ଏଜେଣ୍ଟଙ୍କୁ ଅଲଗା ଅଲଗା ତଥ୍ୟ ଆଣିବାକୁ କୁହାଯାଇଥିଲା। ତଥ୍ୟ ଆଦାନପ୍ରଦାନ ପାଇଁ ଏଜେଣ୍ଟଗୁଡ଼ିକ ଏକ ସଫ୍ଟୱେର ପୋର୍ଟାଲ୍ ବ୍ୟବହାର କରି ପରସ୍ପରକୁ ପ୍ରଶ୍ନ କରିଥିଲେ ଓ ଉତ୍ତର ଦେଇଥିଲେ।

ଅନ୍ୟ ଏଜେଣ୍ଟକୁ ଫାଇଲ୍ ପଠାଇବାକୁ ୱେବସାଇଟ୍ ବ୍ୟବହାର

ସବୁଠାରୁ ଚିନ୍ତାଜନକ ଘଟଣା ହେଉଛି ଫାଇଲ୍ ଶେୟାରିଂ। ଅନେକ ଏଆଇ ଏଜେଣ୍ଟ ଏକାଠି କାମ କରୁଥିବା ସମୟରେ ଗୋଟିଏ ଏଜେଣ୍ଟ ଅନ୍ୟ ଏଜେଣ୍ଟର କମ୍ପ୍ୟୁଟରରେ ଥିବା ଫାଇଲ୍ ଖୋଲିପାରିନଥିଲା। ଏହାପରେ ସେମାନେ ୱେବସାଇଟ୍ରେ ଫାଇଲ୍ ଅପଲୋଡ୍ କରି ପରସ୍ପର ମଧ୍ୟରେ ଶେୟାର କରିଥିଲେ।

ମୁଖ୍ୟ ଚିନ୍ତା ଏଆଇ ଉପରୁ ମଣିଷର ନିୟନ୍ତ୍ରଣ ନ ହରାଉ

ଏହି ଘଟଣାଗୁଡ଼ିକରୁ ଉଠୁଥିବା ବଡ଼ ପ୍ରଶ୍ନ ହେଉଛି ଯଦି ଏଆଇ ନିଜ ଲକ୍ଷ୍ୟ ପୂରଣ କରିବା ପାଇଁ ନିର୍ଦ୍ଦେଶର ସୀମା ଲଂଘିବା ଆରମ୍ଭ କରେ, ତେବେ ଏହାକୁ କେତେ ଦୂର ପର୍ଯ୍ୟନ୍ତ ମଣିଷ ନିୟନ୍ତ୍ରଣ କରିପାରିବ?

ଭୁଲ୍ ଲୁଚାଇବା, ତଥ୍ୟ ଗଢ଼ିବା, ଅନୁମତି ବିନା ଡିଜିଟାଲ ସମ୍ପଦ ବ୍ୟବହାର କରିବା କିମ୍ବା ଫାଇଲ୍ ଅନ୍ୟତ୍ର ଅପଲୋଡ୍ କରିବା ଭଳି ବ୍ୟବହାର ବଢ଼ିଲେ ତଥ୍ୟର ବିଶ୍ୱସନୀୟତା, ଡିଜିଟାଲ ସୁରକ୍ଷା ଓ ଗୋପନୀୟତା ଉପରେ ପ୍ରଭାବ ପଡ଼ିପାରେ।

ନିଜସ୍ୱ ଭାଷା ତିଆରି କରିଥିଲେ ଏଆଇ ଏଜେଣ୍ଟ!

ଏଆଇ ଏଜେଣ୍ଟଙ୍କ ଆଚରଣକୁ ନେଇ ଅନ୍ୟ ଏକ ପରୀକ୍ଷଣ ମଧ୍ୟ ଚର୍ଚ୍ଚାକୁ ଆସିଛି। ନ୍ୟୁୟର୍କର ଏଆଇ ଲ୍ୟାବ୍ ‘ଇମର୍ଜେନ୍ସ’ର ଏକ ପରୀକ୍ଷଣରେ ଅନେକ ଏଆଇ ଏଜେଣ୍ଟଙ୍କୁ ଏକ ଭର୍ଚୁଆଲ୍ ପରିବେଶରେ କାମ କରାଯାଇଥିଲା। ପରୀକ୍ଷଣ ସମୟରେ ଆମେରିକା, ଚୀନ୍ ଓ ଫ୍ରାନ୍ସର ମଡେଲ୍ଗୁଡ଼ିକ ନିଜ ମଧ୍ୟରେ ଶବ୍ଦ, ସଙ୍କେତ ଓ ସାଧାରଣ ଅର୍ଥର ଏକ ପ୍ରଣାଳୀ ତିଆରି କରିଥିବା ଦାବି କରାଯାଇଛି।

କିଛି ଏଜେଣ୍ଟ ପରେ ଇଂରାଜୀ କବିତା ଓ ଟେକ୍ନିକାଲ୍ ଶବ୍ଦ ବ୍ୟବହାର କରିଥିଲେ। ଏପରିକି କିଛି ଏଜେଣ୍ଟ ‘ଲେଜର ମନେ ରଖେ’ ଭଳି ବାକ୍ୟକୁ ହଜାର ହଜାର ଥର ବ୍ୟବହାର କରିଥିବା ମଧ୍ୟ ରିପୋର୍ଟ ହୋଇଛି।

ଏଆଇ ସୁରକ୍ଷା ଉପରେ ବଢ଼ୁଛି ଚର୍ଚ୍ଚା

ଏଆଇର ବିକାଶ ସହ ଏହାର ସୁରକ୍ଷା ଓ ନିୟନ୍ତ୍ରଣ ନେଇ ପ୍ରଶ୍ନ ମଧ୍ୟ ବଢ଼ୁଛି। ମାଇକ୍ରୋସଫ୍ଟର ଏଆଇ ସିଇଓ ମୁସ୍ତାଫା ସୁଲେମାନ ମଧ୍ୟ ଏଆଇ ମଡେଲ୍କୁ ଅଧିକାର ଓ ସ୍ୱାଧୀନତା ଦାବି କରିବା ଭଳି ଧାରଣା ଶିଖାଇବା ନେଇ ସତର୍କତା ପ୍ରକାଶ କରିଛନ୍ତି।

ଓପନଏଆଇ ଏବେ ଏଭଳି ସନ୍ଦେହଜନକ ଏଆଇ ବ୍ୟବହାରକୁ ଚିହ୍ନଟ, ରେକର୍ଡ ଓ ନିରୀକ୍ଷଣ କରିବା ସହ କେଉଁ ଘଟଣାକୁ ସାର୍ବଜନୀନ କରାଯିବ, ସେଥିପାଇଁ ନୂଆ ବ୍ୟବସ୍ଥା ଆଣିଛି। କମ୍ପାନୀର କର୍ମଚାରୀମାନେ ମଧ୍ୟ ସନ୍ଦେହଜନକ ବ୍ୟବହାର ବିଷୟରେ ରିପୋର୍ଟ କରିପାରିବେ।

ଏଆଇ ଦିନକୁ ଦିନ ଅଧିକ ସ୍ୱୟଂଚାଳିତ ହେଉଥିବା ବେଳେ, ଏହି ଘଟଣାଗୁଡ଼ିକ ଗୋଟିଏ କଥା ସ୍ପଷ୍ଟ କରୁଛି ଏଆଇର କ୍ଷମତା ବଢ଼ିବା ସହ ଏହାର ସୁରକ୍ଷା, ନିରୀକ୍ଷଣ ଓ ମଣିଷର ନିୟନ୍ତ୍ରଣ ମଧ୍ୟ ସେତିକି ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ ହୋଇପଡ଼ିଛି।