ETV Bharat / technology

ରୋବୋଟ୍‌ ମଣିଷଙ୍କ ପରି ମିଛ କହିପାରେ ଓ ଧୋକା ଦେଇପାରେ: STUDY - Robot tells a lie

Robot tells a lie: କଣ ରୋବୋଟ୍‌ ମଣିଷଙ୍କ ଭଳି ମିଛ କହିପାରେ ? ଏଭଳି ପ୍ରଶ୍ନ ସମସ୍ତଙ୍କ ମନରେ ଆସେ । କିନ୍ତୁ ରୋବୋଟ୍‌ ଯେହେତୁ ଏକ ମେସିନ ଏହା ସେପରି କରୁନଥିବ ବୋଲି ଧାରଣା ମଧ୍ୟ ରହିଥାଏ । ହେଲେ ରୋବୋଟ୍‌ ମିଛ କହିପାରେ । ଏକ ଅଧ୍ୟୟନରେ ଏ ସମ୍ପର୍କରେ ଖୁଲାସା ହୋଇଛି । ଖାଲି ସେତିକି ନୁହେଁ ଧୋକା ମଧ୍ୟ ଦେଇପାରେ । ଅଧିକ ପଢନ୍ତୁ

author img

By ETV Bharat Tech Team

Published : Sep 12, 2024, 6:02 PM IST

Robotic Science
Robotic Science (ETV Bharat Tech Team)

ହାଇଦ୍ରାବାଦ: ମଣିଷଙ୍କ ପରି ରୋବୋଟ୍‌ ମଧ୍ୟ ମିଛ କହିପାରେ ଓ ଅନ୍ୟକୁ ଧୋକା ଦେଇପାରେ । ଏକ ଅଧ୍ୟୟନରୁ ଜଣାପଡ଼ିଛି ଜେନେରେଟିଭ୍ AI ପରି ଉଦୀୟମାନ ଟେକ୍ନୋଲୋଜିକୁ ବ୍ୟବହାର କରି ୟୁଜର୍ସଙ୍କ ସହିତ ହେରଫେର କରାଯାଇପାରିବ । ଆମେରିକାର ଜର୍ଜ ମେସନ ୟୁନିଭର୍ସିଟିରୁ ଏକ ଟିମ 'ରୋବଟ ନୈତିକତାର ଏକ ଅବ୍ୟବହୃତ ଦିଗ' ଅନୁସନ୍ଧାନ କରିବାକୁ ଲକ୍ଷ୍ୟ ରଖିଥିଲା । ଏହା ନିର୍ଦ୍ଧାରିତ କରିବାର ଥିଲା କି କଣ ମଣିଷଙ୍କ ପରି ରୋବୋଟ୍‌ ମିଛ କହିପାରେ । ଏପରି ହୋଇପାରେ ବୋଲି ଅନୁସନ୍ଧାନରୁ ଜଣାପଡ଼ିଛି ।

ଏହି ଟିମ୍‌ 500 ଅଂଶଗ୍ରହଣକାରୀଙ୍କୁ ରୋବଟଙ୍କ ଧୋକା ଦେବାର ବିଭିନ୍ନ ରୂପକୁ ରାଙ୍କ କରିବା ଓ ଏହାକୁ ବୁଝିବା ଲାଗି କହିଥିଲେ । ବିଶ୍ବବିଦ୍ୟାଳୟର ଡକ୍ଟରେଟ କ୍ୟାଣ୍ଡିଡେଟ୍‌ ଓ ମୁଖ୍ୟ ଲେଖକ ଏଣ୍ଡ୍ରେସ ରୋସେରୋ କହିଛନ୍ତି, " ମୁଁ ଭାବୁଛି ଯେକୌଣସି ପ୍ରଯୁକ୍ତିବିଦ୍ୟା ବିଷୟରେ ଆମେ ଚିନ୍ତିତ ହେବା ଉଚିତ ଯାହା ଏହାର ସାମର୍ଥ୍ୟର ପ୍ରକୃତିକୁ ଲୁଚାଇବାକୁ ସକ୍ଷମ । କାରଣ ଟେକ୍ନୋଲୋଜି ବ୍ୟବହାର କରି ୟୁଜର୍ସଙ୍କ ମୂଳ ଉଦ୍ଦେଶ୍ୟକୁ ବଦଳା ଯାଇପାରେ ।"

ଚିନ୍ତିତ ହେବା ଜରୁରୀ:-

ଏଣ୍ଡ୍ରେସ କହିଛନ୍ତି, "ୱେବ ଡିଜାଇନ ନୀତି ଏବଂ AI ଚାଟବଟ୍‌ସ ବ୍ୟବହାର କରୁଥିବା କମ୍ପାନୀଗୁଡିକର ଉଦାହରଣ ଆମେ ପୂର୍ବରୁ ଦେଖିସାରିଛୁ, ଯାହା ଏକ ନିର୍ଦ୍ଦିଷ୍ଟ କାର୍ଯ୍ୟ କରିବାକୁ ଉପଭୋକ୍ତାମାନଙ୍କୁ ନିୟନ୍ତ୍ରଣ କରିବା ପାଇଁ ଡିଜାଇନ ହୋଇଛି । ଏହି କ୍ଷତିକାରକ ପ୍ରତାରଣାରୁ ନିଜକୁ ରକ୍ଷା କରିବା ପାଇଁ ଟେକ୍ନୋଲୋଜି ଦୁନିଆ ଲାଗି ନିୟମାବଳୀର ଆବଶ୍ୟକ ରହିଛି ।"

ରୋବୋଟ୍‌ ସମ୍ବନ୍ଧିତ ଅନ୍ୟ କିଛି ଖବର

ଏହା ବି ପଢନ୍ତୁ- ଅଫିସ ଚାପରେ ଚେପା ରୋବୋଟ, ଚିନ୍ତାରେ ପଡି ହାରିଲା ଜୀବନ - ROBOT SUICIDE

ଏହା ବି ପଢନ୍ତୁ- ଆତ୍ମହତ୍ୟା କରିପାରିବ କି ରୋବୋଟ ? ଏନେଇ ତଦନ୍ତ ଆରମ୍ଭ - Robot suicide

ମନୁଷ୍ୟକୁ ଧୋକା ଦେଇପାରେ ରୋବୋଟ୍‌:-

'ଫ୍ରଣ୍ଟିୟର୍ସ ଇନ ରୋବୋଟିକ୍ସ ଆଣ୍ଡ ଏଆଇ' ନାମକ ପତ୍ରିକାରେ ପ୍ରକାଶିତ ରିପୋର୍ଟ ଅନୁସାରେ ରୋବୋଟ୍‌ ମନୁଷ୍ୟକୁ 3ଟି ଉପାୟରେ ଧୋକା ଦେଇପାରେ ।

  • External State Depression
  • Hidden State Depression
  • Superficial State Depression

ଅଧିକ ଗବେଷଣା ଆବଶ୍ୟକ:-

ଗବେଷକମାନେ କହିଛନ୍ତି ଏହା ଅଧ୍ୟୟନର ପ୍ରଥମ ଷ୍ଟେପ । ଭବିଷ୍ୟତରେ ଏହା ଉପରେ ଗଭୀର ଭାବେ ଅଧ୍ୟୟନ କରାଯିବ । ଯେହେତୁ ରୋବୋଟ୍‌ ଏବେ ଅନେକ ଦୈନନ୍ଦିନ କାର୍ଯ୍ୟରେ ବ୍ୟବହୃତ ହେଉଛି ତେବେ ଏ ନେଇ ଗବେଷଣା ହେବ ନିହାତି ଆବଶ୍ୟକ । ଯାହାଦ୍ବାରା ରୋବୋଟ୍‌ଟି ମିଛ କହୁଥିବା ସମ୍ପର୍କରେ ମଣିଷ ଜାଣିପାରିବ, ତଦନୁଯାୟୀ ପଦକ୍ଷେପ ନେବ । ଏହାସହ ରୋବୋଟ୍‌ ଡେଭଲପର୍ସମାନେ ଏହା ଉପରେ ଅଧିକ କାମ କରିବେ ।

ହାଇଦ୍ରାବାଦ: ମଣିଷଙ୍କ ପରି ରୋବୋଟ୍‌ ମଧ୍ୟ ମିଛ କହିପାରେ ଓ ଅନ୍ୟକୁ ଧୋକା ଦେଇପାରେ । ଏକ ଅଧ୍ୟୟନରୁ ଜଣାପଡ଼ିଛି ଜେନେରେଟିଭ୍ AI ପରି ଉଦୀୟମାନ ଟେକ୍ନୋଲୋଜିକୁ ବ୍ୟବହାର କରି ୟୁଜର୍ସଙ୍କ ସହିତ ହେରଫେର କରାଯାଇପାରିବ । ଆମେରିକାର ଜର୍ଜ ମେସନ ୟୁନିଭର୍ସିଟିରୁ ଏକ ଟିମ 'ରୋବଟ ନୈତିକତାର ଏକ ଅବ୍ୟବହୃତ ଦିଗ' ଅନୁସନ୍ଧାନ କରିବାକୁ ଲକ୍ଷ୍ୟ ରଖିଥିଲା । ଏହା ନିର୍ଦ୍ଧାରିତ କରିବାର ଥିଲା କି କଣ ମଣିଷଙ୍କ ପରି ରୋବୋଟ୍‌ ମିଛ କହିପାରେ । ଏପରି ହୋଇପାରେ ବୋଲି ଅନୁସନ୍ଧାନରୁ ଜଣାପଡ଼ିଛି ।

ଏହି ଟିମ୍‌ 500 ଅଂଶଗ୍ରହଣକାରୀଙ୍କୁ ରୋବଟଙ୍କ ଧୋକା ଦେବାର ବିଭିନ୍ନ ରୂପକୁ ରାଙ୍କ କରିବା ଓ ଏହାକୁ ବୁଝିବା ଲାଗି କହିଥିଲେ । ବିଶ୍ବବିଦ୍ୟାଳୟର ଡକ୍ଟରେଟ କ୍ୟାଣ୍ଡିଡେଟ୍‌ ଓ ମୁଖ୍ୟ ଲେଖକ ଏଣ୍ଡ୍ରେସ ରୋସେରୋ କହିଛନ୍ତି, " ମୁଁ ଭାବୁଛି ଯେକୌଣସି ପ୍ରଯୁକ୍ତିବିଦ୍ୟା ବିଷୟରେ ଆମେ ଚିନ୍ତିତ ହେବା ଉଚିତ ଯାହା ଏହାର ସାମର୍ଥ୍ୟର ପ୍ରକୃତିକୁ ଲୁଚାଇବାକୁ ସକ୍ଷମ । କାରଣ ଟେକ୍ନୋଲୋଜି ବ୍ୟବହାର କରି ୟୁଜର୍ସଙ୍କ ମୂଳ ଉଦ୍ଦେଶ୍ୟକୁ ବଦଳା ଯାଇପାରେ ।"

ଚିନ୍ତିତ ହେବା ଜରୁରୀ:-

ଏଣ୍ଡ୍ରେସ କହିଛନ୍ତି, "ୱେବ ଡିଜାଇନ ନୀତି ଏବଂ AI ଚାଟବଟ୍‌ସ ବ୍ୟବହାର କରୁଥିବା କମ୍ପାନୀଗୁଡିକର ଉଦାହରଣ ଆମେ ପୂର୍ବରୁ ଦେଖିସାରିଛୁ, ଯାହା ଏକ ନିର୍ଦ୍ଦିଷ୍ଟ କାର୍ଯ୍ୟ କରିବାକୁ ଉପଭୋକ୍ତାମାନଙ୍କୁ ନିୟନ୍ତ୍ରଣ କରିବା ପାଇଁ ଡିଜାଇନ ହୋଇଛି । ଏହି କ୍ଷତିକାରକ ପ୍ରତାରଣାରୁ ନିଜକୁ ରକ୍ଷା କରିବା ପାଇଁ ଟେକ୍ନୋଲୋଜି ଦୁନିଆ ଲାଗି ନିୟମାବଳୀର ଆବଶ୍ୟକ ରହିଛି ।"

ରୋବୋଟ୍‌ ସମ୍ବନ୍ଧିତ ଅନ୍ୟ କିଛି ଖବର

ଏହା ବି ପଢନ୍ତୁ- ଅଫିସ ଚାପରେ ଚେପା ରୋବୋଟ, ଚିନ୍ତାରେ ପଡି ହାରିଲା ଜୀବନ - ROBOT SUICIDE

ଏହା ବି ପଢନ୍ତୁ- ଆତ୍ମହତ୍ୟା କରିପାରିବ କି ରୋବୋଟ ? ଏନେଇ ତଦନ୍ତ ଆରମ୍ଭ - Robot suicide

ମନୁଷ୍ୟକୁ ଧୋକା ଦେଇପାରେ ରୋବୋଟ୍‌:-

'ଫ୍ରଣ୍ଟିୟର୍ସ ଇନ ରୋବୋଟିକ୍ସ ଆଣ୍ଡ ଏଆଇ' ନାମକ ପତ୍ରିକାରେ ପ୍ରକାଶିତ ରିପୋର୍ଟ ଅନୁସାରେ ରୋବୋଟ୍‌ ମନୁଷ୍ୟକୁ 3ଟି ଉପାୟରେ ଧୋକା ଦେଇପାରେ ।

  • External State Depression
  • Hidden State Depression
  • Superficial State Depression

ଅଧିକ ଗବେଷଣା ଆବଶ୍ୟକ:-

ଗବେଷକମାନେ କହିଛନ୍ତି ଏହା ଅଧ୍ୟୟନର ପ୍ରଥମ ଷ୍ଟେପ । ଭବିଷ୍ୟତରେ ଏହା ଉପରେ ଗଭୀର ଭାବେ ଅଧ୍ୟୟନ କରାଯିବ । ଯେହେତୁ ରୋବୋଟ୍‌ ଏବେ ଅନେକ ଦୈନନ୍ଦିନ କାର୍ଯ୍ୟରେ ବ୍ୟବହୃତ ହେଉଛି ତେବେ ଏ ନେଇ ଗବେଷଣା ହେବ ନିହାତି ଆବଶ୍ୟକ । ଯାହାଦ୍ବାରା ରୋବୋଟ୍‌ଟି ମିଛ କହୁଥିବା ସମ୍ପର୍କରେ ମଣିଷ ଜାଣିପାରିବ, ତଦନୁଯାୟୀ ପଦକ୍ଷେପ ନେବ । ଏହାସହ ରୋବୋଟ୍‌ ଡେଭଲପର୍ସମାନେ ଏହା ଉପରେ ଅଧିକ କାମ କରିବେ ।

ETV Bharat Logo

Copyright © 2024 Ushodaya Enterprises Pvt. Ltd., All Rights Reserved.