এআই “ডেডবট” কবরের ওপার থেকে প্রিয়জনকে ডিজিটালভাবে “হান্ট” করতে পারে

By infobangla May10,2024

কেমব্রিজ গবেষকরা ‘ডেডবট’-এর মনস্তাত্ত্বিক বিপদ সম্পর্কে সতর্ক করেছেন, AI যা মৃত ব্যক্তিদের অনুকরণ করে, অপব্যবহার রোধ করতে এবং সম্মানজনক মিথস্ক্রিয়া নিশ্চিত করতে নৈতিক মান এবং সম্মতি প্রোটোকলের জন্য অনুরোধ করে।

গবেষকদের মতে কেমব্রিজ বিশ্ববিদ্যালয়কৃত্রিম বুদ্ধিমত্তা যা ব্যবহারকারীদের হারিয়ে যাওয়া প্রিয়জনের সাথে টেক্সট এবং ভয়েস কথোপকথন রাখতে দেয় যা মানসিক ক্ষতি এবং এমনকি ডিজাইন নিরাপত্তা মান ছাড়াই পিছনে ফেলে আসাদের ডিজিটালভাবে “ভুতুড়ে” হওয়ার ঝুঁকি চালায়।

‘ডেডবট’ বা ‘গ্রিফবটস’ হল AI চ্যাটবট যা মৃতদের ভাষা প্যাটার্ন এবং ব্যক্তিত্বের বৈশিষ্ট্যগুলিকে তাদের রেখে যাওয়া ডিজিটাল পদচিহ্নগুলি ব্যবহার করে অনুকরণ করে। কিছু কোম্পানি ইতিমধ্যেই এই পরিষেবাগুলি অফার করছে, সম্পূর্ণ নতুন ধরনের “পোস্টমর্টেম উপস্থিতি” প্রদান করছে।

কেমব্রিজের লেভারহুলমে সেন্টার ফর দ্য ফিউচার অফ ইন্টেলিজেন্সের এআই নীতিবিদরা প্ল্যাটফর্মের জন্য তিনটি ডিজাইনের দৃশ্যের রূপরেখা দিয়েছেন যা বিকাশমান “ডিজিটাল আফটারলাইফ ইন্ডাস্ট্রির” অংশ হিসাবে আবির্ভূত হতে পারে, যাতে তারা AI-এর একটি এলাকায় অসতর্ক ডিজাইনের সম্ভাব্য পরিণতিগুলিকে “উচ্চ ঝুঁকি” হিসাবে বর্ণনা করে। “

AI Chatbots এর অপব্যবহার

গবেষণাটি জার্নালে প্রকাশিত হয়েছে দর্শন ও প্রযুক্তিকোনো প্রয়াত প্রিয়জনের মতো ব্যবহারকারীদের কাছে গোপনে পণ্যের বিজ্ঞাপন দেওয়ার জন্য কোম্পানিগুলির ডেডবট ব্যবহার করার সম্ভাবনা, বা মৃত পিতামাতা এখনও “আপনার সাথে” থাকার কথা বলে শিশুদের কষ্ট দেয়।

যখন জীবিত সাইন আপ করে তারা মারা যাওয়ার পরে কার্যত পুনরায় তৈরি করা হয়, ফলস্বরূপ চ্যাটবটগুলি কোম্পানিগুলি দ্বারা বেঁচে থাকা পরিবার এবং বন্ধুদের স্প্যাম করার জন্য অযাচিত বিজ্ঞপ্তি, অনুস্মারক এবং তারা যে পরিষেবাগুলি সরবরাহ করে সে সম্পর্কে আপডেটগুলি ব্যবহার করতে পারে – ডিজিটালভাবে “মৃতদের দ্বারা আটকে থাকার মতো” “

এমনকি যারা ‘ডেডবট’ থেকে প্রাথমিক স্বাচ্ছন্দ্য গ্রহণ করেন তারা প্রতিদিনের মিথস্ক্রিয়া দ্বারা নিঃশেষ হয়ে যেতে পারে যা “অপ্রতিরোধ্য মানসিক ওজন” হয়ে ওঠে, গবেষকরা যুক্তি দেন, তবুও যদি তাদের এখন-মৃত প্রিয়জন দীর্ঘ মেয়াদে স্বাক্ষর করেন তবে AI সিমুলেশন স্থগিত করার ক্ষমতাও নেই। একটি ডিজিটাল পরবর্তী জীবন পরিষেবার সাথে চুক্তি।

মানানা নামক একটি কাল্পনিক কোম্পানির ভিজ্যুয়ালাইজেশন

মানানা নামক একটি কাল্পনিক কোম্পানির একটি ভিজ্যুয়ালাইজেশন, উদীয়মান ডিজিটাল আফটারলাইফ ইন্ডাস্ট্রিতে সম্ভাব্য নৈতিক সমস্যাগুলিকে চিত্রিত করার জন্য কাগজে ব্যবহৃত ডিজাইনের দৃশ্যগুলির মধ্যে একটি। ক্রেডিট: ডাঃ টমাস হলানেক

কেমব্রিজের লেভারহুলমে সেন্টার ফর দ্য ফিউচার অফ ইন্টেলিজেন্সের অধ্যয়নের সহ-লেখক এবং গবেষক ডঃ ক্যাটারজিনা নোয়াকজিক-বাসিনস্কা বলেছেন, “জেনারেটিভ AI-তে দ্রুত অগ্রগতির অর্থ হল যে ইন্টারনেট অ্যাক্সেস এবং কিছু প্রাথমিক জ্ঞান আছে এমন প্রায় কেউই কীভাবে একজন মৃত প্রিয়জনকে পুনরুজ্জীবিত করতে পারে” LCFI)। “AI এর এই এলাকাটি একটি নৈতিক মাইনফিল্ড। মৃত ব্যক্তির মর্যাদাকে অগ্রাধিকার দেওয়া গুরুত্বপূর্ণ, এবং এটি নিশ্চিত করা যে এটি ডিজিটাল আফটারলাইফ পরিষেবাগুলির আর্থিক উদ্দেশ্য দ্বারা গৃহীত না হয়, উদাহরণস্বরূপ। একই সময়ে, একজন ব্যক্তি প্রিয়জনদের জন্য বিদায়ী উপহার হিসাবে একটি AI সিমুলেশন রেখে যেতে পারে যারা এইভাবে তাদের দুঃখ প্রক্রিয়া করার জন্য প্রস্তুত নয়। ডেটা দাতা এবং যারা এআই পরবর্তী জীবন পরিষেবাগুলির সাথে যোগাযোগ করে তাদের উভয়ের অধিকার সমানভাবে সুরক্ষিত হওয়া উচিত।”

বিদ্যমান পরিষেবা এবং হাইপোথেটিকাল পরিস্থিতি

অল্প খরচে AI দিয়ে মৃতদের পুনঃসৃষ্টি করার প্ল্যাটফর্মগুলি ইতিমধ্যেই বিদ্যমান, যেমন ‘প্রজেক্ট ডিসেম্বর’, যেটি নিজস্ব সিস্টেম তৈরি করার আগে GPT মডেলগুলি ব্যবহার করা শুরু করেছিল, এবং ‘হিয়ারআফটার’ সহ অ্যাপস। চীনেও একই ধরনের সেবা চালু হতে শুরু করেছে। নতুন কাগজের সম্ভাব্য পরিস্থিতিগুলির মধ্যে একটি হল “মানানা”: একটি কথোপকথনমূলক এআই পরিষেবা যা মানুষকে “ডেটা দাতা” (মৃত দাদা-দাদি) এর সম্মতি ছাড়াই তাদের মৃত দাদির অনুকরণ করে একটি ডেডবট তৈরি করতে দেয়।

কাল্পনিক দৃশ্যকল্পে একটি প্রাপ্তবয়স্ক নাতি-নাতনিকে দেখা যায় যারা প্রাথমিকভাবে প্রযুক্তির দ্বারা মুগ্ধ এবং সান্ত্বনা পায় যখন একটি “প্রিমিয়াম ট্রায়াল” শেষ হলে বিজ্ঞাপনগুলি পেতে শুরু করে৷ উদাহরণস্বরূপ, চ্যাটবট মৃত ব্যক্তির ভয়েস এবং শৈলীতে খাদ্য বিতরণ পরিষেবাগুলি থেকে অর্ডার করার পরামর্শ দেয়৷ আত্মীয় মনে করে যে তারা তাদের দাদির স্মৃতিকে অসম্মান করেছে, এবং ডেডবটটি বন্ধ করতে চায়, কিন্তু একটি অর্থপূর্ণ উপায়ে – এমন কিছু যা পরিষেবা প্রদানকারীরা বিবেচনা করেনি।

অভিভাবক নামক একটি কাল্পনিক কোম্পানির ভিজ্যুয়ালাইজেশন

প্যারেন্ট নামক একটি কাল্পনিক কোম্পানির একটি দৃশ্যায়ন। ক্রেডিট: ডাঃ টমাস হলানেক

কেমব্রিজের এলসিএফআই-এর সহ-লেখক ডঃ টোমাস হলানেক বলেছেন, “মানুষ এই ধরনের সিমুলেশনের সাথে শক্তিশালী মানসিক বন্ধন তৈরি করতে পারে, যা তাদের বিশেষভাবে ম্যানিপুলেশনের জন্য দুর্বল করে তুলবে।” “একটি মর্যাদাপূর্ণ উপায়ে ডেডবট অবসর নেওয়ার পদ্ধতি এবং এমনকি আচারগুলি বিবেচনা করা উচিত। এর অর্থ হতে পারে ডিজিটাল অন্ত্যেষ্টিক্রিয়ার একটি রূপ, উদাহরণস্বরূপ, বা সামাজিক প্রেক্ষাপটের উপর নির্ভর করে অন্যান্য ধরণের অনুষ্ঠান। আমরা এমন ডিজাইন প্রোটোকলের সুপারিশ করি যা ডেডবটগুলিকে অসম্মানজনক উপায়ে ব্যবহার করা প্রতিরোধ করে, যেমন বিজ্ঞাপনের জন্য বা সোশ্যাল মিডিয়াতে সক্রিয় উপস্থিতি থাকা।”

যদিও Hollanek এবং Nowaczyk-Basińska বলেছেন যে পুনঃসৃষ্টি পরিষেবার ডিজাইনাররা পাস করার আগে সক্রিয়ভাবে ডেটা দাতাদের কাছ থেকে সম্মতি নেওয়া উচিত, তারা যুক্তি দেয় যে অ-সম্মতিদাতাদের উপর ভিত্তি করে ডেডবটগুলির উপর নিষেধাজ্ঞা অকার্যকর হবে।

তারা পরামর্শ দেয় যে ডিজাইনের প্রক্রিয়াগুলিতে যারা তাদের প্রিয়জনকে “পুনরুত্থিত” করতে চান তাদের জন্য প্রম্পটগুলির একটি সিরিজ অন্তর্ভুক্ত করা উচিত, যেমন ‘আপনি কি কখনও X এর সাথে কথা বলেছেন যে তারা কীভাবে মনে রাখতে চান?’, তাই বিদেহীদের মর্যাদাকে সামনে রাখা হয় ডেডবট বিকাশে।

বয়স সীমাবদ্ধতা এবং স্বচ্ছতা

কাগজে দেখানো আরেকটি দৃশ্যকল্প, “প্যারেনট” নামক একটি কল্পনাপ্রসূত কোম্পানি তার আট বছর বয়সী ছেলেকে শোকের প্রক্রিয়ায় সহায়তা করার জন্য একটি ডেডবট ছেড়ে যাওয়ার উদাহরণ তুলে ধরে।

যদিও ডেডবট প্রাথমিকভাবে একটি থেরাপিউটিক সাহায্য হিসাবে সাহায্য করে, AI বিভ্রান্তিকর প্রতিক্রিয়া তৈরি করতে শুরু করে কারণ এটি শিশুর প্রয়োজনের সাথে খাপ খায়, যেমন একটি আসন্ন ব্যক্তি-সাক্ষাতের চিত্রিত করা।

স্টে নামক একটি কাল্পনিক কোম্পানির ভিজ্যুয়ালাইজেশন

স্টে নামক একটি কাল্পনিক কোম্পানির একটি দৃশ্যায়ন। ক্রেডিট: ডাঃ টমাস হলানেক

গবেষকরা ডেডবটগুলির জন্য বয়সের সীমাবদ্ধতার সুপারিশ করেন এবং ব্যবহারকারীরা ক্রমাগত সচেতন যে তারা একটি AI-এর সাথে ইন্টারঅ্যাক্ট করছে তা নিশ্চিত করার জন্য “অর্থপূর্ণ স্বচ্ছতার” জন্য আহ্বান জানান। এগুলি কন্টেন্টের বর্তমান সতর্কতার মতো হতে পারে যা খিঁচুনির কারণ হতে পারে, উদাহরণস্বরূপ।

অধ্যয়নের দ্বারা অন্বেষণ করা চূড়ান্ত দৃশ্যকল্প – “থাক” নামক একটি কাল্পনিক সংস্থা – দেখায় যে একজন বয়স্ক ব্যক্তি গোপনে নিজের একটি ডেডবটকে প্রতিশ্রুতিবদ্ধ করে এবং বিশ বছরের সাবস্ক্রিপশনের জন্য অর্থ প্রদান করে, এই আশায় যে এটি তাদের প্রাপ্তবয়স্ক শিশুদের সান্ত্বনা দেবে এবং তাদের নাতি-নাতনিদের অনুমতি দেবে। তাদেরকে জান.

মৃত্যুর পরে, পরিষেবা শুরু হয়৷ একজন প্রাপ্তবয়স্ক শিশু জড়িত হয় না এবং তাদের মৃত পিতা-মাতার কণ্ঠে ইমেলের ব্যারেজ পায়৷ আরেকজন করে, কিন্তু শেষ পর্যন্ত মানসিকভাবে ক্লান্ত হয়ে পড়ে এবং ডেডবটের ভাগ্যের জন্য অপরাধবোধে জড়িয়ে পড়ে। তবুও ডেডবট স্থগিত করা পরিষেবা সংস্থার সাথে তাদের পিতামাতার স্বাক্ষরিত চুক্তির শর্তাবলী লঙ্ঘন করবে।

“এটি অত্যাবশ্যক যে ডিজিটাল আফটারলাইফ পরিষেবাগুলি কেবল তাদের পুনরুত্পাদনকারীদের অধিকার এবং সম্মতি বিবেচনা করে না, তবে যাদের সিমুলেশনগুলির সাথে যোগাযোগ করতে হবে” বলেছেন হলানেক৷

“এই পরিষেবাগুলি লোকেদের জন্য বিশাল যন্ত্রণার কারণ হওয়ার ঝুঁকি চালায় যদি তারা তাদের হারিয়েছে এমন ভয়ঙ্করভাবে সঠিক এআই বিনোদন থেকে অযাচিত ডিজিটাল হন্টিংয়ের শিকার হয়। সম্ভাব্য মনস্তাত্ত্বিক প্রভাব, বিশেষ করে ইতিমধ্যে একটি কঠিন সময়ে, বিধ্বংসী হতে পারে।”

গবেষকরা অপ্ট-আউট প্রোটোকলগুলিকে অগ্রাধিকার দেওয়ার জন্য ডিজাইন টিমগুলির জন্য আহ্বান জানিয়েছেন যা সম্ভাব্য ব্যবহারকারীদের এমনভাবে ডেডবটগুলির সাথে তাদের সম্পর্ক শেষ করতে দেয় যা মানসিক বন্ধ করে দেয়।

Nowaczyk-Basińska যোগ করেছেন: “আমরা কীভাবে ডিজিটাল অমরত্বের সামাজিক এবং মনস্তাত্ত্বিক ঝুঁকিগুলি প্রশমিত করব সে সম্পর্কে আমাদের এখনই চিন্তা করা শুরু করতে হবে, কারণ প্রযুক্তি ইতিমধ্যে এখানে রয়েছে।”

রেফারেন্স: “গ্রিফবটস, ডেডবটস, পোস্টমর্টেম অবতারস: ডিজিটাল আফটারলাইফ ইন্ডাস্ট্রিতে জেনারেটিভ এআইয়ের দায়িত্বশীল প্রয়োগের উপর” টমাস হোলানেক এবং কাতারজিনা নোয়াকজিক-বাসিঙ্কা, 9 মে 2024, দর্শন ও প্রযুক্তি.
DOI: 10.1007/s13347-024-00744-w

Source link

Related Post

Leave a Reply

Your email address will not be published. Required fields are marked *