ChatGPT এবং অন্যান্য LLM ষাঁড়ের মলমূত্র তৈরি করে, হ্যালুসিনেশন নয়

এলএলএম এবং ChatGPT-এর মতো জনপ্রিয় ইন্টারফেসের আশেপাশের যোগাযোগগুলিতে 'হ্যালুসিনেশন' শব্দটি প্রায়শই এই মডেলগুলির আউটপুটে তৈরি করা মিথ্যা বিবৃতিগুলি উল্লেখ করতে ব্যবহৃত হয়। এটি অনুমান করে যে কিছু সুসংগততা এবং LLM উভয়ই সত্য সম্পর্কে সচেতন হওয়ার একটি প্রচেষ্টা রয়েছে, পাশাপাশি (হালকা) উন্মাদনার মুহুর্তগুলিও ভোগ করে। এইভাবে এলএলএম কার্যকরভাবে একটি ছোট শিশু বা আলঝেইমারের মতো ব্যাধিতে ভুগছেন এমন ব্যক্তির মতো চিকিত্সা করা হয়, এটি প্রক্রিয়ায় এজেন্সি দেয়। যে এটি সম্পূর্ণ বাজে কথা এবং স্পষ্টতই ভুল একটি গ্রন্থের বিষয় দ্বারা [Michael Townsen Hicks] এবং সহকর্মী, যেমন প্রকাশিত হয়েছে নৈতিকতা এবং তথ্য প্রযুক্তি.

বেশিরভাগ পার্থক্য একটি মিথ্যা এবং বাজে কথার মধ্যে পার্থক্যের মধ্যে রয়েছে, যেমনটি স্পষ্টভাবে বর্ণনা করা হয়েছে [Harry G. Frankfurt]এর 1986 প্রবন্ধ এবং 2005 বই বুলশিটের উপর. যেখানে মিথ্যার উদ্দেশ্য সত্যকে প্রতারণা করা এবং ধামাচাপা দেওয়ার উদ্দেশ্যে, সেখানে সত্যকে বিবেচনা না করে বা তার সাথে সংযোগ না করেই বানোয়াট করা হয়। বুলশিটিং শুধুমাত্র তাৎক্ষণিক পরিস্থিতি পরিবেশন করার উদ্দেশ্যে করা হয়েছে, সবচেয়ে খারাপের কথা মনে করিয়ে দেয় শব্দ কামড় সংস্কৃতি

যখন আমরা LLM-এর কাজ করার পদ্ধতি বিবেচনা করি, ইনপুট ক্যোয়ারী ব্যবহার করে ওয়েটেড নোডগুলির ভেক্টর স্পেস জুড়ে সম্ভাব্যতা ফিট করার জন্য ব্যবহৃত হয়, তখন আমরা দেখতে পাব যে জেনারেট করা আউটপুট কার্যকরভাবে একটি বড় আকারের শব্দ পূর্বাভাস অ্যালগরিদমের মতো। এটি বুদ্ধিমত্তা এবং এইভাবে 'সত্য' সম্পর্কে জ্ঞানীয় সচেতনতার কোনো সম্ভাবনাকে বাদ দেয়। এর মানে হল যে LLM-এর পিছনে কোনও উদ্দেশ্য না থাকলেও, এটি নরম (অনিচ্ছাকৃত) ধরনের হলেও, এটি এখনও বোলশিটিং। যারা এলএলএম তৈরি করেছেন, প্রশিক্ষণ দিয়েছেন এবং ইন্টারফেস (যেমন চ্যাটজিপিটি) তৈরি করেছেন তাদের এজেন্সি এবং উদ্দেশ্যগুলি বিবেচনায় নেওয়ার সময়, আমরা কঠোর, ইচ্ছাকৃত বাজে অঞ্চলে প্রবেশ করি।

ঘটনাক্রমে এই একই বাজে কথার কারণে এলএলএমগুলি ইতিমধ্যেই আংশিকভাবে পর্যায়ক্রমে বন্ধ হয়ে গেছে। পুনরুদ্ধার অগমেন্টেড জেনারেশন (RAG) একটি শব্দ ভবিষ্যদ্বাণী অ্যালগরিদমকে একটি অভিনব অনুসন্ধান মেশিনে পরিণত করে৷ এমনকি ভেঞ্চার ক্যাপিটালিস্টরাও এতটা বাজে কথা নিতে পারে।

Source link

Related Post

Leave a Reply

Your email address will not be published. Required fields are marked *

Raytahost Facebook Sharing Powered By : Raytahost.com