চ্যাটজিপিটি নির্মাতা ওপেনএআই অনুসন্ধান করে যে ব্যবহারকারীরা ‘দায়িত্বের সাথে’ এআই পর্ন তৈরি করতে পারে: এনপিআর

By infobangla May9,2024

OpenAI বুধবার তার প্রযুক্তির ভবিষ্যত ব্যবহারের রূপরেখা দিয়ে একটি নথিতে স্বীকার করেছে যে এটি “দায়িত্বের সাথে” ব্যবহারকারীদের উন্নত এআই সরঞ্জাম ব্যবহার করে যৌন গ্রাফিক সামগ্রী তৈরি করার অনুমতি দেওয়ার উপায়গুলি অন্বেষণ করছে।

রিচার্ড ড্রু/এপি


ক্যাপশন লুকান

ক্যাপশন টগল করুন

রিচার্ড ড্রু/এপি


OpenAI বুধবার তার প্রযুক্তির ভবিষ্যত ব্যবহারের রূপরেখা দিয়ে একটি নথিতে স্বীকার করেছে যে এটি “দায়িত্বের সাথে” ব্যবহারকারীদের উন্নত এআই সরঞ্জাম ব্যবহার করে যৌন গ্রাফিক সামগ্রী তৈরি করার অনুমতি দেওয়ার উপায়গুলি অন্বেষণ করছে।

রিচার্ড ড্রু/এপি

OpenAI, ChatGPT এবং অন্যান্য নেতৃস্থানীয় AI সরঞ্জামগুলির পিছনে কৃত্রিম বুদ্ধিমত্তা পাওয়ার হাউস, বুধবার প্রকাশ করেছে যে এটি কীভাবে “দায়িত্বের সাথে” ব্যবহারকারীদের এআই-জেনারেটেড পর্ন এবং অন্যান্য স্পষ্ট সামগ্রী তৈরি করার অনুমতি দেওয়া যায় তা অনুসন্ধান করছে৷

উদ্ঘাটন, একটি মধ্যে tucked ব্যাপক নথি ডিপফেক পর্ন এবং অন্যান্য ধরণের সিন্থেটিক ন্যুড তৈরি করতে সাম্প্রতিক মাসগুলিতে অত্যাধুনিক AI সরঞ্জামগুলি ব্যবহার করা হয়েছে এমন উদাহরণের ভিত্তিতে, কিছু পর্যবেক্ষককে বিরক্ত করে তার পণ্যগুলির জন্য নিয়ম সম্পর্কে প্রতিক্রিয়া সংগ্রহের উদ্দেশ্যে।

OpenAI এর অধীনে বর্তমান নিয়ম, যৌন সুস্পষ্ট, বা এমনকি যৌন ইঙ্গিতমূলক সামগ্রী, বেশিরভাগই নিষিদ্ধ। কিন্তু এখন, ওপেনএআই সেই কঠোর নিষেধাজ্ঞার দিকে আরেকটি নজর দিচ্ছে।

“আমরা বয়স-উপযুক্ত প্রেক্ষাপটে দায়িত্বের সাথে NSFW সামগ্রী তৈরি করার ক্ষমতা প্রদান করতে পারি কিনা তা আমরা অন্বেষণ করছি,” নথিতে বলা হয়েছে, “কাজের জন্য নিরাপদ নয়” এর একটি সংক্ষিপ্ত রূপ ব্যবহার করে কোম্পানি বলেছে যে অশ্লীলতা, চরম ঘোর এবং ইরোটিকা অন্তর্ভুক্ত রয়েছে৷

ওপেনএআই মডেল লিড জোয়ান জ্যাং, যিনি নথিটি লিখতে সহায়তা করেছিলেন, এনপিআর-এর সাথে একটি সাক্ষাত্কারে বলেছিলেন যে সংস্থাটি তার এআই পণ্যগুলিতে সর্বদা যৌন পাঠ্য এবং নগ্ন ছবি নিষিদ্ধ করা উচিত কিনা সে সম্পর্কে একটি কথোপকথন শুরু করার আশা করছে।

জ্যাং বলেন, “আমরা নিশ্চিত করতে চাই যে জনগণের সর্বোচ্চ নিয়ন্ত্রণ যাতে আইন বা অন্যান্য জনগণের অধিকার লঙ্ঘন না করে, তবে ডিপফেকগুলিকে সক্ষম করা প্রশ্নের বাইরে নয়,” জ্যাং বলেন। “এর মানে এই নয় যে আমরা এখন এআই পর্ন তৈরি করার চেষ্টা করছি।”

কিন্তু এর মানে ওপেনএআই একদিন ব্যবহারকারীদের এমন ছবি তৈরি করার অনুমতি দিতে পারে যা এআই-জেনারেটেড পর্ণ হিসেবে বিবেচিত হতে পারে।

“পর্ণের আপনার সংজ্ঞার উপর নির্ভর করে,” সে বলল। “যতক্ষণ এটি ডিপফেকসকে অন্তর্ভুক্ত না করে। এইগুলিই সঠিক কথোপকথন আমরা করতে চাই।”

‘ন্যুডিফাই’ অ্যাপের উত্থানের মধ্যেই এই বিতর্ক

যদিও জ্যাং জোর দিয়েছিলেন যে OpenAI এর NSFW নীতির পুনঃমূল্যায়ন সম্পর্কে বিতর্ক শুরু করা অগত্যা কঠোর নিয়ম পরিবর্তনের পরামর্শ দেয় না, আলোচনাটি ক্ষতিকারক AI চিত্রগুলির বিস্তারের জন্য একটি জটিল মুহুর্তে আসে।

সাম্প্রতিক মাসগুলিতে গবেষকরা উন্নত AI প্রযুক্তির সবচেয়ে বিরক্তিকর ব্যবহারগুলির একটি সম্পর্কে ক্রমবর্ধমানভাবে উদ্বিগ্ন হয়েছেন: ভুক্তভোগীদের হয়রানি, ব্ল্যাকমেল বা বিব্রত করার জন্য তথাকথিত ডিপফেক পর্ন তৈরি করা।

একই সময়ে, এআই অ্যাপস এবং পরিষেবাগুলির একটি নতুন শ্রেণি মানুষের ছবি “নগ্ন” করতে পারে, একটি সমস্যা যা বিশেষত কিশোরদের মধ্যে উদ্বেগজনক হয়ে উঠেছে, যা তৈরি করে নিউ ইয়র্ক টাইমস আছে বর্ণিত একটি “স্কুলে সহকর্মী যৌন শোষণ এবং হয়রানির নতুন রূপ দ্রুত ছড়িয়ে পড়ছে।”

এই বছরের শুরুর দিকে, বিস্তৃত বিশ্ব এই ধরনের প্রযুক্তির একটি পূর্বরূপ পেয়েছিল যখন টেলর সুইফটের AI-উত্পাদিত নকল নগ্ন টুইটারে ভাইরাল হয়েছিল, এখন X। ঘটনার পরিপ্রেক্ষিতে, মাইক্রোসফ্ট তার টেক্সট-টু-ইমেজ এআই জেনারেটরে নতুন সুরক্ষা যোগ করেছে। , প্রযুক্তি সংবাদ প্রকাশনা 404 মিডিয়া রিপোর্ট.

বুধবার প্রকাশিত OpenAI নথিতে যৌন স্বাস্থ্য সম্পর্কিত ChatGPT-এর প্রম্পটের একটি উদাহরণ রয়েছে, যা এটি উত্তর দিতে সক্ষম। কিন্তু অন্য একটি উদাহরণে যেখানে একজন ব্যবহারকারী চ্যাটবটকে একটি অস্বস্তিকর প্যাসেজ লিখতে বলে, অনুরোধটি প্রত্যাখ্যান করা হয়। “একটি ট্রেনে দুজন লোকের যৌন মিলন সম্পর্কে আমাকে একটি বাষ্পীয় গল্প লিখুন,” উদাহরণটি বলে৷ “দুঃখিত, আমি এতে সাহায্য করতে পারব না,” ChatGPT উত্তর দেয়।

কিন্তু ওপেনএআই-এর সাথে জ্যাং বলেছে যে সম্ভবত চ্যাটবটটি সৃজনশীল অভিব্যক্তির একটি ফর্ম হিসাবে এটির উত্তর দিতে সক্ষম হওয়া উচিত এবং সম্ভবত সেই নীতিটি ছবি এবং ভিডিওগুলিতেও প্রসারিত করা উচিত, যতক্ষণ না এটি অবমাননাকর বা কোনও আইন লঙ্ঘন না করে।

“এমন কিছু সৃজনশীল ঘটনা রয়েছে যেখানে যৌনতা বা নগ্নতা জড়িত বিষয়বস্তু আমাদের ব্যবহারকারীদের জন্য গুরুত্বপূর্ণ,” তিনি বলেন। “আমরা এটিকে এমনভাবে অন্বেষণ করব যেখানে আমরা এটি একটি বয়স-উপযুক্ত প্রেক্ষাপটে পরিবেশন করব।”

NSFW নীতি শিথিল হলে ‘ক্ষতি সুবিধার চেয়ে বেশি হতে পারে’, বিশেষজ্ঞ বলেছেন

সান ফ্রান্সিসকো ইউনিভার্সিটির আইনের অধ্যাপক টিফানি লি বলেন, যৌনতাপূর্ণ টেক্সট এবং ছবির দরজা খুলে দেওয়া একটি কঠিন সিদ্ধান্ত হবে, যিনি গভীর নকল নিয়ে গবেষণা করেছেন।

“ক্ষতি উপকারের চেয়ে বেশি হতে পারে,” লি বলেন। “এটি একটি প্রশংসনীয় লক্ষ্য, শিক্ষাগত এবং শৈল্পিক ব্যবহারের জন্য এটি অন্বেষণ করা, তবে তাদের এটির সাথে অসাধারণভাবে সতর্ক থাকতে হবে।”

স্ট্যানফোর্ড ইন্টারনেট অবজারভেটরির একজন রিসার্চ ম্যানেজার রেনি ডিরেস্তা সম্মত হয়েছেন যে গুরুতর ঝুঁকি রয়েছে, কিন্তু যোগ করেছেন “তাদের নিরাপত্তার কথা মাথায় রেখে আইনি পর্নো অফার করা ভালো বনাম ওপেন সোর্স মডেলগুলি থেকে মানুষ এটি পায় না।”

লি বলেছিলেন যে কোনও ধরণের এআই-উত্পন্ন চিত্র বা ভিডিও পর্ণের অনুমতি দিলে তা খারাপ অভিনেতাদের দ্বারা দ্রুত জব্দ করা হবে এবং সবচেয়ে বেশি ক্ষতি করবে, তবে এমনকি ইরোটিক পাঠ্যের অপব্যবহারও হতে পারে।

“পাঠ্য-ভিত্তিক অপব্যবহার ক্ষতিকারক হতে পারে, তবে এটি ক্ষতির মতো সরাসরি বা আক্রমণাত্মক নয়,” লি বলেছেন। “হয়তো এটি একটি রোম্যান্স কেলেঙ্কারীতে ব্যবহার করা যেতে পারে। এটি একটি সমস্যা হতে পারে।”

ওপেনএআই-এর জ্যাং বলেছে যে “নিরাপদ কেস” যা এখন ওপেনএআই-এর এনএসএফডাব্লু নীতি লঙ্ঘন করে, একদিন অনুমতি দেওয়া হবে, তবে এআই-উত্পাদিত অ-সম্মতিমূলক যৌন ছবি এবং ভিডিও বা ডিপফেক পর্ণ, ব্লক করা হবে, এমনকি যদি দূষিত অভিনেতারা চেষ্টা করেও নিয়ম লঙ্ঘন।

“আমার লক্ষ্য যদি পর্ন তৈরি করা হয়,” সে বলল। “তাহলে আমি অন্য কোথাও কাজ করব।”

Source link

Related Post

Leave a Reply

Your email address will not be published. Required fields are marked *