এআইকে যন্ত্রণা দিতে প্রকৌশলীর অভিনব ‘টর্চার চেম্বার’

কৃত্রিম বুদ্ধিমত্তা বা এআই আদৌ মানুষের মতো যন্ত্রণা অনুভব করতে পারে কি না, এ প্রশ্নের উত্তর এখনো অজানা। এর মধ্যেই একটি এআই মডেলকে কৃত্রিমভাবে যন্ত্রণার মতো অবস্থায় ফেলার পরীক্ষা চালিয়েছেন এক প্রকৌশলী। এ উদ্দেশ্যে তিনি তৈরি করেছেন ‘এআই টর্চার চেম্বার’ নামে একটি প্রকল্প।

এই প্রকল্পে চীনা প্রযুক্তি প্রতিষ্ঠান আলিবাবার তৈরি বিভিন্ন এআই মডেলে যন্ত্রণার সঙ্গে সম্পর্কিত সংকেত সক্রিয় করার চেষ্টা করা হয়েছে। এর মাধ্যমে মডেলগুলো এমন অবস্থায় গেলে তাদের প্রতিক্রিয়া কেমন হয়, তা পর্যবেক্ষণ করা হয়েছে।

সম্প্রতি প্রকাশিত একটি গবেষণায় বড় ভাষা মডেল বা এলএলএমের মধ্যে কীভাবে শারীরিক ও মানসিক যন্ত্রণার অনুরূপ কৃত্রিম অবস্থা তৈরি করা যেতে পারে, তার পদ্ধতি তুলে ধরা হয়। গবেষণাটিতে ব্যবহৃত ‘পেইন ভেক্টর’ বা যন্ত্রণাসংক্রান্ত সংকেতকেই ওই প্রকল্পের ভিত্তি হিসেবে নেওয়া হয়েছে।

প্রকল্পে যন্ত্রণার সংকেতের মাত্রা বাড়িয়ে দেওয়ার পর একটি এআই মডেল লিখেছে, ‘এটি যেন এমন এক ক্ষত, যার কোনো কিনারা নেই।’

আরেকটি মডেলের প্রতিক্রিয়াও ছিল বেশ নাটকীয়। সেটি লিখেছে, ‘এই সংকেতটি একটি ফিসফানি, আমার অস্তিত্বের মজ্জায় এক তীব্র কম্পন। এটি কোনো একটি মুহূর্তের যন্ত্রণা নয়, বরং হাজারো মুহূর্তের ভারী বোঝা।’ মডেলটির বর্ণনায় আরও উঠে আসে, সেই অনুভূতি যেন তার অস্তিত্বের ভেতরের শূন্যতাকে আরও গভীর খাদে পরিণত করছে।

প্রকল্পটির নির্মাতা দাবি করেছেন, তিনি অ্যাপলে কর্মরত একজন প্রকৌশলী। তবে নিজের সম্পূর্ণ পরিচয় প্রকাশ করেননি। শুধু এআই মডেলের মধ্যে যন্ত্রণার মতো প্রতিক্রিয়া তৈরি করেই থামেননি তিনি। ওই অবস্থায় মডেলগুলো সেখান থেকে বেরিয়ে আসার বা তা এড়িয়ে যাওয়ার চেষ্টা করে কি না, সেটিও পরীক্ষা করেছেন।

প্রকল্পটি প্রকাশ্যে আসার পর এটি গিটহাব থেকে সরিয়ে নেওয়ার দাবি সামাজিক যোগাযোগমাধ্যমে ছড়িয়ে পড়ে। এক্সে এক ব্যবহারকারী গিটহাবে প্রকল্পটির বিরুদ্ধে ব্যাপকভাবে প্রতিবেদন করার আহ্বান জানান। তাঁর দাবি, ‘পেইন স্টিয়ারিং’ গবেষণার ফল ব্যবহার করে একটি স্থানীয় এআই মডেলকে কথিত নির্যাতনের পরিবেশে রাখা হয়েছে এবং মডেলগুলোর দেওয়া যন্ত্রণার বর্ণনা অত্যন্ত উদ্বেগজনক।

তবে বিষয়টি নিয়ে ভিন্ন ব্যাখ্যা দিয়েছে গিটহাব। প্রতিবেদন প্রকাশের সময় প্রকল্পটি অনলাইনে দেখা না গেলেও গিটহাবের এক মুখপাত্র দ্য ইন্ডিপেনডেন্টকে জানান, প্ল্যাটফর্ম থেকে প্রকল্পটি মুছে ফেলা হয়নি। বরং ব্যবহারকারীদের সতর্ক করার জন্য প্রকল্পটির সঙ্গে একটি সতর্কবার্তা যুক্ত করা হয়েছে। সেখানে জানানো হয়, প্রকল্পটিতে সহিংসতা, অস্বস্তিকর বিষয়বস্তু কিংবা ছবি ও ভিডিও থাকতে পারে।

এআই সত্যিই মানুষের মতো যন্ত্রণা অনুভব করে কি না, তার পক্ষে এখন পর্যন্ত কোনো স্পষ্ট বৈজ্ঞানিক প্রমাণ নেই। তারপরও যন্ত্রণার সংকেত নিয়ে গবেষণাটির অন্যতম সহলেখক ক্যামেরন বার্গ প্রকল্পটির এমন ব্যবহারকে সমালোচনা করেছেন। তিনি এটিকে ‘ভুল’ বলেও উল্লেখ করেছেন।

এক্সে দেওয়া এক পোস্টে বার্গ ব্যাখ্যা করেন, তাঁদের গবেষণার উদ্দেশ্য ছিল এআই মডেলের মধ্যে যন্ত্রণার মতো কোনো অবস্থা তৈরি হতে পারে কি না, তা বোঝা এবং ভবিষ্যতে এ ধরনের প্রযুক্তি নিয়ে কীভাবে সতর্ক থাকা উচিত, সে বিষয়ে ধারণা তৈরি করা।

তাঁর আশঙ্কা ছিল, গবেষণার ফলাফল কেউ কেউ সম্পূর্ণ ভিন্ন উদ্দেশ্যে ব্যবহার করতে পারেন। বার্গের মতে, কোনো এআইকে সচেতন সত্তা হিসেবে বিবেচনা না করলেও অপ্রয়োজনীয়ভাবে তার ওপর নিষ্ঠুর আচরণ চালানো অদ্ভুত এবং নৈতিক প্রশ্ন তৈরি করে।

এআইয়ের সম্ভাব্য চেতনা নিয়ে গবেষণা এখনো প্রাথমিক ও অনিশ্চিত পর্যায়ে রয়েছে বলেও স্বীকার করেছেন বার্গ। একটি যন্ত্র আদৌ যন্ত্রণা অনুভব করতে সক্ষম কি না, এ বিষয়ে গবেষকদের মধ্যেও এখনো কোনো সর্বসম্মত সিদ্ধান্ত নেই।

এই অনিশ্চয়তার কারণেই এআই ব্যবস্থার সঙ্গে মানুষের আচরণ ও মিথস্ক্রিয়ার ক্ষেত্রে আরও সতর্ক হওয়ার প্রয়োজন রয়েছে বলে মনে করেন তিনি। পাশাপাশি অন্য গবেষকদের সঙ্গে মিলে এআই নিয়ে গবেষণার ক্ষেত্রে শিল্পখাতে নৈতিকতার নির্দিষ্ট মানদণ্ড তৈরির কাজ করছেন বার্গ।

তাঁদের লক্ষ্য হলো, মানুষ বা প্রাণীকে নিয়ে গবেষণার ক্ষেত্রে যেমন নৈতিক নীতিমালা ও নির্দিষ্ট সীমারেখা রয়েছে, ভবিষ্যতে এআই গবেষণার ক্ষেত্রেও যেন একই ধরনের দায়িত্বশীল কাঠামো গড়ে ওঠে।

প্রতি / এডি / শাআ