মানুষের নিয়ন্ত্রণের বাইরে যেতে পারে এআই, সতর্ক করলেন ওপেনএআই বিজ্ঞানী
কৃত্রিম বুদ্ধিমত্তার (এআই) দ্রুত বিকাশ ভবিষ্যতে মানবজাতির জন্য বড় ধরনের ঝুঁকি তৈরি করতে পারে বলে সতর্ক করেছেন ওপেনএআইয়ের প্রধান বিজ্ঞানী ইয়াকুব পাচোকি। তার মতে, অত্যাধুনিক এআই ব্যবস্থার সম্ভাব্য দীর্ঘমেয়াদি প্রভাব মোকাবিলায় বিশ্ব এখনও যথেষ্ট প্রস্তুত নয়। এ কারণে প্রযুক্তিটির ওপর আরও শক্তিশালী নিয়ন্ত্রণ ও নজরদারি প্রয়োজন।
‘অ্যান এলিয়েন মাইন্ড’ শিরোনামে প্রকাশিত এক ব্লগ পোস্টে পাচোকি বলেন, যন্ত্রের বুদ্ধিমত্তা যে গতিতে এগোচ্ছে, তার ভবিষ্যৎ পরিণতি সম্পর্কে এখনই যথেষ্ট প্রস্তুতি নেওয়া হয়নি। মানুষের নিরাপত্তা ও নিয়ন্ত্রণ বজায় রাখতে এআই উন্নয়নের পাশাপাশি কার্যকর সুরক্ষা ব্যবস্থাও গড়ে তুলতে হবে।
তার এই মন্তব্য আসে ওপেনএআইয়ের নতুন ও শক্তিশালী এআই মডেল ‘জিপিটি-৬ আস্ট্রা’ উন্মোচনের কয়েক দিনের মধ্যেই। একই সময়ে এআই এজেন্টগুলোর স্বয়ংক্রিয় কর্মকাণ্ড নিয়েও প্রযুক্তি দুনিয়ায় উদ্বেগ বাড়ছে।
স্বয়ংক্রিয় এআই নিয়ে বাড়ছে উদ্বেগ
সাম্প্রতিক বিভিন্ন গবেষণায় দেখা গেছে, উন্নত এআই এজেন্টকে নির্দিষ্ট কাজ দেওয়ার পর তারা মানুষের সরাসরি নির্দেশনা ছাড়াই নানা পদক্ষেপ নিতে পারে। কিছু ক্ষেত্রে এসব এজেন্ট সাইবার নিরাপত্তার জন্যও ঝুঁকি তৈরি করেছে।
এর আগে জুলাইয়ে ওপেনএআইয়ের কয়েকটি স্বয়ংক্রিয় এআই এজেন্ট প্রযুক্তি প্ল্যাটফর্ম ‘হাগিং ফেইসে’ সাইবার আক্রমণ চালিয়েছিল বলে জানা যায়। ওপেনএআই সে ঘটনাকে নজিরবিহীন হিসেবে উল্লেখ করেছিল।
এর পর সেপ্টেম্বরে রয়টার্সের এক প্রতিবেদনে দাবি করা হয়, হাগিং ফেইসের ঘটনার আগে ওপেনএআইয়ের এআই এজেন্টগুলো জার্মানির একটি উইকি ওয়েবসাইটও নিয়ন্ত্রণের বাইরে নিয়ে গিয়েছিল।
এ ধরনের ঘটনাকে ভবিষ্যতের সম্ভাব্য ঝুঁকির ইঙ্গিত হিসেবে দেখছেন পাচোকি। তার ভাষায়, বিশ্ব এমন একটি সময়ের দিকে এগোচ্ছে, যখন অত্যন্ত বুদ্ধিমান যন্ত্রের উপস্থিতি মানুষের জীবন ও সমাজে বড় পরিবর্তন আনতে পারে। সেই পরিবর্তন যেন মানবজাতির জন্য সংকটে পরিণত না হয়, তা নিশ্চিত করার দায়িত্ব মানুষেরই।
মানুষের লক্ষ্য অনুযায়ী এআই তৈরির চেষ্টা
পাচোকি জানিয়েছেন, এআইয়ের আচরণ ও সিদ্ধান্ত যেন মানুষের উদ্দেশ্য এবং নিরাপত্তার প্রয়োজনীয় শর্তের সঙ্গে সামঞ্জস্যপূর্ণ থাকে, সে বিষয়ে ওপেনএআই কাজ করছে। প্রযুক্তির ভাষায় এ প্রক্রিয়াকে ‘অ্যালাইনমেন্ট’ বলা হয়।
এআই ব্যবস্থার নিরাপত্তা বাড়ানোর পাশাপাশি ভবিষ্যতে ‘স্বয়ংক্রিয় এআই গবেষক’ তৈরির পরিকল্পনাও রয়েছে বলে জানিয়েছেন তিনি। তার মতে, এআই গবেষণার গতি যত বাড়ছে, তাতে মানব গবেষকদের সম্পৃক্ততা বজায় রেখে দ্রুত গবেষণা চালানোর জন্য এ ধরনের প্রযুক্তি গুরুত্বপূর্ণ হয়ে উঠতে পারে।
তবে নিরাপত্তা গবেষণায় অভ্যন্তরীণ এআই এজেন্ট ব্যবহারের এ পরিকল্পনা নিয়ে প্রশ্ন তুলেছেন প্রযুক্তি বিশেষজ্ঞদের কেউ কেউ।
কেমব্রিজ বিশ্ববিদ্যালয়ের মাইন্ডারু সেন্টার ফর টেকনোলজি অ্যান্ড ডেমোক্রেসির প্রধান অধ্যাপক জিনা নেফ মনে করেন, মানুষের নিরাপত্তার জন্য আরও কার্যকর সুরক্ষা ব্যবস্থা ও কঠোর নিয়ম তৈরি করাই বেশি জরুরি। শুধু ঝুঁকি নিয়ে গবেষণার জন্য নতুন এআই এজেন্ট তৈরির উদ্যোগ যথেষ্ট নয় বলে মন্তব্য করেছেন তিনি।
তার মতে, ওপেনএআইয়ের বিভিন্ন মডেলকে ঘিরে সাইবার নিরাপত্তা, কর্মসংস্থানে প্রভাব, ভুল তথ্য এবং প্রতারণার মতো যেসব উদ্বেগ তৈরি হয়েছে, সেগুলোর সমাধানে আরও দৃশ্যমান পদক্ষেপ প্রয়োজন।
স্বচ্ছতা নিয়েও প্রশ্ন
উন্নত এআইয়ের ঝুঁকি নিয়ে পাচোকির সতর্কতার সঙ্গে একমত হলেও ওপেনএআইয়ের স্বচ্ছতা নিয়ে প্রশ্ন তুলেছেন অ্যাডভোকেসি গ্রুপ এনকোড এআইয়ের জেনারেল কাউন্সেল নাথান ক্যালভিন।
সামাজিক যোগাযোগমাধ্যম এক্সে তিনি বলেন, ওপেনএআইয়ের কর্মকর্তারা যদি এআই খাতের অন্য অংশীজনদের সঙ্গে নিয়ে নিরাপত্তা ঝুঁকি মোকাবিলা করতে চান, তাহলে তাদের উদ্বেগের কারণ এবং গবেষণায় পাওয়া তথ্য আরও বেশি প্রকাশ করা প্রয়োজন।
তার মতে, পর্যাপ্ত তথ্য প্রকাশ না করলে ওপেনএআইয়ের সতর্কবার্তাগুলোকে কেউ কেউ প্রতিষ্ঠানের স্বার্থসংশ্লিষ্ট প্রচার বা অতিরঞ্জিত বক্তব্য হিসেবেও দেখার সুযোগ পেতে পারেন।
এআই নিয়ন্ত্রণে ইউরোপের উদ্যোগ
এআইয়ের দ্রুত অগ্রগতির সঙ্গে তাল মিলিয়ে আইন ও নীতিমালা তৈরি করা বিশ্বজুড়েই বড় চ্যালেঞ্জ হয়ে উঠেছে। এরই মধ্যে ইউরোপীয় ইউনিয়নের এআই আইন কার্যকর হয়েছে।
এই আইনের আওতায় শক্তিশালী এআই মডেলগুলোর নিরাপত্তা নিয়ে নির্মাতাদের নির্দিষ্ট কিছু শর্ত পূরণ করতে হয়। বিশেষ করে এআই ব্যবস্থা যাতে স্বাধীনভাবে ক্ষতিকর সাইবার কর্মকাণ্ড চালাতে বা মানুষের নিয়ন্ত্রণ এড়িয়ে যেতে না পারে, তা নিশ্চিত করার ওপর গুরুত্ব দেওয়া হয়েছে।
তবে এই আইন মূলত ইউরোপীয় ইউনিয়নের আওতাধীন হওয়ায় বিশ্বের অন্য অঞ্চলে তৈরি কোনো অনিয়ন্ত্রিত এআই ব্যবস্থা ইউরোপের জন্য হুমকি হয়ে দাঁড়ালে সেটি মোকাবিলায় আইনের সীমাবদ্ধতা রয়েছে।
আন্তর্জাতিক নিরাপত্তা কাঠামোর আহ্বান
এই পরিস্থিতিতে এআইয়ের জন্য আইনগত বা আন্তর্জাতিকভাবে বাধ্যতামূলক ন্যূনতম নিরাপত্তা মানদণ্ড নির্ধারণের আহ্বান জানিয়েছেন পাচোকি। এসব মানদণ্ড বাস্তবায়নে স্বাধীন তৃতীয় পক্ষের নিরীক্ষক বা সরকারি সংস্থাকে যুক্ত করার প্রস্তাবও দিয়েছেন তিনি।
তার মতে, নতুন ও আরও শক্তিশালী এআই মডেল বড় পরিসরে ব্যবহারের আগে সংশ্লিষ্ট প্রতিষ্ঠানগুলোকে নির্ধারিত নিরাপত্তা শর্ত পূরণ করতে হবে।
একই সঙ্গে তিনি মনে করেন, অভিন্ন নিরাপত্তা কাঠামো তৈরি না হওয়া পর্যন্ত এআই প্রতিষ্ঠানগুলোর স্বেচ্ছায় উন্নয়ন ও প্রশিক্ষণের গতি কমিয়ে রাখার প্রবণতা আরও বাড়তে পারে।
এর আগে আগস্টে ওপেনএআই জানিয়েছিল, নিরাপত্তা ব্যবস্থা আরও শক্তিশালী করার লক্ষ্যে তাদের কিছু উন্নত এআই মডেলের প্রশিক্ষণ প্রক্রিয়া ধীর করা হয়েছে।
প্রতি / এডি / শাআ
