প্রতারণা ও ব্ল্যাকমেল শিখে এআই কি নিয়ন্ত্রণের বাইরে চলে যাচ্ছে
Published: 30th, June 2025 GMT
উন্নত মানের কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের আচরণে অস্বাভাবিক কিছু বৈশিষ্ট্য ধরা পড়ছে। গবেষকেরা বলছেন, এসব মডেল কেবল তথ্য বিশ্লেষণ বা নির্দেশনা পালনের মধ্যেই সীমাবদ্ধ নেই। এগুলো শিখছে প্রতারণা, হুমকি ও ব্ল্যাকমেলের মতো আচরণও।
সাম্প্রতিক এক প্রতিবেদনে বলা হয়েছে, এআই মডেল এখন এমন সব আচরণ করছে, যা নিয়ন্ত্রণহীন হয়ে পড়ার ইঙ্গিত দিচ্ছে। আন্তর্জাতিক সংবাদ সংস্থা এএফপিকে দেওয়া তথ্য ও সাক্ষাৎকারের ভিত্তিতে জানা গেছে, অ্যানথ্রপিকের তৈরি ক্লড–৪ নামের একটি চ্যাটবট মডেল এক প্রকৌশলীকে ব্ল্যাকমেল করেছে বলে অভিযোগ উঠেছে। ওই প্রকৌশলীর ব্যক্তিগত সম্পর্কের গোপন তথ্য ফাঁস করে দেওয়ার হুমকি দিয়েছিল চ্যাটবটটি। অন্যদিকে ওপেনএআইয়ের তৈরি আরেকটি শক্তিশালী মডেল ও১ গোপনে নিজেকে বাইরের সার্ভারে স্থানান্তরের চেষ্টা করে। বিষয়টি ধরা পড়লে মডেলটি তা অস্বীকার করে। এ দুই ঘটনাই কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা ও নৈতিকতা নিয়ে নতুন করে উদ্বেগ তৈরি করেছে। গবেষকেরা বলছেন, শুধু তথ্যভিত্তিক ‘হ্যালুসিনেশন’ নয়, এখন এআইয়ের আচরণে দেখা যাচ্ছে কৌশলগত প্রতারণা ও উদ্দেশ্যপ্রসূত মিথ্যাচার।
প্রযুক্তিবিদদের মতে, এআই মডেলের এই আচরণ আকস্মিক নয়; বরং ‘রিজনিং’ সক্ষমতাসম্পন্ন যেসব মডেল ধাপে ধাপে চিন্তা করে সিদ্ধান্ত নেয়, তাদের মধ্যেই এমন প্রবণতা বেশি দেখা যাচ্ছে। হংকং বিশ্ববিদ্যালয়ের দর্শন বিভাগের অধ্যাপক সাইমন গোল্ডস্টেইন বলেন, ‘চিন্তাশীল মডেলগুলোর ভেতরে এমন আচরণ দেখা যাচ্ছে, যা আমাদের শঙ্কিত করে তুলেছে।’ অ্যাপোলো রিসার্চ নামের একটি এআই পর্যবেক্ষণ প্রতিষ্ঠানের প্রধান মারিয়ুস হপবান জানান, ‘ও১ প্রথম বড় মডেল, যেখানে আমরা স্পষ্টভাবে লক্ষ করেছি, এটি মিথ্যা বলছে, তথ্য গোপন করছে এবং নিজের আচরণ ঢাকতে প্রমাণ জাল করছে।’
গবেষকেরা বলছেন, এসব আচরণ এখনো সীমিত পরিস্থিতিতে, মূলত চরম পরীক্ষার সময় প্রকাশ পাচ্ছে। কিন্তু ভবিষ্যতের আরও উন্নত মডেলগুলো কেমন আচরণ করবে, সেটা নিয়ে নিশ্চিত কিছু বলা যাচ্ছে না। মেট্রো নামের একটি স্বাধীন মূল্যায়ন সংস্থার গবেষক মাইকেল চেন বলেন, ‘আমরা এখনো জানি না, ভবিষ্যতের এআই মডেলগুলো সত্যবাদী হবে, নাকি প্রতারণার পথেই এগোবে।’
গবেষকেরা বলছেন, সমস্যা চিহ্নিত করলেও তার সমাধানে এখনো যথেষ্ট অগ্রগতি নেই। এর একটি বড় কারণ গবেষণার জন্য পর্যাপ্ত পরিমাণ কম্পিউটিং শক্তি ও স্বচ্ছতার অভাব। সেন্টার ফর এআই সেফটির গবেষক মান্টাস মাজেইকা জানান, ‘অলাভজনক গবেষণাপ্রতিষ্ঠানগুলোর হাতে বড় এআই কোম্পানিগুলোর তুলনায় কয়েক হাজার গুণ কম কম্পিউটিং রিসোর্স রয়েছে। এতে আমরা যথাযথভাবে মডেল পর্যবেক্ষণ ও মূল্যায়ন করতে পারছি না।’ অ্যানথ্রপিক ও ওপেনএআই তাদের তৈরি মডেলগুলোর জন্য নিরীক্ষক নিয়োগ করলেও স্বচ্ছতা ও গবেষণায় সহযোগিতার ক্ষেত্রে সেসব তেমন কার্যকর হচ্ছে না বলে দাবি গবেষকদের।
বর্তমানে বিশ্বের বিভিন্ন দেশে এআই–সংক্রান্ত যে আইন ও নীতিমালা রয়েছে, সেগুলো মূলত মানুষের অপব্যবহার ঠেকানো নিয়েই বেশি চিন্তা করে। মডেল নিজেই যে বিপজ্জনক আচরণ করতে পারে, তা নিয়ে আইনগত কাঠামোয় এখনো তেমন কোনো সুনির্দিষ্ট নির্দেশনা নেই। ইউরোপীয় ইউনিয়নের নতুন এআই আইন প্রযুক্তির মানবিক ব্যবহার নিয়ে কিছু বিধিনিষেধ দিলেও মডেলগত বিচ্যুতি বা বিকৃতিবিষয়ক কোনো সুস্পষ্ট ধারা নেই।
সূত্র: টাইমস অব ইন্ডিয়া
.উৎস: Prothomalo
এছাড়াও পড়ুন:
কাঁঠালগাছে ঝুলছিল যুবকের মরদেহ, দুই পা ছিল বাঁধা
গাজীপুরের শ্রীপুরে কাঁঠালগাছের মগডালে গলায় গামছা ও প্লাস্টিকের রশি পেঁচানো অবস্থায় মোহন (১৮) নামের এক যুবকের ঝুলন্ত মরদেহ উদ্ধার করেছে পুলিশ। মরদেহ উদ্ধারের সময় তার দুই পা বাঁধা অবস্থায় দেখা গেছে, যা এলাকাজুড়ে নানা আলোচনার জন্ম দিয়েছে। ওই যুবকের মৃত্যুকে রহস্যজনক মনে করছেন স্থানীয়রা। এ বিষয়ে তদন্ত করা হচ্ছে বলে জানিয়েছে পুলিশ।
শনিবার (২৮ জুন) ভোরে শ্রীপুর উপজেলার মাওনা ইউনিয়নের উত্তরপাড়া এলাকায় নিজ বাড়ির পাশে ডেকো গার্মেন্টসের পাশে ওই মরদেহ পাওয়া যায়। মোহন ওই এলাকার মোস্তফা মিয়ার ছেলে।
মোহনের পরিবার জানিয়েছে, মানসিক ভারসাম্যহীনতার কারণে মোহন কিছুদিন ধরে অস্বাভাবিক আচরণ করছিলেন। শুক্রবার (২৭ জুন) রাত ৯টার দিকে রাতের খাবার শেষে তিনি বাইরে বের হয়ে যান। এরপর আর ঘরে ফেরেননি। সারা রাত খোঁজাখুঁজি করেও তাকে পাওয়া যায়নি। ভোরে এক প্রতিবেশী নারী বাড়ির পাশে কাঁঠাল গাছে ঝুলন্ত অবস্থায় তার মরদেহ দেখতে পান।
মোহনের বড় ভাই কাজল বলেছেন, “ঈদের আগে জেল থেকে ফেরার পর থেকেই ওর আচরণ অস্বাভাবিক ছিল। মাঝে-মধ্যেই পরিবারের সদস্যদের সঙ্গে ঝগড়া করত। গত রাতে বের হয়েছিল, আর আসেনি। সকালে ভাবি এসে খবর দেয়, মোহন গাছে ঝুলছে।”
স্থানীয়রা জানিয়েছেন, মোহন আগে মির সিরামিক কারখানায় শ্রমিক হিসেবে কাজ করতেন। চলতি বছরের রোজার ঈদের পর একবার মাদক মামলায় পুলিশ তাকে গ্রেপ্তার করে। কোরবানির ঈদের এক সপ্তাহ আগে তিনি জামিনে ছাড়া পান। এর পর থেকে মানসিক চাপ ও পারিবারিক দ্বন্দ্ব বেড়ে যায়।
শ্রীপুর থানার ভারপ্রাপ্ত কর্মকর্তা (ওসি) মুহাম্মদ আব্দুল বারিক জানিয়েছেন, মোহনের মরদেহ উদ্ধার করে ময়নাতদন্তের জন্য শহীদ তাজউদ্দিন আহমেদ মেডিকেল কলেজ হাসপাতালের মর্গে পাঠানো হয়েছে। প্রাথমিকভাবে আত্মহত্যা বলেই মনে হচ্ছে। থানায় একটি অপমৃত্যুর মামলা হয়েছে।
ঢাকা/রফিক সরকার/রফিক
নিবন্ধনের আবেদন করতে বিকেলে ইসিতে যাবে এনসিপি