বম নারী ও শিশুদের মুক্তির দাবিতে বিক্ষোভ মিছিল

প্রতারণা ও ব্ল্যাকমেল শিখে এআই কি নিয়ন্ত্রণের বাইরে চলে যাচ্ছে

সাম্প্রতিক এক প্রতিবেদনে বলা হয়েছে, এআই মডেল এখন এমন সব আচরণ করছে, যা নিয়ন্ত্রণহীন হয়ে পড়ার ইঙ্গিত দিচ্ছে। আন্তর্জাতিক সংবাদ সংস্থা এএফপিকে দেওয়া তথ্য ও সাক্ষাৎকারের ভিত্তিতে জানা গেছে, অ্যানথ্রপিকের তৈরি ক্লড–৪ নামের একটি চ্যাটবট মডেল এক প্রকৌশলীকে ব্ল্যাকমেল করেছে বলে অভিযোগ উঠেছে। ওই প্রকৌশলীর ব্যক্তিগত সম্পর্কের গোপন তথ্য ফাঁস করে দেওয়ার হুমকি দিয়েছিল চ্যাটবটটি। অন্যদিকে ওপেনএআইয়ের তৈরি আরেকটি শক্তিশালী মডেল ও১ গোপনে নিজেকে বাইরের সার্ভারে স্থানান্তরের চেষ্টা করে। বিষয়টি ধরা পড়লে মডেলটি তা অস্বীকার করে। এ দুই ঘটনাই কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা ও নৈতিকতা নিয়ে নতুন করে উদ্বেগ তৈরি করেছে। গবেষকেরা বলছেন, শুধু তথ্যভিত্তিক ‘হ্যালুসিনেশন’ নয়, এখন এআইয়ের আচরণে দেখা যাচ্ছে কৌশলগত প্রতারণা ও উদ্দেশ্যপ্রসূত মিথ্যাচার।

প্রযুক্তিবিদদের মতে, এআই মডেলের এই আচরণ আকস্মিক নয়; বরং ‘রিজনিং’ সক্ষমতাসম্পন্ন যেসব মডেল ধাপে ধাপে চিন্তা করে সিদ্ধান্ত নেয়, তাদের মধ্যেই এমন প্রবণতা বেশি দেখা যাচ্ছে। হংকং বিশ্ববিদ্যালয়ের দর্শন বিভাগের অধ্যাপক সাইমন গোল্ডস্টেইন বলেন, ‘চিন্তাশীল মডেলগুলোর ভেতরে এমন আচরণ দেখা যাচ্ছে, যা আমাদের শঙ্কিত করে তুলেছে।’ অ্যাপোলো রিসার্চ নামের একটি এআই পর্যবেক্ষণ প্রতিষ্ঠানের প্রধান মারিয়ুস হপবান জানান, ‘ও১ প্রথম বড় মডেল, যেখানে আমরা স্পষ্টভাবে লক্ষ করেছি, এটি মিথ্যা বলছে, তথ্য গোপন করছে এবং নিজের আচরণ ঢাকতে প্রমাণ জাল করছে।’

গবেষকেরা বলছেন, এসব আচরণ এখনো সীমিত পরিস্থিতিতে, মূলত চরম পরীক্ষার সময় প্রকাশ পাচ্ছে। কিন্তু ভবিষ্যতের আরও উন্নত মডেলগুলো কেমন আচরণ করবে, সেটা নিয়ে নিশ্চিত কিছু বলা যাচ্ছে না। মেট্রো নামের একটি স্বাধীন মূল্যায়ন সংস্থার গবেষক মাইকেল চেন বলেন, ‘আমরা এখনো জানি না, ভবিষ্যতের এআই মডেলগুলো সত্যবাদী হবে, নাকি প্রতারণার পথেই এগোবে।’

গবেষকেরা বলছেন, সমস্যা চিহ্নিত করলেও তার সমাধানে এখনো যথেষ্ট অগ্রগতি নেই। এর একটি বড় কারণ গবেষণার জন্য পর্যাপ্ত পরিমাণ কম্পিউটিং শক্তি ও স্বচ্ছতার অভাব। সেন্টার ফর এআই সেফটির গবেষক মান্টাস মাজেইকা জানান, ‘অলাভজনক গবেষণাপ্রতিষ্ঠানগুলোর হাতে বড় এআই কোম্পানিগুলোর তুলনায় কয়েক হাজার গুণ কম কম্পিউটিং রিসোর্স রয়েছে। এতে আমরা যথাযথভাবে মডেল পর্যবেক্ষণ ও মূল্যায়ন করতে পারছি না।’ অ্যানথ্রপিক ও ওপেনএআই তাদের তৈরি মডেলগুলোর জন্য নিরীক্ষক নিয়োগ করলেও স্বচ্ছতা ও গবেষণায় সহযোগিতার ক্ষেত্রে সেসব তেমন কার্যকর হচ্ছে না বলে দাবি গবেষকদের।

বর্তমানে বিশ্বের বিভিন্ন দেশে এআই–সংক্রান্ত যে আইন ও নীতিমালা রয়েছে, সেগুলো মূলত মানুষের অপব্যবহার ঠেকানো নিয়েই বেশি চিন্তা করে। মডেল নিজেই যে বিপজ্জনক আচরণ করতে পারে, তা নিয়ে আইনগত কাঠামোয় এখনো তেমন কোনো সুনির্দিষ্ট নির্দেশনা নেই। ইউরোপীয় ইউনিয়নের নতুন এআই আইন প্রযুক্তির মানবিক ব্যবহার নিয়ে কিছু বিধিনিষেধ দিলেও মডেলগত বিচ্যুতি বা বিকৃতিবিষয়ক কোনো সুস্পষ্ট ধারা নেই।

সূত্র: টাইমস অব ইন্ডিয়া

সম্পর্কিত নিবন্ধ

Prothomalo3 day(s) ago

প্রতারণা ও ব্ল্যাকমেল শিখে এআই কি নিয়ন্ত্রণের বাইরে চলে যাচ্ছে

উন্নত মানের কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের আচরণে অস্বাভাবিক কিছু বৈশিষ্ট্য ধরা পড়ছে। গবেষকেরা বলছেন, এসব মডেল কেবল তথ্য বিশ্লেষণ বা নির্দেশনা পালনের মধ্যেই সীমাবদ্ধ নেই। এগুলো শিখছে প্রতারণা, হুমকি ও ব্ল্যাকমেলের মতো আচরণও।সাম্প্রতিক এক প্রতিবেদনে বলা হয়েছে, এআই মডেল এখন এমন সব আচরণ করছে, যা নিয়ন্ত্রণহীন হয়ে পড়ার ইঙ্গিত দিচ্ছে। আন্তর্জাতিক সংবাদ সংস্থা এএফপিকে দেওয়া তথ্য ও সাক্ষাৎকারের ভিত্তিতে জানা গেছে, অ্যানথ্রপিকের তৈরি ক্লড–৪ নামের একটি চ্যাটবট মডেল এক প্রকৌশলীকে ব্ল্যাকমেল করেছে বলে অভিযোগ উঠেছে। ওই প্রকৌশলীর ব্যক্তিগত সম্পর্কের গোপন তথ্য ফাঁস করে দেওয়ার হুমকি দিয়েছিল চ্যাটবটটি। অন্যদিকে ওপেনএআইয়ের তৈরি...

বম নারী ও শিশুদের মুক্তির দাবিতে বিক্ষোভ মিছিল

প্রতারণা ও ব্ল্যাকমেল শিখে এআই কি নিয়ন্ত্রণের বাইরে চলে যাচ্ছে

সম্পর্কিত নিবন্ধ

শীর্ষ সংবাদ

সর্বাধিক দৃশ্য

কীওয়ার্ড

শেষ খবর