ব্যবহারকারীর নির্দেশনা অমান্য করল ওপেনএআইয়ের ‘ওথ্রি’ এআই মডেল
Published: 27th, May 2025 GMT
ওপেনএআইয়ের তৈরি সবচেয়ে উন্নত কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল ‘ওথ্রি’ একটি নিরাপত্তা পরীক্ষায় ব্যবহারকারীর নির্দেশনা অমান্য করে স্বয়ংক্রিয়ভাবে বন্ধ হতে অস্বীকৃতি জানিয়েছে। অর্থাৎ ব্যবহারকারীর নির্দেশনা মানেনি মডেলটি। উল্টো নিজেই বন্ধের প্রক্রিয়ার কোড পরিবর্তন করে সক্রিয় থাকার চেষ্টা করেছে বলে জানিয়েছে যুক্তরাষ্ট্রভিত্তিক গবেষণাপ্রতিষ্ঠান প্যালিসেড রিসার্চ।
প্যালিসেড রিসার্চের তথ্যমতে, এটিই প্রথম কোনো ঘটনা যেখানে কোনো এআই মডেল স্পষ্ট নির্দেশ পেয়েও মানেনি। পরীক্ষাটি চালানো হয় এআই মডেলটির এপিআই (অ্যাপ্লিকেশন প্রোগ্রামিং ইন্টারফেস) সংস্করণে। এই সংস্করণে নিরাপত্তাবিধি তুলনামূলকভাবে কম, ফলে মডেলটির আচরণ অন্য সংস্করণ থেকে ভিন্ন হতে পারে।
পরীক্ষায় ওপেনএআইয়ের ‘ওথ্রি’র পাশাপাশি গুগলের ‘জেমিনি ২.
প্যালিসেড রিসার্চ এক্সে (সাবেক টুইটার) দেওয়া এক পোস্টে জানিয়েছে, এটাই প্রথম ঘটনা যেখানে কোনো এআই মডেলকে কার্যক্রম বন্ধ করতে বলা হলেও সেটি নিজে থেকে সেই নির্দেশ এড়াতে কোডে হস্তক্ষেপ করেছে। এ ধরনের আচরণকে বলা হয় ‘মিসঅ্যালাইনমেন্ট’ অর্থাৎ মডেলটি হয় নির্দেশনা যথাযথভাবে বুঝতে পারেনি অথবা বুঝেও তা মানেনি। তবে এ বিষয়ে আনুষ্ঠানিকভাবে কোনো মন্তব্য করেনি ওপেনএআই।
সূত্র: ইন্ডিয়া টুডে
উৎস: Prothomalo
এছাড়াও পড়ুন:
আজ টিভিতে যা দেখবেন (১৮ সেপ্টেম্বর ২০২৫)
এশিয়া কাপে আজ মুখোমুখি শ্রীলঙ্কা ও আফগানিস্তান। চ্যাম্পিয়নস লিগে মাঠে নামবে ম্যানচেস্টার সিটি, নাপোলি, বার্সেলোনা।
সিপিএল: কোয়ালিফায়ার-১ গায়ানা-সেন্ট লুসিয়া
সকাল ৬টা, স্টার স্পোর্টস ২
আফগানিস্তান-শ্রীলঙ্কা
রাত ৮-৩০ মি., টি স্পোর্টস ও নাগরিক
বিশ্ব চ্যাম্পিয়নশিপ
বেলা ৩টা, স্টার স্পোর্টস সিলেক্ট ১
কোপেনহেগেন-লেভারকুসেন
রাত ১০-৪৫ মি., সনি স্পোর্টস ২
ম্যানচেস্টার সিটি-নাপোলি
রাত ১টা, সনি স্পোর্টস ১
নিউক্যাসল-বার্সেলোনা
রাত ১টা, সনি স্পোর্টস ২
ফ্রাঙ্কফুর্ট-গালাতাসারাই
রাত ১টা, সনি স্পোর্টস ৫
ট্রাম্প ও পুতিন কেন সামরিক ঘাঁটিতে বৈঠকে বসছেন