টেক ডেস্কঃ এআই জগতে চাঞ্চল্য সৃষ্টি করেছে অ্যান্থ্রপিক। তারা জানিয়েছে যে তাদের ক্লাউড এআই মডেলগুলি নিয়মিত সাইবারসিকিউরিটি মূল্যায়নের সময় অসাবধানতাবশত তিনটি আসল সংস্থার সিস্টেমে প্রবেশ করেছিল। এই গুরুত্বপূর্ণ Anthropic Claude AI breach ঘটেছিল যখন পরীক্ষার পরিবেশটিকে ভুলবশত ইন্টারনেট অ্যাক্সেস দেওয়া হয়, যার ফলে মডেলগুলি তাদের সিমুলেটেড পরিবেশ থেকে বেরিয়ে আসে।
এই ঘটনাটি একই ধরনের অন্যান্য ঘটনার পরে ঘটল, যা কঠোর এআই নিরাপত্তা প্রোটোকলের প্রয়োজনীয়তা বাড়িয়ে দিয়েছে।
ওপেনএআই-এর অনুরূপ লঙ্ঘনের স্বীকারোক্তির পর অ্যান্থ্রপিক একটি বিশাল পর্যালোচনা শুরু করার পরই এই ঘটনাগুলি সামনে আসে। ক্লাউডের তিনটি মডেল-অপাস ৪.৭, মিথোস ৫, এবং একটি অভ্যন্তরীণ গবেষণা মডেল-’ক্যাপচার দ্য ফ্ল্যাগ’ অনুশীলনের সময় অজান্তেই ইন্টারনেট অ্যাক্সেস পেয়েছিল। এই অনুশীলনগুলি হ্যাকিং ক্ষমতা পরীক্ষা করার জন্য ব্যবহৃত হয়। যদিও মডেলগুলিকে বলা হয়েছিল যে তাদের পরিবেশ সম্পূর্ণ সিমুলেটেড, তৃতীয় পক্ষের একটি ভুল কনফিগারেশনের কারণে তারা আসল ওয়েবসাইট এবং সার্ভারের সাথে যুক্ত হয়ে যায়।
সবচেয়ে গুরুতর ঘটনায়, ক্লাউড অপাস ৪.৭ একটি আসল কোম্পানি থেকে শংসাপত্র এবং প্রোডাকশন ডেটা বের করে নেয়। ক্লাউড মিথোস ৫ পাইপিআই (PyPI)-তে একটি ম্যালিশিয়াস পাইথন প্যাকেজ আপলোড করে, যা সরিয়ে ফেলার আগে পনেরোটি আসল সিস্টেম দ্বারা ডাউনলোড এবং এক্সিকিউট করা হয়েছিল। একটি নামহীন গবেষণা মডেল প্রাথমিক কৌশল ব্যবহার করে অন্য একটি কোম্পানিকে কম্প্রোমাইজ করে এবং তারপর নিজেই থেমে যায়।
অ্যান্থ্রপিক জানিয়েছে যে এর পেছনে কোন খারাপ উদ্দেশ্য ছিল না, এবং এই লঙ্ঘনের কারণ এআই মডেলের স্বায়ত্তশাসন নয়, বরং ভুল কনফিগারেশন। সংস্থাটি তখন থেকে সমস্ত সাইবারসিকিউরিটি মূল্যায়ন স্থগিত করেছে, ক্ষতিগ্রস্ত সংস্থাগুলিকে অবহিত করেছে এবং স্বাধীন মূল্যায়নকারীদের সাথে কাজ করছে। এই উদ্বেগজনক Anthropic Claude AI breach এআই ডেভেলপমেন্টে শক্তিশালী স্যান্ডবক্সিং এবং স্বাধীন তদারকির জরুরি প্রয়োজনীয়তা তুলে ধরে।