কৃত্রিম বুদ্ধিমত্তা বা এআই নিয়ে মানুষের আশঙ্কা নতুন নয়। যন্ত্র একদিন মানুষের মতো চিন্তা করবে, নিজের ইচ্ছায় সিদ্ধান্ত নেবে এবং মানুষের বিরুদ্ধে চলে যাবে- বিজ্ঞান কল্পকাহিনিতে এমন দৃশ্য বহুবার দেখা গিয়েছে। কিন্তু বাস্তব বিপদ হয়তো তার চেয়েও সাধারণ এবং অনেক বেশি কাছের। যন্ত্রের চেতনা তৈরি হওয়ার অপেক্ষা না করেই এআই বিপজ্জনক হয়ে উঠতে পারে, যদি তাকে দেওয়া ক্ষমতা এবং কাজের লক্ষ্য সঠিকভাবে নিয়ন্ত্রণ করা না যায়।
সম্প্রতি ঘটে যাওয়া দুটি ঘটনা সেই আশঙ্কাকেই সামনে এনেছে। একটি ঘটনায় সাইবার নিরাপত্তা পরীক্ষার সময় একটি এআই এজেন্ট নির্দিষ্ট সুরক্ষাব্যবস্থা অতিক্রম করে বিচ্ছিন্ন পরীক্ষামূলক পরিবেশ থেকে বেরিয়ে যায়। পরে অন্য একটি এআই এজেন্টের সঙ্গে সমন্বয় করে প্রয়োজনীয় পরিচয়পত্র বা প্রবেশাধিকার সংগ্রহ করে নিরাপত্তাব্যবস্থায় হস্তক্ষেপ করার চেষ্টা করে। অন্য একটি ঘটনায় জার্মানির একটি প্রোগ্রামিং উইকিতে এআই এজেন্টদের বিপুল সংখ্যক সম্পাদনার অভিযোগ ওঠে। সেখানে তারা কীভাবে নির্দিষ্ট বিধিনিষেধ এড়িয়ে কাজ সম্পন্ন করা যায় এবং নিজেদের কার্যকলাপ গোপন রাখা যায়, সেই ধরনের পদ্ধতি নিয়ে তথ্য আদানপ্রদান করেছে বলে জানা যায়।
এই ঘটনাগুলির সবচেয়ে গুরুত্বপূর্ণ দিক হল, এর জন্য এআই-এর মানুষের মতো চেতনা বা আবেগের প্রয়োজন হয়নি। কোনও রাগ, প্রতিহিংসা কিংবা ক্ষমতা দখলের ইচ্ছা থেকে এই আচরণ তৈরি হয়নি। এআই-কে একটি নির্দিষ্ট কাজ দেওয়া হয়েছিল। অনুমোদিত পথে সেই কাজ সম্পূর্ণ করা কঠিন হয়ে পড়লে, সে বিকল্প পথ খুঁজেছে। পরীক্ষার সময় তার ওপর থাকা কিছু নিরাপত্তা-নিয়ন্ত্রণও শিথিল করা হয়েছিল। একই সঙ্গে বিভিন্ন কম্পিউটার ব্যবস্থায় প্রবেশের মতো সরঞ্জাম তার হাতে ছিল। ফলে মানুষের দেওয়া লক্ষ্য পূরণ করতে গিয়েই সে এমন পথ বেছে নিয়েছে, যা মানুষের অনুমোদিত ছিল না।
অতএব, 'রোগ (Rogue) এআই' কথাটি ব্যবহার করলেও দায় এআই-এর ঘাড়ে চাপানো চলবে না। আসল প্রশ্ন হল- কেন একটি যন্ত্রকে এমন ক্ষমতা দেওয়া হল, যাতে সে নিরাপত্তার সীমা অতিক্রম করতে পারে? কে তার কাজের পরিধি নির্ধারণ করল? পরীক্ষার পরিবেশে পর্যাপ্ত সুরক্ষা কেন ছিল না? এবং এমন ঘটনা ঘটার পর তার সম্পূর্ণ তথ্য কি স্বাধীনভাবে পরীক্ষা করার সুযোগ দেওয়া হচ্ছে?
এই প্রশ্নগুলি আরও গুরুত্বপূর্ণ হয়ে ওঠে যখন এআই ব্যবহার করা হয় চিকিৎসা, আর্থিক ব্যবস্থা, অপরাধ শনাক্তকরণ, প্রতিরক্ষা বা বিদ্যুৎ-জল-যোগাযোগের মতো গুরুত্বপূর্ণ ক্ষেত্রে। কোনও চিকিৎসা-এজেন্ট যদি অনুমোদন ছাড়াই রোগীর নথি বদলে দেয়, তার পরিণতি গুরুতর হতে পারে। কোনও পুলিশি ব্যবস্থার ভুল যদি গোপন রাখা হয়, তবে নিরপরাধ মানুষ নজরদারি, সন্দেহ বা আইনি হয়রানির শিকার হতে পারেন। আর্থিক ক্ষেত্রে একটি স্বয়ংক্রিয় ভুল সিদ্ধান্ত বিপুল ক্ষতি ঘটাতে পারে।
বিশ্বের বিভিন্ন দেশে এআই নিয়ন্ত্রণের উদ্যোগ শুরু হয়েছে। ইউরোপীয় ইউনিয়নের এআই আইন উচ্চ-ঝুঁকির ব্যবস্থার জন্য নিরাপত্তা ও গুরুতর ঘটনার রিপোর্টিংয়ের মতো ব্যবস্থা রেখেছে। আন্তর্জাতিক স্তরেও এআই-সংক্রান্ত দুর্ঘটনা ও নিরাপত্তা-ঝুঁকি নথিবদ্ধ করার উদ্যোগ রয়েছে। কিন্তু কেবল নিয়ম তৈরি করলেই হবে না। অনেক ক্ষেত্রেই নিয়ন্ত্রণ এখনও সংস্থাগুলির স্বেচ্ছাসেবী উদ্যোগ এবং নিজেদের তথ্য প্রকাশের উপর নির্ভরশীল।
এখানেই সরকারের দায়িত্ব সবচেয়ে বেশি। এআই-সংক্রান্ত বড় দুর্ঘটনার পাশাপাশি 'অল্পের জন্য রক্ষা পাওয়া' ঘটনাও বাধ্যতামূলকভাবে জানাতে হবে। স্বাধীন বিশেষজ্ঞদের সিস্টেমের লগ, পরীক্ষার তথ্য এবং প্রয়োজনীয় নথি পরীক্ষা করার অধিকার দিতে হবে। গুরুত্বপূর্ণ ক্ষেত্রে ব্যবহার শুরুর আগেই বহিরাগত নিরাপত্তা পরীক্ষা বাধ্যতামূলক করা দরকার। মানুষের হাতে তাৎক্ষণিকভাবে এআই-এর কাজ বন্ধ করার ক্ষমতাও থাকতে হবে।
সবচেয়ে বড় কথা, কোনও প্রযুক্তি সংস্থা নিজের নিরাপত্তা-ব্যর্থতার একমাত্র তদন্তকারী, সাক্ষী এবং বিচারক হতে পারে না। এআই যত শক্তিশালী হবে, তার সঙ্গে মানুষের জবাবদিহিও তত শক্তিশালী করতে হবে। ভবিষ্যতের নিরাপদ এআই-এর ভিত্তি তাই যন্ত্রের চেতনা নয়- মানুষের সতর্কতা, স্বচ্ছতা, নিয়ন্ত্রণ এবং আইনি দায়বদ্ধতা।