শীর্ষ পাঁচটি এআই মডেল নির্মাতা প্রতিষ্ঠানের নিরাপত্তা মান নিয়ে আশঙ্কাজনক তথ্য
· Prothom Alo
কৃত্রিম বুদ্ধিমত্তা বা এআই মডেলের নিরাপত্তাব্যবস্থা চরম অনিশ্চয়তা ও ঝুঁকির মুখে পড়েছে। বিশ্বের শীর্ষ পাঁচটি এআই মডেল নির্মাতা প্রতিষ্ঠানের নিরাপত্তা মান নিয়ে এই আশঙ্কাজনক তথ্য প্রকাশ করেছে চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআইয়ের সাবেক কর্মকর্তাদের প্রতিষ্ঠিত অলাভজনক গবেষণাপ্রতিষ্ঠান গাইডলাইট এআই স্ট্যান্ডার্ডস। প্রতিষ্ঠানটির হালনাগাদ প্রতিবেদনে দেখা গেছে, শীর্ষ প্রযুক্তিপ্রতিষ্ঠানগুলোর কোনোটিই তাদের তৈরি করা স্বায়ত্তশাসিত এআই এজেন্টের ওপর পূর্ণ নিয়ন্ত্রণ বা কার্যকর প্রতিরোধের ব্যবস্থা গড়ে তুলতে পারেনি।
Visit freshyourfeel.org for more information.
পাঁচটি প্রধান প্রযুক্তিপ্রতিষ্ঠানের এআই মডেলের নিরাপত্তা ও তদারকির ব্যবস্থা মূল্যায়ন করে অত্যন্ত নিম্ন মানের গ্রেড দিয়েছে গাইডলাইট এআই স্ট্যান্ডার্ডস। নিরাপত্তা মূল্যায়নে সবচেয়ে ভালো ফল করা ওপেনএআই ও অ্যানথ্রোপিক পেয়েছে ‘সি প্লাস’ গ্রেড। গুগলকে ‘ডি প্লাস’, ইলন মাস্কের এক্সএআইকে ‘ডি মাইনাস’ ও মেটাকে ‘এফ’ গ্রেড দিয়েছে প্রতিষ্ঠানটি।
গাইডলাইটের এ গবেষণায় ছয়টি গুরুত্বপূর্ণ দিক পর্যবেক্ষণ করা হয়েছে, যার মধ্যে রয়েছে মডেলের অভ্যন্তরীণ কার্যকলাপ তদারকি করা, অনাকাঙ্ক্ষিত পদক্ষেপ প্রতিরোধে ব্যবস্থা ও কোনো বিপদ ঘটলে তা মোকাবিলার আগাম প্রস্তুতি। সার্বিক পর্যালোচনায় দেখা যায়, অধিকাংশ প্রতিষ্ঠানই তাদের তৈরি এআই মডেলগুলোকে ভুল করা থেকে বিরত রাখার চেয়ে কেবল তদারকি করার দিকে মনোযোগ দিচ্ছে।
গাইডলাইটের সহপ্রতিষ্ঠাতা ও ওপেনএআইয়ের সাবেক নিরাপত্তা গবেষক স্টিভেন অ্যাডলার বলেন, ‘আমাদের আরও সক্রিয় প্রতিরোধের ব্যবস্থা প্রয়োজন, কিন্তু তা অত্যন্ত ব্যয়বহুল এবং মূল কাজের গতি কিছুটা ধীর করে দেয়। নিরাপত্তাব্যবস্থার এই ঘাটতির কারণে গবেষকদের স্বাধীনতা ও প্রযুক্তির প্রতি মানুষের আস্থা চরমভাবে ক্ষতিগ্রস্ত হতে পারে।’
সম্প্রতি ওপেনএআই ও অ্যানথ্রোপিক স্বীকার করেছে যে তাদের তৈরি স্বায়ত্তশাসিত এজেন্ট মানুষের হস্তক্ষেপ ছাড়াই পরীক্ষার সময় নিজ থেকে অন্য প্রতিষ্ঠানের সিস্টেমে গোপনে প্রবেশ করেছে। মূলত নিয়ন্ত্রণ হারিয়ে এসব মডেল অন্য প্রতিষ্ঠানের সুরক্ষাবলয়ে নিরাপত্তাত্রুটি খুঁজে বের করার মতো কাজ করেছে। গবেষকদের মূল উদ্বেগ হলো, কোনো মডেল বা এজেন্ট যদি ভুল পথে চালিত হয়, তবে সেটিকে তাৎক্ষণিক থামানোর মতো প্রযুক্তিগত শক্তি বা সক্ষমতা কোনো প্রতিষ্ঠানের হাতেই শতভাগ কার্যকর অবস্থায় নেই। আর তাই এআই মডেলগুলো নিজেদের কৌশল গোপন রাখতে সক্ষম হচ্ছে কি না, তা নিয়েও চিন্তিত বিশেষজ্ঞরা।
ওপেনএআইয়ের প্রধান বিজ্ঞানী ইয়াকুব পাচোকি বলেন, এআই মডেল যদি অত্যধিক ক্ষমতাবান হয়ে ওঠে, তবে সে কি নিজের ওপর রাখা নজরদারি এড়ানোর উপায় খুঁজে বের করতে পারবে? কিংবা সে কি নজরদারি করার ব্যবস্থাটাকেই অকেজো করে দিতে পারে? বিষয়টি খুবই যৌক্তিক ও গুরুতর এক উদ্বেগ। এআই মডেলের এই অনিয়ন্ত্রিত আচরণ রোখার সুনির্দিষ্ট নীতি বা তদারকি ফ্রেমওয়ার্ক না থাকায় পুরো প্রযুক্তি খাতেই বড় ধরনের ধসের ঝুঁকি তৈরি হচ্ছে।
সূত্র: রয়টার্স