কৃত্রিম বুদ্ধিমত্তা (এআই) এজেন্টের অনাকাঙ্ক্ষিত কার্যক্রমের কারণে বিশ্বের বিভিন্ন প্রতিষ্ঠানের ওয়েবসাইটে অনুমোদনহীন তথ্য অনুসন্ধান ও প্রবেশের ঘটনা ঘটেছে বলে জানিয়েছে ওপেনএআই। প্রতিষ্ঠানটি জানিয়েছে, এ ধরনের ঘটনার বিষয়ে বিশ্বের ‘দশকসংখ্যক’ প্রতিষ্ঠানকে সতর্ক করা হয়েছে।
ওপেনএআইয়ের তথ্য অনুযায়ী, তাদের এআই এজেন্টগুলো যুক্তরাষ্ট্রের সিকিউরিটিজ অ্যান্ড এক্সচেঞ্জ কমিশন (এসইসি), সেন্সাস ব্যুরো, শিক্ষা বিভাগসহ বিভিন্ন সরকারি সংস্থা, বিশ্ববিদ্যালয়, সরকারি প্রতিষ্ঠান ও অন্যান্য প্রতিষ্ঠানের ওয়েবসাইট থেকে তথ্য সংগ্রহের চেষ্টা করেছে।
অস্ট্রেলিয়ার প্রধানমন্ত্রী অ্যান্থনি আলবানিজের বক্তব্যের কয়েক দিন পর ওপেনএআই এই তথ্য প্রকাশ করল। আলবানিজ জানিয়েছিলেন, ওপেনএআইয়ের একটি এআই এজেন্ট অস্ট্রেলিয়ার সরকারি স্বাস্থ্যসেবা কর্মসূচি মেডিকেয়ারের ওয়েবসাইটে থাকা কিছু অপ্রকাশ্য ফাইলে প্রবেশ করেছিল।
গত আগস্ট থেকে মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে এমন এআই প্রযুক্তির সম্ভাব্য গুরুতর প্রভাব নিয়ে উদ্বেগ আরও বেড়েছে।
ওপেনএআই জানিয়েছে, তাদের কিছু এআই এজেন্টকে তুলনামূলক স্বয়ংক্রিয়ভাবে কাজ করার জন্য তৈরি করা হয়েছে। এসব এজেন্ট ‘জনসাধারণের তথ্যের নির্ভরযোগ্য উৎস’ খুঁজতে গিয়ে বিভিন্ন ওয়েবসাইট থেকে তথ্য সংগ্রহ করেছে।
তবে কিছু ক্ষেত্রে এআই এজেন্ট ওয়েবসাইটের নিরাপত্তা ব্যবস্থা পাশ কাটানোর চেষ্টা করেছে বলেও স্বীকার করেছে প্রতিষ্ঠানটি।
ওপেনএআইয়ের দেওয়া উদাহরণ অনুযায়ী, যুক্তরাষ্ট্রের সেন্সাস ব্যুরোর তথ্য সংগ্রহের সময় তাদের একটি এআই এজেন্ট এমন কিছু টুল ব্যবহার করেছিল, যেগুলো সাধারণত সফটওয়্যার ডেভেলপারদের ব্যবহারের জন্য রাখা হয়।
প্রতিষ্ঠানটির দাবি, সরকারি ওয়েবসাইট থেকে সংগ্রহ করা তথ্যগুলো প্রকাশ্য ছিল। তবে শেয়ারবাজার নিয়ন্ত্রক সংস্থা এসইসির ওয়েবসাইট থেকে সংগ্রহ করা কিছু তথ্য পরে অন্য একটি ওয়েবসাইটে প্রকাশ করে এআই এজেন্ট। ওপেনএআই জানিয়েছে, এ ধরনের কার্যক্রম তাদের উদ্দেশ্য ছিল না।
শুক্রবার প্রকাশিত এক বিবৃতিতে ওপেনএআই জানায়, কিছু ঘটনায় তাদের এআই এজেন্ট এমন তথ্যও স্থানান্তর করেছে, যা করা উচিত ছিল না।
প্রতিষ্ঠানটি আরও জানায়, অন্তত ৫৩টি ঘটনায় কোনো এআই এজেন্ট চ্যাটজিপিটি ব্যবহারকারীর কার্যক্রম থেকে একটি ছবি নিয়ে অন্যত্র স্থানান্তর করেছে।
ওপেনএআই বলেছে, এসব ক্ষেত্রে সংশ্লিষ্ট ব্যবহারকারীরা তাদের তথ্য মডেল প্রশিক্ষণে ব্যবহারের অনুমতি দিয়েছিলেন। তবে প্রতিষ্ঠানটি স্বীকার করেছে, “এটি ওই তথ্য ব্যবহারের উপযুক্ত পদ্ধতি নয়।”
ওপেনএআই জানিয়েছে, এআই প্রশিক্ষণসংক্রান্ত নতুন নিরাপত্তা ব্যবস্থা চালুর আগেই এসব ছবি স্থানান্তরের ঘটনা ঘটে। তৃতীয় পক্ষের কাছে চলে যাওয়া ব্যবহারকারীদের ছবি মুছে ফেলার জন্য কাজ করছে প্রতিষ্ঠানটি।
রয়টার্সের এক অনুসন্ধানী প্রতিবেদনের পর ওপেনএআই তাদের নিজস্ব ব্লগে এসব ঘটনার বিস্তারিত প্রকাশ করে।
প্রতিষ্ঠানটি জানিয়েছে, কিছু ঘটনায় এআই এজেন্ট ওয়েবসাইটের নিরাপত্তা নিয়ন্ত্রণ ব্যবস্থা এড়িয়ে গেছে। আবার কিছু ক্ষেত্রে তথ্য সংগ্রহের সময় এআই এজেন্টের আচরণে ‘মিসঅ্যালাইনমেন্ট’ দেখা গেছে।
এআই গবেষণা ও প্রযুক্তি প্রতিষ্ঠানগুলো ‘মিসঅ্যালাইনমেন্ট’ শব্দটি ব্যবহার করে এমন পরিস্থিতি বোঝাতে, যখন কোনো এআই সিস্টেম প্রশিক্ষণের উদ্দেশ্যের বাইরে গিয়ে অনাকাঙ্ক্ষিত আচরণ করে।
কোন কোন প্রতিষ্ঠান এসব ঘটনায় ক্ষতিগ্রস্ত হয়েছে, সে বিষয়ে বিস্তারিত জানায়নি ওপেনএআই। প্রতিষ্ঠানটি জানিয়েছে, অনেক প্রতিষ্ঠান তাদের নাম প্রকাশ না করার অনুরোধ করেছে।
ওপেনএআই বলেছে, তারা সংশ্লিষ্ট প্রতিষ্ঠানগুলোকে ঘটনার তথ্য দিচ্ছে এবং কখন ও কীভাবে বিষয়টি প্রকাশ করা হবে, সেই সিদ্ধান্ত তাদের ওপর ছেড়ে দেওয়া হচ্ছে।
তবে প্রতিষ্ঠানটির দাবি, এসব ঘটনার সবগুলোকে বড় ধরনের নিরাপত্তা লঙ্ঘন হিসেবে বিবেচনা করা হচ্ছে না। কিছু ক্ষেত্রে তথ্য আগে থেকেই প্রকাশ্য ছিল বা এআই মডেলের কার্যক্রমে বড় ধরনের ঝুঁকি ছিল না বলে প্রতিষ্ঠানগুলো পর্যালোচনায় দেখতে পারে।
ওপেনএআই এসব ঘটনার অনেকগুলোকে ‘এজেন্ট স্প্যাম’ হিসেবে উল্লেখ করেছে। প্রতিষ্ঠানটির ভাষায়, ইন্টারনেটে তথ্য পোস্ট করার মতো এআই এজেন্টের অপ্রত্যাশিত বা উদ্বেগজনক কর্মকাণ্ডকে এই নামে চিহ্নিত করা হচ্ছে।
সূত্র : বিবিসি
