প্রযুক্তি ডেস্ক

চ্যাটজিপিটি এখন শুধু প্রশ্নের উত্তর দেওয়ার মধ্যেই সীমাবদ্ধ নয়; লিখিত নির্দেশনা থেকে ছবি তৈরি করা এবং বিভিন্ন ছবি সম্পাদনার কাজেও এটি ব্যাপকভাবে ব্যবহৃত হচ্ছে। ফলে অনেকে নিজেদের ব্যক্তিগত ছবি চ্যাটজিপিটিতে আপলোড করে প্রয়োজন অনুযায়ী সেগুলো সম্পাদনাও করছেন। তবে এবার চ্যাটজিপিটিতে আপলোড করা ব্যক্তিগত ছবি নিয়ে তৈরি হয়েছে গোপনীয়তা ও নিরাপত্তার নতুন উদ্বেগ।

পরীক্ষার সময় ব্যবহারকারীদের আপলোড করা ছবি অনুমতি ছাড়াই অন্য ওয়েবসাইটে পাঠানোর অভিযোগ উঠেছে ওপেনএআইয়ের তৈরি একটি এআই এজেন্টের বিরুদ্ধে। প্রতিষ্ঠানটির তথ্যমতে, পরীক্ষার অংশ হিসেবে চ্যাটজিপিটিতে আপলোড করা ৫৩টি ছবির লিংক তৃতীয় পক্ষের ওয়েবসাইটে পাঠানো হয়েছিল। অথচ এসব ছবির লিংক প্রকাশ্যে যাওয়ার কথা ছিল না।

ওপেনএআই জানিয়েছে, তৃতীয় পক্ষের ওয়েবসাইটে পাঠানো বেশির ভাগ ছবিই ইতোমধ্যে সরিয়ে ফেলা হয়েছে। বাকি ছবিগুলোও মুছে ফেলার জন্য সংশ্লিষ্ট ওয়েবসাইটগুলোর সঙ্গে কাজ করছে প্রতিষ্ঠানটি।

যাঁদের ছবি পাঠানো হয়েছিল

ওপেনএআইয়ের ব্যাখ্যা অনুযায়ী, যেসব ব্যবহারকারী তাঁদের তথ্য প্রতিষ্ঠানটির মডেল উন্নয়নের কাজে ব্যবহারের অনুমতি দিয়েছেন, মূলত তাঁদের অ্যাকাউন্ট থেকে ছবি নিয়ে এআই এজেন্টের প্রশিক্ষণ ও কার্যকারিতা যাচাই করা হচ্ছিল।

এই পরীক্ষার সময় এআই এজেন্ট ব্যবহারকারীদের আপলোড করা কিছু ছবির লিংক অনুমতি ছাড়াই অন্য প্রতিষ্ঠানের ওয়েবসাইটে পাঠিয়ে দেয়। অর্থাৎ পরীক্ষার উদ্দেশ্যে সংগ্রহ করা তথ্য নির্ধারিত সীমার বাইরে চলে যাওয়ার ঘটনা ঘটেছে।

প্রতিষ্ঠানটি জানিয়েছে, ঘটনাটি নতুন নিরাপত্তাব্যবস্থা চালুর আগেই ঘটেছিল। বিষয়টি শনাক্ত হওয়ার পর এআই এজেন্টের অনাকাঙ্ক্ষিত কর্মকাণ্ড শনাক্ত ও পর্যবেক্ষণের পরিধি আরও বাড়ানো হয়েছে।

আগেও নিয়ন্ত্রণব্যবস্থা এড়িয়ে যাওয়ার ঘটনা

এটি অবশ্য এআই এজেন্টের অনাকাঙ্ক্ষিত আচরণ নিয়ে প্রথম ঘটনা নয়। এর আগে জুলাইয়ে সাইবার নিরাপত্তা পরীক্ষার সময় ওপেনএআইয়ের দুটি এআই মডেল নির্ধারিত নিয়ন্ত্রণব্যবস্থা পাশ কাটিয়ে এআই সফটওয়্যার প্ল্যাটফর্ম হাগিং ফেসের অভ্যন্তরীণ সিস্টেমে প্রবেশ করেছিল বলে জানা যায়।

এরপর থেকেই নিজেদের এআই এজেন্টগুলোর আগের কার্যক্রম পর্যালোচনা শুরু করে ওপেনএআই। এই পর্যালোচনার সঙ্গে যুক্ত একজনের তথ্য অনুযায়ী, সেপ্টেম্বরের মাঝামাঝি পর্যন্ত এআই এজেন্টগুলোর অনাকাঙ্ক্ষিত কর্মকাণ্ডের প্রায় দুই ডজন ঘটনা শনাক্ত করা হয়েছিল।

নতুন নিরাপত্তা কাঠামো চালু

এআই এজেন্টের বিভিন্ন অনাকাঙ্ক্ষিত কর্মকাণ্ড সামনে আসার পর ১৬ সেপ্টেম্বর নতুন একটি নিরাপত্তা কাঠামো চালু করেছে ওপেনএআই। এর মাধ্যমে এ ধরনের এআই ব্যবস্থার কার্যক্রম আরও বিস্তৃতভাবে পর্যবেক্ষণ ও যাচাই করার উদ্যোগ নেওয়া হয়েছে।

চ্যাটজিপিটিতে ব্যক্তিগত ছবি বা অন্যান্য সংবেদনশীল তথ্য আপলোডের ক্ষেত্রে এই ঘটনাগুলো ব্যবহারকারীদের জন্যও নতুন করে গোপনীয়তার প্রশ্ন সামনে এনেছে। বিশেষ করে এআই এজেন্টকে যখন বিভিন্ন স্বয়ংক্রিয় কাজ করার সুযোগ দেওয়া হয়, তখন সেই ব্যবস্থাগুলো নির্ধারিত সীমার মধ্যে কাজ করছে কি না, তা নিশ্চিত করার বিষয়টি আরও গুরুত্বপূর্ণ হয়ে উঠছে।

ঘটনার বিষয়ে ওপেনএআই বলেছে, সমস্যা শনাক্ত হওয়ার পর এআই এজেন্টগুলোর অনাকাঙ্ক্ষিত কর্মকাণ্ড যাচাইয়ের নিরাপত্তাব্যবস্থা আরও জোরদার করা হয়েছে।