চ্যাটজিপিটি ব্যবহারকারীদের জন্য বয়সভিত্তিক নতুন সীমাবদ্ধতা চালুর ঘোষণা দিয়েছে ওপেনএআই। ১৮ বছরের কম বয়সীদের শনাক্ত করে তাদের জন্য চ্যাটজিপিটির উত্তর দেওয়ার ধরন বদলে যাবে।

সম্প্রতি যুক্তরাষ্ট্রে ১৬ বছরের এক কিশোরের আত্মহত্যার ঘটনায় মামলা হওয়ার পর এই সিদ্ধান্ত এসেছে।

পরিবারের অভিযোগ, কিশোরটি মাসের পর মাস চ্যাটজিপিটির সঙ্গে কথা বলার পর আত্মহত্যার সিদ্ধান্ত নেয়। এমনকি এআই তাকে আত্মহত্যার উপায় নিয়ে দিকনির্দেশনা দিয়েছে এবং একটি চিঠি লেখায়ও সাহায্য করেছে বলে অভিযোগ রয়েছে।

এ বিষয়ে ওপেনএআই'র প্রধান নির্বাহী স্যাম অল্টম্যান এক ব্লগ পোস্টে জানান, ‘কিশোরদের জন্য গুরুত্বপূর্ণ সুরক্ষা দরকার। তাই আমরা নিরাপত্তাকে গোপনীয়তার চেয়ে অগ্রাধিকার দিচ্ছি।’

নতুন যে নীতিমালার সিদ্ধান্ত নিয়েছে ওপেনএআই

১. ১৮ বছরের নিচে ব্যবহারকারীদের জন্য যৌনগ্রাফিক কনটেন্ট সম্পূর্ণভাবে বন্ধ করা হবে।
২. কোনোভাবেই ফ্লার্ট বা আত্মহত্যা নিয়ে আলোচনা করবে না চ্যাটজিপিটি।
৩. কেউ আত্মহত্যার ইঙ্গিত দিলে প্রয়োজনে অভিভাবক বা জরুরি অবস্থায় কর্তৃপক্ষকে জানানো হবে।
৪. বয়স অনুমান করতে নতুন প্রযুক্তি ব্যবহার করা হবে, সন্দেহ হলে ব্যবহারকারীকে ১৮ বছরের নিচে ধরা হবে। কিছু ক্ষেত্রে আইডি দিয়ে বয়স যাচাই করতেও হতে পারে।

অল্টম্যান আরও জানান, ‘প্রাপ্তবয়স্কদের আমরা প্রাপ্তবয়স্ক হিসেবেই দেখবো। তারা চাইলে ফ্লার্ট ধরনের কথোপকথন করতে পারবেন। তবে আত্মহত্যার নির্দেশনা কোনোভাবেই দেওয়া হবে না, কেবল গল্প বা সৃজনশীল লেখার প্রয়োজনে বিষয়টি ব্যবহার করা যাবে।’

ওপেনএআই জানিয়েছে, দীর্ঘসময় ধরে হাজারো মেসেজের বিনিময়ে তাদের সিস্টেম কখনও কখনও নিরাপত্তা ভেঙে যেতে পারে। এজন্য আরও শক্তিশালী নিরাপত্তা ব্যবস্থা যোগ করা হচ্ছে।

তথ্যসূত্র: গার্ডিয়ান