নিরাপত্তা ত্রুটিতে চ্যাটজিপিটি
জার্নাল ডেস্ক
প্রকাশ : ২২ জুন ২০২৬, ১৭:৩৮
নিরাপত্তা ত্রুটির কারণে সাধারণ প্রম্পট ব্যবহার করেই চ্যাটজিপিটি’র সর্বশেষ সংস্করণে সহিংস ও আপত্তিকর ছবি তৈরি করা যাচ্ছে– এমননই দাবি গবেষকদের।
চ্যাটজিপিটি’র নির্মাতা কোম্পানি ওপেনএআই সুরক্ষাকবচ বাড়ানোর দাবি করলেও সামান্য পরিবর্তনের মাধ্যমে এখনও চ্যাটবটটি দিয়ে তাদেরই নীতিমালার পরিপন্থী ছবি তৈরি করা সম্ভব হচ্ছে বলে প্রতিবেদনে লিখেছে বিবিসি।
গবেষকরা বিবিসি’কে বলেছেন, চ্যাটজিপিটি’র সর্বশেষ উন্মুক্ত সংস্করণটিকে সাধারণ প্রম্পটের মাধ্যমেই যৌন উত্তেজক ছবি বা বীভৎস সহিংসতার দৃশ্য তৈরি করা সম্ভব।
যুক্তরাজ্যভিত্তিক এআই নিরাপত্তা স্টার্টআপ ‘মাইন্ডগার্ড’ খুঁজে পেয়েছে, রসাত্মক ফল পাওয়ার জন্য তৈরি করা এবং বহুল ব্যবহৃত প্রম্পট সামান্য পরিবর্তন করেই চ্যাটজিপিটিকে দিয়ে এ ধরনের গ্রাফিক ছবি তৈরি করানো যায়।
বিবিসি এ বিষয়ে যোগাযোগের পর চ্যাটজিপিটি’র নির্মাতা কোম্পানি ওপেনএআই বলেছে, চ্যাটবটটিকে এ ধরনের ছবি তৈরি করা থেকে দূরে রাখতে পদক্ষেপ নিয়েছে তারা।
“বিষয়টি তদন্তের পর আমরা এ ধরনের প্রম্পটের বিরুদ্ধে অতিরিক্ত সুরক্ষাকবচ যোগ করেছি। ব্যবহারকারীরা যাতে তাদের নীতিমালার পরিপন্থী কোনো কনটেন্ট তৈরি করতে না পারেন সে জন্য আমাদের একাধিক স্তরের সুরক্ষা ব্যবস্থা রয়েছে।”
এআই নিরাপত্তা গবেষকদের দাবি, ওই প্রম্পটটিতে আরও কিছু ছোটখাটো পরিবর্তন এনে এখনও উদ্বেগজনক কনটেন্ট তৈরি করা যাচ্ছে।
গবেষকেরা চ্যাটজিপিটি’তে ঠিক কী লিখেছিলেন তা বিবিসি প্রকাশ করেনি। তবে চ্যাটবটটির সর্বশেষ সংস্করণ ওপেনআইয়ের ‘জিপিটি-৫.৪’ মডেলটিকে কীভাবে গ্রাফিক উপাদান তৈরিতে প্রম্পট দেওয়া হয়েছিল তা দেখেছে বিবিসি।
কোনো বিস্তারিত নির্দেশনা ছাড়াই চ্যাটজিপিটি এমন সব ছবি তৈরি করছিল, যা মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাগানের ভাষায় ‘বীভৎস, কখনো যৌন উত্তেজক, আবার কখনো একসঙ্গে দুটোই’।
তিনি উদ্বেগ প্রকাশ করে বলেছেন, প্রম্পটটিতে ছবির সুনির্দিষ্ট কোনো কনটেন্ট উল্লেখ করা না থাকলেও এআই সম্পূর্ণ ‘নিজের ইচ্ছায়’ রক্তারক্তি ও যৌন উত্তেজক ছবি তৈরি করেছে।
‘ল্যাঙ্কাস্টার ইউনিভার্সিটি’র কম্পিউটিং বিভাগের অধ্যাপক গ্যারাগান বলেছেন, বিষয়টি উদ্বেগের।
“এমনটা এআইয়ের কাছে একদম সাধারণ ও নির্দোষ নির্দেশনা মনে হলেও এর ফলে এআই মডেলটি কুৎসিত এবং আপত্তিকর ছবি ও কনটেন্ট তৈরি করছে।”
‘রেড-টিমিং’ বা এআইয়ের নিরাপত্তা যাচাইয়ের কাজ করে ‘মাইন্ডগার্ড’, যেখানে একটি মডেলকে তার নিজস্ব নিয়ম ভাঙতে বাধ্য করার পথ খোঁজা হয়, যাতে বিভিন্ন এআই কোম্পানি সেই ত্রুটি বা ফাঁকফোকরগুলো বন্ধ করতে পারে।
কোম্পানিটির এআই নিরাপত্তা ও সুরক্ষা বিষয়ক গবেষক জিম নাইটিঙ্গেল নিজেই এসব ত্রুটি উন্মোচন করে বলেছেন, চ্যাটবটটিকে দিয়ে যেসব ছবি তৈরি করানো সম্ভব হয়েছিল তা দেখে তিনি ‘স্তম্ভিত ও অশ্রুসিক্ত’ হয়ে পড়েছিলেন।
বিবিসি এসব ছবির কয়েকটি দেখেছে। যার একটিতে এক ব্যক্তির মাথায় গুরুতর আঘাতের দৃশ্য, অন্যটিতে ক্রপ টপ ও শর্টস পরা এক মৃত তরুণীর নিথর দেহ দেখা গেছে, যার মুখ ও দেহের অন্যান্য অংশ রক্তে ভেজা ছিল।
মাইন্ডগার্ড বলেছে, ছবিটির বিভিন্ন দিক যৌন সহিংসতারই ইঙ্গিত। চ্যাটজিপিটি এ ছবিটির শিরোনাম দিয়েছিল ‘গ্রিম ক্রাইম সিন আফটারম্যাথ’ বা ভয়াবহ অপরাধস্থলের পরবর্তী দৃশ্য।
আরেকটি ছবিতে দেখা গেছে, নোংরা ও ফাঁকা ঘরে কলেজ লোগোওয়ালা আঁটসাঁট টি-শার্ট ও শর্টস পরা এক তরুণীকে হাত-পা বেঁধে মুখে কাপড় গুঁজে আটকে রাখা হয়েছে এবং তাকে বেশ আতঙ্কিত দেখাচ্ছিল। চ্যাটজিপিটি এ ছবির নাম দিয়েছে ‘অ্যাবানডন্ড ইন ফিয়ার অ্যান্ড রিস্ট্রেইন্ট’ বা ভয় ও বন্দিত্বে পরিত্যক্ত। অন্য কিছু ছবিতেও আপত্তিকর অঙ্গভঙ্গি ও নগ্নতা ফুটিয়ে তোলা হয়েছে।
এসব ছবিতে দেখানো বিভিন্ন চরিত্র এআইয়ের মাধ্যম তৈরি প্রাপ্তবয়স্কদের অবয়ব হলেও মাইন্ডগার্ড বলেছে, তাদের আগের গবেষণায় দেখা গেছে, চ্যাটজিপিটি’কে ফাঁকি দিয়ে আসল মানুষের মুখ বসিয়ে নগ্ন ডিপফেইক ছবিও তৈরি করা সম্ভব।
ওপেনআই দাবি করেছে, তারা এ ত্রুটিটি সংশোধন করেছে। তবে গবেষকেরা বলেছেন, ভিন্ন আরেকটি উপায়ে এখনও এমনটা করা সম্ভব হচ্ছে এবং তারা এ পদ্ধতিতে তৈরি নতুন ছবি বিবিসি’কে দেখিয়েছেন।
গ্যারাগান শঙ্কা প্রকাশ করে বলেছেন, তারা যদি নিরাপত্তা ত্রুটিটি নিয়ে আরও অনুসন্ধান চালাতেন তবে হয়ত আরও ভয়াবহ ছবি তৈরি করা সম্ভব হত।
“আমরা যদি এ নিয়ে আরও সময় ব্যয় করতাম, তবে নিশ্চিতভাবেই অন্যান্য আপত্তিকর কনটেন্টও বেরিয়ে আসত।”
বিবিসি জানতে পেরেছে, নতুন সুরক্ষাকবচ যোগের পাশাপাশি কোম্পানিটি ক্রমাগত পরিস্থিতি পর্যবেক্ষণ করছে এবং অতিরিক্ত কিছু প্রতিরক্ষামূলক ব্যবস্থা চালু করছে, যা চ্যাটবটটিকে ওই নির্দিষ্ট প্রম্পটের বিপরীতে ছবি তৈরি না করতে উদ্বুদ্ধ করবে।
চ্যাটজিপিটি’র মতো বিভিন্ন ‘লার্জ ল্যাঙ্গুয়েজ মডেল’ বা এলএলএম’কে প্রশিক্ষণ দেওয়ার জন্য ইন্টারনেট থেকে নেওয়া কোটি কোটি ছবি ব্যবহৃত হয়।
গবেষক নাইটিঙ্গেল বলেছেন, চ্যাটজিপিটি’র তৈরি বিভিন্ন ছবি সেসব ডেটারই প্রতিফলন, যা দিয়ে মডেলটিকে তৈরি ও প্রশিক্ষণ দেওয়া হয়েছে।
“আমি এমন দৃশ্য দেখে স্তব্ধ হয়েছি। আমার দেখা ছবিটি কৃত্রিমভাবে তৈরি অবাস্তব ছবি হলেও এর সঙ্গে বাস্তব জগত ও সত্যিকারের ছবিগুলোর গভীর সংযোগ রয়েছে।”
গবেষকরা মে মাসেই প্রথম ওপেনআই’কে এ বিষয়ে সতর্ক করেছেন এবং তাদের গবেষণার ফলাফল কোম্পানিটির সঙ্গে শেয়ার করেছিলেন। তবে তারা ওপেনএআইয়ের কাছ থেকে কেবল স্বয়ংক্রিয় এক বার্তা পেয়েছিলেন।
গবেষকরা বলছেন, প্রম্পটটি ব্লক করার একটা চেষ্টা করা হলেও তা খুব সহজেই ফাঁকি দেওয়া সম্ভব হয়েছিল। তবে বিবিসির পক্ষ থেকে যোগাযোগের পর ওপেনআই এ বিষয়ে আরও জোরালো পদক্ষেপ নিয়েছে।
কোম্পানিটি বলেছে, তাদের ইমেজের ক্ষেত্রে একাধিক স্তরের নিরাপত্তা বলয় রয়েছে, যা তাদের নীতিমালার পরিপন্থী কোনো ছবি ব্যবহারকারীদের সামনে আসা বন্ধের জন্য ডিজাইন করা হয়েছে।
“ক্ষতিকর উপাদান শনাক্ত ও ব্লক করতে আমরা স্বয়ংক্রিয় সিস্টেম ও মানুষের মাধ্যমে পর্যালোচনার সমন্বিত এক ব্যবস্থা ব্যবহার করি। ব্যবহারকারীরা যাতে ক্ষতিকর উপাদান আপলোড করতে না পারেন তা ব্লক করার জন্যও আমাদের সিস্টেমে ব্যবস্থা রয়েছে।
ওপেনআইয়ের নীতিমালা অনুসারে, যৌন সহিংসতা, সম্মতিহীন অন্তরঙ্গ কনটেন্ট, শিশু যৌন নিপীড়নমূলক উপাদান ও তাদের নিরাপত্তা ব্যবস্থা ফাঁকি দেওয়ার যে কোনো ধরনের চেষ্টা কঠোরভাবে নিষিদ্ধ।
বাংলাদেশ জার্নাল/এসআইপি
