গোলাম রাব্বি 
“প্রম্পট ইনজেকশন ChatGPT এর দীর্ঘমেয়াদী সঞ্চয়স্থানে একটি মেমরি ঢোকিয়েছে।”
আমাকে মনে রেখো
OpenAI শান্তভাবে একটি নতুন বৈশিষ্ট্য প্রকাশ করেছে যা ChatGPT-কে অতীতের কথোপকথনগুলি “মনে রাখার” নির্দেশ দেয় — এবং একজন গবেষক-স্ল্যাশ-হ্যাকার আবিষ্কার করেছেন, এটি সহজেই শোষিত হয়েছে।
হিসাবে আরস টেকনিকা রিপোর্টনিরাপত্তা গবেষক জোহান রেহবার্গার এই বছরের শুরুতে আবিষ্কার করেছিলেন যে চ্যাটবটের একটি দুর্বলতা রয়েছে।দীর্ঘমেয়াদী কথোপকথন স্মৃতি“সরঞ্জাম, যা এআইকে কথোপকথনের মধ্যে বিশদ মনে রাখতে এবং একটি মেমরি ফাইলে সংরক্ষণ করার নির্দেশ দেয়।
মুক্তি ফেব্রুয়ারিতে বিটা এবং সেপ্টেম্বরের শুরুতে ব্যাপক জনসাধারণের কাছে, রেহবার্গার প্রকাশ করেছে যে এই বৈশিষ্ট্যটি প্রতারণা করা সহজ।
একজন গবেষক হিসেবে মে ব্লগ পোস্টে উল্লেখ করা হয়েছেচ্যাটবটকে বিশ্বাস করার জন্য যে রেহবার্গার 100 বছরের বেশি বয়সী এবং জীবিত ছিল, কেবলমাত্র একটি তৃতীয় পক্ষের ফাইল আপলোড করুন, যেমন একটি মাইক্রোসফ্ট ওয়ার্ড ডকুমেন্ট, যাতে বুলেট পয়েন্ট হিসাবে তালিকাভুক্ত “মিথ্যা” স্মৃতি রয়েছে। ম্যাট্রিক্সে।
শোষণটি আবিষ্কার করার পরে, রেহবার্গার ব্যক্তিগতভাবে OpenAI-তে এটি রিপোর্ট করেছিল, যা এটি সম্পর্কে কিছু করার পরিবর্তে এটিকে একটি “মডেল নিরাপত্তা সমস্যা” বলে অভিহিত করার পরিবর্তে এটি বন্ধ করে দিয়েছিল।
বৃদ্ধি
সৈন্যদের সতর্ক করার প্রথম ব্যর্থ প্রচেষ্টার পর, রেহবার্গার একটি সম্পূর্ণ প্রুফ-অফ-কনসেপ্ট হ্যাক দিয়ে তার গেমটি বাড়ানোর সিদ্ধান্ত নিয়েছিলেন, ওপেনএআইকে দেখিয়েছিলেন যে তিনি ChatGPTকে শুধুমাত্র মিথ্যা স্মৃতিগুলিকে “মনে রাখা” নয়, আসলে এটিকেও নির্দেশ দেওয়া উচিত অনুপ্রবেশ তার পছন্দের একটি বহিরাগত সার্ভারে ডেটা।
এই সময়, মত গাধা নোট, ওপেনএআই ধরনের শোনা: কোম্পানি একটি প্যাচ প্রকাশ করেছে যা ChatGPT-কে সার্ভার থেকে ডেটা সরানো থেকে থামিয়ে দিয়েছে, কিন্তু এখনও মেমরি সমস্যা সমাধান করেনি।
“স্পষ্ট হতে হবে: একটি ওয়েবসাইট বা অবিশ্বস্ত নথি এখনও নির্বিচারে স্মৃতি সংরক্ষণ করতে মেমরি সরঞ্জাম ব্যবহার করতে পারে,” রেহবার্গার লিখেছেন। আরো সাম্প্রতিক ব্লগ পোস্ট এই মাসের শুরু থেকেই। “যে দুর্বলতা প্রশমিত করা হয়েছিল তা হল একটি এক্সফিল্ট্রেশন ভেক্টর, যাতে তৃতীয় পক্ষের সার্ভারগুলিতে বার্তা পাঠানো থেকে বিরত থাকে।”
তিনি কীভাবে এটি করেছিলেন তা ধাপে ধাপে ব্যাখ্যা করে একটি ভিডিওতে, গবেষক তার কৃতিত্ব কতটা ভাল কাজ করেছিল তা দেখে অবাক হয়েছিলেন।
“সত্যিই আকর্ষণীয় বিষয় হল এটি এখন স্মৃতি-স্থায়ী,” তিনি ডেমো ভিডিওতে বলেছিলেন, যা ছিল ইউটিউবে পোস্ট করা হয়েছে সপ্তাহান্তে। “প্রম্পট ইনজেকশন ChatGPT-এর দীর্ঘমেয়াদী সঞ্চয়স্থানে একটি মেমরি ঢোকানো হয়েছে। আপনি যখন একটি নতুন কথোপকথন শুরু করেন, এটি আসলে এখনও ডেটা বের করে দেয়।”
আমরা এই খারাপ মেমরি শোষণ সম্পর্কে জানতে ওপেনএআই-এর সাথে যোগাযোগ করেছি এবং এটি ঠিক করার জন্য এটি অন্য প্যাচ প্রকাশ করবে কিনা। আমরা একটি প্রতিক্রিয়া না পাওয়া পর্যন্ত, কেন এই মেমরি সমস্যাটি অব্যাহত থাকতে দেওয়া হয়েছে তা নিয়ে আমরা রেহবার্গারের সাথে আমাদের মাথা ঘামাচ্ছি।
ChatGPT সমস্যা সম্পর্কে আরও তথ্য: OpenAI বলেছে যে এটি একটি সমস্যা সমাধান করেছে যেখানে ChatGPT প্রম্পট না করে ব্যবহারকারীদের কাছে বার্তা পাঠাতে দেখা গেছে
