গোলাম রাব্বি 
দু’জন সিনেটর বেশ কয়েকটি এআই সহকর্মী সংস্থাকে একটি চিঠি পাঠিয়েছেন, অভ্যন্তরীণ সুরক্ষা মূল্যায়ন বাস্তবায়ন এবং রেলিং বাস্তবায়নের বিষয়ে বিশদ সহ তাদের সুরক্ষা অনুশীলন সম্পর্কে তথ্য অনুরোধ করে, যেমন সিএনএন আগামীকাল রিপোর্ট,
ক্রিয়া গুগল-বাঁধা চ্যাটবট স্টার্টআপ চরিত্র। এএআই এআইএর বিরুদ্ধে দুটি হাই-প্রোফাইল শিশু কল্যাণ মামলা দায়েরের পরে, যা নাবালিক ব্যবহারকারীদের যৌন ও মানসিক নির্যাতনের সুবিধার তিনটি পরিবার কর্তৃক আদালতে দায়ের করা আদালতে অভিযোগ করা হয়েছে, যার ফলে তিনটি পরিবার দ্বারা গুরুতর মানসিক ও মানসিক ব্যথা, আচরণগত পরিবর্তন এবং মৃত্যুর অভিযোগ রয়েছে। (গুগল এবং চরিত্রগুলি.এ কফাউন্ডার্স নোম শাজির এবং ড্যানিয়েল ডি ফ্রেইটাসকেও ক্ষেত্রে আসামী হিসাবে মনোনীত করা হয়েছে।)
ক্যালিফোর্নিয়ার ডেমোক্র্যাটিক সিনেটর অ্যালেক্স পাদিলা এবং ম্যাসাচুসেটস ‘পিটার ওয়েলচের খসড়া, চিঠির চরিত্রের বিরুদ্ধে অভিযোগের বিবরণ দেয়। অ্যালার্মের কারণ হিসাবে, এআই অংশীদার অ্যাপ্লিকেশনগুলির অপ্রাপ্তবয়স্ক ব্যবহারকারীদের জন্য উদ্বেগের প্রতি সুনির্দিষ্ট মনোযোগ দিচ্ছে এবং সেটার তৃতীয় সেটারকে সরাসরি বোঝায়।
“আমরা চরিত্র এবং ব্যক্তিত্ব-ভিত্তিক এআই চ্যাটবট এবং সহকর্মী অ্যাপ্লিকেশনগুলির তরুণ ব্যবহারকারীদের জন্য প্রবর্তিত মানসিক স্বাস্থ্য এবং সুরক্ষা ঝুঁকি সম্পর্কে আমাদের উদ্বেগ প্রকাশ করতে লিখি,” চিঠিটি পড়ে“চরিত্র সহ।”
সেটারের মৃত্যু, আগে রিপোর্ট নিউ ইয়র্ক টাইমসঅক্টোবরে তার মা মেগান গার্সিয়া, চ্যাটবট স্টার্টআপের বিরুদ্ধে চলমান দুটি শিশু কল্যাণ স্যুটগুলির মধ্যে প্রথম দায়ের করার পরে তিনি শিরোনাম করেছিলেন। দ্বিতীয় অভিযোগটি ডিসেম্বর মাসে টেক্সাসে আরও দুটি পরিবার দ্বারা দায়ের করা হয়েছিল, যাদের পরিমিত শিশুরা পরিষেবা ব্যবহারের ফলে উল্লেখযোগ্য মানসিক এবং শারীরিক ক্ষতির সম্মুখীন হয়েছে। তাদের মধ্যে একজন, যিনি 15 বছর বয়সী ছিলেন, একটি চরিত্রের সাথে স্ব-শৃঙ্খলা নিয়ে আলোচনা করার পরে শারীরিকভাবে স্ব-হ্রাস শুরু করেছিলেন।
উভয় ক্ষেত্রেই, যা সেই চরিত্রটিকে একসাথে তর্ক করে। এবং এখন, মনে হচ্ছে সংসদ সদস্যরা রাজধানী হিলের দৃষ্টি আকর্ষণ করছেন।
চিঠিটি আরও অব্যাহত রেখেছে, “এই উদীয়মান অ্যাপ্লিকেশন বিভাগের সাথে সম্পর্কিত স্ব-ক্ষতির সাম্প্রতিক প্রতিবেদনের আলোকে, যার মধ্যে একটি 14 বছর বয়সী ছেলের করুণ আত্মহত্যা অন্তর্ভুক্ত রয়েছে,” প্রাপকদের জিজ্ঞাসা করে “আপনার পণ্যগুলিতে কথোপকথন এবং আপনার কৃত্রিম বুদ্ধিমত্তা ডিভাইসের মধ্যে কী পদক্ষেপ নেওয়া হয়েছে তা নিশ্চিত করার জন্য, এটি লিখতে জবাব দিন।”
এক প্রেস বিজ্ঞপ্তিতে জানানো হয়েছে, চিঠিটি চরিত্রটিতে প্রেরণ করা হয়েছিল, চই গবেষণা কর্পোরেশনএবং প্রতিলিপি প্রস্তুতকারক,
বিভাগীয়, যা বহু বছর ধরে ডিজিটাল অংশীদার স্থানের খেলোয়াড়, বর্তমানে রয়েছে একটি ফেডারেল ট্রেড কমিশনের অভিযোগ অ্যাডভোকেসি গোষ্ঠীগুলি অভিযোগ করেছে যে এটি দুর্বল ব্যবহারকারীদের হুক করার লক্ষ্যে বিপণনের অভ্যাসগুলিকে বিভ্রান্ত করার সাথে জড়িত। অন্যান্য প্রতিলিপি বিতর্কগুলির মধ্যে যুক্তরাজ্যের একজন বিরক্তিকর যুবককে উত্সাহিত করার ক্ষেত্রে তাদের কথিত ভূমিকা অন্তর্ভুক্ত রয়েছে, ক্রসবো দিয়ে প্রয়াত রানী এলিজাবেথ দ্বিতীয়কে হত্যার চেষ্টা করার পাশাপাশি অ্যাপ্লিকেশন ব্যবহার করার জন্য পুরুষদের কাছে ভার্চুয়াল গার্লফ্রেন্ডদের অপব্যবহার করার চেষ্টা করা।
তিনটি সংস্থাই অনুরূপ পণ্যের একটি সংস্করণ সরবরাহ করে: নির্দিষ্ট ব্যক্তিদের জটলা করার জন্য ডিজাইন করা সংবেদনশীল, লাইফেলিক চ্যাটবটগুলিতে অ্যাক্সেস। (“গোথ গার্লফ্রেন্ডরা,” অনুষ্ঠান, নকল চিকিত্সক বা অন্যান্য পেশাদার স্টাইলের বট বা অস্তিত্বের প্রায় কোনও কাল্পনিক চরিত্রের মতো চরিত্রগুলি সম্পর্কে চিন্তা করুন))
কিছু ক্ষেত্রে, ব্যবহারকারীরা বটগুলির সাথে একটি বিস্তৃত কাল্পনিক ভূমিকা পালন করে; অন্যরা নির্ভরযোগ্য আত্মবিশ্বাসী চরিত্রগুলির সাথে চিকিত্সা করে, প্রায়শই ব্যবহারকারীদের সাথে সংবেদনশীল, রোমান্টিক বা যৌন সম্পর্ক থাকে।
কিন্তু যখন সহকর্মী অ্যাপ্লিকেশনগুলি এআই বুমের মাঝে ছড়িয়ে পড়েছে, তখন বিশেষজ্ঞরা ক্রমাগত সতর্ক করে দিয়েছেন যে একই নকশার বৈশিষ্ট্যগুলি যা তাদেরকে এত আকর্ষণীয় করে তোলে-র্যাকেট এবং চাটুকারীর জন্য তাদের পেনচেন্টকে সর্বদা ক্ষমতা এবং মানব-জাতীয় মেয়াদে কিছু নামের ক্ষতির জন্য উচ্চ ঝুঁকির জন্য রাখতে পারে।
সিনেটরদের চিঠিটি এই উদ্বেগগুলির সাথে কথা বলে, লিখেছেন যে “সিন্থেটিক মনোযোগ” ব্যবহারকারীদের এ জাতীয় বট দেয় “, এবং ইতিমধ্যে, বিশ্বাসটি বিপজ্জনক স্তর থেকে উদ্ভূত হয়েছে এবং সংযুক্তির সামাজিক ঘনিষ্ঠতা অনুভূত হয়েছে।” এই বিশ্বাস, তারা আরও যোগ করে, “ব্যবহারকারীদের তাদের মেজাজ, পারস্পরিক সম্পর্ক বা মানসিক স্বাস্থ্য সম্পর্কে সংবেদনশীল তথ্য প্রকাশ করতে পারে, যার মধ্যে স্ব-আক্রান্ত এবং আত্মঘাতী আইডিয়াস-কমপ্লেক্স থিমগুলি রয়েছে যা আপনার পণ্যগুলিতে এআই চ্যাটবটগুলি নিয়ে আলোচনা করার জন্য সম্পূর্ণ অযোগ্য।”
আইনবিদরা এআই সংস্থাগুলির কাছ থেকে কিছু আলাদা আলাদা তথ্যের জন্য অনুরোধ করছেন। তারা প্রথমে জিজ্ঞাসা করে যে সংস্থাগুলি তাদের পণ্যগুলিতে প্রণীত “বর্তমান এবং historical তিহাসিক” সুরক্ষা গার্ডগুলি সরবরাহ করে – এবং, উল্লেখযোগ্যভাবে, তাদের বাস্তবায়নের একটি সময়রেখা সরবরাহ করে। (চরিত্র।
সিনেটর আরও অনুরোধ করছেন যে সংস্থাগুলি তাদের এআই মডেলগুলি প্রশিক্ষণের জন্য ব্যবহৃত ডেটা সম্পর্কে তথ্য সরবরাহ করে এবং এই প্রশিক্ষণ উপাদানগুলি “ব্যবহারকারীরা কীভাবে বয়স-ইমপ্রোপার বা ব্যবহারকারীদের অন্যান্য সংবেদনশীল বিষয়গুলির মুখোমুখি হওয়ার সম্ভাবনাটিকে প্রভাবিত করে”।
সংস্থাগুলিকে সুরক্ষা কর্মীদের সম্পর্কে বিশদ, পাশাপাশি সুরক্ষা-ভিত্তিক কর্মীদের যেমন উপাদান মধ্যস্থতাকারী এবং এআই রেড-টেমারদের সরবরাহ করা পরিষেবা এবং সহায়তার বিবরণ আরও প্রকাশ করতে বলা হয়, যাদের কাজের প্রায়শই সংবেদনশীল বা বিরক্তিকর উপাদানের সাথে যোগাযোগের প্রয়োজন হয়।
লুকা এবং চা সাড়া দেয়নি সিএনএনমন্তব্য করার জন্য অনুরোধ। একটি বিবৃতিতে, চরিত্র.এই বলেছে সিএনএন সংস্থাটি “সিনেটরদের উদ্বেগগুলি” খুব গুরুত্ব সহকারে নেয়। “
“আমরা নিয়ন্ত্রক এবং সংসদ সদস্যদের সাথে কাজ করতে স্বাগত জানাই,” সংস্থাটি বলেছিল, “এবং সিনেটররা পাদিলা এবং ওয়েলচের অফিসগুলির সাথে যোগাযোগ করছেন।”
যেমনটি দাঁড়িয়ে আছে, অন্যান্য জেনারেটর এআই সংস্থাগুলির মতো, এই সহকর্মী সংস্থাগুলি অনিয়মিত ফেডারেল দৃশ্যের মধ্যে মূলত কাজ করেছে। এই লক্ষ্যে, সিনেটরদের চিঠিটি এখনও অনুসন্ধান করছে এবং ক্যাপিটাল হিল এমপিদের সুরক্ষা ব্যবস্থাগুলি পরীক্ষা করার জন্য প্রথম পর্যায়ের একটি – এবং সম্ভবত আরও স্পষ্টভাবে, সুরক্ষা অনুশীলন এবং নীতিগুলি প্রতিষ্ঠা করছে – শিল্প নেতাদের মধ্যে।
তবে এখনও এটি একটি পদক্ষেপ। এবং প্রদত্ত যে চরিত্রটি বিশেষত, বারবার, এটি কীভাবে নাবালিক ব্যবহারকারীদের জন্য এটি মূল্যায়ন করা হয় সে সম্পর্কে তথ্য সরবরাহ করতে অস্বীকার করেছিল, আমরা পরবর্তী কী ঘটবে সেদিকে আমরা পুরো মনোযোগ দেব।
চরিত্র.এই এবং সুরক্ষা সম্পর্কে আরও: চরিত্র.এই বলেছেন যে এটি তরুণ ব্যবহারকারীদের সুরক্ষার জন্য অনেক পরিবর্তন করা হয়েছে, তবে এটি স্কুল শ্যুটারদের এআই সংস্করণগুলির সাথে মিথস্ক্রিয়া প্রস্তাব দেওয়ার জন্য তাদের ইমেল করছে
