ওপেনএআই কর্মীরা মাস আগে স্কুল শুটার সম্পর্কে কানাডিয়ান পুলিশকে সতর্ক করতে চেয়েছিলেন, এখানে কেন ChatGPT-এর সাথে তার কথোপকথন কোম্পানির পর্যালোচনা সিস্টেম দ্বারা পতাকাঙ্কিত হয়েছিল
স্যাম অল্টম্যানের OpenAI ওয়াল স্ট্রিট জার্নালের প্রতিবেদনে বলা হয়েছে, ব্রিটিশ কলাম্বিয়ায় একটি স্কুলে গুলি চালানোর ঘটনায় একজন 18 বছর বয়সীকে সন্দেহভাজন হিসেবে চিহ্নিত করার কয়েক মাস আগে ChatGPT কথোপকথনের সমস্যা সম্পর্কে কানাডিয়ান পুলিশকে সতর্ক করা হবে কিনা তা পর্যালোচনা ও বিতর্ক করা হয়েছে। বন্দুক সহিংসতার রেফারেন্সের জন্য OpenAI এর অভ্যন্তরীণ পর্যালোচনা সিস্টেম দ্বারা চ্যাটবটের সাথে ব্যবহারকারীর মিথস্ক্রিয়াগুলি পতাকাঙ্কিত হওয়ার পরে আলোচনাগুলি হয়েছিল। যদিও কিছু কর্মচারী আইন প্রয়োগকারীকে অবহিত করার জন্য চাপ দিয়েছিল, কোম্পানির নেতারা শেষ পর্যন্ত সিদ্ধান্ত নেন যে কার্যকলাপ কর্তৃপক্ষের সাথে যোগাযোগ করার জন্য প্রয়োজনীয় থ্রেশহোল্ড পূরণ করেনি, রিপোর্টে বলা হয়েছে।
কথোপকথন OpenAI এর পর্যালোচনা সিস্টেম দ্বারা পতাকাঙ্কিত
WSJ-এর মতে, ব্যবহারকারী, যাকে পরে কানাডিয়ান পুলিশ জেসি ভ্যান রুটসেলার হিসাবে চিহ্নিত করেছে, গত বছরের জুন মাসে বেশ কয়েকদিন ধরে আগ্নেয়াস্ত্র জড়িত সহিংস পরিস্থিতি বর্ণনা করতে ChatGPT ব্যবহার করেছিল। কথোপকথনগুলি OpenAI-এর স্বয়ংক্রিয় পর্যবেক্ষণ সরঞ্জাম দ্বারা পতাকাঙ্কিত হয়েছিল, যা বাস্তব-বিশ্বের ক্ষতির সম্ভাব্য ঝুঁকি সনাক্ত করার জন্য ডিজাইন করা হয়েছে।পতাকাঙ্কিত বিষয়বস্তু অভ্যন্তরীণ উদ্বেগের কারণ হয়েছে৷ প্রায় এক ডজন OpenAI কর্মীরা আলোচনা করেছেন যে পোস্টগুলি একটি বিশ্বাসযোগ্য হুমকির পরামর্শ দিয়েছে কিনা। কিছু কর্মী সদস্য বিশ্বাস করেছিলেন যে কথোপকথনগুলি সম্ভাব্য বাস্তব-বিশ্ব সহিংসতার ইঙ্গিত দিতে পারে এবং সিনিয়র নেতাদের কানাডিয়ান আইন প্রয়োগকারীকে অবহিত করার জন্য অনুরোধ করেছিল।
কেন ওপেনএআই পুলিশের সাথে যোগাযোগ করেনি
OpenAI শেষ পর্যন্ত কর্তৃপক্ষকে সতর্ক না করা বেছে নিয়েছে। কোম্পানির একজন মুখপাত্র WSJ কে বলেছেন যে ভ্যান রুটসেলারের অ্যাকাউন্ট নিষিদ্ধ করা হয়েছিল, কিন্তু তার কার্যকলাপ আইন প্রয়োগকারী সংস্থাকে রিপোর্ট করার জন্য কোম্পানির মান পূরণ করেনি। সেই মানদণ্ডের জন্য “অন্যদের গুরুতর শারীরিক ক্ষতির বিশ্বাসযোগ্য এবং আসন্ন ঝুঁকি” প্রয়োজন।মুখপাত্র বলেছেন যে ওপেনএআই ব্যবহারকারীর গোপনীয়তার বিরুদ্ধে সম্ভাব্য নিরাপত্তা ঝুঁকি এবং তাৎক্ষণিক হুমকির স্পষ্ট প্রমাণ ছাড়াই পুলিশকে জড়িত করার ফলে যে ক্ষতি হতে পারে তার ভারসাম্য বজায় রাখে।ফেব্রুয়ারী 10 তারিখে, ব্রিটিশ কলাম্বিয়ার টাম্বলার রিজে একটি স্কুলে গুলি চালানোর সময় ভ্যান রুটসেলারকে মৃত অবস্থায় পাওয়া যায়, যা থেকে পুলিশ একটি স্ব-প্ররোচিত আঘাত হিসাবে বর্ণনা করেছে। এতে আটজন নিহত ও অন্তত ২৫ জন আহত হয়। রয়্যাল কানাডিয়ান মাউন্টেড পুলিশ পরে তাকে সন্দেহভাজন হিসাবে নাম দেয়।আক্রমণের কথা জানার পর, OpenAI RCMP এর সাথে যোগাযোগ করে এবং বলে যে এটি তদন্তকারীদের সাথে সহযোগিতা করছে। “আমাদের চিন্তাভাবনা টাম্বলার রিজ ট্র্যাজেডি দ্বারা প্রভাবিত প্রত্যেকের সাথে,” কোম্পানি বলেছে।
AI এবং জননিরাপত্তা নিয়ে বিস্তৃত বিতর্ক
কেসটি এআই কোম্পানিগুলি কীভাবে সংবেদনশীল ব্যবহারকারীর ডেটা পরিচালনা করে সে সম্পর্কে ক্রমবর্ধমান প্রশ্ন তুলে ধরে। ওপেনএআই ওয়াল স্ট্রিট জার্নালকে বলেছে যে এটি ক্ষতি এবং মানব পর্যালোচকদের সাথে কথোপকথন সম্পর্কিত রুটগুলিকে নিরুৎসাহিত করার জন্য তার সিস্টেমগুলিকে প্রশিক্ষণ দেয়, যারা তাত্ক্ষণিক হুমকি থাকলে আইন প্রয়োগকারীর সাথে যোগাযোগ করতে পারে।কানাডিয়ান পুলিশ বলেছে যে ভ্যান রুটসেলার মানসিক স্বাস্থ্য সংক্রান্ত উদ্বেগ সম্পর্কিত কর্তৃপক্ষের সাথে পূর্বে যোগাযোগ করেছিলেন এবং এর আগে তার বাসভবন থেকে আগ্নেয়াস্ত্র সরিয়ে ফেলা হয়েছিল। তদন্তকারীরা এখন তার অনলাইন কার্যকলাপ পর্যালোচনা করছে, যার মধ্যে একটি গণ শুটিংয়ের একটি ভিডিও গেম সিমুলেশন এবং আগ্নেয়াস্ত্র সম্পর্কিত সোশ্যাল মিডিয়া পোস্ট রয়েছে, চলমান তদন্তের অংশ হিসাবে।
