কানাডা স্কুল শুটিং: ওপেনএআই ট্রান্স শুটারের চ্যাটজিপিটি অ্যাকাউন্ট পতাকাঙ্কিত করেছে কিন্তু পুলিশকে সতর্ক করেনি
স্যাম অল্টম্যানের নেতৃত্বে OpenAI কানাডিয়ান ট্রান্সজেন্ডার কিশোরী জেসি ভ্যান রুটসেলারের সাথে লিঙ্কযুক্ত একটি অ্যাকাউন্ট চিহ্নিত ও নিষিদ্ধ করেছিল কানাডার সবচেয়ে ভয়ঙ্কর স্কুল গুলির একটির কয়েক মাস আগে, কিন্তু কোম্পানির বিবৃতি অনুসারে, সেই সময়ে আইন প্রয়োগকারীকে সতর্ক করেনি।কৃত্রিম বুদ্ধিমত্তা সংস্থাটি বলেছে যে তার অভ্যন্তরীণ মনিটরিং সিস্টেমগুলি হিংসাত্মক বিষয়বস্তু সম্পর্কিত নীতি লঙ্ঘনের জন্য গত বছরের জুনে ChatGPT অ্যাকাউন্ট সনাক্ত করেছে। বন্দুক সহিংসতার সাথে জড়িত হিংসাত্মক পরিস্থিতির সাথে জড়িত অপব্যবহারের জন্য পতাকাঙ্কিত হওয়ার পরে অ্যাকাউন্টটি পরবর্তীতে নিষিদ্ধ করা হয়েছিল।
ভ্যান রুটসেলার, একজন 18 বছর বয়সী হাই স্কুল ড্রপআউট, এই মাসের শুরুতে কানাডার পশ্চিমাঞ্চলীয় শহর টাম্বলার রিজে একটি গুলিতে আট জনকে হত্যা এবং প্রায় 25 জনকে আহত করার অভিযোগ রয়েছে, তার নিজের জীবন নেওয়ার আগে, কর্তৃপক্ষ জানিয়েছে।
OpenAI কি বলেছে?
“আমাদের চিন্তাভাবনা টাম্বলার রিজ ট্র্যাজেডি দ্বারা প্রভাবিত প্রত্যেকের সাথে,” ওপেনএআই মুখপাত্রের উদ্ধৃতি দিয়ে সংবাদ সংস্থা এপি বলেছে, কোম্পানিটি পরে কানাডিয়ান কর্তৃপক্ষের সাথে যোগাযোগ করেছে এবং তদন্তকারীদের সাথে সহযোগিতা করছে।ওপেনএআই বলেছে যে অ্যাকাউন্টটিকে প্রথম পতাকাঙ্কিত করার সময় এটি আইন প্রয়োগকারী সংস্থার কাছে উল্লেখ করার কথা বিবেচনা করেছিল, কিন্তু সেই সময়ে বিশ্বাসযোগ্য বা আসন্ন বাস্তব-বিশ্বের ক্ষতির প্রমাণ পায়নি। গুলি চালানোর পরে, তবে, সংস্থাটি তদন্তে সহায়তা করার জন্য রয়্যাল কানাডিয়ান মাউন্টেড পুলিশের সাথে সক্রিয়ভাবে তথ্য ভাগ করেছে।OpenAI এর সিস্টেমগুলিকে এর AI টুলগুলির সম্ভাব্য অপব্যবহার শনাক্ত করতে এবং নিরাপত্তা নীতি লঙ্ঘন করে এমন অ্যাকাউন্টগুলিকে নিষিদ্ধ করা সহ প্রয়োগকারী পদক্ষেপ নেওয়ার জন্য ডিজাইন করা হয়েছে৷ বার্তা সংস্থা এপি-র উদ্ধৃত বিবরণ অনুসারে, “কোম্পানিটি তার AI মডেলগুলির অপব্যবহার শনাক্ত করার জন্য ডিজাইন করা সরঞ্জামগুলি ব্যবহার করে শনাক্ত করেছে, যার মধ্যে সহিংস কার্যকলাপের সম্ভাব্য অগ্রগতি রয়েছে।”কানাডার কর্তৃপক্ষ নিশ্চিত করেছে যে তারা চলমান তদন্তের অংশ হিসাবে সন্দেহভাজন ব্যক্তির অনলাইন এবং সামাজিক মিডিয়া কার্যকলাপ পরীক্ষা করছে।এই ঘটনাটি ব্যবহারকারীর কার্যকলাপ এবং অনলাইন আচরণের উপর ভিত্তি করে হুমকি মূল্যায়নের চ্যালেঞ্জগুলি সম্পর্কে রিপোর্ট করার জন্য প্রযুক্তি সংস্থাগুলির দায়িত্ব সম্পর্কে বিস্তৃত প্রশ্ন উত্থাপন করেছে৷ ওপেনএআই বলেছে যে এটি তার কৃত্রিম বুদ্ধিমত্তা সিস্টেমের অপব্যবহার রোধ করতে সুরক্ষা ব্যবস্থা জোরদার করে চলেছে।
