স্যাম অল্টম্যানের কোম্পানীর শীর্ষ গবেষক জো হিটজিগ ঘোষণা করেছেন: আমি আজ পদত্যাগ করছি, যেহেতু ChatGPT-নির্মাতা OpenAI তৈরি করছে…

OpenAI এর শীর্ষ গবেষক জো হিটজিগ পদত্যাগ করেছেন। X-এ তার পদত্যাগের ঘোষণা, পূর্বে টুইটারে, হিটজিগ বলেন, “আমি সোমবার OpenAI থেকে পদত্যাগ করেছি। একই দিনে, তারা ChatGPT-এ বিজ্ঞাপন পরীক্ষা করা শুরু করে। ওপেনএআই-এর কাছে এখন পর্যন্ত একত্রিত ব্যক্তিগত মানব চিন্তার সবচেয়ে বিস্তারিত রেকর্ড রয়েছে। আমরা কি তাদের বিশ্বাস করতে পারি যে জোয়ারের শক্তি তাদের অপব্যবহার করতে ঠেলে তা প্রতিহত করবে? আমি @nytopinion-এর জন্য আরও ভাল বিকল্প সম্পর্কে লিখেছি।” নিউইয়র্ক টাইমস-এ তার মতামতের শিরোনাম, ‘ওপেনএআই ফেসবুকের ভুলগুলো তৈরি করছে। আমি প্রস্থান করছি।’Zoe Hitzig ওপেনএআই-এর একজন গবেষণা বিজ্ঞানী এবং হার্ভার্ড সোসাইটি অফ ফেলো-এর একজন জুনিয়র ফেলো। তিনি 2023 সালে হার্ভার্ড থেকে অর্থনীতিতে আমার পিএইচডি পেয়েছিলেন। তিনি কেমব্রিজ বিশ্ববিদ্যালয় থেকে এম.ফিল করেছেন। “এই সপ্তাহে, OpenAI ChatGPT-এ বিজ্ঞাপনগুলি পরীক্ষা করা শুরু করেছে। একজন গবেষক হিসাবে AI মডেলগুলি কীভাবে তৈরি করা হয়েছিল এবং মূল্য নির্ধারণ করতে সাহায্য করার জন্য এবং মান নির্ধারণের আগে প্রাথমিক নিরাপত্তা নীতিগুলিকে গাইড করার জন্য দুই বছর অতিবাহিত করার পরে আমিও কোম্পানি থেকে পদত্যাগ করেছি,” Hitzig কীভাবে তার ওপেড শুরু করেন৷

ChatGPT-এ Zoe Hitzig-এর ‘বড় সতর্কতা’৷

হিটজিগ ChatGPT এর বিনামূল্যে ব্যবহারকারীদের বিজ্ঞাপন দেখানোর সাথে দৃশ্যত অসন্তুষ্ট৷ তিনি বলেন যদিও তিনি বিশ্বাস করেন যে বিজ্ঞাপনগুলি অনৈতিক বা অনৈতিক নয় কারণ AI চালানো ব্যয়বহুল, কিন্তু OpenAI-এর কৌশল সম্পর্কে তার গভীর সংরক্ষণ রয়েছে। কারণ, তার মতে, হল: “কয়েক বছর ধরে, ChatGPT ব্যবহারকারীরা মানবিকতার একটি আর্কাইভ তৈরি করেছে যার কোনো নজির নেই, কারণ মানুষ বিশ্বাস করেছিল যে তারা এমন কিছুর সাথে কথা বলছে যার কোনো উলটো এজেন্ডা নেই। ব্যবহারকারীরা একটি অভিযোজিত, কথোপকথনমূলক ভয়েসের সাথে ইন্টারঅ্যাক্ট করছে যেখানে তারা তাদের সবচেয়ে ব্যক্তিগত চিন্তা প্রকাশ করেছে। লোকেরা চ্যাটবটকে তাদের চিকিৎসা ভয়, তাদের সম্পর্কের সমস্যা, ঈশ্বর এবং পরকাল সম্পর্কে তাদের বিশ্বাস সম্পর্কে বলে। সেই সংরক্ষণাগারে নির্মিত বিজ্ঞাপন ব্যবহারকারীদের এমনভাবে ম্যানিপুলেট করার সম্ভাবনা তৈরি করে যেভাবে আমাদের বোঝার মতো সরঞ্জাম নেই, প্রতিরোধ করা যাক।”তিনি বলেছেন যে যদিও OpenAI দাবি করে যে এটি ChatGPT-এ বিজ্ঞাপন চালানোর নীতিগুলি মেনে চলবে, তিনি “চিন্তিত পরবর্তী পুনরাবৃত্তিগুলি হবে না, কারণ কোম্পানি একটি অর্থনৈতিক ইঞ্জিন তৈরি করছে যা তার নিজস্ব নিয়মগুলিকে ওভাররাইড করার জন্য শক্তিশালী প্রণোদনা তৈরি করে।” তিনি যোগ করেছেন যে ওপেনএআই-এর নিজস্ব নীতিগুলির ক্ষয়ক্ষতি সর্বাধিক সম্পৃক্ত করার জন্য ইতিমধ্যেই চলছে। “এটা কোম্পানির নীতির বিরুদ্ধে শুধুমাত্র ব্যবহারকারীর ব্যস্ততাকে অপ্টিমাইজ করা শুধুমাত্র আরও বিজ্ঞাপনের রাজস্ব জেনারেট করার জন্য, কিন্তু এটা রিপোর্ট করা হয়েছে যে কোম্পানি ইতিমধ্যেই দৈনিক সক্রিয় ব্যবহারকারীদের জন্য অপ্টিমাইজ করে, সম্ভবত মডেলটিকে আরও চাটুকার এবং ছদ্মবেশী হতে উত্সাহিত করে৷ এই অপ্টিমাইজেশন ব্যবহারকারীদের তাদের জীবনে সমর্থনের জন্য AI এর উপর আরও নির্ভরশীল বোধ করতে পারে। আমরা নির্ভরতার পরিণতি দেখেছি, যার মধ্যে মনোরোগ বিশেষজ্ঞরা “চ্যাটবট সাইকোসিস” এর উদাহরণ নথিভুক্ত করেছেন এবং কিছু ব্যবহারকারীর মধ্যে ChatGPT আত্মহত্যার ধারণাকে শক্তিশালী করেছে বলে অভিযোগ রয়েছে,” লিখেছেন হিটজিগ। ওপেনএআইকে Facebook-এর সাথে তুলনা করে, তিনি লেখেন, “প্রথম বছরগুলিতে, Facebook প্রতিশ্রুতি দিয়েছিল যে ব্যবহারকারীরা তাদের ডেটা নিয়ন্ত্রণ করবে এবং নীতিগত পরিবর্তনগুলিতে ভোট দিতে পারবে। সেই প্রতিশ্রুতিগুলি নষ্ট হয়ে গেছে। কোম্পানি নীতিতে জনসাধারণের ভোট ধারণকে বাদ দিয়েছে। ব্যবহারকারীদের তাদের ডেটার উপর আরও নিয়ন্ত্রণ দেওয়ার জন্য বিপণন করা গোপনীয়তা পরিবর্তনগুলি ফেডারেল ট্রেড কমিশনের দ্বারা পাওয়া গেছে যে বিপরীত কাজ করেছে, এবং প্রকৃতপক্ষে ব্যক্তিগত তথ্য প্রকাশ করেছে। এই সবই একটি বিজ্ঞাপন মডেলের চাপে ধীরে ধীরে ঘটেছিল যা অন্য সব কিছুর উপরে ব্যস্ততাকে পুরস্কৃত করেছিল।”তার মতামতের অংশে, হিটজিগ তিনটি বিকল্প/পন্থাও দেয় যা সে বলে যে AI কোম্পানিগুলি তাদের ভোক্তাদের হেরফের করা থেকে সম্ভাব্যভাবে থামাতে সাহায্য করতে পারে। * একটি পদ্ধতি হল সুস্পষ্ট ক্রস ভর্তুকি — একটি পরিষেবা বা গ্রাহক বেস থেকে লাভ ব্যবহার করে অন্যের ক্ষতি পূরণ করতে। * একটি দ্বিতীয় বিকল্প হল বিজ্ঞাপন গ্রহণ করা কিন্তু এটিকে বাস্তব শাসনের সাথে যুক্ত করা — নীতির ব্লগ পোস্ট নয়, ব্যক্তিগত ডেটা কীভাবে ব্যবহার করা হয় তার উপর স্বাধীন তদারকির সাথে একটি বাঁধাই করা কাঠামো। * তৃতীয় পদ্ধতিতে ব্যবহারকারীদের স্বার্থে কাজ করার আইনি দায়িত্ব সহ একটি ট্রাস্ট বা সহযোগিতার মাধ্যমে ব্যবহারকারীদের ডেটা স্বাধীন নিয়ন্ত্রণে রাখা জড়িত। উপসংহারে, তিনি লেখেন, “এই বিকল্পগুলির কোনটিই সহজ নয়৷ কিন্তু আমাদের কাছে এখনও সেই দুটি ফলাফল এড়াতে কাজ করার জন্য সময় আছে যা আমি সবচেয়ে বেশি ভয় পাই: একটি প্রযুক্তি যা ব্যবহার করে এমন লোকেদের কারসাজি করে যারা এটি ব্যবহার করার সামর্থ্য রাখে এবং একচেটিয়াভাবে উপকৃত হয় যারা এটি ব্যবহার করতে পারে।”