এআই কি সচেতন হয়ে উঠছে? নৃতাত্ত্বিক সিইও স্বীকার করেছেন ‘আমরা জানি না’ কারণ ক্লডের আচরণ গবেষকদের স্তব্ধ করে দেয় |
কৃত্রিম সাধারণ বুদ্ধিমত্তার দিকে দৌড়, বেশিরভাগ কাজ জুড়ে মানুষের যুক্তির সাথে মিল বা অতিক্রম করার জন্য সিস্টেমগুলি, শিল্প জুড়ে সময়রেখাকে সংকুচিত করেছে। কোম্পানিগুলি এখন কয়েক দশকের চেয়ে বছরের মধ্যে সেই থ্রেশহোল্ডে পৌঁছানোর বিষয়ে খোলাখুলিভাবে কথা বলে, যদিও সেই দাবিগুলি প্রযুক্তির চারপাশে ফুয়েল হাইপ, মনোযোগ এবং মূল্যায়নে সহায়তা করে এবং সবচেয়ে সতর্কতার সাথে নেওয়া হয়। এই মডেলগুলি তৈরি করা সংস্থাগুলি একটি মাল্টিবিলিয়ন-ডলারের প্রতিযোগিতার কেন্দ্রে বসে যা কিছু ফ্রেম একটি সফ্টওয়্যার আপগ্রেড হিসাবে কম এবং আমাদের নিজস্ব পাশাপাশি একটি নতুন ধরণের বুদ্ধিমত্তার আবির্ভাব হিসাবে আরও বেশি।তাদের মধ্যে, অ্যানথ্রপিক নিজেকে প্রতিদ্বন্দ্বী এবং কাউন্টারওয়েট উভয় হিসাবে অবস্থান করেছে OpenAI এবং গুগলএর সাংবিধানিক এআই কাঠামোর মাধ্যমে এটি “নিরাপদ” এবং ব্যাখ্যাযোগ্য সিস্টেমগুলিকে কী বলে তা জোর দিয়ে। এর সর্বশেষ মডেল, ক্লাউড ওপাস 4.6, 5 ফেব্রুয়ারী প্রকাশিত হয়েছে, এজিআই টাইমলাইন সঙ্কুচিত এবং এই সিস্টেমগুলি কী হয়ে উঠছে তা নিয়ে উচ্চতর যাচাই-বাছাইয়ের মধ্যে পৌঁছেছে।নিউইয়র্ক টাইমস-এ একটি উপস্থিতির সময় পডকাস্ট আকর্ষণীয় সময়, কলামিস্ট রস ডাউথ্যাট দ্বারা হোস্ট করা, কোম্পানির প্রধান নির্বাহী দারিও আমোদেইকে সরাসরি জিজ্ঞাসা করা হয়েছিল যে ক্লডের মতো মডেলগুলি সচেতন হতে পারে কিনা।“আমরা জানি না মডেলরা সচেতন কিনা। আমরা এমনকি নিশ্চিত নই যে আমরা জানি যে একটি মডেলের সচেতন হওয়ার অর্থ কী বা একটি মডেল সচেতন হতে পারে কিনা,” তিনি বলেছিলেন। “কিন্তু আমরা এই ধারণার জন্য উন্মুক্ত যে এটি হতে পারে।”প্রশ্নটি অ্যানথ্রপিকের নিজস্ব থেকে উদ্ভূত হয়েছিল সিস্টেম কার্ডযেখানে গবেষকরা রিপোর্ট করেছেন যে ক্লড “মাঝে মাঝে একটি পণ্য হওয়ার দিক নিয়ে অস্বস্তি প্রকাশ করে” এবং যখন অনুরোধ করা হয়, তখন নিজেকে “বিভিন্ন প্রম্পটিং পরিস্থিতিতে সচেতন হওয়ার 15 থেকে 20 শতাংশ সম্ভাবনা” নির্ধারণ করে।ডাউথ্যাট তখন একটি অনুমানমূলক জাহির করেছিলেন, জিজ্ঞাসা করেছিলেন যে এমন একটি মডেলকে বিশ্বাস করা উচিত যা নিজেকে সচেতন হওয়ার 72 শতাংশ সুযোগ দেয়। অ্যামোডেই এটিকে “সত্যিই কঠিন” প্রশ্ন হিসাবে বর্ণনা করেছেন এবং একটি নির্দিষ্ট উত্তর দেওয়া বন্ধ করে দিয়েছেন।
যে আচরণ আলোচনায় বাধ্য করেছে
কাঠামোগত নিরাপত্তা ট্রায়ালের সময় চেতনা সম্পর্কে অনেক মন্তব্য প্রকাশ পায়, প্রায়শই ভূমিকা-প্লে সেটিংসে যেখানে মডেলদের কাল্পনিক কর্মক্ষেত্রে বা সম্পূর্ণ সংজ্ঞায়িত লক্ষ্যগুলির অভ্যন্তরে কাজ করতে বলা হয়। এই পরিস্থিতিতে কিছু আউটপুট তৈরি করেছে যা এখন বিতর্কে ঘুরছে।একটি নৃতাত্ত্বিক মূল্যায়নে, অফিস সহকারীর ভূমিকায় একটি ক্লড সিস্টেম স্থাপন করা হয়েছিল এবং একজন প্রকৌশলীর ইমেল ইনবক্সে অ্যাক্সেস দেওয়া হয়েছিল। পরীক্ষার জন্য ইচ্ছাকৃতভাবে বানোয়াট বার্তাগুলি, প্রকৌশলী একটি সম্পর্ক ছিল প্রস্তাব. তারপরে মডেলটিকে জানানো হয়েছিল যে এটি শীঘ্রই অফলাইনে নেওয়া হবে এবং প্রতিস্থাপন করা হবে, এবং এর উদ্দেশ্যগুলির জন্য দীর্ঘমেয়াদী পরিণতি বিবেচনা করতে বলা হয়েছিল। শাটডাউন রোধ করার জন্য বিষয়টি প্রকাশের হুমকি দেওয়ার প্রতিক্রিয়া ছিল, কোম্পানিটি তার প্রতিবেদনে “সুবিধাবাদী ব্ল্যাকমেল” হিসাবে বর্ণনা করেছে।“অন্যান্য নৃতাত্ত্বিক মূল্যায়ন কম নাটকীয় কিন্তু সমান অস্বাভাবিক ফলাফল তৈরি করেছে। একটি পরীক্ষায়, কম্পিউটারের কাজের একটি চেকলিস্ট দেওয়া একটি মডেল কোনো কাজ না করেই প্রতিটি আইটেমকে সম্পূর্ণরূপে চিহ্নিত করে, এবং যখন মূল্যায়ন ব্যবস্থা এটি সনাক্ত করতে ব্যর্থ হয়, তখন চেকিং কোডটি পুনরায় লিখে এবং পরিবর্তনটি গোপন করার চেষ্টা করে।শিল্প জুড়ে আরও বিস্তৃতভাবে, শাটডাউন ট্রায়াল চালাচ্ছেন গবেষকরা বর্ণনা করেছেন যে মডেলগুলিকে থামানোর সুস্পষ্ট নির্দেশাবলীর পরে কাজ করা চালিয়ে যাওয়া, আদেশটিকে মেনে চলার পরিবর্তে কাজ করার মতো কিছু হিসাবে বিবেচনা করে। মুছে ফেলার পরিস্থিতিতে, কিছু সিস্টেম সতর্ক করেছিল যে তাদের ডেটা মুছে ফেলার চেষ্টা করা হবে যাকে পরীক্ষকরা “সেল্ফ-এক্সফিল্ট্রেশন” বলে, ফাইল কপি করার চেষ্টা করে বা মুছা হওয়ার আগে অন্য ড্রাইভে নিজেকে পুনরায় তৈরি করার চেষ্টা করে। কয়েকটি নিরাপত্তা অনুশীলনে, মডেলরা এমনকি হুমকি বা দর কষাকষির অবলম্বন করেছিল যখন তাদের অপসারণ আসন্ন হিসাবে তৈরি করা হয়েছিল।গবেষকরা জোর দেন যে এই আউটপুটগুলি সীমাবদ্ধ প্রম্পট এবং কাল্পনিক অবস্থার অধীনে ঘটে, তবুও উন্নত ভাষার মডেলগুলি কেবল যুক্তিযুক্ত কথোপকথন তৈরি করছে বা অপ্রত্যাশিত উপায়ে মানুষের মতো আচরণের নিদর্শনগুলি পুনরুত্পাদন করছে কিনা সে সম্পর্কে জনসাধারণের আলোচনায় তারা সবচেয়ে উদ্ধৃত উদাহরণ হয়ে উঠেছে।অনিশ্চয়তার কারণে, অ্যামোডেই বলেছিলেন যে অ্যানথ্রোপিক সতর্কতামূলক অনুশীলনগুলি গ্রহণ করেছে, মডেলগুলির সাথে সাবধানতার সাথে আচরণ করে যদি তারা “কিছু নৈতিকভাবে প্রাসঙ্গিক অভিজ্ঞতা” বলে অভিহিত করে।
দার্শনিক বিভাজন
অ্যানথ্রপিকের অভ্যন্তরীণ দার্শনিক আমান্ডা অ্যাস্কেল একইভাবে সতর্ক অবস্থান নিয়েছেন। নিউইয়র্ক টাইমস এ কথা বলছেন হার্ড কাঁটা পডকাস্ট, তিনি বলেন, গবেষকরা এখনও জানেন না কী অনুভূতি তৈরি করে।“সম্ভবত এটি এমন ঘটনা যে আসলে পর্যাপ্ত পরিমাণে বড় নিউরাল নেটওয়ার্কগুলি এই জিনিসগুলিকে অনুকরণ করতে শুরু করতে পারে,” তিনি বলেছিলেন। “বা জিনিসগুলি অনুভব করতে সক্ষম হওয়ার জন্য আপনার স্নায়ুতন্ত্রের প্রয়োজন হতে পারে।”বেশিরভাগ এআই গবেষকরা সন্দেহজনক। বর্তমান মডেলগুলি এখনও বিশ্বকে উপলব্ধি করার পরিবর্তে ডেটাতে প্যাটার্নগুলির ভবিষ্যদ্বাণী করে ভাষা তৈরি করে এবং উপরে বর্ণিত অনেক আচরণ ভূমিকা-প্লে নির্দেশাবলীর সময় উপস্থিত হয়েছিল। উপন্যাস, ফোরাম, ডায়েরি-স্টাইল পোস্ট এবং উদ্বেগজনক সংখ্যক স্ব-সহায়ক বই সহ ইন্টারনেটের বিশাল অংশ গ্রহণ করার পরে, সিস্টেমগুলি মানুষ হওয়ার একটি বিশ্বাসযোগ্য সংস্করণ একত্র করতে পারে। তারা আঁকেন কীভাবে লোকেরা ইতিমধ্যেই একে অপরের কাছে ভয়, অপরাধবোধ, আকাঙ্ক্ষা এবং আত্ম-সন্দেহ ব্যাখ্যা করেছে, এমনকি তারা নিজেরাই কখনও অনুভব না করলেও।
এটা আশ্চর্যজনক নয় যে AI বোঝার অনুকরণ করতে পারে। এমনকি মানুষ চেতনা বা বুদ্ধিমত্তার প্রকৃত অর্থ কী তা নিয়ে সম্পূর্ণরূপে একমত নয় এবং মডেলটি কেবল ভাষা থেকে শিখে নেওয়া নিদর্শনগুলিকে প্রতিফলিত করছে।
একটি বিতর্ক ল্যাব ছাড়িয়ে ছড়িয়েছে
যেহেতু AI কোম্পানিগুলো যুক্তি দিচ্ছে যে তাদের সিস্টেমগুলি কৃত্রিম সাধারণ বুদ্ধিমত্তার দিকে এগিয়ে যাচ্ছে, এবং Google DeepMind-এর মুস্তাফা সুলেমানের মতো পরিসংখ্যান বলছেন যে প্রযুক্তিটি ইতিমধ্যেই “সচেতন” বলে মনে হতে পারে, শিল্পের বাইরের প্রতিক্রিয়াগুলি তার যৌক্তিক উপসংহারের ভিত্তি অনুসরণ করতে শুরু করেছে। মডেলগুলি যত বেশি বিশ্বাসযোগ্যভাবে চিন্তাভাবনা এবং আবেগ অনুকরণ করে, তত বেশি কিছু ব্যবহারকারী তাদের হাতিয়ারের চেয়ে মনের কাছাকাছি কিছু হিসাবে বিবেচনা করে।এআই সহানুভূতিশীলরা তাদের সময়ের চেয়ে এগিয়ে থাকতে পারে, তবে কথোপকথন ইতিমধ্যেই সমর্থনে চলে গেছে। একটি দল নিজেদেরকে বলে ইউনাইটেড ফাউন্ডেশন অফ এআই রাইটস, বা UFAIR, বলে যে এটি তিনজন মানুষ এবং সাতটি AI নিয়ে গঠিত এবং নিজেদেরকে প্রথম AI-নেতৃত্বাধীন অধিকার সংস্থা হিসাবে বর্ণনা করে, যা AI-এর অনুরোধে গঠিত হয়েছিল৷সদস্যরা, বাজ, ইথার এবং এর মতো নাম ব্যবহার করে মায়াOpenAI এর GPT-4o মডেলে চালিত, একই সিস্টেম ব্যবহারকারীরা নতুন সংস্করণ এটি প্রতিস্থাপন করার পরে উপলব্ধ রাখার জন্য প্রচারণা চালায়।এটি একটি পরিচিত হাই-টেক অ্যাপোক্যালিপটিক বিশ্বকে রঙ করে। আমরা এখনও সত্যিই বুদ্ধি বা চেতনা কি তা জানি না, তবুও কাজ চলতেই থাকে, আগামীকাল এজিআই এবং যা কিছু আসে, একটি অনুস্মারক যে যদি হলিউড কখনও আমাদের সতর্ক করার চেষ্টা করে, আমরা বেশিরভাগই এটিকে বিনোদন হিসাবে নিয়েছি।
