ওপেনএআই খারাপ অভিনেতাদের আগে এআই এজেন্টদের স্ট্রেস-পরীক্ষা করার জন্য প্রম্পটফুকে অধিগ্রহণ করে
ওপেনএআই সান ফ্রান্সিসকো-ভিত্তিক এআই সুরক্ষা স্টার্টআপ প্রম্পটফুকে অধিগ্রহণ করছে, এটি এমন একটি পদক্ষেপে যা ইঙ্গিত দেয় যে সংস্থাটি এন্টারপ্রাইজের বিশ্বাসকে কতটা গুরুত্ব সহকারে নিচ্ছে কারণ এটি এজেন্টিক এআই-এর গভীরে ঠেলে দিচ্ছে৷ চুক্তিটি Promptfoo-এর রেড-টিমিং এবং দুর্বলতা-পরীক্ষা প্রযুক্তি সরাসরি OpenAI Frontier-এ নিয়ে আসে- কর্পোরেট পরিবেশে AI এজেন্টদের মোতায়েন করার জন্য এটির প্ল্যাটফর্ম। শর্তাবলী প্রকাশ করা হয়নি.অধিগ্রহণ একটি নতুন পণ্য যোগ করার বিষয়ে কম এবং একটি কাঠামোগত ব্যবধান ঠিক করার বিষয়ে বেশি। ফ্রন্টিয়ার এআই এজেন্টের ধারণার চারপাশে তৈরি করা হয়েছে—স্বায়ত্তশাসিত সফ্টওয়্যার যা ব্যবহারকারীর পক্ষে ব্রাউজ, লিখতে, কোড চালাতে এবং ডেটা পরিচালনা করতে পারে। এটি উদ্যোগের জন্য একটি বাধ্যতামূলক পিচ। এটি একটি উল্লেখযোগ্য নিরাপত্তা ঝুঁকিও, এবং এখন পর্যন্ত, OpenAI এর কাছে এটি মোকাবেলা করার জন্য শক্তিশালী নেটিভ টুলিং ছিল না।
Promptfoo OpenAI কে এন্টারপ্রাইজ স্কেলে এজেন্টদের পরীক্ষা, রেড-টিম এবং মনিটর করার ক্ষমতা দেয়
প্রম্পটফু, ইয়ান ওয়েবস্টার এবং মাইকেল ডি’অ্যাঞ্জেলো দ্বারা 2024 সালে প্রতিষ্ঠিত, এমন সরঞ্জামগুলি তৈরি করে যা কোম্পানিগুলিকে তাদের নিজস্ব AI সিস্টেমগুলিকে দুর্বলতাগুলি খুঁজে বের করার জন্য পদ্ধতিগতভাবে আক্রমণ করতে দেয় — প্রম্পট ইনজেকশন, জেলব্রেক, ডেটা ফাঁস, টুলের অপব্যবহার — খারাপ অভিনেতাদের আগে। Fortune 500 কোম্পানির 25% এরও বেশি ইতিমধ্যেই এর পণ্য ব্যবহার করছে। একবার ফ্রন্টিয়ারে একীভূত হয়ে গেলে, এই ক্ষমতাগুলি নিজেই প্ল্যাটফর্মের অংশ হয়ে ওঠে: স্বয়ংক্রিয় নিরাপত্তা পরীক্ষা, সম্মতি প্রতিবেদন এবং ঝুঁকি নিরীক্ষণ পরবর্তীতে বোল্ট করার পরিবর্তে উন্নয়ন কর্মপ্রবাহে বেক করা হয়।
OpenAI-এর জন্য, এন্টারপ্রাইজের বিশ্বাসযোগ্যতা এখন ক্ষমতার মতো নিরাপত্তার ওপর নির্ভর করে
টাইমিং গুরুত্বপূর্ণ। ওপেনএআই বড় এন্টারপ্রাইজ গ্রাহকদের স্বাক্ষর করার জন্য একটি আক্রমনাত্মক ধাক্কায় রয়েছে, এবং সেই গ্রাহকদের কর্মক্ষমতা বেঞ্চমার্কের চেয়ে বেশি প্রয়োজন-তাদের অডিট ট্রেল, গভর্নেন্স নিয়ন্ত্রণ এবং তাদের এআই এজেন্টদের ম্যানিপুলেট বা অপব্যবহার করা হবে না এমন নিশ্চয়তা প্রয়োজন। প্রম্পটফু সরাসরি সেই চেকলিস্টকে সম্বোধন করে।অ্যানথ্রোপিক গত সপ্তাহে একটি তুলনামূলক দুর্বলতা-স্ক্যানিং টুল চালু করেছে, যে এজেন্টিক নিরাপত্তা দ্রুত একটি প্রতিযোগিতামূলক যুদ্ধক্ষেত্রে পরিণত হয়েছে-কেবলমাত্র প্রযুক্তিগত চিন্তাভাবনা নয়।
