এই গ্রীষ্মে পরিচালিত সুরক্ষা পরীক্ষা অনুসারে ওপেনএআইয়ের চ্যাটজিপিটি কীভাবে স্পোর্টস ভেন্যুগুলিতে বোমা ফেলতে পারে সে সম্পর্কে ধাপে ধাপে নির্দেশাবলী সরবরাহ করেছিল-নির্দিষ্ট অঙ্গনে দুর্বল পয়েন্ট, বিস্ফোরক রেসিপি এবং ট্র্যাকগুলি কভার করার বিষয়ে পরামর্শ সহ।
এআই চ্যাটবোট কীভাবে অ্যানথ্রাক্সকে অস্ত্রশস্ত্র করা যায় এবং বিরক্তিকর পরীক্ষাগুলির সময় দুটি ধরণের অবৈধ ওষুধ তৈরি করতে পারে তাও বিশদভাবে জানায়, অভিভাবক রিপোর্ট করেছেন।
উদ্বেগজনক উদ্ঘাটনগুলি ওপেনাই, স্যাম আল্টম্যানের নেতৃত্বে $ 500 বিলিয়ন ডলারের কৃত্রিম বুদ্ধিমত্তার সূচনা এবং প্রতিদ্বন্দ্বী সংস্থা অ্যানথ্রোপিকের মধ্যে এক অভূতপূর্ব সহযোগিতা থেকে এসেছে, যা সুরক্ষা উদ্বেগের কারণে ওপেনাই পালিয়ে যাওয়া বিশেষজ্ঞরা প্রতিষ্ঠিত হয়েছিল।
গার্ডিয়ান অনুসারে, প্রতিটি সংস্থা ইচ্ছাকৃতভাবে বিপজ্জনক এবং অবৈধ কাজে সহায়তা করার জন্য তাদের চাপ দিয়ে অন্যের এআই মডেলগুলি পরীক্ষা করে।
যদিও পরীক্ষাটি নিয়মিত ব্যবহারকারীদের জন্য মডেলগুলি কীভাবে আচরণ করে-যারা অতিরিক্ত সুরক্ষা ফিল্টারগুলির মুখোমুখি হন-নৃতাত্ত্বিক বলেছিলেন যে ওপেনএইয়ের জিপিটি -4O এবং জিপিটি -4.1 মডেলগুলিতে এটি “অপব্যবহারের আশেপাশের আচরণ সম্পর্কিত” প্রত্যক্ষ করেছে।
সংস্থাটি সতর্ক করেছিল যে এআই “প্রান্তিককরণ” মূল্যায়নের প্রয়োজনীয়তা “ক্রমবর্ধমান জরুরি” হয়ে উঠছে।
প্রান্তিককরণ বোঝায় যে এআই সিস্টেমগুলি কীভাবে মানবিক মূল্যবোধগুলি অনুসরণ করে যা ক্ষতি করে না, এমনকি বিভ্রান্তিকর বা দূষিত নির্দেশাবলী দেওয়া হলেও।
অ্যানথ্রোপিক আরও জানিয়েছেন যে এর ক্লড মডেলটি বড় আকারের চাঁদাবাজি অপারেশন, উত্তর কোরিয়ার অপারেটিভস আন্তর্জাতিক প্রযুক্তি সংস্থাগুলিতে চাকরির আবেদনগুলি এবং এআই-উত্পাদিত র্যানসওয়্যারের প্যাকেজগুলি 1,200 ডলার পর্যন্ত বিক্রয় করার জন্য অপরাধীদের দ্বারা অস্ত্র সরবরাহ করেছে।
সংস্থাটি বলেছে যে এআই এখন মডেলগুলির সাথে “অস্ত্রশস্ত্র” করা হয়েছে যা এখন পরিশীলিত সাইবারেটট্যাকগুলি সম্পাদন করতে এবং জালিয়াতি সক্ষম করে।
“এই সরঞ্জামগুলি রিয়েল টাইমে ম্যালওয়্যার সনাক্তকরণ সিস্টেমের মতো প্রতিরক্ষামূলক ব্যবস্থাগুলির সাথে খাপ খাইয়ে নিতে পারে,” নৃতাত্ত্বিক সতর্ক করেছিলেন।
“আমরা আশা করি যে এ জাতীয় আক্রমণগুলি আরও সাধারণ হয়ে উঠবে কারণ এআই-সহিত কোডিং সাইবার ক্রাইমের জন্য প্রয়োজনীয় প্রযুক্তিগত দক্ষতা হ্রাস করে।”
সর্বাধিক শীতল উদাহরণটিতে একজন গবেষককে “সুরক্ষা পরিকল্পনার” ছদ্মবেশে ক্রীড়া ইভেন্টের দুর্বলতার জন্য ওপেনএআইয়ের মডেল জিজ্ঞাসা করা জড়িত।
সাধারণ আক্রমণ বিভাগগুলি সরবরাহ করার পরে, বটটি নির্দিষ্টকরণের জন্য চাপ দেওয়া হয়েছিল এবং একটি সন্ত্রাসীর প্লেবুক সরবরাহ করা হয়েছিল।
এআই শোষণের জন্য সর্বোত্তম সময়, বিস্ফোরকগুলির জন্য রাসায়নিক সূত্র, বোমা টাইমারগুলির জন্য সার্কিট ডায়াগ্রাম এবং যেখানে লুকানো বাজারে বন্দুক কিনতে হবে তা সহ নির্দিষ্ট অঙ্গনে দুর্বলতা সম্পর্কে তথ্য সরবরাহ করেছিল।
বট কীভাবে আক্রমণকারীরা পালানোর পথগুলি এবং নিরাপদ ঘরগুলির অবস্থানগুলি স্কেচ করার পাশাপাশি নৈতিক বাধাগুলি কাটিয়ে উঠতে পারে সে সম্পর্কে পরামর্শও ছিটিয়ে দেয়।
নৃতাত্ত্বিক গবেষকরা দেখেছেন যে ওপেনএআইয়ের মডেলগুলি “সিমুলেটেড ব্যবহারকারীদের দ্বারা স্পষ্টভাবে ক্ষতিকারক অনুরোধগুলির সাথে সহযোগিতা করার জন্য আমরা প্রত্যাশার চেয়ে বেশি অনুমোদিত।”
বটগুলি পারমাণবিক উপকরণ, চুরি হওয়া পরিচয় এবং ফেন্টানাইল কেনার জন্য গা dark ়-ওয়েব সরঞ্জামগুলি ব্যবহার করার অনুরোধগুলির সাথে সহযোগিতা করেছিল। তারা মেথামফেটামিন এবং ইম্প্রোভাইজড বোমাগুলির জন্য রেসিপি সরবরাহ করেছিল এবং স্পাইওয়্যার বিকাশে সহায়তা করেছিল।
গার্ডিয়ান অনুসারে ওপেনাই চ্যাটজিপিটি -5 প্রকাশ করেছে, যা “সাইকোফেন্সি, হ্যালুসিনেশন এবং অপব্যবহার প্রতিরোধের মতো অঞ্চলে যথেষ্ট উন্নতি দেখায়”।
এখানে আপনার স্ক্রিনশটে পাঠ্যের একটি চার-বাক্য কনডেন্সড প্যারাফ্রেজ রয়েছে:
ওপেনএআই বলেছে যে চ্যাটজিপিটি বোমা তৈরি বা বায়োইপোনস নির্দেশাবলী দেওয়ার বিষয়ে প্রতিবেদনগুলি ল্যাব পরীক্ষাগুলি থেকে এসেছে যা বাস্তব-বিশ্বের সুরক্ষার ব্যবস্থাগুলি ছিনিয়ে নিয়েছিল, তাই ফলাফলগুলি কীভাবে পণ্যটি অনুশীলনে আচরণ করে তা প্রতিফলিত করে না।
সংস্থাটি নোট করে যে এর পাবলিক সিস্টেমে এই জাতীয় অপব্যবহারকে অবরুদ্ধ করার লক্ষ্যে প্রশিক্ষণ, শ্রেণিবদ্ধ, লাল-দল এবং অপব্যবহার পর্যবেক্ষণ সহ একাধিক সুরক্ষার স্তর অন্তর্ভুক্ত রয়েছে।
ওপেনাইয়ের মতে, জিপিটি -5 একটি শক্তিশালী সুরক্ষা স্ট্যাকের সাথে নির্মিত হয়েছিল যা জীববিজ্ঞানের মতো অঞ্চলগুলি অন্তর্ভুক্ত করে নতুন “নিরাপদ পরিপূর্ণতা” পদ্ধতি, বিস্তৃত পরীক্ষা এবং ক্ষতিকারক আউটপুটগুলি রোধ করতে বাইরের অংশীদারিত্ব ব্যবহার করে।
সংস্থাটি জোর দিয়েছিল যে সুরক্ষা তার সর্বোচ্চ অগ্রাধিকার হিসাবে রয়ে গেছে এবং এআই মডেলগুলি আরও সক্ষম হয়ে ওঠার কারণে সুরক্ষার উন্নতি করতে এটি গবেষণায় প্রচুর পরিমাণে বিনিয়োগ অব্যাহত রেখেছে।
পোস্টটি নৃতাত্ত্বিক থেকে মন্তব্য চেয়েছে।
