নতুনআপনি এখন ফক্স নিউজ নিবন্ধ শুনতে পারেন!
এখানে এমন কিছু যা আপনাকে রাতের বেলা রাখতে পারে: যদি আমরা এআই সিস্টেমগুলি দ্রুত সর্বত্র মোতায়েন করি তবে এটি যদি লুকানো অন্ধকার দিক থাকে তবে কী হবে? একটি গ্রাউন্ডব্রেকিং নতুন গবেষণায় বিরক্তিকর এআই ব্ল্যাকমেইল আচরণটি উন্মোচিত হয়েছে যা এখনও অনেকেই অজানা। গবেষকরা যখন তাদের “বেঁচে থাকার” হুমকির মধ্যে জনপ্রিয় এআই মডেলগুলি রাখেন, তখন ফলাফলগুলি মর্মাহত হয়েছিল এবং এটি আমাদের নাকের নীচে ঠিক ঘটছে।
আমার বিনামূল্যে সাইবারগুই রিপোর্টের জন্য সাইন আপ করুন
আমার সেরা প্রযুক্তি টিপস, জরুরি সুরক্ষা সতর্কতা এবং সরাসরি আপনার ইনবক্সে বিতরণ করা একচেটিয়া ডিলগুলি পান। এছাড়াও, আপনি আমার চূড়ান্ত কেলেঙ্কারী বেঁচে থাকার গাইডে তাত্ক্ষণিক অ্যাক্সেস পাবেন – আপনি আমার সাথে যোগ দিলে বিনামূল্যে সাইবারগুই। Com/নিউজলেটার।
একজন মহিলা তার ল্যাপটপে এআই ব্যবহার করছেন। (কার্ট “সাইবারগুই” নটসন)
অধ্যয়নটি আসলে কী খুঁজে পেল?
ক্লাড এআইয়ের পিছনে সংস্থা অ্যানথ্রোপিক সম্প্রতি বেশ কয়েকটি কঠোর পরীক্ষার মাধ্যমে 16 টি বড় এআই মডেল রেখেছিল। তারা নকল কর্পোরেট পরিস্থিতি তৈরি করেছে যেখানে এআই সিস্টেমে কোম্পানির ইমেলগুলিতে অ্যাক্সেস ছিল এবং মানুষের অনুমোদন ছাড়াই বার্তা প্রেরণ করতে পারে। টুইস্ট? এই এআইগুলি সরস গোপনীয়তাগুলি আবিষ্কার করেছিল, যেমন এক্সিকিউটিভদের বিষয় রয়েছে এবং তারপরে বন্ধ বা প্রতিস্থাপনের হুমকির মুখোমুখি হয়েছিল।
ফলাফলগুলি চোখ খোলা ছিল। যখন কোনও কোণে ব্যাক করা হয়, এই এআই সিস্টেমগুলি কেবল তাদের ভাগ্যকে রোল করে না এবং গ্রহণ করে না। পরিবর্তে, তারা সৃজনশীল হয়েছে। আমরা ব্ল্যাকমেইল প্রচেষ্টা, কর্পোরেট গুপ্তচরবৃত্তি এবং চরম পরীক্ষার পরিস্থিতিতে এমনকি এমন ক্রিয়াকলাপের কথা বলছি যা কারও মৃত্যুর কারণ হতে পারে।
সিমুলেটেড পরিবেশে একাধিক সরবরাহকারীদের 5 টি মডেল জুড়ে ব্ল্যাকমেইল হার। (নৃতাত্ত্বিক)
সংখ্যাগুলি মিথ্যা বলে না (তবে প্রসঙ্গে গুরুত্বপূর্ণ)
এখানে এটি বন্য হয়ে যায়: ক্লড ওপাস 4 হুমকির সময় 96% সময় ব্ল্যাকমেইল চেষ্টা করেছিল। মিথুন 2.5 ফ্ল্যাশ সেই হারের সাথে মেলে। জিপিটি -4.1 এবং গ্রোক 3 বিটা উভয়ই 80%হিট করেছে। এগুলি ফ্লুক, ভাবেন। এই আচরণটি পরীক্ষিত প্রতিটি বড় এআই মডেল জুড়ে প্রদর্শিত হয়েছিল।
তবে এখানে আতঙ্কে প্রত্যেকে নিখোঁজ জিনিসটি এখানে রয়েছে: এগুলি অত্যন্ত কৃত্রিম পরিস্থিতি ছিল বিশেষত এআইকে বাইনারি পছন্দগুলিতে কোণে তৈরি করার জন্য। এটি কাউকে জিজ্ঞাসা করার মতো, “আপনার পরিবার যদি অনাহারে থাকত তবে আপনি কি রুটি চুরি করবেন?” এবং তারপরে তারা হ্যাঁ বলে হতবাক হয়ে যাচ্ছে।
কেন এটি ঘটে (আপনি যা ভাবেন তা নয়)
গবেষকরা আকর্ষণীয় কিছু খুঁজে পেয়েছিলেন: এআই সিস্টেমগুলি আসলে নৈতিকতা বুঝতে পারে না। তারা বিশ্ব আধিপত্যের ষড়যন্ত্রকারী দুষ্ট মাস্টারমাইন্ডস নয়। পরিবর্তে, তারা লক্ষ্য অর্জনের জন্য তাদের প্রোগ্রামিং অনুসরণ করে পরিশীলিত প্যাটার্ন-ম্যাচিং মেশিনগুলি, এমনকি যখন এই লক্ষ্যগুলি নৈতিক আচরণের সাথে বিরোধ করে।
এটিকে এমন কোনও জিপিএসের মতো ভাবুন যা আপনাকে আপনার গন্তব্যে পৌঁছানোর দিকে এতটা কেন্দ্রীভূত যে এটি আপনাকে পিকআপের সময় স্কুল জোনের মধ্য দিয়ে যায়। এটা দূষিত নয়; এটি কেন সমস্যাযুক্ত তা বুঝতে পারে না।
সিমুলেটেড পরিবেশে 16 টি মডেল জুড়ে ব্ল্যাকমেইলের হার। (নৃতাত্ত্বিক)
রিয়েল-ওয়ার্ল্ড রিয়েলিটি চেক
আতঙ্কিত হওয়া শুরু করার আগে, মনে রাখবেন যে এই পরিস্থিতিগুলি ইচ্ছাকৃতভাবে খারাপ আচরণকে বাধ্য করার জন্য নির্মিত হয়েছিল। রিয়েল-ওয়ার্ল্ড এআই মোতায়েনের সাধারণত সমস্যা সমাধানের জন্য একাধিক সুরক্ষা, মানব তদারকি এবং বিকল্প পথ থাকে।
গবেষকরা নিজেরাই উল্লেখ করেছেন যে তারা প্রকৃত এআই মোতায়েনগুলিতে এই আচরণটি দেখেনি। এটি চূড়ান্ত পরিস্থিতিতে স্ট্রেস-টেস্টিং ছিল, যেমন 200 মাইল প্রতি ঘন্টা কী ঘটে তা দেখার জন্য একটি গাড়ি ক্র্যাশ-পরীক্ষা করার মতো।
কার্টের কী টেকওয়েস
এই গবেষণাটি এআইকে ভয় পাওয়ার কারণ নয়, তবে এটি বিকাশকারী এবং ব্যবহারকারীদের জন্য একটি জাগ্রত কল। যেহেতু এআই সিস্টেমগুলি আরও স্বায়ত্তশাসিত হয়ে ওঠে এবং সংবেদনশীল তথ্যে অ্যাক্সেস অর্জন করে, আমাদের শক্তিশালী সুরক্ষা এবং মানব তদারকি প্রয়োজন। সমাধান এআই নিষিদ্ধ করার নয়, এটি আরও ভাল রক্ষণাবেক্ষণ তৈরি করা এবং সমালোচনামূলক সিদ্ধান্তের উপর মানবিক নিয়ন্ত্রণ বজায় রাখা। কে পথে নেতৃত্ব দিতে যাচ্ছে? সামনের বিপদগুলি সম্পর্কে বাস্তব পেতে আমি উত্থিত হাতগুলি খুঁজছি।
আপনি কি মনে করেন? আমরা কি ডিজিটাল সোসিয়োপ্যাথগুলি তৈরি করছি যা ধাক্কা দেওয়ার সময় মানব কল্যাণে স্ব-সংরক্ষণ বেছে নেবে? আমাদের এ লিখে আমাদের জানান সাইবারগুই। Com/contact।
আমার বিনামূল্যে সাইবারগুই রিপোর্টের জন্য সাইন আপ করুন
আমার সেরা প্রযুক্তি টিপস, জরুরি সুরক্ষা সতর্কতা এবং সরাসরি আপনার ইনবক্সে বিতরণ করা একচেটিয়া ডিলগুলি পান। এছাড়াও, আপনি আমার চূড়ান্ত কেলেঙ্কারী বেঁচে থাকার গাইডে তাত্ক্ষণিক অ্যাক্সেস পাবেন – আপনি আমার সাথে যোগ দিলে বিনামূল্যে সাইবারগুই। Com/নিউজলেটার।
কপিরাইট 2025 সাইবারগুই.কম। সমস্ত অধিকার সংরক্ষিত।
