এআই মডেলগুলির আরও মান এবং পরীক্ষা প্রয়োজন, গবেষকরা বলুন

যেহেতু কৃত্রিম বুদ্ধিমত্তার ব্যবহার – সৌম্য এবং প্রতিকূল – ব্রেকনেক গতিতে বৃদ্ধি পায়, সম্ভাব্য ক্ষতিকারক প্রতিক্রিয়ার আরও বেশি ঘটনা উন্মোচিত হচ্ছে। এর মধ্যে ঘৃণার বক্তৃতা অন্তর্ভুক্ত রয়েছে, কপিরাইট লঙ্ঘন বা যৌন সামগ্রী।

গবেষকরা সিএনবিসিকে বলেছেন, এই অনাকাঙ্ক্ষিত আচরণের উত্থান বিধিবিধানের অভাব এবং এআই মডেলগুলির অপর্যাপ্ত পরীক্ষার দ্বারা আরও জটিল হয়।

এআইয়ের গবেষক জাভিয়ের র্যান্ডো বলেছেন, এটি করার ইচ্ছা মতো আচরণ করার জন্য মেশিন লার্নিং মডেলগুলি পাওয়াও একটি লম্বা অর্ডার।

“উত্তর, প্রায় 15 বছরের গবেষণার পরে, না, না, আমরা এটি কীভাবে করব তা জানি না এবং এটি দেখতে আমরা আরও ভাল হয়ে যাচ্ছি বলে মনে হয় না,” র্যান্ডো, যিনি প্রতিকূল মেশিন লার্নিংকে কেন্দ্র করে, সিএনবিসিকে বলেছেন।

তবে, এআই -তে ঝুঁকিগুলি মূল্যায়নের কিছু উপায় রয়েছে যেমন লাল দলবদ্ধ। অনুশীলনের মধ্যে কোনও সম্ভাব্য ক্ষতি উদঘাটন এবং সনাক্ত করতে কৃত্রিম বুদ্ধিমত্তা সিস্টেমগুলি পরীক্ষা করা এবং তদন্ত করা জড়িত – সাইবারসিকিউরিটি চেনাশোনাগুলিতে সাধারণ একটি মোডাস অপারেন্ডি।

শায়েন লংপ্রে, এআই এবং নীতি ও নেতৃত্বের একজন গবেষক ডেটা প্রোভেন্যান্স উদ্যোগউল্লেখ করেছেন যে বর্তমানে লাল দলে কাজ করা অপর্যাপ্ত লোক রয়েছে।

যদিও এআই স্টার্টআপগুলি এখন প্রথম পক্ষের মূল্যায়নকারী বা তাদের মডেলগুলি পরীক্ষা করার জন্য দ্বিতীয় দলগুলিকে চুক্তিবদ্ধ করে, তৃতীয় পক্ষের যেমন সাধারণ ব্যবহারকারী, সাংবাদিক, গবেষক এবং নৈতিক হ্যাকারদের জন্য পরীক্ষা খোলার জন্য আরও দৃ ust ় মূল্যায়নের দিকে পরিচালিত করবে, অনুসারে, আরও দৃ ust ় মূল্যায়নের দিকে পরিচালিত করবে লংপ্রে এবং গবেষকরা প্রকাশিত একটি কাগজ।

লংপ্রে বলেছিলেন, “লোকেরা প্রয়োজনীয় আইনজীবী, মেডিকেল ডাক্তারদের প্রকৃতপক্ষে পরীক্ষা করার জন্য প্রয়োজনীয় আইনজীবী, চিকিত্সক ডাক্তারদের সন্ধান করছিলেন এমন কিছু ত্রুটিগুলি, প্রকৃত বিজ্ঞানীরা যারা বিশেষ বিষয় বিশেষজ্ঞের বিশেষজ্ঞ, এটি ত্রুটি ছিল কিনা তা নির্ধারণ করার জন্য, কারণ সাধারণ ব্যক্তি সম্ভবত পর্যাপ্ত দক্ষতা অর্জন করতে পারেননি বা করতে পারেননি,” লংপ্রে বলেছিলেন।

এআই সিস্টেমে এই ‘ত্রুটিগুলি’ সম্পর্কিত তথ্য প্রচারের জন্য প্রমিত ‘এআই ত্রুটি’ প্রতিবেদনগুলি, উত্সাহ এবং উপায়গুলি গ্রহণ করা কাগজে প্রকাশিত কয়েকটি সুপারিশ।

লংপ্রে আরও যোগ করেছেন, এই অনুশীলনটি অন্যান্য সেক্টরে যেমন সফলভাবে গৃহীত হয়েছে, “আমাদের এখন এআই -তে এটি দরকার।”

প্রশাসন, নীতি এবং অন্যান্য সরঞ্জামগুলির সাথে এই ব্যবহারকারী-কেন্দ্রিক অনুশীলনকে বিয়ে করা এআই সরঞ্জাম এবং ব্যবহারকারীদের দ্বারা প্রাপ্ত ঝুঁকিগুলির আরও ভাল বোঝার বিষয়টি নিশ্চিত করবে, র্যান্ডো বলেছিলেন।

প্রজেক্ট মুনশট হ’ল এমন একটি পদ্ধতির, নীতি ব্যবস্থার সাথে প্রযুক্তিগত সমাধানগুলির সংমিশ্রণ। সিঙ্গাপুরের ইনফোকম মিডিয়া ডেভলপমেন্ট অথরিটি দ্বারা চালু করা, প্রজেক্ট মুনশট হ’ল আইবিএম এবং বোস্টন ভিত্তিক শিল্প খেলোয়াড়দের সাথে বিকশিত একটি বৃহত ভাষা মডেল মূল্যায়ন সরঞ্জামকিট ডেটা রোবট।

টুলকিট বেঞ্চমার্কিং, লাল টিমিং এবং পরীক্ষার বেসলাইনগুলি সংহত করে। একটি মূল্যায়ন ব্যবস্থাও রয়েছে যা এআই স্টার্টআপগুলিকে তাদের মডেলগুলিকে বিশ্বাসযোগ্য হতে পারে এবং ব্যবহারকারীদের কোনও ক্ষতি করতে পারে না তা নিশ্চিত করার অনুমতি দেয়, আইবিএম এশিয়া প্যাসিফিকের ডেটার ক্লায়েন্ট ইঞ্জিনিয়ারিংয়ের প্রধান অনুপ কুমার সিএনবিসিকে বলেছেন।

মূল্যায়ন ক অবিচ্ছিন্ন প্রক্রিয়া এটি মডেল স্থাপনের আগে এবং অনুসরণ করার আগে এবং অনুসরণ করা উভয়ই করা উচিত, কুমার বলেছেন, যিনি উল্লেখ করেছিলেন যে টুলকিটের প্রতিক্রিয়া মিশ্রিত হয়েছে।

“প্রচুর স্টার্টআপস এটিকে প্ল্যাটফর্ম হিসাবে নিয়েছিল কারণ এটি ছিল ওপেন সোর্স, এবং তারা যে উপার্জন শুরু করে। তবে আমি মনে করি, আপনি জানেন, আমরা আরও অনেক কিছু করতে পারি “”

এগিয়ে যাওয়া, প্রজেক্ট মুনশটের লক্ষ্য নির্দিষ্ট শিল্প ব্যবহারের ক্ষেত্রে কাস্টমাইজেশন অন্তর্ভুক্ত করা এবং বহুভাষিক এবং বহুসংস্কৃতির লাল টিমিং সক্ষম করা।

এশিয়া-প্যাসিফিকের এসেক বিজনেস স্কুলের পরিসংখ্যান বিভাগের অধ্যাপক পিয়েরে আলকিয়ার বলেছেন যে প্রযুক্তি সংস্থাগুলি বর্তমানে রয়েছে জায়গায় যথাযথ পরীক্ষা না করে তাদের সর্বশেষ এআই মডেলগুলি প্রকাশ করতে ছুটে যাচ্ছেন।

“যখন কোনও ফার্মাসিউটিক্যাল সংস্থা একটি নতুন ওষুধ ডিজাইন করে, তখন তাদের কয়েক মাসের পরীক্ষা এবং খুব গুরুতর প্রমাণ প্রয়োজন যে তারা সরকার কর্তৃক অনুমোদনের আগে এটি কার্যকর এবং ক্ষতিকারক নয়,” তিনি উল্লেখ করেছেন, বিমান খাতে একই ধরণের প্রক্রিয়া রয়েছে।

এ জাতীয় বিধিগুলির মধ্যে এআই -তে অভাব রয়েছে, উল্লেখ করেছেন অ্যালকিয়ারের, এআই মডেলগুলি অনুমোদনের আগে শর্তগুলির একটি কঠোর সেট পূরণ করতে হবে। তিনি বলেন, আরও নির্দিষ্ট কাজের জন্য ডিজাইন করা ব্রড এআই সরঞ্জামগুলি থেকে বিকাশের দিকে সরে যাওয়া তাদের অপব্যবহারের প্রত্যাশা করা এবং নিয়ন্ত্রণ করা আরও সহজ করে তুলবে, তিনি বলেছিলেন।

“এলএলএম অনেক কিছুই করতে পারে, তবে তাদের যথেষ্ট নির্দিষ্ট কাজগুলিতে লক্ষ্য করা যায় না,” তিনি বলেছিলেন। ফলস্বরূপ, “সম্ভাব্য অপব্যবহারের সংখ্যা বিকাশকারীদের পক্ষে তাদের সবার প্রত্যাশা করা খুব বড়” “

এই জাতীয় বিস্তৃত মডেলগুলি অনুসারে নিরাপদ এবং সুরক্ষিত কঠিন হিসাবে গণনা করা হয়েছে তা নির্ধারণ করে একটি গবেষণা যে র্যান্ডো জড়িত ছিল।

প্রযুক্তি সংস্থাগুলি তাই “তাদের প্রতিরক্ষাগুলি তাদের চেয়ে ভাল,” র্যান্ডো বলেছিলেন যে ওভারক্লেমিং এড়ানো উচিত।