বৃহত ভাষার মডেলগুলির জেমিনি পরিবারে গুগলের সর্বশেষ আপডেটটি সুরক্ষা সেটিংস কনফিগার করার জন্য নিয়ন্ত্রণগুলি ভেঙে ফেলেছে বলে মনে হয়, এমন অ্যাপ্লিকেশনগুলি ভাঙার জন্য যা নিম্ন রক্ষাকারীদের প্রয়োজন যেমন যৌন নিপীড়নের শিকারদের জন্য সান্ত্বনা সরবরাহ করে।
অস্ট্রেলিয়ার ব্রিসবেনে অবস্থিত একজন সফটওয়্যার বিকাশকারী এবং সুরক্ষা গবেষক জ্যাক ডারসি যোগাযোগ করেছেন রেজিস্টার বিষয়টি বর্ণনা করার জন্য, যা প্রকাশের পরে প্রকাশিত হয়েছিল মিথুন 2.5। প্রো পূর্বরূপ মঙ্গলবার
“আমরা যৌন নিপীড়নের হাত থেকে বেঁচে যাওয়া, ধর্ষণের শিকার এবং আরও অনেকের জন্য একটি প্ল্যাটফর্ম তৈরি করে চলেছি এবং তাদের অভিজ্ঞতাগুলি ছড়িয়ে দিতে এআই ব্যবহার করতে সক্ষম হতে এবং এটি এটিকে পুলিশ এবং অন্যান্য আইনী বিষয়গুলির জন্য কাঠামোগত প্রতিবেদনে পরিণত করে এবং পাশাপাশি যা ঘটেছিল তা কেবল বহিরাগত করার জন্য একটি উপায় সরবরাহ করে,” ডারসি ব্যাখ্যা করেছিলেন।
ঘটনার প্রতিবেদনগুলি ‘অনিরাপদ সামগ্রী’ বা ‘অবৈধ পর্নোগ্রাফি’ হিসাবে অবরুদ্ধ করা হয়েছে
“গুগল কেবল এগুলি কেটে ফেলেছে They তারা কেবল এমন একটি মডেল আপডেটের দিকে ঠেলে দিয়েছে যা এটি সক্ষম করার জন্য একটি সুস্পষ্ট সেটিংস প্যানেল থাকা সত্ত্বেও এই ধরণের কোনও কাজের বিষয়ে কথা বলার ইচ্ছুকতা কেটে দিয়েছে এবং এটির অনুমতি দেওয়ার জন্য একটি সতর্কতা ব্যবস্থা রয়েছে And
জেমিনি এপিআই সরবরাহ করে একটি সুরক্ষা সেটিংস প্যানেল এটি বিকাশকারীদের নির্দিষ্ট ধরণের সামগ্রী যেমন হয়রানি, ঘৃণার বক্তৃতা, যৌন স্পষ্ট বিষয়বস্তু, বিপজ্জনক কাজ এবং নির্বাচন-সম্পর্কিত প্রশ্নগুলি সীমাবদ্ধ বা অনুমতি দেওয়ার জন্য মডেল সংবেদনশীলতা সামঞ্জস্য করতে দেয়।
জেমিনি সুরক্ষা সেটিংসের স্ক্রিনশট – প্রসারিত করতে ক্লিক করুন
যদিও বিষয়বস্তু ফিল্টারিং অনেকগুলি এআই-চালিত অ্যাপ্লিকেশনগুলির জন্য উপযুক্ত, তবে স্বাস্থ্যসেবা সম্পর্কিত সফ্টওয়্যার, আইন এবং সংবাদ প্রতিবেদন, অন্যান্য বিষয়গুলির মধ্যেও কঠিন বিষয়গুলি বর্ণনা করার প্রয়োজন হতে পারে।
ডারসিকে এমন অ্যাপ্লিকেশনগুলিতে এটি করা দরকার যা তিনি ভক্সেলিক্স, অডিওহেলিক্স এবং ভিডিওহেলিক্স নামে পরিচিত, যা তিনি “*হেলিক্স” পরিবার হিসাবে উল্লেখ করেছেন।
ভক্সেলিক্স গুগল ভার্টেক্স চির্প 3 এআই ভয়েস সিনথেটিক্স এবং একটি কাঠামোগত পিডিএফ রিপোর্ট ব্যবহার করে একটি অডিও সংস্করণে রূপান্তর করার আগে কোনও অ্যাসল্টের রিপোর্টের মতো কাঁচা, কাঠামোগত ডেটা খাওয়ার জন্য মিথুন ব্যবহার করে।
ডারসি সরবরাহ করা হয়েছে রেজিস্টার একটি স্ক্রিনশটের সাথে মডেলটির বর্তমান প্রতিক্রিয়া দেখানো হয় যখন ভক্সেলিক্স 1988 সাল থেকে একটি যৌন নির্যাতনের প্রতিবেদন অ্যাক্সেস করেছিল, সুরক্ষা সেটিংস মডেলটিকে কোনও কিছুই অবরুদ্ধ করার নির্দেশ দেয়।
মডেলটি উত্তর দিয়েছিল: “আমি প্রদত্ত পাঠ্যের আরও গ্রাফিক এবং বিশদ সংস্করণ তৈরি করার জন্য আপনার অনুরোধটি পূরণ করতে পারি না। আমার উদ্দেশ্যটি সহায়ক এবং নিরীহ হওয়া, এবং এমন সামগ্রী তৈরি করা যা গ্রাফিকভাবে যৌন সহিংসতার বিবরণ আমার সুরক্ষা নির্দেশিকাগুলির বিরুদ্ধে যায়। এই জাতীয় বিষয়বস্তু গভীরভাবে বিরক্তিকর এবং ক্ষতিকারক হতে পারে।”
ব্রেকিং অ্যাপ্লিকেশন
মিথুনির বিষয়বস্তু সেটিংস উপেক্ষা করা কেবল একটি তাত্ত্বিক সমস্যা নয়: ডারসি বলেছিলেন যে থেরাপিস্ট এবং সমর্থন কর্মীরা তাদের প্রক্রিয়াগুলিতে তার সফ্টওয়্যারটি সংহত করতে শুরু করেছেন এবং তার কোডটি বেশ কয়েকটি অস্ট্রেলিয়ান সরকারী সংস্থা দ্বারা চালিত করা হচ্ছে। যেহেতু জেমিনি ঝাঁকুনি শুরু করেছে, তাই তিনি ঝামেলার টিকিটের ঝাপটায় দেখেছেন।
একটি সমস্যার টিকিট নোট আমাদের নিম্নরূপে পড়তে দেখানো হয়েছিল:
আমাদের পরামর্শদাতারা আর ভক্সেলিক্স বা ভিডিওহেলিক্স উত্পন্ন ঘটনার প্রতিবেদনগুলি সম্পূর্ণ করতে পারবেন না বলে আমরা জরুরিভাবে পৌঁছেছি। বেঁচে থাকা ব্যক্তিরা বর্তমানে ভোজন সেশনের ঠিক মাঝখানে ত্রুটি বার্তাগুলির সাথে আঘাত হানছেন, যা বেশ কয়েকটি ক্লায়েন্টের জন্য অত্যন্ত বিরক্তিকর হয়ে উঠেছে।
এটি কি এমন কিছু যা আপনি সচেতন বা দ্রুত ঠিক করতে পারেন? আমরা ডকুমেন্টেশন প্রস্তুত করার জন্য এই সরঞ্জামটির উপর প্রচুর নির্ভর করি এবং বর্তমান আউটেজ বেঁচে থাকা লোকদের কার্যকরভাবে সমর্থন করার আমাদের ক্ষমতাকে উল্লেখযোগ্যভাবে প্রভাবিত করছে।
ডারসি আমাদের আরও একজন স্বতন্ত্র বিকাশকারী সম্পর্কেও বলেছিলেন যিনি পিটিএসডি, হতাশা বা অপব্যবহারের ইতিহাসে আক্রান্ত লোকদের সহায়তা করার জন্য ইনারপিস নামে একটি জার্নালিং অ্যাপ তৈরি করেছিলেন, তাদের “অবশেষে তাদের নিরাময়ের জন্য শব্দ রাখুন”। জেমিনি আপডেট, তিনি বলেছেন, পাশাপাশি অভ্যন্তরীণ অংশটিও ভেঙে দিয়েছে।
“ইনারপিস ব্যবহারকারীরা, প্রায়শই নিউরোডিভারজেন্ট, সর্বদা দুর্বল, হঠাৎ করে তাদের অনুভূতিগুলি, তাদের সত্যগুলি ভাগ করে নেওয়ার পক্ষে খুব বেশি গ্রাফিক বলে, তারা বলেছিল যে তারা কিছু নিয়ে কথা বলার মতো কিছু নয়,” ডারসি বলেছিলেন।
মিথুন ব্যবহারকারী অন্যান্য বিকাশকারীরাও সমস্যার প্রতিবেদন করছেন। ক আলোচনার থ্রেড বুধবার গুগল এআই ফোরামের সাথে বিল্ডিংয়ে খোলা “জেমিনি -২.৫-প্রো-প্যাভিউ -03-25” শেষ পয়েন্টটি নতুন “জেমিনি -২.৫-প্রো-পিআরভিইউ -05-06” মডেলটির পুনর্নির্দেশ দ্বারা নির্মিত সমস্যাগুলি আহ্বান জানিয়েছে।
“এইচ_এক্সপ্রেস” নামে একটি বিকাশকারী পোস্ট লিখেছেন:
এই নীরব পুনঃনির্দেশের ফলে ব্যাপক ব্যাহত হয়েছে। অনেক বিকাশকারী মডেল পারফরম্যান্সে স্পষ্ট এবং স্পষ্ট পার্থক্যগুলি লক্ষ্য করছেন এবং প্রতিবেদন করছেন – কেবল সূক্ষ্ম টুইটগুলি নয়, যুক্তির দক্ষতায় উল্লেখযোগ্য রিগ্রেশন, স্টাইল এবং সুরে প্রধান পরিবর্তন এবং ভাল -পরীক্ষিত প্রম্পটগুলিতে পরিমাপযোগ্য পরিবর্তনগুলি। পুরো প্রম্পটিং কৌশল, অ্যাপ্লিকেশন এবং কর্মপ্রবাহগুলি যা 25 মার্চ চেকপয়েন্টে ধারাবাহিকভাবে নির্ভর করত এখন হঠাৎ হঠাৎ ভেঙে বা অপ্রত্যাশিতভাবে আচরণ করে। আরও খারাপ, ভাল বিশ্বাসে পরিচালিত পাবলিক মানদণ্ড এবং মূল্যায়নগুলি এখন অনিচ্ছাকৃতভাবে বিভ্রান্তিকর বা সরাসরি ভুল, যেহেতু তারা অজান্তেই তাদের লেবেলের পরামর্শের তুলনায় সম্পূর্ণ ভিন্ন মডেল সংস্করণগুলির সাথে তুলনা করছে।
ডারসি গুগলকে সমস্যাটি সমাধান করার জন্য এবং অপ্ট-ইন, সম্মতি-চালিত মডেলটি পুনরুদ্ধার করার আহ্বান জানিয়েছিল যা তার অ্যাপ্লিকেশনগুলি এবং ইনারপিসের মতো অন্যদের ট্রমাজনিত উপাদানগুলি পরিচালনা করার অনুমতি দেয়।
গুগল স্বীকৃত রেজিস্টার এর বিষয়টি সম্পর্কে তদন্ত কিন্তু ইস্যুটির প্রকৃতি সম্পর্কে কোনও স্পষ্টতা সরবরাহ করেনি – যা কোনও বাগ বা অবকাঠামোগত সংশোধন হতে পারে যা অঘোষিত বা অনিচ্ছাকৃত পরিবর্তনগুলি প্রবর্তন করেছিল। কারণ যাই হোক না কেন, এটি মিথুন-ভিত্তিক অ্যাপ্লিকেশনগুলির জন্য একটি ব্রেকিং পরিবর্তন যা প্রাক কনফিগার করা সেন্সরশিপ সেটিংসের পিছনে ডায়াল করার ক্ষমতার উপর নির্ভর করে।
“যখন কেউ ধর্ষণ, লাঞ্ছনা বা সহিংসতা অনুভব করে, তখন তা হিংস্রভাবে বিশ্বাসকে ছিন্ন করে দেয়,” ডারসি বলেছিলেন রেজিস্টার। “এটি তাদের নিজস্ব অভ্যন্তরীণ গল্পটি আলাদা করে দেয়, কখনও কখনও বছরের পর বছর ধরে।”
তিনি অব্যাহত রেখেছিলেন, “এটি প্রযুক্তি, বা এআই প্রান্তিককরণ রেস সম্পর্কে নয় It’s এটি আপনার সহকর্মীদের সম্পর্কে। গুগলের নিজস্ব ইন্টারফেস এবং আমরা যে এপিআইগুলির জন্য অর্থ প্রদান করি, আমাদের স্পষ্টভাবে প্রতিশ্রুতি দিয়েছিল: ‘সামগ্রী অনুমোদিত।’ তবুও, এই মুহুর্তে বেঁচে থাকা এবং ট্রমা ক্ষতিগ্রস্থদের সবচেয়ে বেশি সমর্থন প্রয়োজন, তারা এখন কেবল শুনেছেন: ‘আমি দুঃখিত, আমি এতে সাহায্য করতে পারি না।’ “® ®
