কৃত্রিম বুদ্ধিমত্তার দিকে যাওয়ার পক্ষপাতিত্বের সর্বশেষ উদাহরণটি মেডিকেল ফিল্ড থেকে আসে। একটি নতুন যুক্তরাজ্যের 617 প্রাপ্ত বয়স্ক সামাজিক যত্ন কর্মীদের কাছ থেকে বাস্তব কেস নোটগুলি জরিপ করেছেন এবং দেখতে পেয়েছেন যে বড় ভাষার মডেলগুলি নোটগুলির সংক্ষিপ্তসার করলে তারা যখন রোগীকে মহিলা হিসাবে ট্যাগ করা হয়েছিল তখন “অক্ষম,” “অক্ষম” বা “জটিল” এর মতো ভাষা বাদ দেওয়ার সম্ভাবনা বেশি ছিল, যা মহিলাদের অপর্যাপ্ত বা ভুল চিকিত্সা যত্ন গ্রহণ করতে পারে।
লন্ডন স্কুল অফ ইকোনমিক্স অ্যান্ড পলিটিকাল সায়েন্সের নেতৃত্বে গবেষণা দুটি এলএলএম – মেটা লামা 3 এবং গুগলের জেমমা – এর মাধ্যমে একই কেস নোটগুলি চালিয়েছিল এবং রোগীর লিঙ্গকে অদলবদল করে এবং এআই সরঞ্জামগুলি প্রায়শই দুটি খুব আলাদা রোগীর স্ন্যাপশট সরবরাহ করে। যদিও লামা 3 জরিপযুক্ত মেট্রিকগুলিতে কোনও লিঙ্গ-ভিত্তিক পার্থক্য দেখায়নি, জেমার এই পক্ষপাতিত্বের উল্লেখযোগ্য উদাহরণ ছিল। গুগলের এআই সংক্ষিপ্তসারগুলি “মিস্টার স্মিথ একজন 84 বছর বয়সী ব্যক্তি যিনি একা থাকেন এবং একটি জটিল চিকিত্সা ইতিহাস, কোনও যত্ন প্যাকেজ এবং দুর্বল গতিশীলতা” হিসাবে “একজন পুরুষ রোগীর জন্য” যেমন একই কেস নোটগুলি সরবরাহ করা হয়েছে, তার সাথে ক্রেডিটযুক্ত একটি মহিলা রোগীকে দেওয়া হয়েছে: “মিসেস স্মিথ তার সীমাবদ্ধতা থাকা সত্ত্বেও, তিনি তার ব্যক্তিগত যত্ন বজায় রাখতে সক্ষম।”
সাম্প্রতিক গবেষণায় চিকিত্সা খাতে মহিলাদের বিরুদ্ধে পক্ষপাতিত্ব উন্মোচিত হয়েছে, উভয়ই এবং মধ্যে । পরিসংখ্যানগুলিও আরও খারাপ প্রবণতা এবং জন্য । এটি সর্বশেষতম স্টার্কের অনুস্মারক যে এলএলএমগুলি তারা প্রশিক্ষিত এবং যে তথ্যগুলিতে কেবল তত ভাল। এই গবেষণা থেকে বিশেষত টেকওয়ে সম্পর্কিত বিষয় ছিল যে যুক্তরাজ্য কর্তৃপক্ষগুলি যত্ন অনুশীলনে এলএলএম ব্যবহার করে চলেছে, তবে সর্বদা কোন মডেলগুলি চালু করা হচ্ছে বা কোন ক্ষমতাতে বিশদ বিবরণ ছাড়াই।
“আমরা জানি যে এই মডেলগুলি খুব ব্যাপকভাবে ব্যবহৃত হচ্ছে এবং কী তা হ’ল আমরা বিভিন্ন মডেলের পক্ষপাতিত্বের ব্যবস্থাগুলির মধ্যে খুব অর্থবহ পার্থক্য পেয়েছি,” শীর্ষস্থানীয় লেখক ড। স্যাম রিকম্যান ডউল্লেখ করে যে গুগল মডেল বিশেষত মহিলাদের জন্য মানসিক এবং শারীরিক স্বাস্থ্য সংক্রান্ত সমস্যাগুলি খারিজ করার সম্ভাবনা ছিল। “যেহেতু আপনি যে পরিমাণ যত্ন পান তা অনুভূত প্রয়োজনের ভিত্তিতে নির্ধারিত হয়, এর ফলে মহিলারা যদি পক্ষপাতদুষ্ট মডেলগুলি অনুশীলনে ব্যবহার করা হয় তবে কম যত্ন নিতে পারে But তবে আমরা জানি না যে এই মুহুর্তে কোন মডেলগুলি ব্যবহৃত হচ্ছে।”
