স্বাস্থ্য ও মানবসেবা সচিব রবার্ট এফ কেনেডি জুনিয়র জেনারেটরি কৃত্রিম বুদ্ধিমত্তার সরঞ্জামগুলি ব্যবহার করার জন্য খাদ্য ও ওষুধ প্রশাসনের মতো এজেন্সিগুলি পেতে একটি বড় ধাক্কা দিয়েছেন। আসলে, কেনেডি সম্প্রতি টাকার কার্লসনকে বলেছিলেন যে এআই শীঘ্রই নতুন ওষুধগুলি “খুব, খুব দ্রুত” অনুমোদনের জন্য ব্যবহৃত হবে। তবে সিএনএন -এর একটি নতুন প্রতিবেদন আমাদের সবচেয়ে খারাপ ভয়কে নিশ্চিত করে। এলসা, এফডিএর এআই সরঞ্জাম, জাল পড়াশোনা ছড়িয়ে দিচ্ছে।
সিএনএন এফডিএ -তে ছয়টি বর্তমান এবং প্রাক্তন কর্মচারীদের সাথে কথা বলেছেন, যাদের মধ্যে তিনজন এলএসএকে কাজের জন্য ব্যবহার করেছেন যা তারা সভা নোট এবং সংক্ষিপ্তসার তৈরি করার মতো সহায়ক হিসাবে বর্ণনা করেছেন। তবে এফডিএর তিনজন কর্মচারী সিএনএনকে বলেছে এই এলসা কেবল অস্তিত্বহীন অধ্যয়ন তৈরি করে, যা সাধারণত এআই -তে “হ্যালুসিনেটিং” হিসাবে উল্লেখ করা হয়। এই কর্মচারীদের মতে এআই গবেষণাও ভুল উপস্থাপন করবে।
“আপনার কাছে ডাবল-চেক করার সময় নেই এমন কিছু অবিশ্বাস্য। এটি আত্মবিশ্বাসের সাথে হ্যালুসিনেট করে,” একজন নামহীন এফডিএ কর্মচারী সিএনএনকে বলেছেন।
এবং এটি সমস্ত এআই চ্যাটবটগুলির সাথে বড় সমস্যা। তাদের নির্ভুলতার জন্য ডাবল-চেক করা দরকার, প্রায়শই কম্পিউটারের পিছনে মানুষের জন্য আরও বেশি কাজ তৈরি করা হয় যদি তারা তাদের আউটপুটটির গুণমান সম্পর্কে কিছু যত্ন করে। যে লোকেরা জোর দেয় যে এআই আসলে তাদের সময় সাশ্রয় করে প্রায়শই নিজেকে বোকা বানাচ্ছে, প্রোগ্রামারদের সাম্প্রতিক এক গবেষণায় দেখা যাচ্ছে যে কাজগুলি নিয়েছে 20% দীর্ঘ এআইয়ের সাথে, এমনকি এমন লোকদের মধ্যে যারা নিশ্চিত ছিলেন যে তারা আরও দক্ষ ছিলেন।
কেনেডি’র মেক আমেরিকা সুস্থ আর কমিশন মে মাসে একটি প্রতিবেদন জারি করেছে যা পরে জাল অধ্যয়নের জন্য উদ্ধৃতি দিয়ে পূর্ণ বলে প্রমাণিত হয়েছিল। অলাভজনক নিউজ আউটলেট নোটাসের একটি বিশ্লেষণে দেখা গেছে যে কমপক্ষে সাতটি গবেষণার উদ্ধৃতি দেওয়া হয়নি, এমনকি একটি প্রদত্ত গবেষণায় আসলে যা বলা হয়েছিল তা আরও অনেক ভুল উপস্থাপনা করে। আমরা এখনও জানি না যে কমিশন সেই প্রতিবেদনটি তৈরি করতে ELSA ব্যবহার করেছিল কিনা।
এফডিএ কমিশনার মার্টি মেকারি প্রাথমিকভাবে ২ জুন এজেন্সি জুড়ে ইএলএসএ মোতায়েন করেছিলেন এবং গিজমোডোর কাছে একটি অভ্যন্তরীণ স্লাইড ফাঁস হয়েছিল যে এই সিস্টেমটি “ব্যয়বহুল”, তার প্রথম সপ্তাহে কেবল 12,000 ডলার ব্যয় করেছে। মেকারি বলেছিলেন যে এলসা “সময়সূচির আগে এবং বাজেটের অধীনে” ছিলেন যখন তিনি প্রথম ঘোষণা করেছিলেন এআই রোলআউট। তবে দেখে মনে হচ্ছে আপনি যা প্রদান করেন তা আপনি পেয়েছেন। আপনি যদি আপনার কাজের যথার্থতার বিষয়ে চিন্তা না করেন তবে এলসা আপনাকে দরজাটি দ্রুত op ালু ছাড়ার অনুমতি দেওয়ার জন্য দুর্দান্ত সরঞ্জাম বলে মনে হচ্ছে, আবর্জনা অধ্যয়ন তৈরি করে যা মার্কিন যুক্তরাষ্ট্রে জনস্বাস্থ্যের জন্য সম্ভাব্য পরিণতি পেতে পারে
সিএনএন নোট করে যে যদি কোনও এফডিএ কর্মচারী এলএসএকে নতুন ওষুধে 20 পৃষ্ঠার কাগজের এক-অনুচ্ছেদের সংক্ষিপ্তসার তৈরি করতে বলে, তবে সেই সংক্ষিপ্তসারটি সঠিক কিনা তা জানার কোনও সহজ উপায় নেই। এমনকি সংক্ষিপ্তসারটি কমবেশি নির্ভুল হলেও, যদি 20-পৃষ্ঠার প্রতিবেদনের মধ্যে এমন কিছু থাকে যা দক্ষতার সাথে কোনও মানুষের জন্য একটি বড় লাল পতাকা হবে? কিছু মিস হয়েছে কিনা বা সংক্ষিপ্তসারটি সঠিক কিনা তা নিশ্চিতভাবে জানার একমাত্র উপায় হ’ল প্রতিবেদনটি পড়তে হবে।
সিএনএন -এর সাথে কথা বলার এফডিএর কর্মচারীরা জানিয়েছেন যে তারা একটি নির্দিষ্ট শ্রেণীর কতগুলি ওষুধ শিশুদের জন্য অনুমোদিত হয়েছে তার মতো প্রাথমিক প্রশ্ন জিজ্ঞাসা করে ELSA পরীক্ষা করেছেন। এলসা আত্মবিশ্বাসের সাথে ভুল উত্তর দিয়েছিল, এবং এটি সংশোধন করার সময় স্পষ্টতই ক্ষমা চেয়েছিল, একটি রোবট “দুঃখিত” হওয়ায় সত্যই কিছুই ঠিক করে না।
কেনেডি যখন বলেছে যে এআই এফডিএকে নতুন ওষুধ অনুমোদনের অনুমতি দেবে তখন আমরা এখনও জানি না জুনে সাক্ষ্য একটি হাউস সাব কমিটিতে যে এটি ইতিমধ্যে “ড্রাগ অনুমোদনের গতি বাড়াতে” ব্যবহৃত হচ্ছে। সেক্রেটারি, যার চরমপন্থী ভ্যাকসিন বিরোধী বিশ্বাস তাকে জনস্বাস্থ্য নেতা হতে বাধা দেয়নি, তারা অপ্রয়োজনীয় প্রযুক্তিগুলিকে মূলধারার বিজ্ঞানে ইনজেকশন দেওয়ার অভিপ্রায় বলে মনে হয়।
কেনেডি কংগ্রেসকেও সাক্ষ্য দিয়েছিলেন যে তিনি চান যে প্রতিটি আমেরিকান আগামী চার বছরের মধ্যে একটি পরিধানযোগ্য স্বাস্থ্য ডিভাইস দিয়ে আটকে থাকবে। যেমনটি ঘটেছিল, সার্জন জেনারেল, ক্যাসি মিনসের জন্য রাষ্ট্রপতি ট্রাম্পের বাছাই করা একটি পরিধেয় সংস্থার মালিকানা রয়েছে যা ডায়াবেটিস নয় এমন লোকদের মধ্যে গ্লুকোজ স্তর পর্যবেক্ষণ করে এমন স্তরগুলি। বিশেষজ্ঞদের মতে ডায়াবেটিসবিহীন লোকদের ক্রমাগত তাদের গ্লুকোজের মাত্রা পর্যবেক্ষণ করা দরকার এমন কোনও কারণ নেই। মিনস, কেনেডির ঘনিষ্ঠ মিত্র এখনও সিনেট দ্বারা নিশ্চিত করা যায়নি।
ইএলএসএর নকল অধ্যয়নের সমস্যাটি সমাধান করার জন্য এজেন্সি কী করছে সে সম্পর্কে বুধবার ইমেল করা প্রশ্নের জবাব দেয়নি এফডিএ। মেকারি সিএনএনকে স্বীকার করেছেন যে এলসা “সম্ভাব্যভাবে হ্যালুসিনেট” করতে পারে, তবে এটি অন্যান্য বৃহত ভাষার মডেল এবং জেনারেটর এআই থেকে “আলাদা নয়”। এবং সে এতে ভুল নয়। সমস্যাটি হ’ল এআই যখন ধারাবাহিকভাবে কেবল জিনিসগুলি তৈরি করে তখন উদ্দেশ্যগুলির জন্য উপযুক্ত নয়। তবে এটি লোকেরা বিশ্বাস করতে বাধা দেয় না যে এআই কোনওভাবে যাদু।
