চ্যাটজিপ্ট প্রথম পরমাণু বোমার মতো চিরতরে বিশ্বকে দূষিত করেছিল • রেজিস্টার

বৈশিষ্ট্য কৃত্রিম গোয়েন্দা গবেষকদের জন্য, 30 নভেম্বর, 2022 -এ ওপেনাইয়ের চ্যাটজিপিটি চালু করা, প্রথম পারমাণবিক বোমার বিস্ফোরণের অনুরূপভাবে বিশ্বকে পরিবর্তন করে।

ট্রিনিটি পরীক্ষা[1945সালের16জুলাইনিউমেক্সিকোতেপারমাণবিকযুগেরসূচনাচিহ্নিতহয়েছিল।সেইমুহুর্তেরএকটিপ্রকাশছিলসেইতারিখেরপরেউত্পাদিতধাতুগুলিরদূষণ-যেহেতুবায়ুবাহিতকণাগুলিট্রিনিটিএবংঅন্যান্যপারমাণবিকঅস্ত্রথেকেপরিবেশকেঘিরেরেখেছে।

জেনারেটর এআইতে অংশ নেওয়া প্রত্যেকে প্রত্যেকের জন্য ডেটা সরবরাহকে দূষিত করছে

বিষযুক্ত ধাতু সংবেদনশীল চিকিত্সা এবং প্রযুক্তিগত সরঞ্জামগুলির কার্যক্রমে হস্তক্ষেপ করে। সুতরাং সম্প্রতি অবধিএই ডিভাইসগুলির উত্পাদনে জড়িত বিজ্ঞানীরা পটভূমি বিকিরণ দ্বারা অনিয়ন্ত্রিত ধাতু চেয়েছিলেন, যা নিম্ন-ব্যাকগ্রাউন্ড ইস্পাত হিসাবে পরিচিত, লো-ব্যাকগ্রাউন্ড সীসাএবং তাই।

লো-ব্যাকগ্রাউন্ড স্টিলের একটি উত্স ছিল জার্মান নৌ বহর যা অ্যাডমিরাল লুডভিগ ভন রয়টার স্কটলড 1919 সালে ব্রিটিশদের কাছ থেকে জাহাজগুলি রাখতে।

পরে যে সম্পর্কে আরও।

চ্যাটজিপিটি -র আত্মপ্রকাশের অল্প সময়ের মধ্যেই, শিক্ষাবিদ এবং প্রযুক্তিবিদরা ভাবতে শুরু করেছিলেন যে এআই মডেলগুলিতে সাম্প্রতিক বিস্ফোরণটিও দূষণ তৈরি করেছে কিনা।

তাদের উদ্বেগ হ’ল এআই মডেলগুলি এআই মডেলগুলি দ্বারা নির্মিত সিন্থেটিক ডেটা দিয়ে প্রশিক্ষিত হচ্ছে। এআই মডেলের পরবর্তী প্রজন্মগুলি তাই কম এবং কম নির্ভরযোগ্য হয়ে উঠতে পারে, এটি এআই মডেল পতন হিসাবে পরিচিত একটি রাষ্ট্র।

2023 সালের মার্চ মাসে, ক্লাউডফ্লেয়ারের সিটিও এবং এখন বোর্ডের সদস্য জন গ্রাহাম-কামিং ওয়েব ডোমেনটি নিবন্ধভুক্ত করেছেন লোব্যাকগ্রাউন্ডস্টিল.ই এবং 2022 এআই বিস্ফোরণের আগে যেমন সংকলিত ডেটা বিভিন্ন উত্স সম্পর্কে পোস্ট করা শুরু করে, যেমন আর্কটিক কোড ভল্ট (02/02/2020 থেকে গিথুব রেপোসের একটি স্ন্যাপশট)।

রেজিস্টার গ্রাহাম-কামিংকে তিনি লো-ব্যাকগ্রাউন্ড ইস্পাত সাদৃশ্য নিয়ে এসেছেন কিনা তা জিজ্ঞাসা করেছিলেন, তবে তিনি বলেছিলেন যে তিনি মনে করেন না।

তিনি ইমেলের মাধ্যমে প্রতিক্রিয়া জানিয়েছিলেন, “আমি বহু বছর আগে এটি পড়তে লো-ব্যাকগ্রাউন্ড স্টিল সম্পর্কে জানতাম।” “এবং আমি 2000 এর দশকের গোড়ার দিকে কিছু মেশিন লার্নিং স্টাফ করেছি (স্বয়ংক্রিয় ইমেল শ্রেণিবিন্যাস সরঞ্জাম) পপফিল। এটি এমন একটি উপমা ছিল যা সবেমাত্র আমার মাথায় উঠেছিল এবং আমি পরিচিত মানব-নির্মিত স্টাফগুলির একটি ভান্ডার ধারণাটি পছন্দ করেছি। সুতরাং সাইট। “

পতন কি আসল সংকট?

গ্রাহাম-কামিং নিশ্চিত নয় যে দূষিত এআই কর্পাসগুলি একটি সমস্যা।

“আকর্ষণীয় প্রশ্নটি হ’ল ‘এই বিষয়টি কি?'” তিনি জিজ্ঞাসা করলেন।

কিছু এআই গবেষক মনে করেন এটি এটি করে এবং এআই মডেল ধসের বিষয়ে। চ্যাটজিপ্টের আত্মপ্রকাশের পর বছর বেশ কয়েকটি একাডেমিক কাগজপত্র মডেল ধসের সম্ভাব্য পরিণতিগুলি অনুসন্ধান করেছেন বা মডেল অটোফ্যাজি ডিসঅর্ডার (এমএডি)লেখকদের এক সেট হিসাবে ইস্যুটি হিসাবে অভিহিত করা হয়েছে। রেজিস্টার ২০২৪ সালের গোড়ার দিকে সেই কাগজপত্রের অন্যতম লেখক ইলিয়া শুমাইলভের সাক্ষাত্কার নিয়েছিলেন।

যদিও এআই অনুশীলনকারীরা যুক্তি দিয়েছেন যে মডেলটি ধসে পড়েছে প্রশমিত করা যায়এটি যে পরিমাণে সত্য তা চলমান বিতর্কের বিষয়।

মাত্র গত সপ্তাহে, অ্যাপল গবেষকরা বড় যুক্তিযুক্ত মডেলগুলিতে মডেল ধসের বিশ্লেষণ নিয়ে লড়াইয়ে প্রবেশ করেছিলেন (যেমন ওপেনএইর ও 1/ও 3, ডিপসেক-আর 1, ক্লড 3.7 সনেট চিন্তাভাবনা, এবং মিথুন চিন্তাভাবনা), কেবল তাদের সিদ্ধান্তগুলি চ্যালেঞ্জ করা অ্যালেক্স লোলেন দ্বারা, সিনিয়র প্রোগ্রাম এআই মডেল ক্লড ওপাসের সহায়তায় ওপেন ফিলান্ট্রোপির সাথে সহযোগী।

মূলত, লজেন যুক্তি দিয়েছিলেন যে অ্যাপলের যুক্তিযুক্ত মূল্যায়ন পরীক্ষাগুলি, যা খুঁজে পেয়েছিল যে যুক্তিযুক্ত মডেলগুলি জটিলতার একটি নির্দিষ্ট স্তরে ব্যর্থ হয়েছে, ত্রুটিযুক্ত ছিল কারণ তারা মডেলগুলিকে তাদের সামঞ্জস্য করার চেয়ে বেশি টোকেন লিখতে বাধ্য করেছিল।

2024 সালের ডিসেম্বরে, বেশ কয়েকটি বিশ্ববিদ্যালয়ের সাথে সম্পর্কিত শিক্ষাবিদরা মডেল পতন সম্পর্কে উদ্বেগের পুনর্বিবেচনা করেছিলেন একটি কাগজ শিরোনাম “মানব-উত্পাদিত ডেটা এবং এআই প্রশিক্ষণের জন্য অন্যান্য প্রয়োজনীয় ইনপুটগুলিতে অ্যাক্সেসের আইনী দিকগুলি”।

তারা যুক্তি দিয়েছিল যে এআই মডেলগুলির কার্যকারিতা বজায় রাখতে এবং প্রতিযোগিতা সংরক্ষণের জন্য বিশ্বকে পরিষ্কার তথ্যের উত্সগুলির প্রয়োজন, লো-ব্যাকগ্রাউন্ড স্টিলের অনুরূপ।

“আমি প্রায়শই বলি যে বিশ্বের পারমাণবিক ওষুধে সবচেয়ে বড় অবদান ছিল জার্মান অ্যাডমিরাল যিনি ১৯১৯ সালে বহরটি ছুঁড়ে ফেলেছিলেন,” কেমব্রিজ বিশ্ববিদ্যালয়ের অস্তিত্বের ঝুঁকির স্টাডির কেন্দ্রের গবেষণা সহযোগী মরিস চিয়োডো এবং সহ-লেখকগুলির মধ্যে একটি, বলেছেন, রেজিস্টার। “কারণ এটি আমাদের কম-ব্যাকগ্রাউন্ড স্টিলের প্রায় অসীম সরবরাহ করতে সক্ষম করেছিল। যদি এটি না হয় তবে আমরা একরকম আটকে থাকতাম।

“সুতরাং উপমাটি এখানে কাজ করে কারণ আপনার একটি নির্দিষ্ট তারিখের আগে ঘটেছিল এমন কিছু দরকার Now এখন এখানে তারিখটি আরও নমনীয়, আসুন আপনি যদি ২০২২ এর আগে ডেটা সংগ্রহ করছেন তবে আপনি মোটামুটি আত্মবিশ্বাসী যে এটিতে ন্যূনতম, যদি কোনও, জেনারেটর এআই থেকে দূষিত হয়। তারিখের আগে সবকিছু ‘নিরাপদ, সূক্ষ্ম, পরিষ্কার,’ এর পরে সবকিছু ‘নোংরা।”

চিয়োডো এবং তার সহ-লেখক-জন বার্ডেন, হেনিং গ্রোস রুস-খান, লিসা মার্কসিস, ডেনিস মুলার, স্যান é হিগার্তাইগ, রুপপ্রেচট পোডসুন, এবং হারবার্ট জেক-তাদের নিজস্ব আউটপুটকে খাওয়ানো যে মডেলগুলিকে এতটা সরবরাহ করবে তা সরবরাহ করবে না এমন তথ্যকে এতটা সরবরাহ করবে না যে তারা এতটা সরবরাহ করবে না যে তারা এতটা সরবরাহ করবে, তবে এটি।

এআই মডেল-নির্মাতারা প্রতিদিনের ভিত্তিতে আরও বেশি বেশি জেনারেটর এআই ডেটা বানানোর সাথে সাথে এআই স্টার্টআপগুলি মানসম্পন্ন প্রশিক্ষণের ডেটা অর্জন করা আরও কঠিন মনে করবে, এমন একটি লকআউট প্রভাব তৈরি করে যা তাদের মডেলগুলিকে ধসের জন্য আরও সংবেদনশীল করে তোলে এবং প্রভাবশালী খেলোয়াড়দের শক্তি আরও শক্তিশালী করে তোলে। এটি তাদের তত্ত্ব, যাইহোক।

আপনি একটি খুব ব্যবহারযোগ্য মডেল তৈরি করতে পারেন যা রয়েছে। আপনি বেশ একটি অকেজো মডেল তৈরি করতে পারেন যা সত্য বলে

“সুতরাং এটি কেবল তথ্যের এপিস্টেমিক সুরক্ষার ধরণের সম্পর্কে নয় এবং আমরা যা দেখি তা সত্য তা নয়, তবে এটি একটি জেনারেটরি এআই, একটি বৃহত পরিসরের মডেল তৈরি করতে যা লাগে তা হ’ল এটি আউটপুট তৈরি করে যা বোধগম্য এবং এটি কোনওভাবে ব্যবহারযোগ্য,” চিওডো বলেছিলেন। “আপনি একটি খুব ব্যবহারযোগ্য মডেল তৈরি করতে পারেন যা রয়েছে। আপনি সত্যকে বলে একটি অকেজো মডেল তৈরি করতে পারেন।”

হেইনরিচ হেইন বিশ্ববিদ্যালয় ড্যাসেল্ডার্ফ এবং সহ-লেখক হেইনরিচ হেইন বিশ্ববিদ্যালয়ের সিভিল অ্যান্ড প্রতিযোগিতা আইনের অধ্যাপক রুপ্রেচট পডসুন বলেছেন, “আপনি যদি ইমেল ডেটা বা মানব যোগাযোগের ডেটা দেখেন-যা প্রাক -2022 প্রকৃতপক্ষে ডেটা যা মানুষের দ্বারা টাইপ করা হয়েছিল এবং 20 টির চেয়ে বেশি দরকারী (এটি একটি চ্যাটের জন্য এটি আরও বেশি দরকারী (এটি একটি চ্যাটের জন্য।

পডসুন বলেছেন যে সামগ্রীর যথার্থতা বাস্তব মানব মিথস্ক্রিয়া চলাকালীন স্টাইল এবং ধারণাগুলির সৃজনশীলতার চেয়ে কম গুরুত্বপূর্ণ।

চিয়োডো বলেছিলেন যে জেনারেটর এআইতে অংশ নেওয়া প্রত্যেকে প্রত্যেকের জন্য ডেটা সরবরাহকে দূষিত করছে, মডেল নির্মাতাদের জন্য যারা অনুসরণ করে এবং এমনকি বর্তমানের জন্যও।

এআই দূষণ পরিষ্কার করা

তাহলে আমরা কীভাবে এআই পরিবেশ পরিষ্কার করতে পারি?

চিয়োডো স্বীকার করেন, “নীতিমালার সুপারিশের ক্ষেত্রে এটি কঠিন”। “আমরা এআই বিষয়বস্তুর জোর করে লেবেলিংয়ের মতো জিনিসগুলির পরামর্শ দিয়ে শুরু করি, তবে এমনকি এটি শক্ত হয়ে যায় কারণ এটি পাঠ্য লেবেল করা খুব কঠিন এবং ওয়াটারমার্কিং পরিষ্কার করা খুব সহজ” “

চিয়োডো যোগ করেছেন, বিভিন্ন এখতিয়ার জড়িত থাকলে ছবি এবং ভিডিও লেবেল করা জটিল হয়ে ওঠে। “যে কেউ ইন্টারনেটে যে কোনও জায়গায় ডেটা মোতায়েন করতে পারে, এবং তাই এই ডেটা স্ক্র্যাপিংয়ের কারণে, সমস্ত অপারেটিং এলএলএমকে সর্বদা তাদের কাছে ওয়াটারমার্ক আউটপুট দিতে বাধ্য করা খুব কঠিন,” তিনি বলেছিলেন।

কাগজটি ফেডারেটেড লার্নিং প্রচারের মতো অন্যান্য নীতিগত বিকল্পগুলি নিয়ে আলোচনা করেছে, যার দ্বারা অনিয়ন্ত্রিত ডেটা রয়েছে তারা তৃতীয় পক্ষগুলিকে সরাসরি ডেটা সরবরাহ না করে সেই ডেটাতে প্রশিক্ষণের অনুমতি দিতে পারে। ধারণাটি হ’ল অপ্রচলিত ডেটাসেটগুলিতে অ্যাক্সেস সহ তাদের প্রতিযোগিতামূলক সুবিধা সীমাবদ্ধ করা, সুতরাং আমরা এআই মডেল একচেটিয়াগুলি শেষ করি না।

তবে চিয়োডো যেমন পর্যবেক্ষণ করেছেন, অনিয়ন্ত্রিত তথ্যের কেন্দ্রীভূত সরকারী-পরিচালিত স্টোর রাখার অন্যান্য ঝুঁকি রয়েছে।

“আপনি এই বিশাল পরিমাণে তথ্যের জন্য গোপনীয়তা এবং সুরক্ষা ঝুঁকি পেয়েছেন, তাই আপনি কী রাখবেন, আপনি কী রাখবেন না, আপনি কী রাখবেন সে সম্পর্কে আপনি কীভাবে সতর্কতা অবলম্বন করছেন, কীভাবে আপনি এটিকে সুরক্ষিত রাখবেন, কীভাবে আপনি এটিকে রাজনৈতিকভাবে স্থিতিশীল রাখবেন,” তিনি বলেছিলেন। “আপনি এটি কিছু সরকারের হাতে রাখতে পারেন যারা আজ ঠিক আছেন, তবে আগামীকাল তারা তা করেন না।”

পোডসুন যুক্তি দিয়েছিলেন যে অনিয়ন্ত্রিত ডেটা পরিচালনায় প্রতিযোগিতা ঝুঁকি হ্রাস করতে সহায়তা করতে পারে। “এটি স্পষ্টতই এমন কিছু হবে যা রাজনৈতিক প্রভাবের বিরুদ্ধে, প্রযুক্তিগত ভুলের বিরুদ্ধে, বাণিজ্যিক ঘনত্বের বিপরীতে,” তিনি বলেছিলেন।

মডেল ধসের সাথে আমরা যে সমস্যাটি চিহ্নিত করছি তা হ’ল এই সমস্যাটি এআই এর বিকাশকে প্রভাবিত করতে চলেছে

চিয়োডো বলেছেন, “আমরা মডেল ধসের সাথে যে সমস্যাটি চিহ্নিত করছি তা হ’ল এই সমস্যাটি এআইয়ের বিকাশকে প্রভাবিত করতে চলেছে,” চিয়োডো বলেছিলেন। “যদি সরকার এআই, বৃহত-পরিষেবা মডেলগুলির দীর্ঘমেয়াদী ভাল, উত্পাদনশীল, প্রতিযোগিতামূলক বিকাশের বিষয়ে চিন্তা করে, তবে এটি মডেল পতন সম্পর্কে এবং ডেটাসেটগুলির সাথে কী ঘটতে চলেছে তার জন্য গাইড, প্রবিধান, গাইড তৈরির বিষয়ে খুব বেশি যত্ন নেওয়া উচিত, কীভাবে আমরা কিছু ডেটাসেটগুলি পরিষ্কার রাখতে পারি, কীভাবে আমরা ডেটাতে অ্যাক্সেস মঞ্জুর করতে পারি।”

মার্কিন যুক্তরাষ্ট্রে এআইয়ের খুব বেশি সরকারী নিয়ন্ত্রণ নেই। প্রতিদ্বন্দ্বী দেশগুলির পিছনে পড়ার ভয়ে যুক্তরাজ্য হালকা-টাচ নিয়ন্ত্রক শাসন ব্যবস্থাও করছে। ইউরোপ, সাথে আপনার একটি নথি আছেকিছু স্থল বিধি সেট করতে আরও আগ্রহী বলে মনে হচ্ছে।

“বর্তমানে আমরা নিয়ন্ত্রণের প্রথম পর্যায়ে রয়েছি যেখানে আমরা নিয়ন্ত্রণ থেকে কিছুটা দূরে সরে যাচ্ছি কারণ আমরা মনে করি আমাদের উদ্ভাবনী হতে হবে,” পোডসুন বলেছিলেন। “এবং এটি আমরা যে কোনও উদ্ভাবন নিয়ে আসি তার জন্য এটি খুব সাধারণ So সুতরাং আইআই বড় জিনিস, এটি যেতে দিন এবং ভাল।”

তবে তিনি আশা করেন যে নিয়ন্ত্রকরা এই নিষ্ক্রিয়তার পুনরাবৃত্তি রোধ করতে আরও সক্রিয় হয়ে উঠবে যা কয়েকটি প্ল্যাটফর্মকে ডিজিটাল বিশ্বে আধিপত্য বিস্তার করতে দেয়। তিনি বলেন, এআইয়ের জন্য ডিজিটাল বিপ্লবের পাঠটি খুব বেশি দেরি না হওয়া এবং বাজার কেন্দ্রীভূত না হওয়া পর্যন্ত অপেক্ষা করা উচিত নয়।

চিয়োডো বলেছিলেন, “আমাদের উদ্বেগ, এবং কেন আমরা এখন এটি উত্থাপন করছি তা হ’ল এটি অপরিবর্তনীয়তার যথেষ্ট পরিমাণে রয়েছে you আপনি যদি আপনার সমস্ত ডেটাসেট, সমস্ত ডেটা পরিবেশকে পুরোপুরি দূষিত করে থাকেন এবং তাদের বেশ কয়েকটি থাকবে, যদি তারা সম্পূর্ণ দূষিত হয় তবে এটি পূর্বাবস্থায় ফেলা খুব কঠিন।

“এখন, মডেল ধসের পরিমাণ কী হবে তা স্পষ্ট নয়, তবে যদি এটি কোনও সমস্যা হয় এবং আমরা এই ডেটা পরিবেশকে দূষিত করে ফেলেছি, তবে পরিষ্কার করা নিষিদ্ধভাবে ব্যয়বহুল, সম্ভবত অসম্ভব হয়ে উঠবে।” ®