আপনার ব্যবসায় জেনারেটরি এআই ব্যবহারের লুকানো বিপদগুলি

এআই, যদিও বেশ কয়েক দশক ধরে কম্পিউটার বিজ্ঞানের একটি শৃঙ্খলা হিসাবে প্রতিষ্ঠিত হয়েছিল, 2022 সালে জেনারেটর এআইয়ের উত্থানের সাথে একটি গুঞ্জনে পরিণত হয়েছিল। বৈজ্ঞানিক শৃঙ্খলা হিসাবে নিজেই এআইয়ের পরিপক্কতা সত্ত্বেও, বৃহত্তর ভাষার মডেলগুলি গভীরভাবে অপরিণত।

উদ্যোক্তারা, বিশেষত প্রযুক্তিগত ব্যাকগ্রাউন্ডবিহীন যারা, তাদের ব্যবসায়ের প্রচেষ্টার সক্ষম হিসাবে এলএলএম এবং জেনারেটর এআইগুলিকে ব্যবহার করতে আগ্রহী। যদিও ব্যবসায়িক প্রক্রিয়াগুলির কার্যকারিতা উন্নত করতে প্রযুক্তিগত অগ্রগতি অর্জন করা যুক্তিসঙ্গত, এআইয়ের ক্ষেত্রে এটি সতর্কতার সাথে করা উচিত।

অনেক ব্যবসায়ী নেতা আজ হাইপ এবং বাহ্যিক চাপ দ্বারা চালিত। কর্পোরেট কৌশলবিদদের ইনোভেশন এজেন্ডাগুলি পিচিং করার জন্য তহবিল চাইছেন এমন স্টার্টআপ প্রতিষ্ঠাতা থেকে শুরু করে প্রবৃত্তিটি যত তাড়াতাড়ি সম্ভব কাটিং-এজ এআই সরঞ্জামগুলি সংহত করা। ইন্টিগ্রেশনের দিকে দৌড় সমালোচনামূলক ত্রুটিগুলি উপেক্ষা করে যা জেনারেটর এআই সিস্টেমগুলির পৃষ্ঠের নীচে থাকে।

সম্পর্কিত: 3 ব্যয়বহুল ভুল সংস্থাগুলি জেনারেল এআই ব্যবহার করার সময় তৈরি করে

1। বড় ভাষার মডেল এবং জেনারেটর এআইএসের গভীর অ্যালগরিদমিক ত্রুটি রয়েছে

সহজ কথায়, তারা কী করছে সে সম্পর্কে তাদের কোনও সত্যিকারের ধারণা নেই এবং আপনি যখন এগুলি ট্র্যাক করার চেষ্টা করতে পারেন, তারা প্রায়শই থ্রেডটি হারাতে পারেন।

এই সিস্টেমগুলি ভাবেন না। তারা পূর্বাভাস। এলএলএম দ্বারা উত্পাদিত প্রতিটি বাক্যটি সম্ভাব্য টোকেন-বাই-টোকেন অনুমানের মাধ্যমে উত্পন্ন হয় যে তারা প্রশিক্ষিত হয়েছিল তার তথ্যের পরিসংখ্যানগত নিদর্শনগুলির উপর ভিত্তি করে। তারা মিথ্যা থেকে সত্য, মিথ্যা থেকে যুক্তি বা শব্দ থেকে প্রসঙ্গে জানে না। তাদের উত্তরগুলি প্রামাণিক বলে মনে হতে পারে তবে সম্পূর্ণ ভুল হতে পারে – বিশেষত পরিচিত প্রশিক্ষণের ডেটার বাইরে কাজ করার সময়।

2। জবাবদিহিতা অভাব

সফ্টওয়্যারটির বর্ধিত বিকাশ একটি ভাল-নথিভুক্ত পদ্ধতির যেখানে বিকাশকারীরা প্রয়োজনীয়তাগুলিতে ফিরে যেতে পারে এবং বর্তমান স্থিতির উপর সম্পূর্ণ নিয়ন্ত্রণ রাখতে পারে।

এটি তাদের লজিক্যাল বাগগুলির মূল কারণগুলি সনাক্ত করতে এবং সিস্টেম জুড়ে ধারাবাহিকতা বজায় রেখে সংশোধনমূলক পদক্ষেপ নিতে সহায়তা করে। এলএলএমগুলি ক্রমবর্ধমানভাবে নিজেকে বিকাশ করে, তবে কী কারণে বর্ধনের কারণ হয়েছিল, তাদের শেষ অবস্থা কী ছিল বা তাদের বর্তমান অবস্থা কী তা নিয়ে কোনও ধারণা নেই।

আধুনিক সফ্টওয়্যার ইঞ্জিনিয়ারিং স্বচ্ছতা এবং ট্রেসেবিলিটিতে নির্মিত। প্রতিটি ফাংশন, মডিউল এবং নির্ভরতা পর্যবেক্ষণযোগ্য এবং দায়বদ্ধ। যখন কোনও কিছু ব্যর্থ হয়, লগ, পরীক্ষা এবং ডকুমেন্টেশন বিকাশকারীকে সমাধানের দিকে পরিচালিত করে। এটি জেনারেটর এআইয়ের ক্ষেত্রে সত্য নয়।

এলএলএম মডেলের ওজনগুলি অস্বচ্ছ প্রক্রিয়াগুলির মাধ্যমে সূক্ষ্ম সুরযুক্ত যা ব্ল্যাক-বক্স অপ্টিমাইজেশনের সাথে সাদৃশ্যপূর্ণ। কেউ – এমনকি তাদের পিছনে বিকাশকারীরাও নয় – নির্দিষ্ট প্রশিক্ষণের ইনপুটটি নতুন আচরণের উত্থানের কারণ কী তা চিহ্নিত করতে পারে না। এটি ডিবাগিংকে অসম্ভব করে তোলে। এর অর্থ হ’ল এই মডেলগুলি অনাকাঙ্ক্ষিতভাবে অবনতি করতে পারে বা চক্র পুনরায় প্রশিক্ষণ দেওয়ার পরে পারফরম্যান্সে স্থানান্তরিত করতে পারে, কোনও অডিট ট্রেইল উপলব্ধ না করে।

নির্ভুলতা, পূর্বাভাস এবং সম্মতির উপর নির্ভর করে ব্যবসায়ের জন্য, জবাবদিহিতার এই অভাব লাল পতাকা বাড়াতে হবে। আপনি কোনও এলএলএমের অভ্যন্তরীণ যুক্তি সংস্করণ-নিয়ন্ত্রণ করতে পারবেন না। আপনি কেবল এটি মোর্ফ দেখতে পারেন।

সম্পর্কিত: ব্যবসায়ের ক্ষেত্রে এআইয়ের উপকারিতা এবং কনসকে ঘনিষ্ঠভাবে দেখুন

3 … জিরো-ডে আক্রমণ

শূন্য-দিনের আক্রমণগুলি traditional তিহ্যবাহী সফ্টওয়্যার এবং সিস্টেমগুলিতে সন্ধানযোগ্য এবং বিকাশকারীরা দুর্বলতাটি ঠিক করতে পারে কারণ তারা জানে যে তারা কী তৈরি করেছে এবং যে ত্রুটিযুক্ত পদ্ধতিটি ব্যবহার করা হয়েছিল তা বোঝে।

এলএলএমগুলিতে, প্রতিদিন একটি শূন্য দিন, এবং কেউ এমনকি এটি সম্পর্কে সচেতনও হতে পারে না, কারণ সিস্টেমের অবস্থান সম্পর্কে কোনও ধারণা নেই।

Traditional তিহ্যবাহী কম্পিউটিংয়ের সুরক্ষা ধরে নিয়েছে যে হুমকিগুলি সনাক্ত, নির্ণয় করা এবং প্যাচ করা যায়। আক্রমণ ভেক্টরটি উপন্যাস হতে পারে তবে প্রতিক্রিয়া কাঠামো বিদ্যমান। জেনারেটরি এআই সহ নয়।

যেহেতু তাদের বেশিরভাগ যুক্তির পিছনে কোনও ডিটারমিনিস্টিক কোডবেস নেই, তাই কোনও শোষণের মূল কারণ চিহ্নিত করার কোনও উপায়ও নেই। আপনি কেবল জানেন যে এটি যখন উত্পাদনে দৃশ্যমান হয় তখন কোনও সমস্যা আছে। এবং ততক্ষণে, নামী বা নিয়ন্ত্রক ক্ষতি ইতিমধ্যে সম্পন্ন হতে পারে।

এই উল্লেখযোগ্য বিষয়গুলি বিবেচনা করে, উদ্যোক্তাদের নিম্নলিখিত সতর্কতা অবলম্বন করা উচিত, যা আমি এখানে তালিকাভুক্ত করব:

1। একটি স্যান্ডবক্স মোডে জেনারেটর এআইএস ব্যবহার করুন:

প্রথম এবং সবচেয়ে গুরুত্বপূর্ণ পদক্ষেপটি হ’ল উদ্যোক্তাদের একটি স্যান্ডবক্স মোডে জেনারেটর এআইএস ব্যবহার করা উচিত এবং তাদের ব্যবসায়ের প্রক্রিয়াতে কখনই তাদের সংহত করা উচিত নয়।

ইন্টিগ্রেশন মানে তাদের এপিআইগুলি ব্যবহার করে আপনার অভ্যন্তরীণ সিস্টেমগুলির সাথে এলএলএমগুলিকে ইন্টারফেস করা কখনই নয়।

“সংহতকরণ” শব্দটি আস্থা বোঝায়। আপনি বিশ্বাস করেন যে আপনি যে উপাদানটি সংহত করেছেন তা ধারাবাহিকভাবে সম্পাদন করবে, আপনার ব্যবসায়ের যুক্তি বজায় রাখবে এবং সিস্টেমটিকে দূষিত করবে না। বিশ্বাসের সেই স্তরটি জেনারেটর এআই সরঞ্জামগুলির জন্য অনুপযুক্ত। এলএলএমএসকে সরাসরি ডাটাবেস, অপারেশন বা যোগাযোগ চ্যানেলগুলিতে ওয়্যার এলএলএমএস ব্যবহার করা কেবল ঝুঁকিপূর্ণ নয় – এটি বেপরোয়া। এটি ডেটা ফাঁস, কার্যকরী ত্রুটি এবং ভুল ব্যাখ্যা করা প্রসঙ্গের ভিত্তিতে স্বয়ংক্রিয় সিদ্ধান্তগুলির জন্য খোলার তৈরি করে।

পরিবর্তে, এলএলএমকে বাহ্যিক, বিচ্ছিন্ন ইঞ্জিন হিসাবে বিবেচনা করুন। এগুলি স্যান্ডবক্স পরিবেশে ব্যবহার করুন যেখানে কোনও মানব বা সিস্টেম তাদের উপর কাজ করার আগে তাদের আউটপুটগুলি মূল্যায়ন করা যায়।

2। মানব পর্যবেক্ষণ ব্যবহার করুন:

একটি স্যান্ডবক্স ইউটিলিটি হিসাবে, কোনও মানব সুপারভাইজারকে মেশিনটি অনুরোধ করতে, আউটপুটটি পরীক্ষা করতে এবং এটি অভ্যন্তরীণ ক্রিয়াকলাপগুলিতে ফিরিয়ে দেওয়ার জন্য বরাদ্দ করুন। আপনাকে অবশ্যই এলএলএম এবং আপনার অভ্যন্তরীণ সিস্টেমগুলির মধ্যে মেশিন-টু-মেশিন মিথস্ক্রিয়া প্রতিরোধ করতে হবে।

অটোমেশন দক্ষ মনে হচ্ছে – যতক্ষণ না তা না। যখন এলএলএমগুলি অন্য মেশিন বা প্রক্রিয়াগুলিতে সরাসরি যায় এমন আউটপুট তৈরি করে, আপনি অন্ধ পাইপলাইন তৈরি করেন। বলার মতো কেউ নেই, “এটি ঠিক দেখাচ্ছে না।” মানুষের তদারকি ব্যতীত এমনকি একটি একক হ্যালুসিনেশন আর্থিক ক্ষতি, আইনী সমস্যা বা ভুল তথ্যকে ছড়িয়ে দিতে পারে।

হিউম্যান-ইন-লুপ মডেলটি কোনও বাধা নয়-এটি একটি সুরক্ষা।

সম্পর্কিত: কৃত্রিম বুদ্ধিমত্তা চালিত বৃহত ভাষার মডেল: সীমাহীন সম্ভাবনা, তবে সাবধানতার সাথে এগিয়ে যান

3। আপনার ব্যবসায়ের তথ্য জেনারেটর এআইএসকে কখনই দেবেন না এবং ধরে নেবেন না যে তারা আপনার ব্যবসায়ের সমস্যাগুলি সমাধান করতে পারে:

তাদের বোবা এবং সম্ভাব্য বিপজ্জনক মেশিন হিসাবে বিবেচনা করুন। ব্যবসায়ের আর্কিটেকচার এবং সমাধান সংজ্ঞায়িত করতে মানব বিশেষজ্ঞদের প্রয়োজনীয়তা ইঞ্জিনিয়ার হিসাবে ব্যবহার করুন। তারপরে, সামগ্রিক উদ্দেশ্য প্রকাশ না করেই এআই মেশিনগুলিকে বাস্তবায়ন – ফাংশন দ্বারা ফাংশন – সম্পর্কে নির্দিষ্ট প্রশ্ন জিজ্ঞাসা করতে একটি প্রম্পট ইঞ্জিনিয়ার ব্যবহার করুন।

এই সরঞ্জামগুলি কৌশলগত পরামর্শদাতা নয়। তারা ব্যবসায়ের ডোমেন, আপনার উদ্দেশ্যগুলি বা সমস্যার জায়গার সংক্ষিপ্তসারগুলি বুঝতে পারে না। তারা যা উত্পন্ন করে তা হ’ল ভাষাগত প্যাটার্ন-ম্যাচিং, অভিপ্রায় ভিত্তিক সমাধান নয়।

ব্যবসায়ের যুক্তি অবশ্যই উদ্দেশ্য, প্রসঙ্গ এবং বিচারের ভিত্তিতে মানুষের দ্বারা সংজ্ঞায়িত করা উচিত। কৌশলটি ডিজাইন করতে বা সিদ্ধান্তের মালিকানা না করার জন্য কেবল কার্যকরকরণকে সমর্থন করার জন্য একটি সরঞ্জাম হিসাবে এআই ব্যবহার করুন। এআইকে স্ক্রিপ্টিং ক্যালকুলেটরের মতো আচরণ করুন – অংশগুলিতে দরকারী, তবে কখনও দায়িত্বে নেই।

উপসংহারে, জেনারেটর এআই এখনও ব্যবসায়িক অবকাঠামোতে গভীর সংহতকরণের জন্য প্রস্তুত নয়। এর মডেলগুলি অপরিণত, তাদের আচরণ অস্বচ্ছ এবং তাদের ঝুঁকিগুলি খারাপভাবে বোঝা যায়। উদ্যোক্তাদের অবশ্যই হাইপ প্রত্যাখ্যান করতে হবে এবং একটি প্রতিরক্ষামূলক ভঙ্গি গ্রহণ করতে হবে। অপব্যবহারের ব্যয় কেবল অদক্ষতা নয় – এটি অপরিবর্তনীয়তা।