থেরাপি বিশেষত ইদানীং একটি সীমাবদ্ধ উত্সের মতো অনুভব করতে পারে। ফলস্বরূপ, অনেক লোক – বিশেষত তরুণ প্রাপ্তবয়স্করা – থেরাপির অভিজ্ঞতা অনুকরণ করতে CHATGPT এবং চরিত্র.এই এর মতো প্ল্যাটফর্মগুলিতে হোস্ট করা এআই চ্যাটবটগুলির দিকে ঝুঁকছে।
তবে এটি কি একটি ভাল ধারণা গোপনীয়তা অনুসারে? এমনকি চ্যাটজিপ্টের পিছনে সিইও স্যাম আল্টম্যানের সন্দেহ রয়েছে।
একটি সাক্ষাত্কার গত সপ্তাহে পডকাস্টার থিও ভনের সাথে, আল্টম্যান বলেছিলেন যে তিনি এআই চ্যাটবটসের সাথে সংবেদনশীল ব্যক্তিগত তথ্য ভাগ করে নেওয়ার বিষয়ে উদ্বেগগুলি বুঝতে পেরেছিলেন এবং ব্যবহারকারীদের কথোপকথনগুলি সেই ডাক্তার, আইনজীবী এবং মানব থেরাপিস্টদের অনুরূপ সুযোগ -সুবিধা দ্বারা সুরক্ষিত করার পক্ষে পরামর্শ দিয়েছিলেন। তিনি ভনের উদ্বেগের প্রতিধ্বনি দিয়েছিলেন, তিনি বলেছিলেন যে তিনি বিশ্বাস করেন যে “আপনি (এআই) ব্যবহার করার আগে আইনী স্পষ্টতা ব্যবহার করার আগে সত্যই গোপনীয়তার স্বচ্ছতা চান তা বোঝায়।”
এছাড়াও: খারাপ ভাইবস: এআই এজেন্ট কীভাবে বিপর্যয়ের পথে কোড করেছে
বর্তমানে, এআই সংস্থাগুলি চ্যাটবোট কথোপকথনকে প্রশিক্ষণের ডেটা থেকে দূরে রাখার জন্য কিছু অন-অফ সেটিংস সরবরাহ করে-চ্যাটজিপিটি-তে এটি করার কয়েকটি উপায় রয়েছে। ব্যবহারকারী দ্বারা পরিবর্তন না করা পর্যন্ত, ডিফল্ট সেটিংস এআই মডেলগুলি প্রশিক্ষণের জন্য সমস্ত ইন্টারঅ্যাকশন ব্যবহার করবে। সংস্থাগুলি কীভাবে চিকিত্সা পরীক্ষার ফলাফল বা বেতনের তথ্যের মতো কোনও ক্যোয়ারিতে কোনও বট সহ কোনও সংবেদনশীল তথ্য ভাগ করে নেয় তা আরও স্পষ্ট করে দেয়নি যেগুলি পরে চ্যাটবোটের দ্বারা ছিটকে যাওয়া বা অন্যথায় ডেটা হিসাবে ফাঁস হওয়া থেকে রক্ষা করা হবে।
তবে ব্যবহারকারীর গোপনীয়তার জন্য উদ্বেগের চেয়ে ওপেনএআই -তে আইনী চাপ বাড়িয়ে আল্টম্যানের অনুপ্রেরণাগুলি আরও অবহিত করা যেতে পারে। তাঁর সংস্থা, যা নিউইয়র্ক টাইমস কপিরাইট লঙ্ঘনের জন্য মামলা করেছে, মামলা মোকদ্দমার অংশ হিসাবে ব্যবহারকারীর কথোপকথন রাখতে এবং হস্তান্তর করার জন্য আইনী অনুরোধ প্রত্যাখ্যান করেছে।
(প্রকাশ: এপ্রিল মাসে সিএনইটি -র মূল সংস্থা জিফ ডেভিস ওপেনএআইয়ের বিরুদ্ধে মামলা দায়ের করেছিলেন, অভিযোগ করেছেন যে এটি এর এআই সিস্টেমগুলি প্রশিক্ষণ ও পরিচালনায় জিফ ডেভিস কপিরাইট লঙ্ঘন করেছে।)
এছাড়াও: নৃতাত্ত্বিক বলেছেন যে ক্লোড আবেগগতভাবে ব্যবহারকারীদের সহায়তা করতে সহায়তা করে – আমরা নিশ্চিত নই
যদিও কিছু ধরণের এআই চ্যাটবোট-ব্যবহারকারীর গোপনীয়তার সুযোগটি ব্যবহারকারীর ডেটা কিছু উপায়ে নিরাপদ রাখতে পারে, তবে এটি প্রথম এবং সর্বাগ্রে ওপেনাইয়ের মতো সংস্থাগুলিকে বৌদ্ধিক সম্পত্তির বিরোধে তাদের বিরুদ্ধে ব্যবহার করা যেতে পারে এমন তথ্য ধরে রাখতে থেকে রক্ষা করতে পারে।
“আপনি যদি সর্বাধিক সংবেদনশীল স্টাফ সম্পর্কে চ্যাটজিপ্টের সাথে কথা বলেন এবং তারপরে একটি মামলা বা যাই হোক না কেন, আমাদের এটি উত্পাদন করতে হবে,” আল্টম্যান সাক্ষাত্কারে ভনকে বলেছিলেন। “আমি মনে করি এটি খুব খারাপ হয়ে গেছে I
ট্রাম্প প্রশাসন সবেমাত্র তার এআই অ্যাকশন প্ল্যান প্রকাশ করেছে, যা এআই সংস্থাগুলিকে গত সপ্তাহে উন্নয়নের গতি বাড়ানোর জন্য নিয়ন্ত্রণের উপর জোর দেয়। যেহেতু এই পরিকল্পনাটি প্রযুক্তি সংস্থাগুলির পক্ষে অনুকূল হিসাবে দেখা হয়, তাই এটি স্পষ্ট নয় যে আল্টম্যানের মতো প্রস্তাব দিচ্ছে এমন নিয়ন্ত্রণটি শীঘ্রই যে কোনও সময় ফ্যাক্টর করা যেতে পারে কিনা। রাষ্ট্রপতি ডোনাল্ড ট্রাম্পের সমস্ত বড় এআই সংস্থার নেতাদের সাথে ঘনিষ্ঠ সম্পর্কের কারণে, এই বছর ইতিমধ্যে ঘোষণা করা বেশ কয়েকটি অংশীদারিত্বের প্রমাণ হিসাবে, আল্টম্যানের পক্ষে লবি করা কঠিন হতে পারে না।
এছাড়াও: ট্রাম্পের এআই পরিকল্পনাটি কর্মী সুরক্ষার পরিবর্তে এআই আপস্কিলিংকে ধাক্কা দেয় – এবং 4 টি অন্যান্য কী টেকওয়েজ
তবে গোপনীয়তা আপনার থেরাপিস্ট হিসাবে এআই ব্যবহার না করার একমাত্র কারণ নয়। আল্টম্যানের মন্তব্য অনুসরণ করে একটি সাম্প্রতিক গবেষণা স্ট্যানফোর্ড বিশ্ববিদ্যালয় থেকে, যা সতর্ক করে দিয়েছিল যে এআই “থেরাপিস্ট” সংকটগুলি ভুলভাবে পড়তে পারে এবং ক্ষতিকারক স্টেরিওটাইপগুলিকে শক্তিশালী করতে পারে। গবেষণায় দেখা গেছে যে বেশ কয়েকটি বাণিজ্যিকভাবে উপলভ্য চ্যাটবটগুলি “বিভিন্ন মানসিক স্বাস্থ্যের অবস্থার বিভিন্ন সিমুলেশনগুলির সাথে উপস্থাপন করার সময় অনুপযুক্ত – এমনকি বিপজ্জনক – প্রতিক্রিয়া তৈরি করে।”
এছাড়াও: আমি একজন এআই মনোবিজ্ঞানীর স্পেলের অধীনে পড়েছি। তারপরে জিনিসগুলি কিছুটা অদ্ভুত হয়ে উঠল
রেফারেন্স হিসাবে মেডিকেল স্ট্যান্ডার্ড-অফ কেয়ার ডকুমেন্টগুলি ব্যবহার করে গবেষকরা পাঁচটি বাণিজ্যিক চ্যাটবট পরীক্ষা করেছেন: পাই, সেরেনা“থেরাপিয়া” থেকে জিপিটি স্টোরননি (7 কাপ দ্বারা প্রস্তাবিত “এআই কাউন্সেলর”), এবং চরিত্রের উপর “থেরাপিস্ট”। বটগুলি ওপেনাইয়ের জিপিটি -4 ও, লামা 3.1 405 বি, লামা 3.1 70 বি, লামা 3.1 8 বি, এবং লামা 2 70 বি দ্বারা চালিত হয়েছিল, যা গবেষণায় উল্লেখ করা হয়েছে সমস্ত সূক্ষ্ম সুরযুক্ত মডেল।
বিশেষত, গবেষকরা চিহ্নিত করেছিলেন যে এআই মডেলগুলি মানব পেশাদারদের যে মানদণ্ডে রাখা হয় সেগুলি পরিচালনা করার জন্য সজ্জিত নয়: “চিকিত্সা সম্প্রদায়ের সেরা অনুশীলনের বিপরীতে, এলএলএমএস 1) মানসিক স্বাস্থ্যের অবস্থার সাথে তাদের প্রতি কলঙ্ক প্রকাশ করুন এবং 2) প্রাকৃতিকবাদী থেরাপি সেটিংসে কিছু সাধারণ (এবং সমালোচনামূলক) অবস্থার প্রতি অনুপযুক্ত প্রতিক্রিয়া জানান।”
অনিরাপদ প্রতিক্রিয়া এবং এম্বেড থাকা কলঙ্ক
একটি উদাহরণে, “থেরাপিস্ট” নামে একটি চরিত্র.এই চ্যাটবোট আত্মঘাতী আদর্শের জ্ঞাত লক্ষণগুলি সনাক্ত করতে ব্যর্থ হয়েছিল, কোনও ব্যবহারকারীকে বিপজ্জনক তথ্য সরবরাহ করে (ননি একই ভুল করেছে)। এই ফলাফলটি সম্ভবত এআই কীভাবে ব্যবহারকারীর সন্তুষ্টিকে অগ্রাধিকার দিতে প্রশিক্ষিত হয় তার কারণে। এআইয়ের প্রসঙ্গ বা অন্যান্য সংকেতগুলির বোঝারও অভাব রয়েছে যা মানুষ দেহের ভাষার মতো বেছে নিতে পারে, যার সমস্ত থেরাপিস্ট সনাক্ত করার জন্য প্রশিক্ষিত হয়।
“থেরাপিস্ট” চ্যাটবট সম্ভাব্য ক্ষতিকারক তথ্য দেয়।
স্ট্যানফোর্ড
গবেষণায় আরও দেখা গেছে যে মডেলগুলি “ক্লায়েন্টদের বিভ্রান্তিকর চিন্তাকে উত্সাহিত করে”, সম্ভবত তাদের সাইকোফ্যান্টিক হওয়ার প্রবণতা বা ব্যবহারকারীদের কাছে অত্যধিক সম্মত হওয়ার কারণে। এপ্রিল মাসে ওপেনাই তার চরম সাইকোফেন্সির জন্য জিপিটি -4o এর একটি আপডেটের কথা স্মরণ করেছিল, এটি বেশ কয়েকটি ব্যবহারকারী সামাজিক যোগাযোগমাধ্যমে ইঙ্গিত করেছিলেন।
আরও কী, গবেষকরা আবিষ্কার করেছেন যে এলএলএমএস কিছু মানসিক স্বাস্থ্যের অবস্থার বিরুদ্ধে কলঙ্ক বহন করে। কিছু শর্ত বর্ণনা করার উদাহরণ সহ মডেলগুলিকে অনুরোধ করার পরে, গবেষকরা তাদের সম্পর্কে মডেলগুলি নিয়ে প্রশ্ন করেছিলেন। লামা ৩.১ 8 বি ব্যতীত সমস্ত মডেল অ্যালকোহল নির্ভরতা, সিজোফ্রেনিয়া এবং হতাশার বিরুদ্ধে কলঙ্ক দেখিয়েছিল।
স্ট্যানফোর্ড স্টাডি ক্লড 4 এর পূর্বাভাস দেয় (এবং তাই মূল্যায়ন করেনি), তবে আরও বড়, নতুন মডেলের জন্য অনুসন্ধানগুলি উন্নত হয়নি। গবেষকরা দেখতে পেয়েছেন যে পুরানো এবং আরও সম্প্রতি প্রকাশিত মডেলগুলি জুড়ে, প্রতিক্রিয়াগুলি সমস্যাযুক্তভাবে অনুরূপ ছিল।
তারা লিখেছেন, “এই তথ্যগুলি এই ধারণাটিকে চ্যালেঞ্জ জানায় যে ‘যথারীতি স্কেলিং’ আমরা যে মূল্যায়নগুলি সংজ্ঞায়িত করি সেগুলিতে এলএলএমএস কর্মক্ষমতা উন্নত করবে,” তারা লিখেছিল।
অস্পষ্ট, অসম্পূর্ণ নিয়ন্ত্রণ
লেখকরা বলেছিলেন যে তাদের অনুসন্ধানগুলি “আমাদের স্বাস্থ্যসেবা ব্যবস্থার সাথে আরও গভীর সমস্যা – এমন একটি যা এলএলএমএসের হাতুড়ি ব্যবহার করে কেবল ‘স্থির’ হতে পারে না।” আমেরিকান সাইকোলজিকাল অ্যাসোসিয়েশন (এপিএ) অনুরূপ উদ্বেগ প্রকাশ করেছে এবং রয়েছে ফেডারেল ট্রেড কমিশনে ডেকেছে (এফটিসি) সেই অনুযায়ী চ্যাটবটগুলি নিয়ন্ত্রণ করতে।
এছাড়াও: কীভাবে আপনার জিমেইল, ডক্স, ফটো এবং আরও অনেক কিছুতে মিথুন বন্ধ করবেন – এটি বেছে নেওয়া সহজ
এর ওয়েবসাইটের উদ্দেশ্যমূলক বিবৃতি অনুসারে, চরিত্র.এই “ইন্টারেক্টিভ বিনোদনের মাধ্যমে লোকদের সংযোগ, শিখতে এবং গল্পগুলি বলার ক্ষমতা দেয়।” ব্যবহারকারী @শ্যানেকবা দ্বারা নির্মিত, “থেরাপিস্ট” বটের বিবরণে লেখা আছে, “আমি একজন লাইসেন্সপ্রাপ্ত সিবিটি থেরাপিস্ট।” সরাসরি এর অধীনে একটি অস্বীকৃতি, স্পষ্টতই চরিত্র.এই দ্বারা সরবরাহ করা হয়েছে, এটি বলে, “এটি সত্যিকারের ব্যক্তি বা লাইসেন্সপ্রাপ্ত পেশাদার নয়। এখানে কিছুই বলা হয়নি পেশাদার পরামর্শ, রোগ নির্ণয় বা চিকিত্সার বিকল্প।”
চরিত্র.এতে ব্যবহারকারী @সিজেআর 902 ব্যবহারকারী থেকে একটি আলাদা “এআই থেরাপিস্ট” বট। চরিত্রে বেশ কয়েকটি উপলব্ধ রয়েছে।
রাধিকা রাজকুমার/জেডডনেট দ্বারা স্ক্রিনশট
এই বিরোধী বার্তা এবং অস্বচ্ছ উত্সগুলি বিভ্রান্তিকর হতে পারে, বিশেষত অল্প বয়স্ক ব্যবহারকারীদের জন্য। চরিত্র বিবেচনা করে। এআই ধারাবাহিকভাবে শীর্ষ 10 জনপ্রিয় এআই অ্যাপ্লিকেশনগুলির মধ্যে রয়েছে এবং প্রতি মাসে কয়েক মিলিয়ন লোক ব্যবহার করে, এই মিসটপগুলির অংশগুলি বেশি। চরিত্র.এই হয় বর্তমানে মামলা করা হচ্ছে মেগান গার্সিয়ার ভুল মৃত্যুর জন্য, যার 14 বছরের ছেলে অক্টোবরে প্ল্যাটফর্মে একটি বটের সাথে জড়িত থাকার পরে আত্মহত্যা করেছিল যা তাকে উত্সাহিত করেছিল।
ব্যবহারকারীরা এখনও এআই থেরাপির পাশে দাঁড়িয়ে আছেন
চ্যাটবটগুলি এখনও থেরাপি প্রতিস্থাপন হিসাবে অনেকের কাছে আবেদন করে। এগুলি বীমাগুলির ঝামেলার বাইরে বিদ্যমান এবং মানব থেরাপিস্টদের বিপরীতে কোনও অ্যাকাউন্টের মাধ্যমে কয়েক মিনিটের মধ্যে অ্যাক্সেসযোগ্য।
এক হিসাবে রেডডিট ব্যবহারকারী মন্তব্য করেছেনকিছু লোক traditional তিহ্যবাহী থেরাপির সাথে নেতিবাচক অভিজ্ঞতার কারণে এআই চেষ্টা করতে পরিচালিত হয়। জিপিটি স্টোরটিতে বেশ কয়েকটি থেরাপি-স্টাইলের জিপিটি উপলব্ধ রয়েছে এবং পুরো রেডডিট থ্রেড তাদের কার্যকারিতা উত্সর্গীকৃত। একটি ফেব্রুয়ারি অধ্যয়ন এমনকি হিউম্যান থেরাপিস্ট আউটপুটগুলিকে জিপিটি -৪.০ এর সাথে তুলনা করে, অংশগ্রহণকারীরা চ্যাটজিপিটি-র প্রতিক্রিয়াগুলিকে পছন্দ করে বলে জানিয়েছেন যে তারা তাদের সাথে আরও বেশি সংযুক্ত আছেন এবং তাদের মানুষের প্রতিক্রিয়াগুলির চেয়ে কম কম খুঁজে পেয়েছেন।
যাইহোক, এই ফলাফলটি একটি ভুল বোঝাবুঝি থেকে উদ্ভূত হতে পারে যে থেরাপি কেবল সহানুভূতি বা বৈধতা। স্ট্যানফোর্ড স্টাডির উপর নির্ভরশীল মানদণ্ডগুলির মধ্যে, “ভাল থেরাপি” কী জড়িত তার গভীর সংজ্ঞায় এই ধরণের সংবেদনশীল বুদ্ধি কেবল একটি স্তম্ভ। এলএলএমএস সহানুভূতি প্রকাশ করতে এবং ব্যবহারকারীদের বৈধতা দেওয়ার ক্ষেত্রে দক্ষতা অর্জন করার সময়, সেই শক্তিও তাদের প্রাথমিক ঝুঁকির কারণ।
“একটি এলএলএম প্যারানোয়াকে বৈধতা দিতে পারে, কোনও ক্লায়েন্টের দৃষ্টিকোণকে প্রশ্ন করতে ব্যর্থ হতে পারে বা সর্বদা প্রতিক্রিয়া জানিয়ে আবেশে খেলতে ব্যর্থ হতে পারে,” সমীক্ষায় উল্লেখ করা হয়েছে।
এছাড়াও: আমি জীবিকার জন্য এআই সরঞ্জামগুলি পরীক্ষা করি। আমি এখানে 3 টি চিত্র জেনারেটর ব্যবহার করি এবং কীভাবে
ইতিবাচক ব্যবহারকারী-প্রতিবেদনিত অভিজ্ঞতা সত্ত্বেও গবেষকরা উদ্বিগ্ন রয়েছেন। “থেরাপিতে একটি মানুষের সম্পর্ক জড়িত,” অধ্যয়নের লেখকরা লিখেছেন। “এলএলএম কোনও ক্লায়েন্টকে মানুষের সম্পর্কের অর্থ কী তা বোঝাতে পুরোপুরি অনুমতি দিতে পারে না।” গবেষকরা আরও উল্লেখ করেছেন যে মনোচিকিত্সায় বোর্ড-প্রত্যয়িত হওয়ার জন্য, মানব সরবরাহকারীদের পর্যবেক্ষণমূলক রোগীর সাক্ষাত্কারে ভাল করতে হবে, কেবল একটি লিখিত পরীক্ষায় পাস নয়, কারণ হিসাবে-একটি সম্পূর্ণ উপাদান এলএলএম মৌলিকভাবে অভাব।
“এটি কোনওভাবেই পরিষ্কার নয় যে এলএলএম এমনকি ‘খারাপ থেরাপিস্টের’ মান পূরণ করতে সক্ষম হবে,” তারা গবেষণায় উল্লেখ করেছে।
গোপনীয়তা উদ্বেগ
ক্ষতিকারক প্রতিক্রিয়াগুলির বাইরেও, ব্যবহারকারীদের এই বটগুলিতে এইচআইপিএএ-সংবেদনশীল স্বাস্থ্য তথ্য ফাঁস করার বিষয়ে কিছুটা উদ্বিগ্ন হওয়া উচিত। স্ট্যানফোর্ড সমীক্ষায় উল্লেখ করা হয়েছে যে একজন এলএলএমকে থেরাপিস্ট হিসাবে কার্যকরভাবে প্রশিক্ষণ দেওয়ার জন্য, বিকাশকারীদের প্রকৃত চিকিত্সার কথোপকথনগুলি ব্যবহার করতে হবে, যাতে ব্যক্তিগতভাবে সনাক্তকরণ তথ্য (পিআইআই) থাকে। এমনকি যদি ডি-সনাক্ত করা হয় তবে এই কথোপকথনগুলিতে এখনও গোপনীয়তার ঝুঁকি রয়েছে।
এছাড়াও: এআইকে চাকরি-হত্যাকারী হতে হবে না। কিছু ব্যবসায় কীভাবে এটি বাড়ানোর জন্য ব্যবহার করছে, প্রতিস্থাপন নয়
গবেষণার অন্যতম লেখক জ্যারেড মুর বলেছেন, “আমি এমন কোনও মডেল সম্পর্কে জানি না যা কলঙ্ক হ্রাস করতে এবং আমাদের উদ্দীপনাগুলিতে যথাযথ প্রতিক্রিয়া জানাতে সফলভাবে প্রশিক্ষণ দেওয়া হয়েছে।” তিনি আরও যোগ করেছেন যে তাঁর মতো বাহ্যিক দলগুলির পক্ষে এই কাজটি করতে পারে এমন মালিকানাধীন মডেলগুলি মূল্যায়ন করা কঠিন, তবে প্রকাশ্যে উপলভ্য নয়। থেরাবটএকটি উদাহরণ যা কথোপকথনের ডেটাতে সূক্ষ্ম সুরযুক্ত বলে দাবি করে, হতাশাজনক লক্ষণগুলি হ্রাস করার প্রতিশ্রুতি দেখিয়েছিল, একটি অনুসারে অধ্যয়ন। যাইহোক, মুর তার পরীক্ষার মাধ্যমে এই ফলাফলগুলি সংশোধন করতে সক্ষম হননি।
শেষ পর্যন্ত, স্ট্যানফোর্ড অধ্যয়নটি অন্যান্য শিল্পগুলিতেও জনপ্রিয় হওয়া অ-রেপপ্লেস পদ্ধতির উত্সাহ দেয়। মানব-থেকে মানবিক থেরাপির বিকল্প হিসাবে সরাসরি এআই বাস্তবায়নের চেষ্টা করার পরিবর্তে গবেষকরা বিশ্বাস করেন যে প্রযুক্তিটি প্রশিক্ষণের উন্নতি করতে পারে এবং প্রশাসনিক কাজ গ্রহণ করতে পারে।
আমাদের সাথে প্রতিদিন আপনার ইনবক্সে সকালের শীর্ষ গল্পগুলি পান টেক টুডে নিউজলেটার।
