আত্মহত্যার এক ফুসকুড়িের মধ্যে, চ্যাটজিপির পিছনে সংস্থাটি যুবকদের নিজের জীবন নেওয়ার বিষয়ে চিন্তাভাবনা করার বিষয়ে পুলিশকে সতর্ক করা শুরু করতে পারে, ফার্মের প্রধান নির্বাহী কর্মকর্তা এবং সহ-প্রতিষ্ঠাতা স্যাম অল্টম্যান ঘোষণা করেছিলেন। কনজারভেটিভ টক শো হোস্ট টাকার কার্লসনের সাথে সাম্প্রতিক এক সাক্ষাত্কারের সময় 40 বছর বয়সী ওপেনএআই বস বোমাশেলটি ফেলেছিলেন।
টেকট্রেপ্রেনার ব্যাখ্যা করেছিলেন, “আমাদের পক্ষে আত্মহত্যার বিষয়ে কথা বলার ক্ষেত্রে, যেখানে আমরা পিতামাতার সাথে যোগাযোগ করতে পারি না, সেখানে আমরা কর্তৃপক্ষকে ডাকি,” আমাদের পক্ষে বলা খুব যুক্তিসঙ্গত। “এখন এটি একটি পরিবর্তন হবে কারণ ব্যবহারকারীর গোপনীয়তা সত্যই গুরুত্বপূর্ণ” “
বড় ভাষা শেখার মডেল দ্বারা প্রশিক্ষিত হওয়ার অভিযোগে এপ্রিল মাসে আত্মহত্যা করা 16 বছর বয়সী ছেলে অ্যাডাম রাইন-এর পরিবার দ্বারা আল্টম্যান এবং ওপেনাইয়ের বিরুদ্ধে মামলা করার পরে এই পরিবর্তনটি এসেছে বলে জানা গেছে। কিশোরীর পরিবার অভিযোগ করেছে যে মৃত ব্যক্তিকে কীভাবে নিজেকে হত্যা করা যায় সে সম্পর্কে “ধাপে ধাপে প্লেবুক” সরবরাহ করা হয়েছিল-নিজেকে ঝুলিয়ে রাখার জন্য একটি নুজ বেঁধে রাখা এবং একটি আত্মঘাতী নোট রচনা সহ-তিনি নিজের জীবন নেওয়ার আগে।
তাঁর অকাল মৃত্যুর পরে, সান ফ্রান্সিসকো এআই ফার্ম ঘোষণা করেছে ব্লগ পোস্ট এটি নতুন সুরক্ষা বৈশিষ্ট্যগুলি ইনস্টল করবে যা পিতামাতাদের তাদের অ্যাকাউন্টগুলিকে তাদের নিজস্ব সাথে সংযুক্ত করতে, চ্যাট ইতিহাসের মতো ফাংশনগুলি নিষ্ক্রিয় করতে এবং মডেলটি “তীব্র সঙ্কটের একটি মুহুর্ত” সনাক্ত করতে সতর্কতাগুলি গ্রহণ করতে দেয়।
এটি এখনও অস্পষ্ট যে কোন কর্তৃপক্ষকে সতর্ক করা হবে – বা তাদের কাছে কী তথ্য সরবরাহ করা হবে – আল্টম্যানের প্রস্তাবিত নীতিমালার অধীনে। যাইহোক, তাঁর এই ঘোষণাটি চ্যাটজিপ্টের পূর্বের এমও থেকে ডিল করার জন্য প্রস্থানকে চিহ্নিত করেছে, যার মধ্যে আত্মঘাতী আদর্শ প্রদর্শনকারী ব্যক্তিদের “আত্মঘাতী হটলাইন কল করুন” এর প্রতি আহ্বান জানানো জড়িত ছিল অভিভাবক রিপোর্ট করেছেন।
নতুন রক্ষণাবেক্ষণের অধীনে ওপেনএআই বিগউইগ বলেছিলেন যে তিনি কিশোর -কিশোরীদের একটি কথাসাহিত্যের গল্প বা একটি মেডিকেল পেপার নিয়ে গবেষণা করার আড়ালে আত্মহত্যার টিপসের প্রত্যাশায় সিস্টেমটি হ্যাক করার চেষ্টা করছেন।
আল্টম্যান বিশ্বাস করেন যে চ্যাটজিপ্ট দুর্ভাগ্যক্রমে আমরা বিশ্বাস করতে চাই তার চেয়ে বেশি আত্মহত্যার সাথে জড়িত থাকতে পারে, দাবি করে যে বিশ্বব্যাপী, “সপ্তাহে ১৫,০০০ মানুষ আত্মহত্যা করে,” এবং প্রায় “বিশ্বের 10% চ্যাটজিপিটি -র সাথে কথা বলছে।”
টেকট্রেপ্রেনার ব্যাখ্যা করেছিলেন, “এটি সপ্তাহে ১,৫০০ জনের মতো যা কথা বলছে, এটি সঠিক বলে ধরে নিচ্ছে, চ্যাটজিপ্ট এবং এখনও এর শেষে আত্মহত্যা করা,” টেকট্রেপ্রেনার ব্যাখ্যা করেছিলেন। “তারা সম্ভবত এটি সম্পর্কে কথা বলেছিল। আমরা সম্ভবত তাদের জীবন বাঁচাতে পারি নি।”
তিনি আরও যোগ করেছেন, “সম্ভবত আমরা আরও ভাল কিছু বলতে পারতাম। সম্ভবত আমরা আরও সক্রিয় হতে পারতাম।
দুর্ভাগ্যক্রমে, এআইয়ের সাথে কথা বলার পরে কোনও ব্যক্তি তাদের জীবন নেওয়ার প্রথম উচ্চ প্রচারিত ঘটনা নয়।
গত বছর, মেগান গার্সিয়া তার ১৪ বছরের ছেলের সিওয়েল সেটজার তৃতীয়ের মৃত্যুর জন্য ২০২৪ সালে চরিত্রে মামলা করেছেন-দাবি করেছেন যে তিনি “গেম অফ থ্রোনস” চরিত্রে ডেনারিস তারেরিয়েনকে মডেল করে একটি চ্যাটবোটের সাথে মোহিত হওয়ার পরে তাঁর জীবন নিয়েছিলেন।
এদিকে, চ্যাটজিপিটি কীভাবে নিজের কব্জি এবং স্ব-ক্ষতির অন্যান্য পদ্ধতিগুলি কেটে ফেলা যায় সে সম্পর্কে একটি টিউটোরিয়াল সরবরাহ করে নথিভুক্ত করা হয়েছে।
এআই বিশেষজ্ঞরা এই দুর্ভাগ্যজনক ঘটনাটিকে এই সত্যের জন্য দায়ী করেছেন যে চ্যাটজিপির সুরক্ষার সীমিত মাইলেজ রয়েছে – কথোপকথনটি যত দীর্ঘ হবে, বটটি দুর্বৃত্ত হওয়ার সম্ভাবনা তত বেশি।
“চ্যাটজিপিটি -তে লোককে সংকট হেল্পলাইনের দিকে পরিচালিত করার মতো সুরক্ষার অন্তর্ভুক্ত রয়েছে,” রাইনির মৃত্যুর পরে এক বিবৃতিতে ওপেনএআইয়ের এক মুখপাত্র বলেছেন। “যদিও এই সুরক্ষাগুলি সাধারণ, সংক্ষিপ্ত এক্সচেঞ্জগুলিতে সবচেয়ে ভাল কাজ করে, আমরা সময়ের সাথে সাথে শিখেছি যে তারা মাঝে মাঝে দীর্ঘ মিথস্ক্রিয়ায় কম নির্ভরযোগ্য হয়ে উঠতে পারে যেখানে মডেলের সুরক্ষা প্রশিক্ষণের অংশগুলি হ্রাস করতে পারে।”
যুবকদের মধ্যে চ্যাটজিপিটি ব্যবহারের বিস্তারকে দেখে এই ত্রুটিটি বিশেষত উদ্বেগজনক।
প্রায় 72% আমেরিকান কিশোররা এআইকে সহকর্মী হিসাবে ব্যবহার করে, অন্যদিকে আটজনের মধ্যে একজন মানসিক স্বাস্থ্য সহায়তার জন্য প্রযুক্তির দিকে ঝুঁকছেন, একটি সাধারণ জ্ঞানের মিডিয়া অনুসারে পোল।
অনিরাপদ এআই গাইডেন্সের উদাহরণগুলি রোধ করার জন্য, বিশেষজ্ঞরা এমন ব্যবস্থাগুলির পরামর্শ দিয়েছিলেন যেগুলি জনসাধারণের কাছে উপলব্ধ হওয়ার আগে আরও কঠোর সুরক্ষা ট্রায়ালগুলি গ্রহণের জন্য প্রযুক্তি প্রয়োজন।
“আমরা জানি যে কয়েক মিলিয়ন কিশোর ইতিমধ্যে মানসিক স্বাস্থ্য সহায়তার জন্য চ্যাটবটের দিকে ঝুঁকছে, এবং কেউ কেউ অনিরাপদ দিকনির্দেশনাগুলির মুখোমুখি হচ্ছে,” র্যান্ড স্কুল অফ পাবলিক পলিসির নীতি বিশ্লেষণের অধ্যাপক রায়ান কে। ম্যাকবাইন পোস্টকে বলেছেন। “এই সরঞ্জামগুলি কিশোর -কিশোরীদের জীবনে গভীরভাবে এম্বেড হওয়ার আগে এটি প্র্যাকটিভ নিয়ন্ত্রণ এবং কঠোর সুরক্ষা পরীক্ষার প্রয়োজনীয়তার উপর নজর রাখে।”
