আমার কাছে 8 জিবি ভিআরএএম সহ একটি আরটিএক্স 3070 রয়েছে এবং আমার জন্য কিউইএন 3: 30 বি-এ 3 বি যথেষ্ট দ্রুত। এটি দ্রুত বিদ্যুৎ নয়, তবে আপনার যদি _লিটল_ ধৈর্য থাকে তবে পর্যাপ্ত চেয়ে বেশি।
আমি খুঁজে পেয়েছি যে QWEN3 সাধারণত নিম্নলিখিত নির্দেশাবলীতে সত্যই ভাল এবং আপনি এটি বন্ধ করার প্রম্পটে “/নো_থিংক” যুক্ত করে খুব সহজেই যুক্তিটি চালু বা বন্ধ করতে পারেন।
QWEN3: 30 বি এত ভাল কাজ করার কারণ হ’ল এটি একটি মো। আমি 14 বি মডেলটি পরীক্ষা করেছি এবং এটি লক্ষণীয়ভাবে ধীর কারণ এটি একটি ঘন মডেল।
