sauravpanda/BrowserAI: আপনার ব্রাউজারের ভিতরে স্থানীয় LLM চালান

ব্রাউজারএআই: ব্রাউজারে এলএলএম চালান – সহজ, দ্রুত এবং ওপেন সোর্স!

• 🔒 গোপনীয়তা প্রথম: সমস্ত প্রক্রিয়াকরণ স্থানীয়ভাবে হয় – আপনার ডেটা কখনই ব্রাউজার ছেড়ে যায় না
• 💰 খরচ কার্যকর: কোন সার্ভার খরচ বা জটিল পরিকাঠামো প্রয়োজন
• 🌐 অফলাইন সক্ষম: প্রাথমিক ডাউনলোডের পর মডেলগুলি অফলাইনে কাজ করে৷
• 🚀 জ্বলন্ত দ্রুত: কাছাকাছি-নেটিভ পারফরম্যান্সের জন্য WebGPU ত্বরণ
• 🎯 বিকাশকারী বন্ধুত্বপূর্ণ: সহজ এপিআই, একাধিক ইঞ্জিন সমর্থন, ব্যবহারের জন্য প্রস্তুত মডেল

• ওয়েব ডেভেলপাররা এআই-চালিত অ্যাপ্লিকেশন তৈরি করছে
• গোপনীয়তা-সচেতন AI সমাধান প্রয়োজন কোম্পানি
• গবেষকরা ব্রাউজার-ভিত্তিক এআই নিয়ে পরীক্ষা করছেন
• পরিকাঠামো ওভারহেড ছাড়াই AI অন্বেষণের শখ

• 🎯 ব্রাউজারে সরাসরি এআই মডেল চালান – সার্ভারের প্রয়োজন নেই!
• ⚡ দ্রুত অনুমানের জন্য WebGPU ত্বরণ
• 🔄 এমএলসি এবং ট্রান্সফরমার ইঞ্জিনের মধ্যে বিরামবিহীন স্যুইচিং
• 📦 প্রি-কনফিগার করা জনপ্রিয় মডেল ব্যবহারের জন্য প্রস্তুত
• 🛠️ টেক্সট জেনারেশন এবং আরও অনেক কিছুর জন্য ব্যবহার করা সহজ API

bash
npm install @browserai/browserai

বা

bash
yarn add @browserai/browserai

import { BrowserAI } from '@browserai/browserai';

const browserAI = new BrowserAI();

browserAI.loadModel('llama-3.2-1b-instruct');

const response = await browserAI.generateText('Hello, how are you?');
console.log(response);

const ai = new BrowserAI();
await ai.loadModel('llama-3.2-1b-instruct', {
  quantization: 'q4f16_1' // Optimize for size/speed
});

const response = await ai.generateText('Write a short poem about coding', {
  temperature: 0.8,
  maxTokens: 100
});

const ai = new BrowserAI();
await ai.loadModel('gemma-2b-it');

const response = await ai.generateText((
  { role: 'system', content: 'You are a helpful assistant.' },
  { role: 'user', content: 'What is WebGPU?' }
));

const ai = new BrowserAI();
await ai.loadModel('whisper-tiny-en');

// Using the built-in recorder
await ai.startRecording();
const audioBlob = await ai.stopRecording();
const transcription = await ai.transcribeAudio(audioBlob);

const ai = new BrowserAI();
await ai.loadModel('speecht5-tts');
const audioBuffer = await ai.textToSpeech('Hello, how are you today?');
// Play the audio using Web Audio API
const audioContext = new AudioContext();
const source = audioContext.createBufferSource();
audioContext.decodeAudioData(audioBuffer, (buffer) => {
  source.buffer = buffer;
  source.connect(audioContext.destination);
  source.start(0);
});

আরো মডেল শীঘ্রই যোগ করা হবে. একটি সমস্যা তৈরি করে একটি মডেল অনুরোধ করুন.

• লামা-৩.২-১বি-নির্দেশ
• SmolLM2-135M-নির্দেশ
• SmolLM2-360M-নির্দেশ
• SmolLM2-1.7B-নির্দেশ
• Qwen-0.5B-নির্দেশ
• Gemma-2B-IT
• TinyLlama-1.1B-Chat-v0.4
• Phi-3.5-মিনি-নির্দেশ
• Qwen2.5-1.5B-নির্দেশ

• লামা-৩.২-১বি-নির্দেশ
• হুইস্পার-টিনি-এন (স্পিচ রিকগনিশন)
• SpeechT5-TTS (টেক্সট-টু-স্পিচ)

• 🎯 সরলীকৃত মডেল আরম্ভ
• 📊 বেসিক মনিটরিং এবং মেট্রিক্স
• 🔍 সহজ RAG বাস্তবায়ন
• 🛠️ ডেভেলপার টুল ইন্টিগ্রেশন

• 📚 উন্নত RAG ক্ষমতা
  • হাইব্রিড অনুসন্ধান
  • অটো-চঙ্কিং
  • উৎস ট্র্যাকিং
• 📊 উন্নত পর্যবেক্ষণযোগ্যতা
  • কর্মক্ষমতা ড্যাশবোর্ড
  • মেমরি প্রোফাইলিং
  • ত্রুটি ট্র্যাকিং

• 🔐 নিরাপত্তা বৈশিষ্ট্য
• 📈 উন্নত বিশ্লেষণ
• 🤝 মাল্টি-মডেল অর্কেস্ট্রেশন

আমরা অবদান স্বাগত জানাই! নির্দ্বিধায়:

1. ভান্ডার কাঁটাচামচ
2. আপনার বৈশিষ্ট্য শাখা তৈরি করুন (git checkout -b feature/amazing-feature)
3. আপনার পরিবর্তনগুলি করুন (git commit -m 'Add amazing feature')
4. শাখায় ধাক্কা দিন (git push origin feature/amazing-feature)
5. একটি টান অনুরোধ খুলুন

এই প্রকল্পটি MIT লাইসেন্সের অধীনে লাইসেন্সপ্রাপ্ত – বিস্তারিত জানার জন্য LICENSE ফাইলটি দেখুন।

• এমএলসি এআই তাদের অবিশ্বাস্য মোড সংকলন লাইব্রেরির জন্য এবং webgpu রানটাইম এবং xgrammar এর জন্য সমর্থন
• আলিঙ্গন মুখ এবং Xenova তাদের Transformers.js লাইব্রেরির জন্য, Apache License 2.0 এর অধীনে লাইসেন্সপ্রাপ্ত। মূল কোডটি ব্রাউজার পরিবেশে কাজ করার জন্য পরিবর্তন করা হয়েছে এবং টাইপস্ক্রিপ্টে রূপান্তরিত করা হয়েছে।
• আমাদের সব অবদানকারী এবং সমর্থক!

এআই সম্প্রদায়ের জন্য ❤️ দিয়ে তৈরি

• WebGPU সমর্থন সহ আধুনিক ব্রাউজার (Chrome 113+, Edge 113+, বা সমতুল্য)
• সঙ্গে মডেলের জন্য shader-f16 প্রয়োজন, হার্ডওয়্যার অবশ্যই 16-বিট ফ্লোটিং পয়েন্ট অপারেশন সমর্থন করবে