๐ง Multi-Agent AI System running 100% offline using Google Gemma-4 models. 5 specialized AI agents collaborate in infinite loops for brainstorming. Features: Dynamic VRAM swapping, 4-bit NF4 quantization, WhatsApp-style RTL UI, live token streaming, AI-powered agent customization. Built with PySide6 + PyTorch + Transformers.
71
stars
4
commits
Python
primary language
Apr 19, 2026
updated
ูุธุงู ุฐูุงุก ุงุตุทูุงุนู ู ุชุนุฏุฏ ุงููููุงุก ูุนู ู ู ุญููุงู ุจุงููุงู ู โ Multi-Agent AI System Running 100% Offline
Quick Start โข Requirements โข Models โข Usage โข Architecture
Agentic Swarm ูู ุชุทุจูู ุณุทุญ ู ูุชุจ ุฃุตูู (Native Desktop Application) ู ุจูู ุจู Python ู PySide6ุ ููุฏูุฑ ูุฑููุงู ู ู 5 ูููุงุก ุฐูุงุก ุงุตุทูุงุนู ูุนู ููู ุจุดูู ุชุนุงููู ูู ุชุณูุณู ูู ุญููุฉ ูุง ููุงุฆูุฉ ููุนุตู ุงูุฐููู ูุชุทููุฑ ุงูุฃููุงุฑ.
Agentic Swarm is a native desktop application built with Python & PySide6 that orchestrates a team of 5 AI agents working collaboratively in an infinite loop for brainstorming and iterative idea development. It runs 100% offline on your local hardware using Google's Gemma-4 model family.
| ุงูู ูุฒุฉ | ุงููุตู |
|---|---|
| ๐ Offline-First | ูุนู ู ุจุงููุงู ู ุจุฏูู ุฅูุชุฑูุช ุจุนุฏ ุชุญู ูู ุงููู ุงุฐุฌ |
| ๐ง 5 AI Agents | 5 ูููุงุก ู ุชุฎุตุตูู ูุชุนุงูููู ูู ุญููุฉ ูุง ููุงุฆูุฉ |
| โก 4-bit Quantization | ุถุบุท NF4 ู ุน ุถุบุท ู ุฒุฏูุฌ ูุฃูุตู ุชูููุฑ ูู VRAM |
| ๐ Dynamic VRAM Swapping | ู ุจุงุฏูุฉ ุฐููุฉ: ุญู ูู โ ูููุฏ โ ูุฑูุบ ููู ูููู |
| ๐จ WhatsApp-Style UI | ูุงุฌูุฉ ุฑุณูู ูุฉ ุฃูููุฉ ุจุชุตู ูู ู ุณุชูุญู ู ู WhatsApp Dark |
| ๐ก Live Streaming | ุจุซ ุงูุชูููุงุช ุญุฑูุงู ุญุฑูุงู ูู ุงูููุช ุงููุนูู |
| ๐ค AI Customization | ุชุฎุตูุต ุงููููุงุก ุจุงูุฐูุงุก ุงูุงุตุทูุงุนู ุฃู ูุฏููุงู |
| ๐ค Human-in-the-Loop | ุชุฏุฎู ุจุดุฑู ุญู ุฃุซูุงุก ุนู ู ุงููููุงุก |
| ๐พ Templates System | ุญูุธ ูุชุญู ูู ููุงูุจ ุชุฎุตูุต ุฌุงูุฒุฉ |
| ๐ฉบ Live Diagnostics | ุณุฌู ุชุดุฎูุตู ุญู ูู ุฑุงูุจุฉ ุงูุฃุฏุงุก |
| ๐ Full RTL Support | ุฏุนู ูุงู ู ููุบุฉ ุงูุนุฑุจูุฉ (ู ู ุงููู ูู ูููุณุงุฑ) |
# 1. Clone the repository
git clone https://github.com/alka2090/Agentic-Swarm.git
cd Agentic-Swarm
# 2. Download at least one Gemma-4 model (smallest first)
pip install huggingface_hub
huggingface-cli login
huggingface-cli download google/gemma-4-e2b-it
# 3. Run the application
.\run_project.ps1
โ ๏ธ ูุชุทูุจ ูุฑุช ุดุงุดุฉ NVIDIA ุจุฐุงูุฑุฉ 12GB+ โ Requires NVIDIA GPU with 12GB+ VRAM
| ุงูู ูููู | ุงูุญุฏ ุงูุฃุฏูู | ุงูู ุซุงูู |
|---|---|---|
| ูุธุงู ุงูุชุดุบูู | Windows 10 (64-bit) | Windows 11 |
| ูุฑุช ุดุงุดุฉ NVIDIA | RTX 3060 (12GB VRAM) | RTX 4070+ (12GB+ VRAM) |
| ุงูุฐุงูุฑุฉ (RAM) | 16GB DDR4 | 32GB DDR5 |
| ุงูู ุนุงูุฌ (CPU) | Intel i5 / Ryzen 5 | Intel i9 / Ryzen 9 |
| ู ุณุงุญุฉ ุงููุฑุต | 50GB ูุงุฑุบุฉ | 100GB+ |
| ุฅูุชุฑูุช | ู ุทููุจ ู ุฑุฉ ูุงุญุฏุฉ ููุชุซุจูุช | ุจุนุฏ ุงูุชุซุจูุช: ูุง ูุญุชุงุฌ ุฅูุชุฑูุช |
| ุงูุจุฑูุงู ุฌ | ุงูุฅุตุฏุงุฑ | ุฑุงุจุท ุงูุชุญู ูู | ู ูุงุญุธุฉ |
|---|---|---|---|
| Python | 3.10+ | python.org | โ ๏ธ ูุนูู "Add to PATH" ุฃุซูุงุก ุงูุชุซุจูุช |
| NVIDIA Driver | 525+ | nvidia.com | ุฃุนุฏ ุงูุชุดุบูู ุจุนุฏ ุงูุชุซุจูุช |
| CUDA Toolkit | 12.4+ | CUDA 12.6 | ุงุฎุชุฑ "Express Install" |
| PyTorch | 2.x+cu126 | pytorch.org | ุงูุชุซุจูุช ุนุจุฑ ุงูุฃู ุฑ ุฃุฏูุงู |
# ุชุญู
ูู Python 3.13 ู
ู ุงูู
ููุน ุงูุฑุณู
ู
# โ ๏ธ ุฃุซูุงุก ุงูุชุซุจูุช: ูุนูู ุฎูุงุฑ "Add python.exe to PATH"
# ุงูุชุญูู:
python --version
# ุงูู
ุชููุน: Python 3.13.x
# 1. ุซุจูุช ุฃุญุฏุซ ุชุนุฑูู NVIDIA ู
ู: https://www.nvidia.com/Download/index.aspx
# 2. ุฃุนุฏ ุชุดุบูู ุงููู
ุจููุชุฑ
# 3. ุซุจูุช CUDA Toolkit 12.6 ู
ู: https://developer.nvidia.com/cuda-12-6-0-download-archive
# ุงูุชุญูู:
nvidia-smi
nvcc --version
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126
# ุงูุชุญูู ู
ู ุฃู PyTorch ูุฑู ูุฑุช ุงูุดุงุดุฉ:
python -c "import torch; print('CUDA:', torch.cuda.is_available()); print('GPU:', torch.cuda.get_device_name(0))"
# ุงูู
ุชููุน: CUDA: True | GPU: NVIDIA GeForce RTX XXXX
# ุชุซุจูุช ุฃุฏุงุฉ HuggingFace
pip install huggingface_hub
# ุชุณุฌูู ุงูุฏุฎูู (ุชุญุชุงุฌ ุญุณุงุจ ู
ุฌุงูู ุนูู huggingface.co)
huggingface-cli login
โ ๏ธ ูุฌุจ ูุจูู ุชุฑุฎูุต ูู ูู ูุฐุฌ ู ู ุตูุญุชู ุนูู HuggingFace ูุจู ุงูุชุญู ูู (ุงูุธุฑ ูุณู ุงููู ุงุฐุฌ ุฃุฏูุงู)
# ุชุญู
ูู ุงููู
ุงุฐุฌ (ุงุจุฏุฃ ุจุงูุฃุตุบุฑ):
huggingface-cli download google/gemma-4-e2b-it # ~5GB โ ุงุจุฏุฃ ุจูุฐุง
huggingface-cli download google/gemma-4-e4b-it # ~9GB โ ุงุฎุชูุงุฑู
huggingface-cli download google/gemma-4-26b-a4b-it # ~28GB โ ุงุฎุชูุงุฑู
huggingface-cli download google/gemma-4-31b-it # ~35GB โ ุงุฎุชูุงุฑู
# ุงุณุชูุณุงุฎ ุงูู
ุดุฑูุน
git clone https://github.com/alka2090/Agentic-Swarm.git
cd Agentic-Swarm
# ุงูุณู
ุงุญ ุจุชุดุบูู ุงูุณูุฑุจุชุงุช (ู
ุฑุฉ ูุงุญุฏุฉ ููุท)
Set-ExecutionPolicy -Scope CurrentUser -ExecutionPolicy RemoteSigned
# ุชุดุบูู ุงูุจุฑูุงู
ุฌ (ูุซุจุช ุงูู
ูุชุจุงุช ุชููุงุฆูุงู ูู ุฃูู ู
ุฑุฉ)
.\run_project.ps1
ูุณุชุฎุฏู ุงูู ุดุฑูุน ูู ุงุฐุฌ Google Gemma-4 ุงูู ูุชูุญุฉ ุงูู ุตุฏุฑ (Apache 2.0) ู ู Google DeepMind.
ุชุชู ูุฒ ุจุชูููุฉ "Per-Layer Embeddings" (PLE) ูุฒูุงุฏุฉ ุงูููุงุกุฉ ุนูู ุงูุฃุฌูุฒุฉ ุงูุตุบูุฑุฉ.
| ุงูู ูุงุตูุฉ | ุงูููู ุฉ |
|---|---|
| ุงูู ุนุฑู | google/gemma-4-e2b-it |
| ุงูู ุนูู ุงุช | 2.3 ู ููุงุฑ ูุนุงูุฉ (5.1 ู ููุงุฑ ุฅุฌู ุงูุงู) |
| ุณูุงู ุงูุฅุฏุฎุงู | 128,000 Token |
| ุงููุณุงุฆุท | ูุตุ ุตูุฑุ ูุตูุช (Native Audio) |
| ุงูุญุฌู (4-bit) | ~1.5GB VRAM |
| ุงูุฃุฏุงุก | ู ุตู ู ููุฃุฌูุฒุฉ ุงูุทุฑููุฉ ูุฃุฌูุฒุฉ IoT |
| ๐ HuggingFace | google/gemma-4-e2b-it |
huggingface-cli download google/gemma-4-e2b-it
| ุงูู ูุงุตูุฉ | ุงูููู ุฉ |
|---|---|
| ุงูู ุนุฑู | google/gemma-4-e4b-it |
| ุงูู ุนูู ุงุช | 4.5 ู ููุงุฑ ูุนุงูุฉ (8 ู ููุงุฑ ุฅุฌู ุงูุงู) |
| ุณูุงู ุงูุฅุฏุฎุงู | 128,000 Token |
| ุงููุณุงุฆุท | ูุตุ ุตูุฑุ ูุตูุช (Native Audio) |
| ุงูุญุฌู (4-bit) | ~3GB VRAM |
| ุงูุฃุฏุงุก | ูุชููู ุนูู ูู ุงุฐุฌ ุงูู 7B ุงููุฏูู ุฉ ูู ุงูู ูุทู ุงูุจุฑู ุฌู |
| ๐ HuggingFace | google/gemma-4-e4b-it |
huggingface-cli download google/gemma-4-e4b-it
ู ุนู ุงุฑูุฉ ูุฌููุฉ ูุงุฆูุฉ ุงูููุงุกุฉ โ ุชูุนูู ููุท ุงูุฎุจุฑุงุก ุงูู ุทููุจูู.
| ุงูู ูุงุตูุฉ | ุงูููู ุฉ |
|---|---|
| ุงูู ุนุฑู | google/gemma-4-26b-a4b-it |
| ุงูู ุนูู ุงุช | 25.2 ู ููุงุฑ ุฅุฌู ุงูู (3.8 ู ููุงุฑ ูุนุงูุฉ ุฃุซูุงุก ุงูู ุนุงูุฌุฉ) |
| ุณูุงู ุงูุฅุฏุฎุงู | 256,000 Token |
| ุงููุณุงุฆุท | ูุต ูุตูุฑ (ุจุฏูุฉ ุนุงููุฉ) |
| ุงูุญุฌู (4-bit) | ~13.3GB VRAM |
| ุงูุฃุฏุงุก | ูุงุฆู ุงูุณุฑุนุฉุ ู ุซุงูู ููุจุฑู ุฌุฉ ุงูู ุนูุฏุฉ ูุงููููุงุก |
| ๐ HuggingFace | google/gemma-4-26b-a4b-it |
huggingface-cli download google/gemma-4-26b-a4b-it
ุงููู ูุฐุฌ ุงูุฃุถุฎู ูุงูุฃุฐูู ูู ุงูุณูุณูุฉ.
| ุงูู ูุงุตูุฉ | ุงูููู ุฉ |
|---|---|
| ุงูู ุนุฑู | google/gemma-4-31b-it |
| ุงูู ุนูู ุงุช | 30.7 ู ููุงุฑ ู ุนูู ุฉ (ูุซูู ุจุงููุงู ู) |
| ุณูุงู ุงูุฅุฏุฎุงู | 256,000 Token |
| ุงููุณุงุฆุท | ูุต ูุตูุฑ (ุฃุนูู ุฏูุฉ ูู ููู ุงูู ุณุชูุฏุงุช) |
| ุงูุญุฌู (4-bit) | ~16.4GB VRAM |
| ุงูุฃุฏุงุก | ุงูู ุฑูุฒ #3 ุนุงูู ูุงู ุจูู ุงููู ุงุฐุฌ ุงูู ูุชูุญุฉ โ ุชูููุฑ ู ูุทูู ุนู ูู |
| ๐ HuggingFace | google/gemma-4-31b-it |
huggingface-cli download google/gemma-4-31b-it
| ุงููู ูุฐุฌ | ุงูู ุนูู ุงุช | VRAM (4-bit) | ุงูุณูุงู | ุงููุณุงุฆุท | ุงูุงุณุชุฎุฏุงู ุงูุฃู ุซู |
|---|---|---|---|---|---|
gemma-4-e2b-it | 2.3B | ~1.5GB | 128K | ูุต+ุตูุฑ+ุตูุช | ุจุญุซ ุณุฑูุนุ ุชูุฎูุตุ ู ุณูุฏุงุช |
gemma-4-e4b-it | 4.5B | ~3GB | 128K | ูุต+ุตูุฑ+ุตูุช | ุฃููุงุฏ ู ุชูุณุทุฉุ ุชุญููู ุจูุงูุงุช |
gemma-4-26b-a4b-it | 25.2B (MoE) | ~13.3GB | 256K | ูุต+ุตูุฑ | ุจุฑู ุฌุฉ ู ุนูุฏุฉุ ู ุญุงูุงุฉ ู ูุทููุฉ |
gemma-4-31b-it | 30.7B (Dense) | ~16.4GB | 256K | ูุต+ุตูุฑ | ุชูููุฑ ุนู ููุ ูุฑุงุฑุงุช ู ุนูุฏุฉ |
pip install -U transformers huggingface_hub
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
โ ๐ฅ๏ธ Presentation Layer โ
โ main_window.py โ customization_dialog.py โ components.py โ
โ app_style.py โ details_dialog.py โ diagnosis_dialog.py โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโค
โ ๐ Orchestration Layer โ
โ ai_worker.py โ orchestrator.py โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโค
โ ๐ง AI Engine Layer โ
โ ai_engine.py โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโค
โ ๐พ Data Layer โ
โ database.py โ SQLite โ JSON Configs โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
Agentic-Swarm/
โโโ ๐ desktop_app.py โ Entry point โ ููุทุฉ ุงูุฏุฎูู
โโโ ๐ run_project.ps1 โ Auto-launch script โ ุณูุฑุจุช ุงูุชุดุบูู ุงูุชููุงุฆู
โโโ ๐ fix_os_1455.ps1 โ Virtual memory fix โ ุฅุตูุงุญ ุงูุฐุงูุฑุฉ ุงูุงูุชุฑุงุถูุฉ
โโโ ๐ requirements.txt โ Python dependencies โ ุงูู
ูุชุจุงุช ุงูู
ุทููุจุฉ
โโโ ๐ backend/
โ โโโ ๐ ai_engine.py โ AI model loader/generator โ ู
ุญุฑู ุงูุฐูุงุก ุงูุงุตุทูุงุนู
โ โโโ ๐ orchestrator.py โ Agent orchestration โ ุงูู
ูุณู ุงูู
ุฑูุฒู
โ โโโ ๐ database.py โ SQLite database โ ูุงุนุฏุฉ ุงูุจูุงูุงุช
โโโ ๐ gui/
โ โโโ ๐ main_window.py โ Main window (3-panel layout) โ ุงููุงูุฐุฉ ุงูุฑุฆูุณูุฉ
โ โโโ ๐ customization_dialog.py โ Agent customization โ ุชุฎุตูุต ุงููููุงุก
โ โโโ ๐ diagnosis_dialog.py โ Live diagnostics โ ุงูุชุดุฎูุต ุงูุญู
โ โโโ ๐ details_dialog.py โ Model details viewer โ ุนุงุฑุถ ุงูุชูุงุตูู
โ โโโ ๐ components.py โ Custom widgets โ ู
ูููุงุช ู
ุฎุตุตุฉ
โ โโโ ๐ app_style.py โ WhatsApp Dark QSS โ ุฃูู
ุงุท ุงูุชุตู
ูู
โ โโโ ๐ ai_worker.py โ Background QThreads โ ุฎููุท ุงูุนู
ู
โ โโโ ๐ models_data.py โ Model specs HTML โ ุจูุงูุงุช ุงููู
ุงุฐุฌ
โโโ ๐ config/
โโโ ๐ current_config.json โ Active agent config โ ุฅุนุฏุงุฏุงุช ุงููููุงุก
โโโ ๐ settings.json โ Global settings โ ุงูุฅุนุฏุงุฏุงุช ุงูุนุงู
ุฉ
ุงูู
ุณุชุฎุฏู
ููุชุจ ููุฑุฉ โ SwarmWorker (QThread) โ Orchestrator โ ุญููุฉ ูุง ููุงุฆูุฉ:
โ
โโโ ุงููููู #1: ุชุญู
ูู ุงููู
ูุฐุฌ โ ุชูููุฏ (Streaming) โ ุชูุฑูุบ VRAM
โโโ ุงููููู #2: ุชุญู
ูู ุงููู
ูุฐุฌ โ ุชูููุฏ (Streaming) โ ุชูุฑูุบ VRAM
โโโ ุงููููู #3: ุชุญู
ูู ุงููู
ูุฐุฌ โ ุชูููุฏ (Streaming) โ ุชูุฑูุบ VRAM
โโโ ุงููููู #4: ุชุญู
ูู ุงููู
ูุฐุฌ โ ุชูููุฏ (Streaming) โ ุชูุฑูุบ VRAM
โโโ ุงููููู #5: ุชุญู
ูู ุงููู
ูุฐุฌ โ ุชูููุฏ (Streaming) โ ุชูุฑูุบ VRAM โ ุญูุธ ุงูู
ุณูุฏุฉ
โ
โโโ ุงูุนูุฏุฉ ูููููู #1 (ุฏูุฑุฉ ุฌุฏูุฏุฉ) โ โ
| ุงููู ูุฐุฌ | ุงูุงุณุชุฑุงุชูุฌูุฉ |
|---|---|
| E2B / E4B | GPU ููุท โ ูุชุณุน ุจุณูููุฉ |
| 26B MoE | GPU ู
ุน ุญุฏ max_memory: 14.5GiB |
| 31B Dense | GPU 14.5GiB + CPU Offload 16GiB |
ุงูุชูุฑูุบ ุงููููู ุจุนุฏ ูู ูููู:
accelerate.release_memory(model) โ del model โ gc.collect() โ torch.cuda.empty_cache() โ torch.cuda.synchronize()
.\run_project.ps1| ุงูุชูููุฉ | ุงูุงุณุชุฎุฏุงู |
|---|---|
| Python 3.13 | ุงููุบุฉ ุงูุฃุณุงุณูุฉ |
| PySide6 (Qt 6) | ูุงุฌูุฉ ุณุทุญ ุงูู ูุชุจ ุงูุฃุตููุฉ |
| PyTorch | ู ุญุฑู ุงูุญุณุงุจ ุงูุชูุณูุฑู GPU |
| Hugging Face Transformers | ุชุญู ูู ูุชุดุบูู ุงููู ุงุฐุฌ |
| BitsAndBytes | ุถุบุท 4-bit NF4 |
| Accelerate | ุฅุฏุงุฑุฉ device_map ู CPU offload |
| SQLite3 | ูุงุนุฏุฉ ุงูุจูุงูุงุช ุงูู ุญููุฉ |
python is not recognizedุงูุณุจุจ: ูู ุชููุนูู "Add to PATH" ุฃุซูุงุก ุชุซุจูุช Python. ุงูุญู: ุฃุนุฏ ุชุซุจูุช Python ููุนูู ุงูุฎูุงุฑ.
torch.cuda.is_available() ูุฑุฌุน Falseุงูุญู:
pip install torch --index-url https://download.pytorch.org/whl/cu126CUDA out of memoryุงูุญู: ุบููุฑ ุงููู
ูุฐุฌ ุงูู
ุนููู ููู ูููู ุฅูู gemma-4-e2b-it (ุงูุฃุตุบุฑ) ู
ู ูุงูุฐุฉ ุงูุชุฎุตูุต.
execution of scripts is disabledSet-ExecutionPolicy -Scope CurrentUser -ExecutionPolicy RemoteSigned
OSError: model not foundุงูุณุจุจ: ุงููู
ูุฐุฌ ุบูุฑ ู
ุญู
ูู.
ุงูุญู: huggingface-cli download google/gemma-4-e2b-it
This project is licensed under the Apache License 2.0 โ see the LICENSE file for details.
The Gemma-4 models are also licensed under Apache 2.0 by Google DeepMind.
Built with โค๏ธ for the open-source AI community
4 commits
Python
95.5%
PowerShell
4.5%
๐ง Multi-Agent AI System running 100% offline using Google Gemma-4 models. 5 specialized AI agents collaborate in infinite loops for brainstorming. Features: Dynamic VRAM swapping, 4-bit NF4 quantization, WhatsApp-style RTL UI, live token streaming, AI-powered agent customization. Built with PySide6 + PyTorch + Transformers.
71
stars
4
commits
Python
primary language
Apr 19, 2026
updated
ูุธุงู ุฐูุงุก ุงุตุทูุงุนู ู ุชุนุฏุฏ ุงููููุงุก ูุนู ู ู ุญููุงู ุจุงููุงู ู โ Multi-Agent AI System Running 100% Offline
Quick Start โข Requirements โข Models โข Usage โข Architecture
Agentic Swarm ูู ุชุทุจูู ุณุทุญ ู ูุชุจ ุฃุตูู (Native Desktop Application) ู ุจูู ุจู Python ู PySide6ุ ููุฏูุฑ ูุฑููุงู ู ู 5 ูููุงุก ุฐูุงุก ุงุตุทูุงุนู ูุนู ููู ุจุดูู ุชุนุงููู ูู ุชุณูุณู ูู ุญููุฉ ูุง ููุงุฆูุฉ ููุนุตู ุงูุฐููู ูุชุทููุฑ ุงูุฃููุงุฑ.
Agentic Swarm is a native desktop application built with Python & PySide6 that orchestrates a team of 5 AI agents working collaboratively in an infinite loop for brainstorming and iterative idea development. It runs 100% offline on your local hardware using Google's Gemma-4 model family.
| ุงูู ูุฒุฉ | ุงููุตู |
|---|---|
| ๐ Offline-First | ูุนู ู ุจุงููุงู ู ุจุฏูู ุฅูุชุฑูุช ุจุนุฏ ุชุญู ูู ุงููู ุงุฐุฌ |
| ๐ง 5 AI Agents | 5 ูููุงุก ู ุชุฎุตุตูู ูุชุนุงูููู ูู ุญููุฉ ูุง ููุงุฆูุฉ |
| โก 4-bit Quantization | ุถุบุท NF4 ู ุน ุถุบุท ู ุฒุฏูุฌ ูุฃูุตู ุชูููุฑ ูู VRAM |
| ๐ Dynamic VRAM Swapping | ู ุจุงุฏูุฉ ุฐููุฉ: ุญู ูู โ ูููุฏ โ ูุฑูุบ ููู ูููู |
| ๐จ WhatsApp-Style UI | ูุงุฌูุฉ ุฑุณูู ูุฉ ุฃูููุฉ ุจุชุตู ูู ู ุณุชูุญู ู ู WhatsApp Dark |
| ๐ก Live Streaming | ุจุซ ุงูุชูููุงุช ุญุฑูุงู ุญุฑูุงู ูู ุงูููุช ุงููุนูู |
| ๐ค AI Customization | ุชุฎุตูุต ุงููููุงุก ุจุงูุฐูุงุก ุงูุงุตุทูุงุนู ุฃู ูุฏููุงู |
| ๐ค Human-in-the-Loop | ุชุฏุฎู ุจุดุฑู ุญู ุฃุซูุงุก ุนู ู ุงููููุงุก |
| ๐พ Templates System | ุญูุธ ูุชุญู ูู ููุงูุจ ุชุฎุตูุต ุฌุงูุฒุฉ |
| ๐ฉบ Live Diagnostics | ุณุฌู ุชุดุฎูุตู ุญู ูู ุฑุงูุจุฉ ุงูุฃุฏุงุก |
| ๐ Full RTL Support | ุฏุนู ูุงู ู ููุบุฉ ุงูุนุฑุจูุฉ (ู ู ุงููู ูู ูููุณุงุฑ) |
# 1. Clone the repository
git clone https://github.com/alka2090/Agentic-Swarm.git
cd Agentic-Swarm
# 2. Download at least one Gemma-4 model (smallest first)
pip install huggingface_hub
huggingface-cli login
huggingface-cli download google/gemma-4-e2b-it
# 3. Run the application
.\run_project.ps1
โ ๏ธ ูุชุทูุจ ูุฑุช ุดุงุดุฉ NVIDIA ุจุฐุงูุฑุฉ 12GB+ โ Requires NVIDIA GPU with 12GB+ VRAM
| ุงูู ูููู | ุงูุญุฏ ุงูุฃุฏูู | ุงูู ุซุงูู |
|---|---|---|
| ูุธุงู ุงูุชุดุบูู | Windows 10 (64-bit) | Windows 11 |
| ูุฑุช ุดุงุดุฉ NVIDIA | RTX 3060 (12GB VRAM) | RTX 4070+ (12GB+ VRAM) |
| ุงูุฐุงูุฑุฉ (RAM) | 16GB DDR4 | 32GB DDR5 |
| ุงูู ุนุงูุฌ (CPU) | Intel i5 / Ryzen 5 | Intel i9 / Ryzen 9 |
| ู ุณุงุญุฉ ุงููุฑุต | 50GB ูุงุฑุบุฉ | 100GB+ |
| ุฅูุชุฑูุช | ู ุทููุจ ู ุฑุฉ ูุงุญุฏุฉ ููุชุซุจูุช | ุจุนุฏ ุงูุชุซุจูุช: ูุง ูุญุชุงุฌ ุฅูุชุฑูุช |
| ุงูุจุฑูุงู ุฌ | ุงูุฅุตุฏุงุฑ | ุฑุงุจุท ุงูุชุญู ูู | ู ูุงุญุธุฉ |
|---|---|---|---|
| Python | 3.10+ | python.org | โ ๏ธ ูุนูู "Add to PATH" ุฃุซูุงุก ุงูุชุซุจูุช |
| NVIDIA Driver | 525+ | nvidia.com | ุฃุนุฏ ุงูุชุดุบูู ุจุนุฏ ุงูุชุซุจูุช |
| CUDA Toolkit | 12.4+ | CUDA 12.6 | ุงุฎุชุฑ "Express Install" |
| PyTorch | 2.x+cu126 | pytorch.org | ุงูุชุซุจูุช ุนุจุฑ ุงูุฃู ุฑ ุฃุฏูุงู |
# ุชุญู
ูู Python 3.13 ู
ู ุงูู
ููุน ุงูุฑุณู
ู
# โ ๏ธ ุฃุซูุงุก ุงูุชุซุจูุช: ูุนูู ุฎูุงุฑ "Add python.exe to PATH"
# ุงูุชุญูู:
python --version
# ุงูู
ุชููุน: Python 3.13.x
# 1. ุซุจูุช ุฃุญุฏุซ ุชุนุฑูู NVIDIA ู
ู: https://www.nvidia.com/Download/index.aspx
# 2. ุฃุนุฏ ุชุดุบูู ุงููู
ุจููุชุฑ
# 3. ุซุจูุช CUDA Toolkit 12.6 ู
ู: https://developer.nvidia.com/cuda-12-6-0-download-archive
# ุงูุชุญูู:
nvidia-smi
nvcc --version
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126
# ุงูุชุญูู ู
ู ุฃู PyTorch ูุฑู ูุฑุช ุงูุดุงุดุฉ:
python -c "import torch; print('CUDA:', torch.cuda.is_available()); print('GPU:', torch.cuda.get_device_name(0))"
# ุงูู
ุชููุน: CUDA: True | GPU: NVIDIA GeForce RTX XXXX
# ุชุซุจูุช ุฃุฏุงุฉ HuggingFace
pip install huggingface_hub
# ุชุณุฌูู ุงูุฏุฎูู (ุชุญุชุงุฌ ุญุณุงุจ ู
ุฌุงูู ุนูู huggingface.co)
huggingface-cli login
โ ๏ธ ูุฌุจ ูุจูู ุชุฑุฎูุต ูู ูู ูุฐุฌ ู ู ุตูุญุชู ุนูู HuggingFace ูุจู ุงูุชุญู ูู (ุงูุธุฑ ูุณู ุงููู ุงุฐุฌ ุฃุฏูุงู)
# ุชุญู
ูู ุงููู
ุงุฐุฌ (ุงุจุฏุฃ ุจุงูุฃุตุบุฑ):
huggingface-cli download google/gemma-4-e2b-it # ~5GB โ ุงุจุฏุฃ ุจูุฐุง
huggingface-cli download google/gemma-4-e4b-it # ~9GB โ ุงุฎุชูุงุฑู
huggingface-cli download google/gemma-4-26b-a4b-it # ~28GB โ ุงุฎุชูุงุฑู
huggingface-cli download google/gemma-4-31b-it # ~35GB โ ุงุฎุชูุงุฑู
# ุงุณุชูุณุงุฎ ุงูู
ุดุฑูุน
git clone https://github.com/alka2090/Agentic-Swarm.git
cd Agentic-Swarm
# ุงูุณู
ุงุญ ุจุชุดุบูู ุงูุณูุฑุจุชุงุช (ู
ุฑุฉ ูุงุญุฏุฉ ููุท)
Set-ExecutionPolicy -Scope CurrentUser -ExecutionPolicy RemoteSigned
# ุชุดุบูู ุงูุจุฑูุงู
ุฌ (ูุซุจุช ุงูู
ูุชุจุงุช ุชููุงุฆูุงู ูู ุฃูู ู
ุฑุฉ)
.\run_project.ps1
ูุณุชุฎุฏู ุงูู ุดุฑูุน ูู ุงุฐุฌ Google Gemma-4 ุงูู ูุชูุญุฉ ุงูู ุตุฏุฑ (Apache 2.0) ู ู Google DeepMind.
ุชุชู ูุฒ ุจุชูููุฉ "Per-Layer Embeddings" (PLE) ูุฒูุงุฏุฉ ุงูููุงุกุฉ ุนูู ุงูุฃุฌูุฒุฉ ุงูุตุบูุฑุฉ.
| ุงูู ูุงุตูุฉ | ุงูููู ุฉ |
|---|---|
| ุงูู ุนุฑู | google/gemma-4-e2b-it |
| ุงูู ุนูู ุงุช | 2.3 ู ููุงุฑ ูุนุงูุฉ (5.1 ู ููุงุฑ ุฅุฌู ุงูุงู) |
| ุณูุงู ุงูุฅุฏุฎุงู | 128,000 Token |
| ุงููุณุงุฆุท | ูุตุ ุตูุฑุ ูุตูุช (Native Audio) |
| ุงูุญุฌู (4-bit) | ~1.5GB VRAM |
| ุงูุฃุฏุงุก | ู ุตู ู ููุฃุฌูุฒุฉ ุงูุทุฑููุฉ ูุฃุฌูุฒุฉ IoT |
| ๐ HuggingFace | google/gemma-4-e2b-it |
huggingface-cli download google/gemma-4-e2b-it
| ุงูู ูุงุตูุฉ | ุงูููู ุฉ |
|---|---|
| ุงูู ุนุฑู | google/gemma-4-e4b-it |
| ุงูู ุนูู ุงุช | 4.5 ู ููุงุฑ ูุนุงูุฉ (8 ู ููุงุฑ ุฅุฌู ุงูุงู) |
| ุณูุงู ุงูุฅุฏุฎุงู | 128,000 Token |
| ุงููุณุงุฆุท | ูุตุ ุตูุฑุ ูุตูุช (Native Audio) |
| ุงูุญุฌู (4-bit) | ~3GB VRAM |
| ุงูุฃุฏุงุก | ูุชููู ุนูู ูู ุงุฐุฌ ุงูู 7B ุงููุฏูู ุฉ ูู ุงูู ูุทู ุงูุจุฑู ุฌู |
| ๐ HuggingFace | google/gemma-4-e4b-it |
huggingface-cli download google/gemma-4-e4b-it
ู ุนู ุงุฑูุฉ ูุฌููุฉ ูุงุฆูุฉ ุงูููุงุกุฉ โ ุชูุนูู ููุท ุงูุฎุจุฑุงุก ุงูู ุทููุจูู.
| ุงูู ูุงุตูุฉ | ุงูููู ุฉ |
|---|---|
| ุงูู ุนุฑู | google/gemma-4-26b-a4b-it |
| ุงูู ุนูู ุงุช | 25.2 ู ููุงุฑ ุฅุฌู ุงูู (3.8 ู ููุงุฑ ูุนุงูุฉ ุฃุซูุงุก ุงูู ุนุงูุฌุฉ) |
| ุณูุงู ุงูุฅุฏุฎุงู | 256,000 Token |
| ุงููุณุงุฆุท | ูุต ูุตูุฑ (ุจุฏูุฉ ุนุงููุฉ) |
| ุงูุญุฌู (4-bit) | ~13.3GB VRAM |
| ุงูุฃุฏุงุก | ูุงุฆู ุงูุณุฑุนุฉุ ู ุซุงูู ููุจุฑู ุฌุฉ ุงูู ุนูุฏุฉ ูุงููููุงุก |
| ๐ HuggingFace | google/gemma-4-26b-a4b-it |
huggingface-cli download google/gemma-4-26b-a4b-it
ุงููู ูุฐุฌ ุงูุฃุถุฎู ูุงูุฃุฐูู ูู ุงูุณูุณูุฉ.
| ุงูู ูุงุตูุฉ | ุงูููู ุฉ |
|---|---|
| ุงูู ุนุฑู | google/gemma-4-31b-it |
| ุงูู ุนูู ุงุช | 30.7 ู ููุงุฑ ู ุนูู ุฉ (ูุซูู ุจุงููุงู ู) |
| ุณูุงู ุงูุฅุฏุฎุงู | 256,000 Token |
| ุงููุณุงุฆุท | ูุต ูุตูุฑ (ุฃุนูู ุฏูุฉ ูู ููู ุงูู ุณุชูุฏุงุช) |
| ุงูุญุฌู (4-bit) | ~16.4GB VRAM |
| ุงูุฃุฏุงุก | ุงูู ุฑูุฒ #3 ุนุงูู ูุงู ุจูู ุงููู ุงุฐุฌ ุงูู ูุชูุญุฉ โ ุชูููุฑ ู ูุทูู ุนู ูู |
| ๐ HuggingFace | google/gemma-4-31b-it |
huggingface-cli download google/gemma-4-31b-it
| ุงููู ูุฐุฌ | ุงูู ุนูู ุงุช | VRAM (4-bit) | ุงูุณูุงู | ุงููุณุงุฆุท | ุงูุงุณุชุฎุฏุงู ุงูุฃู ุซู |
|---|---|---|---|---|---|
gemma-4-e2b-it | 2.3B | ~1.5GB | 128K | ูุต+ุตูุฑ+ุตูุช | ุจุญุซ ุณุฑูุนุ ุชูุฎูุตุ ู ุณูุฏุงุช |
gemma-4-e4b-it | 4.5B | ~3GB | 128K | ูุต+ุตูุฑ+ุตูุช | ุฃููุงุฏ ู ุชูุณุทุฉุ ุชุญููู ุจูุงูุงุช |
gemma-4-26b-a4b-it | 25.2B (MoE) | ~13.3GB | 256K | ูุต+ุตูุฑ | ุจุฑู ุฌุฉ ู ุนูุฏุฉุ ู ุญุงูุงุฉ ู ูุทููุฉ |
gemma-4-31b-it | 30.7B (Dense) | ~16.4GB | 256K | ูุต+ุตูุฑ | ุชูููุฑ ุนู ููุ ูุฑุงุฑุงุช ู ุนูุฏุฉ |
pip install -U transformers huggingface_hub
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
โ ๐ฅ๏ธ Presentation Layer โ
โ main_window.py โ customization_dialog.py โ components.py โ
โ app_style.py โ details_dialog.py โ diagnosis_dialog.py โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโค
โ ๐ Orchestration Layer โ
โ ai_worker.py โ orchestrator.py โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโค
โ ๐ง AI Engine Layer โ
โ ai_engine.py โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโค
โ ๐พ Data Layer โ
โ database.py โ SQLite โ JSON Configs โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
Agentic-Swarm/
โโโ ๐ desktop_app.py โ Entry point โ ููุทุฉ ุงูุฏุฎูู
โโโ ๐ run_project.ps1 โ Auto-launch script โ ุณูุฑุจุช ุงูุชุดุบูู ุงูุชููุงุฆู
โโโ ๐ fix_os_1455.ps1 โ Virtual memory fix โ ุฅุตูุงุญ ุงูุฐุงูุฑุฉ ุงูุงูุชุฑุงุถูุฉ
โโโ ๐ requirements.txt โ Python dependencies โ ุงูู
ูุชุจุงุช ุงูู
ุทููุจุฉ
โโโ ๐ backend/
โ โโโ ๐ ai_engine.py โ AI model loader/generator โ ู
ุญุฑู ุงูุฐูุงุก ุงูุงุตุทูุงุนู
โ โโโ ๐ orchestrator.py โ Agent orchestration โ ุงูู
ูุณู ุงูู
ุฑูุฒู
โ โโโ ๐ database.py โ SQLite database โ ูุงุนุฏุฉ ุงูุจูุงูุงุช
โโโ ๐ gui/
โ โโโ ๐ main_window.py โ Main window (3-panel layout) โ ุงููุงูุฐุฉ ุงูุฑุฆูุณูุฉ
โ โโโ ๐ customization_dialog.py โ Agent customization โ ุชุฎุตูุต ุงููููุงุก
โ โโโ ๐ diagnosis_dialog.py โ Live diagnostics โ ุงูุชุดุฎูุต ุงูุญู
โ โโโ ๐ details_dialog.py โ Model details viewer โ ุนุงุฑุถ ุงูุชูุงุตูู
โ โโโ ๐ components.py โ Custom widgets โ ู
ูููุงุช ู
ุฎุตุตุฉ
โ โโโ ๐ app_style.py โ WhatsApp Dark QSS โ ุฃูู
ุงุท ุงูุชุตู
ูู
โ โโโ ๐ ai_worker.py โ Background QThreads โ ุฎููุท ุงูุนู
ู
โ โโโ ๐ models_data.py โ Model specs HTML โ ุจูุงูุงุช ุงููู
ุงุฐุฌ
โโโ ๐ config/
โโโ ๐ current_config.json โ Active agent config โ ุฅุนุฏุงุฏุงุช ุงููููุงุก
โโโ ๐ settings.json โ Global settings โ ุงูุฅุนุฏุงุฏุงุช ุงูุนุงู
ุฉ
ุงูู
ุณุชุฎุฏู
ููุชุจ ููุฑุฉ โ SwarmWorker (QThread) โ Orchestrator โ ุญููุฉ ูุง ููุงุฆูุฉ:
โ
โโโ ุงููููู #1: ุชุญู
ูู ุงููู
ูุฐุฌ โ ุชูููุฏ (Streaming) โ ุชูุฑูุบ VRAM
โโโ ุงููููู #2: ุชุญู
ูู ุงููู
ูุฐุฌ โ ุชูููุฏ (Streaming) โ ุชูุฑูุบ VRAM
โโโ ุงููููู #3: ุชุญู
ูู ุงููู
ูุฐุฌ โ ุชูููุฏ (Streaming) โ ุชูุฑูุบ VRAM
โโโ ุงููููู #4: ุชุญู
ูู ุงููู
ูุฐุฌ โ ุชูููุฏ (Streaming) โ ุชูุฑูุบ VRAM
โโโ ุงููููู #5: ุชุญู
ูู ุงููู
ูุฐุฌ โ ุชูููุฏ (Streaming) โ ุชูุฑูุบ VRAM โ ุญูุธ ุงูู
ุณูุฏุฉ
โ
โโโ ุงูุนูุฏุฉ ูููููู #1 (ุฏูุฑุฉ ุฌุฏูุฏุฉ) โ โ
| ุงููู ูุฐุฌ | ุงูุงุณุชุฑุงุชูุฌูุฉ |
|---|---|
| E2B / E4B | GPU ููุท โ ูุชุณุน ุจุณูููุฉ |
| 26B MoE | GPU ู
ุน ุญุฏ max_memory: 14.5GiB |
| 31B Dense | GPU 14.5GiB + CPU Offload 16GiB |
ุงูุชูุฑูุบ ุงููููู ุจุนุฏ ูู ูููู:
accelerate.release_memory(model) โ del model โ gc.collect() โ torch.cuda.empty_cache() โ torch.cuda.synchronize()
.\run_project.ps1| ุงูุชูููุฉ | ุงูุงุณุชุฎุฏุงู |
|---|---|
| Python 3.13 | ุงููุบุฉ ุงูุฃุณุงุณูุฉ |
| PySide6 (Qt 6) | ูุงุฌูุฉ ุณุทุญ ุงูู ูุชุจ ุงูุฃุตููุฉ |
| PyTorch | ู ุญุฑู ุงูุญุณุงุจ ุงูุชูุณูุฑู GPU |
| Hugging Face Transformers | ุชุญู ูู ูุชุดุบูู ุงููู ุงุฐุฌ |
| BitsAndBytes | ุถุบุท 4-bit NF4 |
| Accelerate | ุฅุฏุงุฑุฉ device_map ู CPU offload |
| SQLite3 | ูุงุนุฏุฉ ุงูุจูุงูุงุช ุงูู ุญููุฉ |
python is not recognizedุงูุณุจุจ: ูู ุชููุนูู "Add to PATH" ุฃุซูุงุก ุชุซุจูุช Python. ุงูุญู: ุฃุนุฏ ุชุซุจูุช Python ููุนูู ุงูุฎูุงุฑ.
torch.cuda.is_available() ูุฑุฌุน Falseุงูุญู:
pip install torch --index-url https://download.pytorch.org/whl/cu126CUDA out of memoryุงูุญู: ุบููุฑ ุงููู
ูุฐุฌ ุงูู
ุนููู ููู ูููู ุฅูู gemma-4-e2b-it (ุงูุฃุตุบุฑ) ู
ู ูุงูุฐุฉ ุงูุชุฎุตูุต.
execution of scripts is disabledSet-ExecutionPolicy -Scope CurrentUser -ExecutionPolicy RemoteSigned
OSError: model not foundุงูุณุจุจ: ุงููู
ูุฐุฌ ุบูุฑ ู
ุญู
ูู.
ุงูุญู: huggingface-cli download google/gemma-4-e2b-it
This project is licensed under the Apache License 2.0 โ see the LICENSE file for details.
The Gemma-4 models are also licensed under Apache 2.0 by Google DeepMind.
Built with โค๏ธ for the open-source AI community
4 commits
Python
95.5%
PowerShell
4.5%