← Ana Sayfa

JustVugg/colibri

C ⭐ 47.3k 🍴 5.5k 🔥 +802 today

Orijinal Aciklama

A hierarchical inference engine for frontier MoE models: hot experts on the GPU (CUDA, Vulkan), warm ones in RAM, cold ones streamed from NVMe. Written in C, runs on the hardware you already own.

📄 Apache-2.0
Lisans
170
Açık Issue
16 gün önce
Son Commit
382
İzleyici

🤖 AI Analizi (Turkce)

Colibri, büyük ölçekli açık modelleri mevcut makinenizde çalıştıran hiyerarşik bir çıkarım motorudur. Mixture-of-experts modellerini destekler ve uzmanları GPU, RAM ve NVMe arasında yönetir. C dilinde yazılmış, saf bir şekilde çalışan bu motor, mevcut donanımınızı kullanarak büyük modelleri çalıştırmanıza olanak sağlar.

🎯 Hedef Kitle: Büyük ölçekli dil modelleri ve yapay zeka uygulamaları geliştiren yazılımcılar ve araştırmacılar

TEMEL OZELLIKLER

  • Hierarchical inference engine
  • Mixture-of-experts model support
  • GPU, RAM ve NVMe arasında uzman yönetimi
  • C dilinde yazılmış
  • GGUF dosya formatı desteği

💡 Kullanım Örneği

Bir yazılımcı, büyük bir dil modelini yerel makinesinde çalıştırarak, modelin performansını test etmek ve geliştirmek istiyor. Colibri'yi kullanarak, modeli mevcut makinesinde çalıştırabilir ve uzmanları GPU, RAM ve NVMe arasında yönetebilir.

📊 Trend Gecmisi

2026-11-04 Gunluk #6 ⭐ 47.3k
2026-11-03 Gunluk #8 ⭐ 46.7k
2026-10-14 Aylik #6 ⭐ 41.8k
2026-10-13 Aylik #7 ⭐ 41.6k
2026-10-12 Aylik #7 ⭐ 41.3k
2026-10-11 Aylik #8 ⭐ 41.1k
2026-10-10 Aylik #7 ⭐ 40.8k
2026-10-09 Aylik #9 ⭐ 40.6k
2026-10-08 Aylik #8 ⭐ 40.4k
2026-10-07 Aylik #8 ⭐ 40.1k
2026-09-25 Haftalik #7 ⭐ 37.6k
2026-09-24 Haftalik #8 ⭐ 37.4k
2026-09-23 Haftalik #8 ⭐ 37.2k
2026-09-22 Haftalik #6 ⭐ 36.9k
2026-09-18 Gunluk #8 ⭐ 35.8k
2026-09-17 Gunluk #2 ⭐ 35.1k
2026-09-16 Gunluk #3 ⭐ 34.0k
2026-09-15 Gunluk #2 ⭐ 32.3k
2026-09-14 Gunluk #3 ⭐ 30.1k
2026-09-11 Gunluk #15 ⭐ 27.5k

🔗 Benzer Projeler

php/php-src

The PHP Interpreter

C41.8k
mpv-player/mpv

🎥 Command line media player

C37.9k
openssl/openssl

General purpose TLS and crypto library

C31.3k
lz4/lz4

Extremely Fast Compression algorithm

C12.4k
php/php-src

The PHP Interpreter

C41.7k
GitHub'da Gor →

💬 Yorumlar