← Ana Sayfa

antirez/ds4

C ⭐ 23.5k 🍴 2.3k 🔥 +211 today

Orijinal Aciklama

DeepSeek 4 Flash and PRO local inference engine for Metal, CUDA and ROCm

📄 MIT
Lisans
756
Açık Issue
2 ay önce
Son Commit
176
İzleyici

🤖 AI Analizi (Turkce)

DwarfStar, tüketici donanımlarında birkaç mükemmel büyük dil modelini çalıştırmanın en iyi yolu olmayı hedefleyen yerel bir çıkarım motorudur. Derin öğrenme modelleri DeepSeek V4 Flash, DeepSeek V4.1 Flash, GLM 5.2 ve 5.3, DeepSeek V4 PRO ve Qwen3.8 Flash Next için optimize edilmiştir. Bu proje, özellikle Metal, CUDA ve ROCm gibi donanımları destekler ve 128 GB dizüstü bilgisayarlar ve 256/512 GB iş istasyonları gibi yerel makine boyutları için uygun açık ağırlıklı modelleri takip eder.

🎯 Hedef Kitle: Yapay zeka ve derin öğrenme geliştiricileri, özellikle tüketici donanımlarında büyük dil modellerini çalıştırma ihtiyacı duyanlar

TEMEL OZELLIKLER

  • Metal, CUDA ve ROCm donanımları desteği
  • DeepSeek V4 Flash, DeepSeek V4.1 Flash, GLM 5.2 ve 5.3, DeepSeek V4 PRO ve Qwen3.8 Flash Next modelleri desteği
  • GGUF dosyaları üretimi ve kullanımı

💡 Kullanım Örneği

Bir yapay zeka geliştiricisi, tüketici donanımlarında büyük dil modellerini çalıştırma ihtiyacı duyabilir. Örneğin, bir MacBook veya DGX Spark kullanarak DeepSeek V4 Flash modelini çalıştırabilir ve SSD akışı ile daha büyük modelleri çalıştırabilir. Ayrıca, çoklu CUDA kartlarını kullanarak çoklu kullanıcı LLM sunucusu olarak da kullanabilir.

📊 Trend Gecmisi

2026-10-05 Gunluk #11 ⭐ 23.5k
2026-08-09 Haftalik #11 ⭐ 21.0k
2026-08-08 Haftalik #12 ⭐ 20.9k
2026-08-07 Haftalik #8 ⭐ 20.8k
2026-08-04 Gunluk #12 ⭐ 20.4k
2026-08-03 Gunluk #14 ⭐ 20.1k

🔗 Benzer Projeler

php/php-src

The PHP Interpreter

C41.8k
mpv-player/mpv

🎥 Command line media player

C37.9k
openssl/openssl

General purpose TLS and crypto library

C31.3k
lz4/lz4

Extremely Fast Compression algorithm

C12.4k
JustVugg/colibri

A hierarchical inference engine for frontier MoE models: hot experts on the GPU …

C47.3k
GitHub'da Gor →

💬 Yorumlar