AI modellerini yerel olarak çalıştırmak artık deneysel değil.
Bugün işletmeler, açık kaynak modeller ve yerel çalışma zamanları kullanarak kendi altyapılarında tam işlevsel AI destekli analitik iş akışları oluşturabiliyor.
Bunu başarmanın en basit yollarından biri şunları birleştirmektir:
- Ollama
- LivChart
Bu kurulum ekiplere şunları sağlar:
- AI modellerini yerel olarak çalıştırma
- doğal dil kullanarak panel oluşturma
- operasyonel veriyi etkileşimli olarak analiz etme
- dış AI servislerine olan bağımlılığı azaltma
- kendi sunucunuzda barındırılan analitik iş akışları oluşturma
Bu rehberde tam kurulum sürecini adım adım anlatacağız.
Başlamadan Önce Ne Gerekli
Kurulumdan önce şunlara sahip olduğunuzdan emin olun:
- Windows, Linux veya macOS
- model indirmeleri için internet bağlantısı
- en az 16 GB RAM önerilir
- terminal erişimi
- LivChart kurulu veya erişilebilir
Daha büyük modeller ve daha hızlı yanıt süreleri için ayrı bir GPU şiddetle önerilir.
Adım 1 — Ollama'yı Kurun
Ollama, büyük dil modellerini yerel olarak çalıştırmanın en kolay yollarından birini sağlar.
Kurulum basittir.
macOS Kurulumu
Homebrew kullanarak:
brew install ollama
Linux Kurulumu
Resmi kurulum betiğini çalıştırın:
curl -fsSL https://ollama.com/install.sh | sh
Windows Kurulumu
İndirmeyi doğrudan resmi Ollama web sitesinden yapın ve kurulumu tamamlayın.
Kurulumdan sonra her şeyin çalıştığını doğrulayın:
ollama --version
Adım 2 — Yerel AI Modeli İndirin
Ollama kurulduktan sonra ilk modelinizi indirebilir ve çalıştırabilirsiniz.
Örnek:
ollama run qwen2.5
Bu komut:
- modeli indirir
- yerel olarak kurar
- etkileşimli bir AI oturumu başlatır
İlk indirme model boyutuna ve internet hızına bağlı olarak birkaç dakika sürebilir.
Analitik İçin Önerilen Modeller
Farklı modeller analitik iş akışlarında farklı davranır.
İşte pratik başlangıç noktaları.
| Model | Hız | Analitik Kalitesi | Türkçe Destek | Donanım İhtiyacı |
|---|---|---|---|---|
| Qwen2.5 | Yüksek | Çok İyi | Mükemmel | Orta |
| Gemma 3 | Orta | İyi | İyi | Orta |
| Llama 3 | Orta | İyi | Orta | Orta |
| Mistral | Hızlı | Orta | Orta | Düşük |
Çok dilli analitik iş akışları için Qwen modelleri genellikle özellikle iyi performans gösterir.
LivChart Optimize Modelleri
LivChart ile herhangi bir Ollama modeli kullanabilirsiniz, ancak özel optimize edilmiş modellerimizi denemenizi öneriyoruz. Bu modeller, dashboard oluşturma, yapılandırılmış çıktı ve Türkçe iş analitiği için özelleştirilmiş sistem promptları ile yapılandırılmıştır.
| Model | Komut | Boyut | İçin En İyi | VRAM |
|---|---|---|---|---|
| livchart/qwen3.5-9b-q6 | ollama run livchart/qwen3.5-9b-q6 |
7.4 GB | Hızlı analitik, Türkçe destek, grafik oluşturma | ~8 GB |
| livchart/mistral-nemo-12b-q6 | ollama run livchart/mistral-nemo-12b-q6 |
10 GB | Gelişmiş akıl yürütme, dashboard odaklı yanıtlar, BI iş akışları | ~16 GB |
Bir LivChart optimize modeli yüklemek için şu komutu çalıştırın:
ollama run livchart/qwen3.5-9b-q6
Daha güçlü donanım için:
ollama run livchart/mistral-nemo-12b-q6
Bu modeller fine-tuned değildir — analiz odaklı sistem promptları ile özelleştirilmiş Modelfile yapılandırmaları kullanır. Temel modelin yeteneklerinden ödün vermeden daha iyi yapılandırılmış çıktı ve grafik odaklı yanıtlar alırsınız.
Optimize modellerimiz hakkında daha fazla bilgi için LivChart Ollama sayfasını ziyaret edin.
Adım 3 — Ollama API Servisini Başlatın
LivChart, Ollama ile yerel API'si üzerinden iletişim kurar.
Servisi başlatın:
ollama serve
Varsayılan olarak Ollama şu adreste çalışır:
http://localhost:11434
Servisi şu komutla doğrulayabilirsiniz:
curl http://localhost:11434/api/tags
Kurulum doğru çalışıyorsa, Ollama kurulu modellerin listesini döndürür.
Adım 4 — LivChart'ı Açın
LivChart'ı açın ve AI yapılandırma bölümüne gidin.
Genellikle şunları yapılandırırsınız:
- AI sağlayıcı
- yerel uç nokta
- model seçimi
- çıkarım ayarları
Ollama uç noktasını kullanın:
http://localhost:11434
Sonra kurulu modelinizi seçin.
Örnek:
- qwen2.5
- llama3
- gemma3
Yapılandırmayı kaydedin ve bağlantıyı test edin.
Adım 5 — Verinizi Bağlayın
AI bağlantısı çalıştıktan sonra iş verinizi bağlayın.
LivChart şu kaynakları destekler:
- Excel dosyaları
- CSV veri setleri
- SQL Server
- PostgreSQL
- MySQL
- ODBC kaynakları
Platform otomatik olarak şunları algılar:
- tablolar
- sütunlar
- metrikler
- boyutlar
- tarih alanları
Bu, ekiplerin ağır modelleme çalışması olmadan hızlıca analize başlamasını sağlar.
Adım 6 — İlk AI Panelinizi Oluşturun
Artık doğal dil analitiğini kullanmaya başlayabilirsiniz.
Örnek prompt'lar:
Satış Analizi
Son 12 ayın aylık satış eğilimlerini göster
Stok İzleme
Hangi ürünler düşük stok seviyesine yaklaşıyor?
Üretim Analitiği
Makineye göre üretim duruşunu görselleştir
Finansal Raporlama
Çeyreklik gelir ve operasyonel giderleri karşılaştır
AI grafikleri ve analizleri dinamik olarak oluşturur.
Model Ollama üzerinden yerel olarak çalıştığı için iş akışı kendi sunucunuzda barındırılır.
İşletmeler Neden Yerel AI Panellerine İlgileniyor
Yerel AI'ye olan ilgi birkaç nedenden dolayı hızla büyüyor.
Daha Hızlı Deneme
Ekipler dış API'lere güvenmeden iş akışlarını test edebilir.
Altyapı Esnekliği
Organizasyonlar modellerin nerede çalışacağını ve sistemlerin nasıl ölçekleneceğini belirler.
Azaltılmış Bulut Bağımlılığı
Operasyonel analitik iş akışları dış AI platformlarına daha az bağımlı hale gelir.
Kendi Sunucunuzda Barındırılan Analitik
Şirketler mevcut operasyonel sistemler etrafında iç AI ortamları oluşturabilir.
Yaygın Kurulum Sorunları
Yerel AI dağıtımı kolaylaşıyor, ancak birkaç yaygın sorun hala ortaya çıkıyor.
Ollama API Yanıt Vermiyor
Servisin çalıştığından emin olun:
ollama serve
Ayrıca 11434 portunun engellenmediğini doğrulayın.
Model Bulunamadı
Kurulu modelleri kontrol edin:
ollama list
Eksik modelleri gerekiyorsa tekrar indirin.
Yavaş Performans
Büyük modeller şunları gerektirebilir:
- GPU hızlandırma
- ek RAM
- daha küçük nicemlenmiş modeller
Daha hafif modeller denemek panel yanıt hızını önemli ölçüde iyileştirebilir.
Güvenlik Duvarı Sorunları
Bazı işletim sistemleri yerel API erişimini engelleyebilir.
Şunları doğrulayın:
- localhost erişimi
- güvenlik duvarı izinleri
- güvenlik yazılımı ayarları
Önerilen Donanım
Donanım yerel AI performansını önemli ölçüde etkiler.
Giriş Seviyesi Kurulum
Daha küçük analitik iş yükleri için uygun:
- modern CPU
- 16 GB RAM
Önerilen İş Kurulumu
Operasyonel analitik için daha iyi:
- NVIDIA GPU
- 32 GB RAM
- SSD depolama
Daha Büyük Dağıtımlar
Kurumsal ortamlar şunları kullanabilir:
- çoklu GPU sunucuları
- merkezi çıkarım sistemleri
- özel AI altyapısı
Örnek Uçtan Uca İş Akışı
Tipik bir yerel AI analitik iş akışı şöyle görünebilir:
- İş verisi LivChart'a girer
- Ollama prompt'ları yerel olarak işler
- AI grafikler ve özetler oluşturur
- Ekipler analize konuşmaya devam eder
- Paneller dahili altyapıda kalır
Bu konuşmaya dayalı analitiği kendi sunucunuzda barındırılan AI dağıtımıyla birleştirir.
Bu Kurulum Neden Önemli
En önemli değişim esnekliktir.
İşletmeler artık şunlar arasında seçim yapmak zorunda değil:
- modern AI iş akışları
- altyapı kontrolü
Yerel AI sistemleri organizasyonların kendi operasyonel gereksinimleri etrafında analitik ortamları oluşturmasına olanak tanır.
Açık kaynak AI ekosistemleri gelişmeye devam ettikçe, bu iş akışları gerçek iş kullanımı için giderek daha pratik hale geliyor.
Sonuç
Ollama'yı LivChart ile birleştirmek, yerel AI destekli analitik sistemler oluşturmak için pratik bir yol sağlar.
Tamamen bulut AI platformlarına güvenmek yerine, organizasyonlar AI modellerini yerel olarak dağıtabilir ve doğrudan panellere, raporlama iş akışlarına ve operasyonel analitik ortamlara entegre edebilir.
AI günlük iş altyapısının bir parçası haline geldikçe, esnek dağıtım modelleri giderek daha önemli hale gelecektir.
Yerel AI panelleri artık deneysel değil.
Hızla modern analitik iş akışlarının bir parçası haline geliyorlar.