Çoğu AI modeli genel sohbet için tasarlanmıştır.
İş analitiği farklıdır.
Kullanıcılar şu tür sorular sorduğunda:
- "Bölgeye göre aylık satış trendlerini göster"
- "Bu çeyreği geçen yılla karşılaştır"
- "En çok satan ürünler için grafik oluştur"
- "Mart ayında neden gelir düştü açıkla"
model artık bir sohbet botu gibi davranmaz. Bir analitik iş akışının parçası haline gelir.
Bu ayrım çoğu kişinin düşündüğünden daha önemlidir.
LivChart Olarak Bir Sorun Fark Ettik
Ollama üzerinde çalışan güçlü yerel modeller bile gerçek dünya analitik görevlerinde zorlanıyordu:
- tutarsız grafik seçimi
- geçersiz yapılandırılmış çıktılar
- halüsinasyon metrikler
- kararsız dashboard davranışı
- bozuk JSON yanıtları
- zayıf KPI yorumlama
- güvenilmez filtre işleme
Sorun ham zeka değildi.
Sorun optimizasyontı.
Varsayılan LLMler Neden Analitikte Zorlanır?
Genel amaçlı LLMler yardımcı konuşma asistanları olmak için eğitilmiştir.
Analitik sistemleri farklı bir şeye ihtiyaç duyar:
- deterministik çıktılar
- kararlı JSON üretimi
- şema tutarlılığı
- grafik akıl yürütme
- metrik yorumlama
- özlü içgörü üretimi
- öngörülebilir iş akışı davranışı
Bir dashboard motoru yaratıcı yazım asistanı gibi davranamaz.
Küçük biçimlendirme sorunları bile bozabilir:
- grafik render işlemlerini
- önizleme üretimini
- dashboard boru hatlarını
- BI iş akışlarını
Bu, modelin doğrudan gerçek iş verilerine bağlandığı yerel AI sistemlerinde daha da önemli hale gelir.
LivChart Optimize Modeli Oluşturma
Bunu çözmek için, analitik iş akışları için optimize edilmiş özel Ollama model dağıtımları oluşturduk.
İlk sürümümüz:
ollama pull livchart/qwen3.5-9b-q6
Bu model Alibaba Cloud Qwen3.5 tabanlıdır, ancak özel olarak şunlar için yapılandırılmıştır:
- AI dashboardları
- yapılandırılmış analitik
- grafik iş akışları
- KPI analizi
- içgörü üretimi
- iş metrik yorumlama
Optimizasyon katmanı şunları içerir:
- özel sistem komutları
- yapılandırılmış çıktı kuralları
- analitik odaklı talimat ayarı
- deterministik yanıt davranışı
- azaltılmış halüsinasyon örüntüleri
Bu geleneksel bir ince ayar değildir.
Bunun yerine, Ollama Modelfile kullanılarak oluşturulmuş bir çalışma zamanı optimize analitik dağıtımıdır.
Uygulamada Ne Değişiyor?
Fark üretim iş akışlarında bariz hale gelir.
Varsayılan bir model şunları yapabilir:
- rastgele grafik türü değiştirme
- geçersiz JSON üretme
- konuşma dolgusu ekleme
- desteklenmeyen metrikler uydurma
- yapılandırılmış şemaları bozma
LivChart optimize modeli şunlar için tasarlanmıştır:
- geçerli yapıları korumak
- grafik tutarlılığını sağlamak
- ölçülebilir içgörülere öncelik vermek
- gereksiz metni azaltmak
- analitik boru hatlarında öngörülebilir davranmak
Örneğin, modele şunlar talimat verilmiştir:
- deterministik çıktıları tercih et
- halüsinasyon boyutlarından kaçın
- istenen şemaları tam olarak koru
- özlü iş içgörüleri döndür
- geçerli JSON üretiminden hemen sonra dur
Bu, dashboard üretimi ve AI destekli analitik güvenilirliğini dramatik olarak artırır.
Yerel AI Neden Önemli?
Bu modelleri oluşturmamızın ana nedenlerinden biri gizliliktir.
Birçok şirket hâlâ hassas analitik verilerini, içerideki riskleri fark etmeden bulut AI servislerine gönderiyor.
İş sorularının kendisi hassas bilgi içerebilir:
- gelir trendleri
- müşteri davranışı
- ürün performansı
- operasyonel KPIlar
- finansal tahminler
Şunları birleştirerek:
- Ollama
- yerel LLMler
- optimize analitik modeller
- LivChart
şirketler verilerini dış bulut sağlayıcılarına göndermeden AI destekli analitik sistemler kurabilir.
Modeli Çalıştırma
Ollama kurduktan sonra:
ollama pull livchart/qwen3.5-9b-q6
Modeli çalıştırın:
ollama run livchart/qwen3.5-9b-q6
Veya doğrudan LivChart bağlayarak yerel AI destekli dashboard iş akışları oluşturun.
Sırada Ne Var?
Bu sadece başlangıç.
Aktif olarak test ediyoruz:
- grafik özelleşmiş varyantlar
- daha katı JSON odaklı dağıtımlar
- hafif analitik modeller
- daha büyük KPI akıl yürütme modelleri
- kıyaslama odaklı dashboard optimizasyonu
Hedefimiz basit:
Genel sohbet botları gibi değil, analitik altyapısı gibi davranan yerel AI modelleri oluşturmak.
Çünkü iş zekası iş akışları optimize modelleri hak eder.