Genel Tanım
Generative AI sistemleri, kurumların bilgiye dayalı iş süreçlerinde devrim niteliğinde dönüşümler yaratır. Ancak bu teknolojilerin güvenli, özelleştirilebilir ve kuruma entegre bir biçimde kullanılması, ticari API çözümlerinden çok daha fazlasını gerektirir.
ARC Danışmanlık olarak, açık kaynak büyük dil modelleri (LLM) kullanarak kurumunuza özel generatif yapay zeka sistemleri geliştiriyoruz. Veriniz kurum dışına çıkmadan, tamamen sizin ihtiyaçlarınıza göre şekillenen, bağımsız ve yüksek performanslı sistem mimarileri kuruyor, eğitiyor ve entegre ediyoruz.
Hizmet Bileşenlerimiz
- Model Altyapısı Kurulumu: Llama, Mistral, Falcon gibi açık kaynak modeller, kurum içi sunuculara entegre edilir. GPU destekli altyapılarla yüksek verimlilik sağlanır.
- Veri Temelli İnce Ayar (Fine-Tuning): Kurum içi belge ve içeriklerle model, organizasyon diline ve bilgi yapısına göre yeniden eğitilir.
- Knowledge Base Entegrasyonu: RAG gibi hazır sistemler yerine, metin dizinleme ve sorgu eşleme için kurum özelinde özgün altyapılar geliştirilir.
- İnteraktif Arayüzler: Kurum çalışanlarının kullanımı için bilgi asistanları, içerik üreticiler ve chatbot çözümleri tasarlanır.
Kurumsal Katkılar
- Kurum verisi dışa çıkmadan işlenir; güvenlik ve gizlilik tam olarak sağlanır
- Model, kurumun dili, süreçleri ve bilgi yapısına %100 uyumlu hale getirilir
- Dış API kullanımına bağlı lisans ve maliyet yüklerinden kurtulunur
- Tüm sistemler offline çalışabilir ve denetlenebilir hale gelir
- Uygulama Örneği: Enerji Sektöründe LLM Dönüşümü
- Firma Profili: Uluslararası enerji şirketinin Türkiye ofisi. 2.000’den fazla çalışan ve yılda 500.000’in üzerinde doküman üretimi.
Sorun Tespiti:
- Bilgiye erişim yavaş ve güvenlik riski nedeniyle chatbot sistemleri devre dışı
- Çalışanlar eski dokümanlar üzerinden karar alıyor
- Belgeler dağınık, versiyon takibi zor
Danışmanlık Süreci:
- Model Seçimi ve Kurulum: Mistral 7B + Llama 3 modelleri kurum içi sunuculara entegre edildi. Yüksek performanslı GPU altyapısı oluşturuldu.
- Veri Temizliği: 12 yıllık doküman arşivi OCR ile yeniden yapılandırıldı, içerikler sınıflandırıldı ve tekilleştirildi.
- Arama ve Sorgu Altyapısı: Hazır RAG sistemleri yerine Python tabanlı embedding + vektör indeksleme algoritmalarıyla özel sorgu motoru geliştirildi.
- Kullanıcı Arayüzü: Geliştirilen bilgi asistanı ile çalışanlar Word, PDF, Excel dosyalarına doğal dil ile soru sorabilir hale geldi.
- Elde Edilen Sonuçlar: Bilgiye erişim süresi 23 saniyeden 2.4 saniyeye düştü
- Yanlış bilgiyle alınan aksiyonlar %41 oranında azaldı
- Tüm sistem kurumun tam kontrolünde: offline çalışabilirlik ve denetlenebilir altyapı