Hizmet detayı

Kurumlara Özel Yapay Zeka Geliştirme

Kurumunuzun kendi verisiyle çalışan, kendi sunucunuzda duran ve doğruluğu ölçülen yapay zeka kurulumları. İstem de cevap da kurum sınırının dışına çıkmaz.

Done Dynamics; kurumlara özel yapay zeka geliştirme, yerinde büyük dil modeli kurulumu, kurum içi asistan, belge okuma otomasyonu ve yapay zeka ajanı geliştiren bir kurumsal yazılım şirketidir. Modelleri kendi Mac Studio filomuzda çalıştırıyor, ürettiğimiz sürümleri ölçülmüş hız ve bellek değerleriyle birlikte açık yayımlıyoruz. Müşteriye önerdiğimiz mimari, kendi operasyonumuzda her gün kullandığımız mimarinin aynısı.

Neler kuruyoruz

Dört ana kurulum tipi

Hepsinde ortak nokta aynı: bugün bir insanın yaptığı, tekrarlayan ve ölçülebilir bir iş.

Kurum İçi Asistan

Şirketinizin belgeleri, kayıtları ve prosedürleri üzerinde çalışan; cevabını hangi belgeden aldığını gösteren ve kullanıcının yetkisiyle sınırlı kalan bir asistan.

Belge Okuma Otomasyonu

Fatura, sözleşme, şartname ve formdan yapılandırılmış alan çıkarma. Her alan için güven değeri, tutarlılık doğrulaması ve emin olunmayan kayıtta insana devir.

Sınıflandırma ve Yönlendirme

Gelen talebi doğru ekibe düşüren, şikâyeti aciliyet sırasına koyan ve serbest metni etiketleyen hatlar. Ölçülebilir doğrulukla, kural motoruyla birlikte.

Yapay Zeka Ajanları

Sadece cevap üretmeyen, iş yapan sistemler. Geri alınamayan işlemde insan onayı, dar araç yüzeyi ve her işlem için kim adına yapıldığını taşıyan kayıt.

2 dakika · 4 soru

Yapay zeka yatırımı sizin operasyonunuzda karşılığını bulur mu?

Dört soru. Cevaplarınız hazır bir aboneliği işaret ediyorsa bunu da açıkça söylüyoruz.

Ekibinizin her gün tekrarladığı, metin ya da belge üzerinde yürüyen bir iş var mı?

Soru 1 / 4

Ekibinizin her gün tekrarladığı, metin ya da belge üzerinde yürüyen bir iş var mı?

Neden yerinde kurulum?

Sorunun cevabı sözleşmenin küçük harflerinde olmasın

Bir yapay zeka aracına şirket sözleşmenizi yapıştırdığınızda o metin binanızdan çıkar. Yerinde kurulum bu soruyu tamamen ortadan kaldırır.

  • Veri kurum dışına çıkmaz

    Model kendi donanımınızda ya da Türkiye'deki sunucularımızda çalışır. İstem de cevap da o sınırın dışına adım atmaz; kurulum sonrası birlikte doğrularız.

  • Ölçülmüş, tahmin edilmemiş

    Hangi modelin ne kadar hızlı çalıştığını ve ne kadar bellek istediğini kendi makinelerimizde ölçtük. Yayımladığımız model kartlarında rakamlar açık.

  • Küçük başla, ölçerek büyüt

    Tek bir süreci hedefleyen dört haftalık pilot. Sonunda demo değil, ölçülmüş bir doğruluk sayısı olur; genişletme kararı o sayıya bakılarak verilir.

  • Sağlayıcı bağımlılığı yok

    Açık lisanslı modelleri tercih ediyoruz. Kurulum betikleri, istem şablonları ve değerlendirme kümesi sözleşmeyle size ait olur.

  • Kendi altyapımızda çalışıyoruz

    512 GB birleşik bellekli Mac Studio ve yanındaki makine; üzerlerinde çalışan modeller. Müşteriye önerdiğimiz kurulumun aynısını kendimiz kullanıyoruz.

  • KVKK ve GDPR ile uyumlu

    Yurt dışına veri aktarımı başlığı hiç açılmaz. Süreç haritası, envanter satırları ve saklama süreleri kurulumla birlikte hazırlanır.

Kullanım Alanları

Nerede karşılığını buluyor

Teklif hazırlamaktan muhasebe belgesine, kurum hafızasından saha raporuna kadar.

Teklif ve Şartname Eşleme

Gelen teknik şartnamenin maddelerini ürün kataloğunuzla eşleyen, en deneyimli kişinin saatlerini geri veren taslak üretimi.

Muhasebe Belge Hattı

Fatura, dekont ve ekstreden alan çıkarma; toplam ve vergi tutarlılığının otomatik kontrolü, şüpheli kaydın insana yönlendirilmesi.

Kurum Hafızası

Yıllardır biriken belgeler, e-postalar ve toplantı notları üzerinde kaynak göstererek cevap veren arama katmanı.

Müşteri Yazışması Taslağı

Gelen mesajı sınıflandırıp taslak cevap üreten; gönderme kararını her zaman insana bırakan yazışma desteği.

Kalite ve Uygunsuzluk Analizi

Serbest metin olarak yazılmış saha raporlarını kategorilere ayırıp tekrar eden kök nedenleri görünür kılan analiz hattı.

Geliştirici ve BT Araçları

Log analizi, hata sınıflandırma ve iç dokümantasyon üzerinde çalışan; kendi sunucunuzda duran teknik asistanlar.

Mimari kararlar

Güvenlik modelden değil mimariden gelir

Bir yapay zeka kurulumunda riskin çoğu modelin yeteneğiyle değil, ona ne yapma izni verildiğiyle ilgilidir. Bu yüzden kararlar yazılı ve görünürdür.

  • Model seçimi işe göre yapılır; gerekçe ve ölçüm sonuçları yazılı olarak paylaşılır.
  • Nicemleme kararı gecikme bütçesine göre verilir — aynı model dört farklı hassasiyette üç kata varan hız ve üçte bire varan bellek farkı üretir.
  • Arama katmanı kullanıcı kimliğiyle çalışır; kişinin göremeyeceği belge aday havuzuna hiç girmez.
  • Her cevap kaynağını gösterir; doğrulanamayan bir çıktı kullanıcı için bilgi değil risktir.
  • Güven eşiği ayarlanabilir: sistem emin olmadığında cevap üretmek yerine insana devreder.
  • Elde tutulan bir değerlendirme kümesiyle doğruluk düzenli ölçülür; sapma görüldüğünde müdahale edilir.
  • Ajan kurulumlarında geri alınamayan her işlem insan onayından geçer, araç yüzeyi dar tutulur.
  • Dışarıdan gelen içerik veri olarak işaretlenir; istem enjeksiyonuna karşı savunma modelden değil mimariden gelir.
Ölçülmüş veri

Model seçimini tahminle değil rakamla yapıyoruz

Aynı modelin dört hassasiyetini aynı makinede ölçtük. Aradaki fark, bir kurulumun mümkün olup olmamasını belirleyecek kadar büyük. Sürümlerin tamamı Hugging Face profilimizde açık.

Sürüm Üretim Tepe bellek
4-bit37,9 token/sn15,5 GB
6-bit27,9 token/sn22,2 GB
8-bit22,2 token/sn28,9 GB
bf1612,7 token/sn54,1 GB

Mac Studio M3 Ultra, 512 GB birleşik bellek. Tek çalıştırma, tek istem — kıyaslama testi değil, büyüklük mertebesi rehberi.

Barındırma

Model nerede duracak?

Yapay zeka projesinde ilk teknik karar model seçimi değil, modelin nerede çalışacağıdır. Üç seçenek var ve hangisinin doğru olduğunu verinin kendisi belirler.

Kurum İçi (On-Premise)

Model dosyaları sizin binanızdaki sunucuda durur. İstem de cevap da kurum ağından hiç çıkmaz; dışarıya giden bağlantı olmadığı kurulum sonrası birlikte doğrulanır. Donanım yatırımı sizde, denetim de sizde.

Kime uygun: Sağlık, hukuk, finans ve savunma tarafı; verinin binadan çıkmasının baştan elendiği kurumlar.

Özel Barındırma (Private)

Türkiye'deki donanımımızda size ayrılmış, paylaşılmayan bir sunucu. Kaynak başkasıyla bölüşülmez, ağ ayrı, erişim yalnızca sizin belirlediğiniz kişilerde. Donanım maliyeti aylık hizmete dağılır, bakım bizde kalır.

Kime uygun: Kurum içi kurulumun donanım yükünü almak istemeyen ama verisini genel bir buluta koyamayan kurumlar.

Karma (Hibrit)

Hassas iş yükü kurum içinde, hassas olmayan iş yükü özel barındırmada. İki tarafta farklı model çalışabilir; yönlendirme kuralı veri sınıfına göre yazılır ve denetlenebilir kayıt üretir.

Kime uygun: Aynı kurumda hem kişisel veri işleyen hem de kamuya açık içerik üreten süreçler varsa.

Özel barındırmayı yapay zeka dışındaki iş yükleriniz için de veriyoruz — uygulama sunucusu, veritabanı ve web barındırma aynı altyapıda duruyor. Ayrıntısı sunucu barındırma ve web hosting sayfasında.

Süreç

Dört haftada ölçülebilir bir sonuç

Beş aşama; her aşamada görünür çıktı, sonunda demo değil bir sayı.

  1. 01

    Süreç Seçimi

    Hangi iş, kim yapıyor, günde kaç saat, hata olduğunda ne oluyor. Bu dört sorunun cevabı yoksa teklif yazmıyoruz.

  2. 02

    Örnek ve Ölçüt

    Gerçek belgeler, gerçek sorular ve insanın verdiği gerçek cevaplarla bir değerlendirme kümesi hazırlanır.

  3. 03

    Kurulum

    Model ve donanım seçilir, hat ayağa kalkar, ilk doğruluk ölçümü yapılır ve rapor edilir.

  4. 04

    Arayüz ve Yetki

    Kullanıcı arayüzü, kimlik doğrulama ve erişim denetimi eklenir; kaynak gösterme her cevaba bağlanır.

  5. 05

    Pilot ve Devir

    Sınırlı bir ekip gerçek işte kullanır, hatalar kaydedilir. Ölçülen sonuç yeterliyse kapsam genişletilir; devir eğitimi verilir.

Ticari model

Önce pilot, sonra sözleşme

Yapay zeka projelerinde geniş kapsamla başlayan tekliflerin çoğu altı ay sonra hâlâ demo aşamasında oluyor. Bu yüzden işe sabit kapsamlı bir pilotla başlıyoruz: tek süreç, dört hafta, sonunda ölçülmüş bir doğruluk sayısı. Sonuç yeterliyse yıllık bakım ve genişletme sözleşmesi o sayının üzerine kurulur; kapsam ve bedel baştan yazılır, yıl içinde değişmez. Yetersizse nerede takıldığı bellidir ve devam etmeme kararı da sizindir.

Bir sonraki yazılım projenize hazır mısınız?

Ekibimizle 30 dakikalık ücretsiz bir keşif görüşmesi planlayın.

Sertifikalar

Ağ ve siber güvenlik işlerini, uluslararası geçerli Cisco sertifikasyonuna sahip ekiple yürütüyoruz.

Cisco CyberOps Associate rozeti

Cisco CyberOps Associate

Veren kurum: Cisco · Sahibi: Devrim Tunçer

Güvenlik operasyon merkezi (SOC) yetkinliğini belgeleyen sertifika: güvenlik izleme, olay müdahalesi ve ağ saldırılarının analizi. Sızma tespiti, log korelasyonu ve olay sonrası müdahale gerektiren işlerde dayandığımız temel budur.

Cisco CCNA Eğitimi

süresi doldu

Cisco eğitim sertifikası · Ocak 2023'te tamamlandı

Ağ temellerini kapsar: yönlendirme, anahtarlama, IP adresleme ve ağ güvenliği. Kurumsal ağ kurulumu ile segmentasyon işlerinde kullandığımız bilgi tabanı.

Kurumlara özel yapay zeka geliştirme: veriniz nerede duruyor?

Kurumlara özel yapay zeka geliştirme: veriniz nerede duruyor?

Bir yapay zeka aracına şirketinizin sözleşmesini yapıştırdığınızda o metin sizin binanızdan çıkar. Nereye gittiği, ne kadar saklandığı ve eğitimde kullanılıp kullanılmadığı sözleşmenin küçük harflerinde yazar. Çoğu ekip bu satırları ilk kez, hukuk departmanı soru sorduğunda okur. Kurumlara özel yapay zeka geliştirme dediğimiz iş tam olarak bu soruyu ortadan kaldırmak üzerine kuruludur: model kurumun kendi sunucusunda ya da bizim Türkiye'de duran donanımımızda çalışır, istem de cevap da o sınırın dışına adım atmaz.

Done Dynamics bunu bir slayt vaadi olarak değil, kendi makinelerinde çalıştırdığı bir kurulum olarak anlatıyor. 512 GB birleşik belleğe sahip bir Mac Studio ve yanında daha küçük bir makine; üzerlerinde çalışan modeller ve o modellerin ölçülmüş hızları. Aynı kurulumu müşteri tarafında da kurabildiğimiz için veri dışarı çıkmasın cümlesi burada teknik bir kısıt değil, başlangıç noktası.

Aşağıdaki metin bir hizmet tanıtımından çok karar kılavuzu gibi okunmalı. Hangi işin yapay zekayla çözülmeye değdiği, hangisinin klasik yazılımla daha ucuza kapandığı, model boyutunun faturaya nasıl yansıdığı ve pilot bir kurulumun neye benzediği burada anlatılıyor. Kurumlara özel yapay zeka geliştirme yatırımının en pahalı hatası yanlış model seçmek değil, yanlış süreci seçmektir.

Hangi iş yapay zekaya gider, hangisi gitmez

Ayrım göründüğünden nettir. Kuralı yazılabilen her iş klasik yazılıma gider. Fatura tutarını toplamak, stok seviyesi eşiğin altına inince uyarı üretmek, iki tarihin arasındaki gün farkını hesaplamak — bunların hiçbiri model istemez, isterse de daha pahalı ve daha hatalı olur. Yapay zeka, kuralın önceden yazılamadığı yerde kazandırır: metnin ne dediğini anlamak, iki farklı biçimde yazılmış aynı bilgiyi eşlemek, serbest metinden yapılandırılmış alan çıkarmak, uzun bir belgeyi özetlemek.

Pratikte en sık karşılaştığımız üç aile var. Birincisi belge okuma: gelen sözleşme, teklif ya da teknik şartnameden belirli alanları çekmek. İkincisi kurum içi arama: yıllardır biriken belgelerin arasından bu müşteriyle daha önce ne konuşulmuş sorusuna cevap üretmek. Üçüncüsü sınıflandırma ve yönlendirme: gelen talebi doğru ekibe düşürmek, şikâyeti aciliyet sırasına koymak.

Bu üçünün ortak yanı, hepsinde insanın halihazırda aynı işi yapıyor olmasıdır. Yani kazanç hayali değil ölçülebilir: bugün kaç kişi, günde kaç saat harcıyor. Yatırımın karşılığını hesaplamanın en dürüst yolu bu sayıdan başlamaktır. Bir kurumsal yazılım şirketi olarak ilk görüşmede sorduğumuz soru da budur — hangi model değil, kim ve ne kadar zaman.

Buna karşılık, henüz kimsenin yapmadığı bir işi yapay zekayla başlatmak riskli bir tercih. Ölçüt yoksa doğruluk da ölçülemez; sistem yanlış cevap verdiğinde bunu kimse fark etmez. Böyle projelerde önce küçük bir insan sürecinin kurulmasını, birkaç ay veri biriktirilmesini öneriyoruz. Sonra otomatikleştirmek hem daha kolay hem daha ucuz oluyor.

Kendi sunucunuzda çalışan model ne demek?

Bulut tabanlı bir yapay zeka servisinde uygulamanız internete bir istek gönderir, cevap gelir. Yerinde kurulumda model dosyaları sizin donanımınızda durur, istem oradaki bir sürece gider ve cevap aynı makineden döner. Dışarıya çıkan tek şey, siz istediğinizde çıkardığınız kayıtlardır.

Bunun ilk sonucu hukuki. KVKK ve GDPR kapsamında kişisel veri işleyen bir süreçte veri aktarımının nereye yapıldığı, yurt dışına çıkıp çıkmadığı ve hangi hukuki dayanağa bağlandığı ayrı ayrı gerekçelendirilmek zorunda. Model kurum içinde çalıştığında bu sorunun cevabı tek cümleye iner ve envanterde tek satır yer kaplar. Sağlık, finans ve hukuk tarafındaki müşterilerimizde bu tek başına belirleyici oluyor.

İkinci sonucu maliyet yapısıyla ilgili. Bulut servislerinde fatura kullanıma bağlıdır: her istek, işlenen her belge ayrı ücretlendirilir. Yerinde kurulumda donanım bir kere alınır, sonrası elektrik ve bakımdır. Az kullanan bir ekip için bulut ucuzdur; günde binlerce belge işleyen bir operasyonda denge kısa sürede tersine döner. Hangi tarafta olduğunuzu ilk görüşmede kabaca hesaplayabiliyoruz.

Üçüncüsü ise bağımsızlık. Sağlayıcı fiyat değiştirdiğinde, kullandığınız model sürümü emekliye ayrıldığında ya da hizmet bölgenizde kesintiye uğradığında yerinde kurulum bunlardan etkilenmez. Buna karşılık güncelleme sorumluluğu da size geçer; bakım sözleşmesini bu yüzden ayrı bir kalem olarak yazıyoruz.

Model boyutu, nicemleme ve gecikme bütçesi

Model seçimi genelde en iyi hangisi sorusuyla başlar, oysa doğru soru bu iş için yeterli en küçük model hangisi olmalı. Büyük model daha iyi cevap verir ama daha yavaş çalışır, daha çok bellek ister ve daha pahalı donanım gerektirir. Küçük model bazı işlerde ayırt edilemeyecek kadar iyi sonuç üretir.

Aradaki farkı somutlaştırmak için kendi ölçümlerimizden örnek verelim. Aynı modelin dört ayrı hassasiyetteki sürümünü aynı makinede ölçtük: en sıkıştırılmış sürüm saniyede yaklaşık 38 token üretirken, sıkıştırılmamış sürüm 13 tokende kaldı. Bellek tarafında fark daha da keskin: 15,5 GB'a karşı 54 GB. Aynı model, aynı donanım, üç katı hız ve üçte biri bellek. Nicemleme dediğimiz bu işlem, birçok projede kurulumun mümkün olup olmamasını belirliyor.

Buradan çıkan pratik kural şu: gecikme bütçenizi baştan yazın. Bir kullanıcı ekranın karşısında cevabı bekliyorsa iki saniye ile on saniye arasındaki fark ürünün kullanılıp kullanılmamasını belirler. Gece çalışan bir toplu işte ise on saniye kimsenin umurunda değildir, oradaki tercih kaliteden yana kullanılır. Aynı kurumda iki farklı iş için iki farklı model çalıştırmak sıra dışı değil, olağan bir tasarım.

Bir de düşünme kipi meselesi var, faturayı sessizce büyüten kısım burası. Modern modellerin çoğu cevaba başlamadan önce bir muhakeme bloğu üretiyor ve bu blok token bütçesinden yiyor. Kısa cevap beklediğiniz bir işte bütçenin tamamı muhakemeye gidebilir ve elinize hiç cevap geçmez. Yayımladığımız model kartlarında bunu ayrıca yazmamızın sebebi, sahada en sık karşılaştığımız şaşkınlık olması.

Kurum içi bilgiye bağlanmak: RAG dediğimiz şey

Bir modelin sizin şirketinizi tanıması için yeniden eğitilmesi gerekmiyor. Çoğu durumda gerekmiyor da — eğitim pahalı, yavaş ve her belge değişikliğinde tekrarlanması gereken bir iş. Bunun yerine belgeleriniz aranabilir hale getirilir, soru geldiğinde ilgili parçalar bulunur ve modele cevabı üretmesi için o parçalarla birlikte verilir.

Bu kurulumun kalitesi modelden çok arama tarafında belirlenir. Belgeler nasıl parçalara ayrıldı, hangi parça hangi soruyla eşleşiyor, aynı bilginin iki farklı sürümü varsa hangisi güncel — cevap doğruluğunu asıl bunlar taşır. Sahada gördüğümüz başarısız kurulumların çoğunda model iyidir, arama kötüdür.

İkinci kritik nokta kaynak gösterme. Sistem bir cevap ürettiğinde hangi belgenin hangi bölümünden geldiğini göstermelidir. Bu hem doğrulamayı mümkün kılar hem de kullanıcıya güven verir. Kaynak göstermeyen bir kurum içi asistan, birkaç yanlış cevaptan sonra kullanılmayı bırakır — ve haklı olarak.

Üçüncüsü yetkilendirme. Muhasebe klasörüne erişimi olmayan bir çalışan, asistana soru sorarak o klasördeki bilgiye ulaşabiliyorsa erişim denetiminizi delmiş olursunuz. Bu yüzden arama katmanı kullanıcı kimliğiyle birlikte çalışır ve yalnızca o kişinin görebileceği belgeler aday havuzuna girer. Alanya yazılım ekibimizin kurduğu her kurum içi asistanda bu katman ilk günden vardır, sonradan eklenmez.

Pilot kurulum: dört haftada ölçülebilir bir sonuç

Yapay zeka projelerinin en sık düştüğü tuzak, geniş kapsamla başlamaktır. Bütün departmanları kapsayan bir asistan, altı ay sonra hâlâ demo aşamasındadır. Buna karşılık tek bir süreci hedefleyen bir pilot, dördüncü haftada gerçek kullanıcı önündedir.

Bizim önerdiğimiz sıralama şöyle: ilk hafta süreci yerinde izleyip örnek veri toplarız — gerçek belgeler, gerçek sorular, insanın verdiği gerçek cevaplar. İkinci hafta kurulum ayağa kalkar ve ilk doğruluk ölçümü yapılır. Üçüncü hafta kullanıcı arayüzü ve yetkilendirme eklenir. Dördüncü hafta sınırlı bir ekip gerçek işte kullanır ve hatalar kaydedilir.

Bu dört haftanın sonunda elinizde bir demo değil, bir sayı olur: sistem yüz vakanın kaçında doğru sonuç verdi, kaçında insan düzeltmesi gerekti. O sayı yeterliyse genişletme kararı kolaydır. Yetersizse nerede takıldığı bellidir ve düzeltmek ucuzdur. Antalya yazılım ve İstanbul yazılım tarafındaki kurumsal müşterilerimizle bu ritmi baştan sözleşmeye yazıyoruz.

Pilotun bir de sessiz faydası var: ekibin sisteme alışması. Yapay zeka çıktısını körü körüne kabul etmeyen, kontrol eden ve hatayı bildiren bir kullanım kültürü ancak gerçek işte oluşuyor. Bu kültür kurulmadan yapılan geniş açılımlar, ilk ciddi hatada güven kaybıyla duruyor.

Sahada en sık gördüğümüz üç hata

Birincisi araçla başlamak. Ekip bir ürün seçiyor, lisansı alıyor, sonra o ürüne uyacak bir problem arıyor. Sıralama tersine döndüğünde proje kaçınılmaz olarak sürünüyor, çünkü aracın iyi yaptığı iş kurumun gerçekten yaptığı işle örtüşmüyor. Doğru sıra süreçten başlar: hangi iş, kim yapıyor, günde kaç saat, hata olduğunda ne oluyor. Kurumlara özel yapay zeka geliştirme teklifi hazırlarken bu dört soruya cevap alamadıysak teklif yazmıyoruz.

İkincisi kişisel hesapların sessizce yayılması. Kurumda resmi bir kurulum olmadığında çalışanlar kendi hesaplarıyla iş görmeye başlıyor; müşteri verisi, sözleşme metni ve fiyat listesi farkında olmadan dışarı çıkıyor. Bunu yasaklamak işe yaramıyor, çünkü ihtiyaç gerçek. İşe yarayan tek çözüm, kurum içinde kullanılabilir bir alternatif sunmak. Kurduğumuz kurulumların önemli bir kısmı aslında bu gölge kullanımı görünür hale getirmek için başlıyor.

Üçüncüsü ilk sürümden mükemmellik beklemek. Bir belge okuma hattı ilk haftada yüz vakanın yetmişini doğru çıkarır ve bu iyi bir başlangıçtır — çünkü kalan otuzu insan zaten yapıyordu. Beklenti yüzde yüz olduğunda proje daha ikinci haftada başarısız ilan ediliyor. Bizim önerdiğimiz ölçüt şu: sistem bugün insanın harcadığı sürenin yarısını geri veriyor mu? Veriyorsa yatırım çalışıyor, kalan iyileştirmeler zaman içinde geliyor.

Sektörlere göre nerede karşılığını buluyor

Turizmde en sık kurduğumuz hat rezervasyon ve misafir yazışması tarafında. Otel bir gün içinde farklı kanallardan yüzlerce mesaj alıyor; bunların çoğu aynı yirmi sorunun etrafında dönüyor. Sistem gelen mesajı sınıflandırıp taslak cevap üretiyor, resepsiyon onaylayıp gönderiyor. Kritik olan onay adımının kalması: misafire giden metni insan görmeden yollamak, kazandığınız zamanı ilk şikâyette geri veriyor.

Üretim ve mühendislik tarafında iş daha çok belge üzerinde yürüyor. Teknik şartname, malzeme listesi, kalite raporu. Bir teklif hazırlanırken şartnamenin hangi maddesinin hangi ürüne karşılık geldiğini bulmak saatler alıyor ve bu iş kurumdaki en deneyimli kişiye düşüyor. Aynı eşlemeyi model taslak olarak çıkardığında o kişinin işi kontrol etmeye dönüşüyor — kurumlara özel yapay zeka geliştirme projelerinde en net ölçülen kazanç kalemlerinden biri bu.

Muhasebe ve finans tarafında gelen belgenin okunması var: fatura, dekont, ekstre. Burada dikkat edilmesi gereken nokta, doğruluğun yüzde doksan beş olmasının yeterli olmadığıdır. Yanlış okunan bir tutar aşağıya doğru akar ve haftalar sonra mutabakatta ortaya çıkar. Bu yüzden finansal alanlarda güven eşiğini yüksek tutuyor, emin olunmayan kaydı doğrudan insana yönlendiriyoruz. Aynı yaklaşımı Alanya yazılım ekibimizin kurduğu her belge hattında uyguluyoruz.

Hukuk ve sağlık tarafında ise belirleyici olan hız değil, verinin nerede durduğu. Bu iki alanda bulut tabanlı bir servise veri göndermek çoğu zaman baştan eleniyor, dolayısıyla soru "hangi servis" değil "yerinde kurulum neye mal olur" biçiminde geliyor. Yukarıdaki bellek ve hız rakamları tam da bu sorunun cevabını hesaplamak için var. Bir kurumsal yazılım şirketi olarak bu hesabı teklif aşamasında açık açık paylaşıyoruz.

Asistandan ajana: modelin araç kullanması

Soruya cevap veren bir sistemle iş yapan bir sistem arasında ciddi bir fark var. Birincisi metin üretir, ikincisi kayıt açar, e-posta taslağı hazırlar, veritabanına yazar. İkinciye ajan diyoruz ve kurulumu birinciden belirgin şekilde daha dikkatli olmak zorunda.

Sebebi basit: hata artık ekranda kalmıyor. Yanlış bir cevap kullanıcıyı yanıltır, yanlış bir işlem sistemde iz bırakır. Bu yüzden ajan kurulumlarında üç kural değişmez. Birincisi, geri alınamayan her işlem insan onayından geçer. İkincisi, ajanın erişebileceği araçlar dar tutulur — okuyabildiği her şeye yazabilmesi için bir sebep yoktur. Üçüncüsü, her işlem kim adına yapıldığı bilgisiyle birlikte kaydedilir.

Bir de istem enjeksiyonu meselesi var; ajan kurulumlarının kendine özgü riski budur. Model dışarıdan gelen bir metni okuduğunda — bir e-posta, bir belge, bir web sayfası — o metnin içine yerleştirilmiş bir talimatı kendi görevi sanabilir. Savunma modelden değil mimariden gelir: dışarıdan gelen içerik veri olarak işaretlenir, araçların şemasında hedef adresi taşıyan bir parametre bulunmaz ve yıkıcı işlemler ayrı bir kapının arkasında durur.

Bu yaklaşımı teoriden öğrenmedik. Kendi sunucu filomuzu yöneten araçları yazarken aynı kararları vermek zorunda kaldık ve sonucu açık kaynak olarak yayımladık. Silmenin varsayılan olarak kapalı olması, salt okunur kipin bağlantı düzeyinde bir tavan olması ve araç şemasının hiçbir yerinde sunucu adresi bulunmaması — üçü de o depolardan çıkan kararlar. Antalya yazılım tarafındaki müşterilerimize kurduğumuz ajan hatlarında aynı şablon kullanılıyor.

Ölçmeden ilerlemek neden çalışmıyor

Yapay zeka projelerinde en çok atlanan adım değerlendirme kümesi hazırlamaktır. Elli ile iki yüz arasında gerçek vaka, her birinin doğru cevabı yazılı. Bu küme olmadan sistemin iyi çalışıp çalışmadığı hakkındaki her cümle izlenimden ibaret kalır ve izlenim, kim son kez denediyse ona göre değişir.

Kümeyi hazırlamak sıkıcı bir iştir ve genellikle müşteri tarafındaki uzmanın birkaç gününü alır. Buna karşılık projenin geri kalanını taşıyan şey odur. İstem değiştiğinde, model sürümü güncellendiğinde ya da belgeler yenilendiğinde aynı küme tekrar çalıştırılır ve sonucun düşüp düşmediği görülür. Bu olmadan yapılan her iyileştirme, başka bir yeri bozma riskini kör biçimde taşır.

İkinci ölçüm katmanı canlıdan gelir. Kullanıcının düzelttiği cevaplar kaydedilir, hangi tür sorularda daha sık düzeltme yapıldığı ayrıştırılır. Sahada gördüğümüz düzen genellikle şudur: hatalar rastgele dağılmaz, belirli bir belge tipinde ya da belirli bir soru kalıbında toplanır. Bulunduğunda düzeltmesi de nokta atışı olur.

Üçüncüsü maliyet ölçümü. Kaç istek, ortalama kaç token, hangi saatlerde yoğunluk. Yerinde kurulumda bu doğrudan faturaya değil kapasiteye bakar: mevcut donanım tepe saatte yetiyor mu, yetmiyorsa ikinci bir makine mi gerekli. İstanbul yazılım tarafındaki daha büyük kurulumlarımızda bu ölçüm baştan kuruluyor, çünkü sonradan eklemek üretimi durdurmayı gerektiriyor.

Maliyet, sahiplik ve devir

Fiyatı belirleyen ilk kalem donanım. Yerinde kurulum tercih edildiğinde ya mevcut sunucularınız değerlendirilir ya da iş yüküne uygun bir makine önerilir. Modelin bellek ihtiyacı burada belirleyici: yukarıdaki örnekte 15 GB ile 54 GB arasındaki fark, satın alınacak makinenin sınıfını doğrudan değiştiriyor. Alternatif olarak kurulum bizim Türkiye'deki donanımımızda barındırılabilir; bu durumda donanım maliyeti aylık hizmete dağılır.

İkinci kalem entegrasyon. Modelin çalışması işin yarısı; asıl emek onu mevcut sistemlerinize bağlamakta. Belge yönetim sisteminden veri çekmek, sonucu kurumsal kaynak planlama yazılımına yazmak, kimlik doğrulamayı şirket dizinine bağlamak — süre çoğunlukla burada geçiyor. Karşı sistemin belgesi yoksa ve destek alınamıyorsa uzuyor.

Üçüncü kalem sürekli bakım. Model güncellenir, belgeler değişir, kullanıcı beklentisi yükselir. Doğruluk ölçümünün düzenli tekrarlanması ve sapma görüldüğünde müdahale edilmesi gerekir. Bu kalemi tekliflerde ayrı satır olarak yazıyoruz, çünkü hesaba katılmadığında ikinci yıl sürprizle karşılaşılıyor.

Sahiplik tarafında duruşumuz net: kurulum betikleri, istem şablonları, değerlendirme veri kümesi ve entegrasyon kodu sözleşmeyle müşteriye ait. Model ağırlıkları kendi lisansını taşır; açık lisanslı modeller tercih ettiğimizde bu da devredilebilir olur. Yani ekip değiştirmek istediğinizde sıfırdan başlamazsınız — kurumlara özel yapay zeka geliştirme yatırımını sağlayıcıya bağımlı hale getiren en büyük etken budur ve baştan kapatılabilir.

Sıkça sorulan sorular

Verilerimiz gerçekten kurum dışına çıkmıyor mu?
Yerinde kurulumda model dosyaları sizin donanımınızda durur ve istem de cevap da o makineden çıkmaz. Ağ tarafında dışarıya giden bir bağlantı olmadığı, kurulum sonrası birlikte doğrulanır. Barındırma tercihi bizim tarafımızda olduğunda ise donanım Türkiye'dedir ve veri işleme sözleşmesi bunu yazılı olarak bağlar.
Hangi model kullanılıyor, seçimi kim yapıyor?
Seçim işe göre yapılır ve gerekçesi yazılı olarak paylaşılır. Açık lisanslı modelleri tercih ediyoruz, çünkü hem yerinde çalıştırılabiliyor hem de devredilebiliyor. Kendi yayımladığımız sürümlerin ölçülmüş hız ve bellek değerleri açık; aynı ölçümü sizin donanımınızda da tekrarlıyoruz.
Mevcut kurumsal kaynak planlama ya da belge yönetim sistemimize bağlanabilir mi?
Evet, bağlanabildiği ölçüde. Sistemin bir arayüzü varsa doğrudan; yoksa veritabanı düzeyinde ya da dışa aktarma dosyaları üzerinden çalışırız. İlk görüşmede karşı sistemin ne sunduğunu kontrol ediyoruz, çünkü projenin süresi çoğunlukla burada belirleniyor.
Yapay zekanın yanlış cevap verme riski nasıl yönetiliyor?
Üç katmanla. Birincisi kaynak gösterme: her cevap hangi belgeden geldiğini söyler. İkincisi güven eşiği: sistem emin olmadığında cevap üretmek yerine insana devreder. Üçüncüsü düzenli doğruluk ölçümü: elde tutulan bir değerlendirme kümesiyle sapma izlenir. Sıfır hata vaat etmiyoruz; hatanın görünür ve ölçülebilir olmasını sağlıyoruz.
Ne kadar sürede kullanılabilir bir şey görürüz?
Tek bir süreci hedefleyen pilotta dört hafta. Bu sürenin sonunda gerçek kullanıcının gerçek işte denediği bir kurulum ve ölçülmüş bir doğruluk sayısı olur. Geniş kapsamlı kurulumlar bunun üzerine, pilottan çıkan sonuca göre planlanır.
Kendi ekibimiz sistemi devralabilir mi?
Evet, hedefimiz bu. Kurulum betikleri, istem şablonları ve değerlendirme kümesi teslim edilir; ekibinize devir eğitimi verilir. Bakımı bizim sürdürmemiz bir tercihtir, zorunluluk değil. Bunu sözleşmede açıkça yazıyoruz.
KVKK açısından ek bir yükümlülük doğuyor mu?
Kişisel veri işleyen her süreçte olduğu gibi aydınlatma, envanter kaydı ve saklama süresi tanımı gerekir. Yerinde kurulumun avantajı, yurt dışına veri aktarımı başlığının hiç açılmamasıdır. Süreç haritasını ve envanter satırlarını kurulumla birlikte hazırlıyoruz.