XRack: Kurumsal Yapay Zeka Ajanlarını Denetlenebilir Hale Getiren Platform

XRack, 2024 yılında Ege Doğand Dursun ve Hüseyin Ersay tarafından kurulan yenilikçi bir start-up. Kurumsal yapay zeka ajanlarını denetlenebilir hale getirmek için bilişsel çalışma ortamı standardı sunuyor. Yavaş yavaş şirket, kurumların seçeceği büyük dil modellerini sadece soru yanıtlamaktan çıkıp,
XRack, 2024 yılında Ege Doğan Dursun ve Hüseyin Ersay tarafından kurulan yenilikçi bir start‑up. Kurumsal yapay zeka ajanlarını denetlenebilir hale getirmek için bilişsel çalışma ortamı standardı sunuyor. Yavaş yavaş şirket, kurumların seçeceği büyük dil modellerini sadece soru yanıtlamaktan çıkıp, kendi hafızası, yetkileri, sorumluluk sınırları ve gözlem/denetim mekanizmaları tanımlanmış yapay zeka sistemlerine dönüştürmeye odaklanıyor.

Vallahi, bu işin aslı şu ki, AI modelleri harika analizler yapabiliyor, ama bir eylemi önerirler ama o eylemi gerçekleştirebilecekleri anlamına gelmiyor, bakın ne oldu. Önce kimliğin, rolün, kurumsal politikanın, risk seviyesinin ve yetki kapsamının kontrol edilmesi gerekiyor. İşlem gerçekleştikten sonra da dış sistem yeniden gözlemlenerek beklenen sonucun gerçekten oluşup oluşmadığı doğrulanıyor. Böylece sistem kendini kalibre edebiliyor, öyle bir şey.

Hemen de, XRack’in sistemi, yapay zekanın karar alırken hangi bilgilere ve kaynaklara dayandığını, hangi varsayımları kullandığını, geçmişteki hangi deneyimlerden yararlandığını ve neden belirli bir eylemi seçtiğini yapılandırılmış biçimde takip ediyor. Bu süreçte oluşan kararlar, iddialar, varsayımlar, taahhütler, yetki kontrolleri, eylem girişimleri ve doğrulanmış sonuçlar geriye dönük olarak birebir incelenebilen bir kanıt zincirine, blockchain teknolojisi ile bağlanıyor.

İşin aslı şu: blockchain sayesinde tüm bu kanıtlar denetçilere tam, değiştirilemez ve eksiksiz olarak sunulabiliyor. Kendi altyapısında şifreli ve hash zincirli olarak çalışıyor, ihtiyaç duyulduğunda özel blockchain ağlarına da sabitlenebiliyor, böylece kötü niyetle kayıtların değiştirilmesi imkansız hale geliyor. XRack’in amacı, kurumsal sonuç doğuran bir kararın hangi bilgiye dayandığının, hangi yetkiyle uygulandığının, gerçekte ne olduğunun ve sistemin bu sonuçtan ne öğrendiğinin tam anlamıyla yeniden kurulabilmesini sağlamak.

Şu anda 8 kişilik multidisipliner bir ekiple çalışıyor: 3 yapay zeka mühendisi, 2 full‑stack geliştirici, 1 UX tasarımcısı ve 2 proje yöneticisi. Ege Doğan, yapay zeka mühendisliği, bilişsel mimari ve teknik ürün geliştirme tarafına; Hüseyin ise hukuk, yasal uyumluluk, yapay zeka regülasyonları ve yönetişim alanlarına liderlik ediyor. Bu ekip, bilişsel çalışma zamanı, veri, entegrasyon ve güvenlik altyapısını geliştirirken, UX ve ürün ekipleri karmaşık karar, yetki ve denetim süreçlerini kurumların anlayabileceği ve günlük operasyonlarında kullanabileceği ürün yüzeylerine dönüştürüyor.

Yaklaşık iki yıldır kesintisiz biçimde geliştirilen ürünün araştırma ve mimari temelleri XRack’in kuruluşundan daha eskiye dayanıyor. Kurucu ortak Ege Doğan Dursun, yaklaşık 5 yıldır beynin bilişsel işlevleri tek bir merkezden değil, birbirinden ayrışan ancak sürekli etkileşim halinde bulunan nöral ağlar üzerinden nasıl yürütüldüğü üzerine araştırmalar yapıyor. Bu çalışmalar, algı, dikkat, yürütücü kontrol, episodik ve kalıcı hafıza, planlama, eylem seçimi, tahmin, hata fark etme ve öğrenme işlevlerinin birbirleriyle nasıl koordine olduğunu inceliyor.

XRack, geleneksel bir dil modelini karışık bir “kara kutu” gibi görüp, kurumların sınırlandırabildiği, yönetebildiği ve hesap sorabildiği yapıya dönüştürüyor. Sistem, kimlik, rol, politika, risk ve yetki kontrolleri tamamlanmadan bir işlemin gerçekleştirilmesine izin vermiyor. İşlem sonrasında ise aracın başarılı olduğunu bildirmesi ile beklenen sonucun gerçek dünyada doğrulanmasını birbirinden ayırıyor. Platform ayrıca hafızayı geçmiş konuşmaların saklanmasının ötesinde; olaylar, çıkarılan dersler, doğrulanmış bilgiler, varsayımlar, taahhütler ve başarılı prosedürler gibi farklı katmanlarda yönetiyor.

Bu süreç, öğrenme sürecinin sınırlandırılmış, izlenebilir ve geri alınabilir şekilde çalışmasını sağlarken temel güvenlik kurallarını dışarıda bırakıyor. XRack, belirli bir modele veya bulut sağlayıcısına bağlı olmadan şirketlerin kendi sunucularında, özel bulutlarında, VPC ortamlarında veya kapalı ağlarında çalışabiliyor. Böylece kurumsal hafıza, politikalar ve denetim kayıtları kurumun kontrolünde kalıyor.

Şu anda XRack, hukuk, finans ve üretim sektörlerinden üç kurumla pilot çalışmalar yürütüyor. Hukukta hukuki ve sektörel istihbarat, finansta karar desteği ve risk takibi, üretimde ise kestirimci bakım senaryolarına odaklanıyor. Pilotların temel başarı göstergeleri gelir yerine pilot sayısı, doğrulanan kullanım alanları, entegrasyon derinliği ve elde edilen operasyonel sonuçlar.

XRack’in önceliği, mevcut pilotları ticari sözleşmelere dönüştürmek. Tekrar aynı noktayı vurgulamak gerekirse, entegrasyonu kolaylaştırmak, güvenlik ve yetki politikalarını sadeleştirmek, denetim çıktılarının hukuk, risk ve uyumluluk ekipleri tarafından kullanılabilmesini sağlamak. Orta vadede ise pilotlarda doğruladığı kullanım alanlarını standart kurulum, lisanslama ve destek modellerine sahip sektörel ürün paketlerine dönüştürmeyi planlıyor. Ardından enerji, sigorta, sağlık, savunma ve kamu gibi yüksek regülasyonlu sektörlere açılmayı hedefliyor.

Uzun vadede XRack, yapay zeka sistemlerine güvenli biçimde sorumluluk devredilmesini sağlayan kurumsal bir işletim standardı oluşturmak istiyor. Bu vizyon; tek bir yapay zeka aktörünü yöneten Harness, birden fazla aktörün birlikte çalışmasını sağlayan Grid, farklı yapay zeka organizasyonlarını izleyen Federation ve aynı hesap verebilirlik modelini robotlara taşıyan Embodiment katmanlarından oluşuyor.

Bakalım bundan sonra bu yeni platform, kurumsal yapay zeka ile ilgili düzenlemelerde ne kadar çığır açacak? Gelişmeleri takip ediyoruz…

Kaynak: Orijinal Haber