Yapay Zekâya Verdiğiniz Veriye Güveniyor musunuz? | GEODI Discovery #14
Güncelleme tarihi: 11 Eki
AI Ready Data – Yapay Zekâya Verdiğiniz Veriye Güveniyor musunuz?
Bir kurum kendi verisi üzerinde çalışan bir yapay zekâ asistanı devreye alıyor. Amaç oldukça net: Çalışanlar doğal dilde soru soracak, sistem kurumsal dokümanları tarayacak ve birkaç saniye içinde cevap verecek.
İlk sorulardan biri geliyor: “Müşterimizle geçerli sözleşmemizde ödeme vadesi kaç gün?”
AI cevap veriyor: 60 gün. Cevap gayet net. Kaynak doküman da kurumun kendi sisteminde.
Tek problem var. Güncel sözleşmede ödeme vadesi 30 gün.
AI yanlış bilgi üretmedi. Kurumun veri ortamında bulduğu eski bir sözleşmeyi doğru şekilde okudu.
Sorun AI değildi. Sorun AI’a açılan veriydi.
AI Ready Olmak, Veriyi AI'a Bağlamak Değildir
Bugün kurumların büyük bölümü yapay zekâ projelerinde modelleri tartışıyor. Hangi LLM? Cloud mu on-premise mi? RAG mi? Fine-tuning gerekli mi? Vector database ne olacak? Model ne kadar büyük?
Bunların hepsi önemli teknik sorular. Ancak model ne kadar gelişmiş olursa olsun, beslendiği kurumsal veri güvenilir değilse ortaya çıkan sistemin de güvenilir olması beklenemez.
Poor Data → Poor Context → Poor AI Output
Generative AI dünyasında bunun etkisi daha da büyüktür. Çünkü AI yalnızca veriyi göstermiyor. Veriden cevap üretiyor.
Kurumsal Veri AI İçin Hazır mı?
Bir dosya sunucusunda 4 milyon doküman olduğunu düşünelim. AI projesi açısından ilk refleks: “Hepsini indexleyelim.” Ama önce başka sorular sorulmalı. Bu dokümanların:
kaçı güncel?
kaçı duplicate?
kaçı eski versiyon?
kaçı artık iş değeri taşımıyor?
kaçı yanlış klasörde?
kaçı kişisel veri içeriyor?
kaçı ticari sır taşıyor?
kaçı yalnızca belirli ekiplerin erişimine açık olmalı?
kaçı OCR olmadan okunamıyor?
kaçı gerçekten AI tarafından kullanılmaya değer?
Bu soruların cevaplarını bilmiyorsanız elinizde dört milyon adet AI kaynağı değil; dört milyon adet potansiyel bağlam vardır. Ve bunların hepsi doğru bağlam değildir.
RAG Kötü Veriyi İyi Veriye Dönüştürmez
Kurumsal GenAI projelerinde sık kullanılan yaklaşımlardan biri RAG'dir: Retrieval-Augmented Generation. Basitleştirirsek:
Question → Retrieval → Relevant Content → LLM → Answer
Model önce kurumsal veri içerisinde ilgili içerikleri bulur, ardından bu içerikleri kullanarak cevap oluşturur. Bu mimarinin kritik noktası ortadaki adımdır: Relevant Content.
Peki sistemin erişebildiği repository içerisinde aynı dokümanın Contract_Final.pdf, Contract_Final_v2.pdf, Contract_2022.pdf, Contract_NEW.pdf ve Contract_SIGNED.pdf şeklinde beş farklı versiyonu varsa hangisi relevant content?
Semantik olarak beşi de son derece ilgili olabilir. Fakat iş açısından yalnızca biri doğru olabilir. Bu nedenle retrieval accuracy ile data quality aynı şey değildir.
AI doğru dokümanı bulabilir. Ama bulduğu dokümanın doğru versiyon olduğunu ayrıca bilmek gerekir.
AI İçin En Tehlikeli Veri Her Zaman Yanlış Veri Değildir
Bazen veri tamamen doğrudur. Ama AI’ın onu görmemesi gerekir.
Örneğin kurumun AI platformuna bağlanan ortak alanda yönetim kurulu dokümanları, çalışan ücret bilgileri, müşteri kişisel verileri, hukuki dosyalar, satın alma fiyatları, stratejik planlar ve erişimi kısıtlı projeler bulunabilir.
Dokümanlar doğru olabilir. Güncel olabilir. Hatta AI açısından son derece kaliteli içerikler olabilir. Ancak:
AI Ready ≠ AI Accessible
Bir verinin yapay zekâ tarafından teknik olarak erişilebilir olması, o verinin AI kullanımına uygun olduğu anlamına gelmez.
AI Veri Ortamında Üç Soruyu Birbirinden Ayırmak Gerekir
1. Can AI Read It?
İçerik teknik olarak işlenebilir mi? PDF gerçekten text-based mi? Taranmış doküman OCR ile okunabilir hale getirildi mi? Dosya formatı destekleniyor mu?
2. Should AI Use It?
İçerik güncel mi? Doğru versiyon mu? Duplicate veya obsolete mi? İş açısından güvenilir bir kaynak mı?
3. Is AI Allowed to See It?
İçerik kişisel veri taşıyor mu? Hassas bilgi içeriyor mu? Erişim yetkileri ne? Bu bilgi bütün kullanıcılara açılabilir mi? AI sisteminin bu repository'ye erişmesi doğru mu?
Bu üç sorudan yalnızca birinin cevabının “Evet” olması yeterli değildir.
Dark Data, AI Geldiğinde Bir Anda Aktif Veriye Dönüşebilir
Yıllardır kimsenin açmadığı bir klasör düşünelim. İçerisinde on binlerce eski doküman bulunuyor. Bugüne kadar operasyon açısından neredeyse görünmez.
Sonra kurum bir enterprise search veya GenAI platformu kuruyor ve repository'yi indexliyor. Bir anda yıllardır kullanılmayan veriler searchable, retrievable ve AI-accessible hale geliyor.
Dün Dark Data olan içerik, bugün AI Context olabilir.
Bu nedenle AI projeleri kurumların eski veri problemlerini ortadan kaldırmaz. Tam tersine, daha önce görünmeyen problemleri aktif kullanım alanına taşıyabilir.
AI Ready Data İçin Discovery Katmanı
Kurumsal veriyi AI kullanımına hazırlamak, yalnızca format dönüşümü veya embedding oluşturmak değildir. Öncesinde veri ortamının anlaşılması gerekir. Discovery katmanı şu görünürlüği sağlamalıdır:
What do we have? Hangi veriler mevcut?
Where is it? Hangi repository'lerde bulunuyor?
What is inside? İçerikte hangi bilgiler var?
Is it sensitive? Kişisel, finansal veya hassas veri taşıyor mu?
Is it current? Güncel mi, eski mi?
Is it duplicated? Başka kopyaları veya versiyonları var mı?
Is it useful? AI kullanımına gerçekten değer katıyor mu?
Who should access it? Kimlerin erişimine uygun?
Bu görünürlük olmadan AI projesinin veri katmanı büyük ölçüde varsayımlara dayanır.
GEODI Perspektifi
GEODI Discovery yaklaşımı, farklı kurumsal veri kaynaklarındaki yapılandırılmış ve yapılandırılmamış içeriklerin keşfedilmesine ve analiz edilmesine yardımcı olur.
Doküman içeriği, metadata, OCR ile erişilebilir hale getirilen metinler, keşfedilen veri türleri ve hassas bilgiler görünür hale getirildiğinde kurum AI projesine başlamadan önce veri ortamını daha iyi anlayabilir.
Böylece amaç “AI'a mümkün olan en fazla veriyi vermek” olmaktan çıkar. Yerine: AI'a doğru, anlamlı ve kontrollü veriyi vermek gelir.
Discovery burada modelin yerine karar veren bir AI teknolojisi değildir. Modelin besleneceği veri zemininin görünür hale gelmesini sağlayan katmandır.
AI Governance, Data Governance Olmadan Eksik Kalır
Bir AI sisteminin güvenilirliği yalnızca model seviyesinde yönetilemez. Model güvenliği önemlidir. Prompt güvenliği önemlidir. Access control önemlidir. Output kontrolü önemlidir.
Ancak bunların altında daha temel bir katman vardır: Data.
AI hangi veriyi görüyor? Bu veri nereden geliyor? Güncel mi? Doğru mu? Hassas mı? Kullanılmasına izin var mı? Kaynağı biliniyor mu?
Bu soruların cevapları yoksa AI governance'ın en önemli parçalarından biri eksiktir. Çünkü yapay zekânın kalitesini yalnızca modelin ne kadar akıllı olduğu belirlemez. Modelin ne bildiğini sandığı veri de belirler.
Yapay Zekâdan Önce Verinize Hazır Olun
AI projelerinin başlangıç noktası çoğu zaman teknoloji seçimi olarak görülüyor. Oysa kurumsal AI yolculuğunda belki de ilk soru şu olmalı:
“Yapay zekâya açmayı planladığımız veriyi gerçekten tanıyor muyuz?”
Çünkü kurum kendi verisini anlamadan AI’ın o veriyi doğru anlamasını bekleyemez.
Key Takeaway
AI Ready Data, AI'ın okuyabildiği veri değildir. AI'ın güvenle kullanabileceği doğru, güncel, anlamlı ve kontrollü veridir.
Yapay zekânıza güvenmeden önce, ona verdiğiniz veriye güvenebildiğinizden emin olun.
GEODI Discovery Series #14
Prepared by Zero Second
Helping organizations prepare trusted, governed data for AI
Yorumlar