Yapay zeka ajanlarının üretime alınması için önce kurumsal veri yönetişiminin sağlanması gerekiyor. Veri kalitesi, erişim kontrolü ve ajan çıktılarının kaydı, başarılı ve savunulabilir yapay zeka uygulamaları için kritik öneme sahip.
Yöneticiler, yapay zeka ajanlarının üretime hazır olup olmadığını sorgulamak için çok zaman harcıyor, ancak başlangıç noktası burası değil. Çünkü ajanlar boşlukta hareket etmiyor. Kararlarının kalitesi büyük ölçüde kullandıkları verinin kalitesine bağlı.
Model güvenliği ve performansı elbette önemli, ancak ajanın erişebildiği bilgiler üzerindeki zayıf kontrolü telafi edemezler. Bir ajanı üretime almadan önce, kuruluşun yönetilen girdilere, uygun erişime ve ajanın ürettiği şeylerin güvenilir bir kaydına ihtiyacı vardır.
Bir ajana güncel olmayan müşteri bilgileri, yinelenen kayıtlar veya hiç düzgün sınıflandırılmamış materyaller verirseniz, elindekiyle çalışır ve binlerce işlemde hızla yetersiz bilgiye dayalı kararlar alır.
Ne yazık ki, benimseme ile yönetişim arasındaki uçurum hızla genişliyor. Yapay zekayı benimseme telaşında, birçok kuruluş temel veri sorununu çözmeden ajanları üretime sokuyor. Bu nedenle yapay zeka projelerinin büyük çoğunluğunun sıfır yatırım getirisi göstermesi sürpriz olmamalı.
Üstelik yapay zeka ajanı yönetişimi, ajanın erişebileceği verilerle sınırlı değil. Aynı zamanda ajanın ürettiği verileri de kapsar: kararları, verilen talimatlar ve oluşturduğu belgeler gibi. Yapay zeka kurumsal kararlara önemli katkı sağladıkça, yapay zeka izlenebilirliği ve savunulabilirliği kritik yetenekler haline geldi.
Güçlü bir veri temeli oluşturan kuruluşlar, pilot aşamasından üretime geçerken ajanların kötü yönetilen verileri şirket çapında bir krize dönüştürmeyeceği güveniyle hareket edebilir.
Önce veri sorunu gelir
Veri yönetişimi sorunu elbette yeni değil. Çoğu büyük kuruluş, operasyonel platformlar, dosya paylaşımları, arşivler ve uzun zaman önce kullanımdan kaldırılması gereken uygulamalar arasında dağılmış bilgilerle uğraşmak için yıllar harcadı. Ancak ajan tabanlı yapay zeka bu zayıflıkları ölçekli olarak hızla harekete geçirebildiği için konu artık daha acil hale geldi.
Bir ajana veri erişimi verilmed önce, BT'nin hassas ve düzenlemeye tabi bilgileri belirlemesi, sınıflandırma ve saklama politikalarını tutarlı bir şekilde uygulaması ve hangi kaynakların güncel ve güvenilir olduğunu belirlemesi gerekir. Eski veriler özel bir özen gerektirir.
Kullanımdan kaldırılmış uygulamalar genellikle değerli iş geçmişi içerir, ancak aynı zamanda yinelenen kayıtlar, geçersiz bilgiler ve yasal saklama veya elde tutma gereksinimlerine tabi veriler barındırır.
Kuruluşlar ayrıca eski verilere anlam kazandıran bağlamı ve ilişkileri korumalı, ardından seçilmiş, politika kontrollü veri kümelerini kullanıma sunmalıdır. Yapay zeka veriler üzerinde boşlukta hareket etmez ve çevreleyen bağlam olmadan ajanlar ya görevlerini tamamlayamaz ya da daha kötüsü hatalı kararlar alıp uygular.
Erişim bir iş kararıdır
Kuruluşların yaptığı bir diğer hata, ajanlarına ihtiyaç duyduklarından daha fazla veriye erişim sağlamaktır. Aslında ajanlar yalnızca atandıkları görevleri tamamlamak için gereken verilere erişmelidir. Bir sistemin bir ajana bağlanabilmesi, bağlanması gerektiği anlamına gelmez.
Ajanları çalışanlar gibi değerlendirin ve en az yetki ilkesini izleyin. Örneğin, bir müşteri hizmetleri ajanı güncel hesap ve işlem bilgilerine ihtiyaç duyabilir, ancak büyük olasılıkla yasal dosyalara veya geçmiş çalışan kayıtlarına ihtiyaç duymaz. Erişim, ajanın tanımlanmış amacını yakından takip etmelidir.
Kaynak kökeni de önemlidir. Bir ajan, güncel bir kayıt sistemini ve onlarca yıllık bir arşivi eşit derecede yetkili görmemelidir. Ajanlar bilginin nereden geldiğini, ne zaman güncellendiğini ve hangi politikaların geçerli olduğunu bilmelidir. Yine bağlam önemlidir. Uygun bağlam olmadan ajanlar maliyetli hatalar yapar.
Ajanın ne yaptığının kaydını tutun
Yönetişim, ajan onaylanmış veriyi aldıktan sonra bitmez. Yapay zeka ile ilgili veriler hızla dava, uyum incelemeleri ve müşteri şikayetleri için önemli hale geliyor. Hazırlıklı olmak için bir kuruluş, ajandan ne yapmasının istendiğini, hangi bilgilere eriştiğini, hangi politikaların uygulandığını ve sonrasında ne olduğunu gösterebilmelidir.
İstemler, alınan içerikler, çıktılar ve sonuçta ortaya çıkan kararlar iş kaydı olarak saklanmalıdır. Bir gözden geçiren kişi, yapay zekanın kararını yeniden oluşturabilmeli ve hem kaynak veriye hem de faaliyeti yetkilendiren kişi veya birime kadar izleyebilmelidir.
Son olarak, hesap verebilirlik yalnızca teknoloji ekibine ait olamaz. Güvenlik, veri, gizlilik, hukuk ve uyum liderlerinin tümü rol oynar, ancak sonuçtan sorumlu olacak bir iş sahibi belirlenmelidir. Otomasyon bir eylemi gerçekleştirebilir, ancak bunun sorumluluğunu kabul edemez.
Veri hazırlığı, bir yapay zeka pilotu başarılı olduktan sonra ele alınacak ikincil bir iş akışı değildir. Bu, pilotu üretime taşıma kararının bir parçasıdır. Bir kuruluş bilgiye güvenemiyorsa, erişimi kontrol edemiyorsa ve ortaya çıkan kararları açıkça açıklayamıyorsa, ajan daha fazla özerklik için hazır değildir.
