Başlangıç noktası bir görev olsun
Bir yapay zekâ projesine bütün işleri otomatikleştirme hedefiyle başlamak kapsamı belirsizleştirir. Önce ekiplerin bugün tamamladığı tek bir işi seçin. Örneğin, satın alma faturasıyla sipariş arasında fark bulunduğunda hangi kayıtların incelendiğini ve kime danışıldığını çıkarın. Akışın başlangıcını, beklenen çıktısını ve bitiş koşulunu yazın. Bir rapor taslağı hazırlamakla ödeme talimatı vermenin etkisi aynı değildir. Hangi aşamada yalnızca bilgi üretileceği, hangi aşamada şirket sisteminde değişiklik yapılacağı görünür olsun. Sürecin sahibini de belirleyin; öneriyi iş açısından değerlendirecek kişiyle teknik bağlantıyı yöneten kişi farklı sorumluluklar taşır.
Önerinin yanına dayanağını koyun
Kaynakları toplayan adım, değerlendirme için gereken kayıtları ve zaman bilgisini birlikte getirsin. Fatura numarası, ilgili sipariş, para birimi, dönem ve kullanılan belge sürümü örneğin bağlamını oluşturur. Ardından sistemin bulduğu kayıtla kendi yorumunu birbirinden ayırın. Sipariş tutarı bir kaynak veridir; farkın nedenine ilişkin açıklama ise doğrulanması gereken bir yorum olabilir. Eksik kayıt varsa boşluğu tahminle doldurmak yerine bunu çıktı üzerinde gösterin. İnceleyen kişinin aynı kaynağa ulaşabilmesi, uzun bir açıklamadan daha yararlı olabilir. Raporun hangi soruya yanıt verdiği ve kapsam dışında ne bıraktığı da kolayca okunabilsin.
Onayı belirli bir işleme bağlayın
Onay ekranında yalnızca devam düğmesi bulunması yeterli değildir. İnceleyen kişi hangi kaydın değişeceğini, mevcut ve önerilen değeri, gerekçeyi ve beklenen etkiyi görsün. Onay, bu önerinin belirli sürümüne ait olsun. Öneri hazırlanırken kullanılan kayıt sonradan değiştiyse eski onayla ilerlemek yerine incelemeyi yenileyin. OWASP, etkisi yüksek yapay zekâ işlemlerinde insan onayını ve yetki denetiminin modelin kararına bırakılmamasını önerir. Uygulamada onaylayan kişinin bu iş için yetkisi ayrıca kontrol edilmelidir. Sessizlik onay sayılmamalı; reddetme, açıklama isteme ve daha sonra değerlendirme de akışın tanımlı sonuçları olmalıdır.
İşlemi dar ve doğrulanabilir tutun
İşlemi uygulayan bağlantıya, onaylanan görev için gereken yetkiyi verin. Bir rapor hazırlama akışı, bu nedenle ilgisiz kayıtları değiştirebilmemeli. Gönderilen talep ile hedef sistemin verdiği sonucu ayrı kaydedin. Talebin iletilmiş olması işlemin tamamlandığını kanıtlamaz; sonuç durumunu hedef kayıttan doğrulamak gerekebilir. Bağlantı zaman aşımına uğradığında da aynı işlemi düşünmeden yeniden göndermeyin. Önce ilk talebin uygulanıp uygulanmadığını belirleyin. Özellikle sipariş oluşturma veya bildirim gönderme gibi adımlarda tekrar denemesinin ikinci bir kayıt üretmemesi için teknik bir yöntem tanımlayın. Başarı mesajı, doğrulanmış işlem sonucuna dayanmalıdır.
İstisnalar da iş akışının parçasıdır
Kaynağa erişilememesi, yetkinin değişmesi veya onaylayan kişinin bulunamaması olağan çalışma koşullarıdır. Her durum için akışın nerede duracağını, kime haber verileceğini ve yeniden başlatma koşulunu belirleyin. Tamamlanan adımların kaybolmaması, tamamlanmayanların da tamamlandı görünmemesi önemlidir. Hatalı bir değişiklik geri alınabiliyorsa bunun yöntemini ve sorumlusunu hazırlayın; geri alınamıyorsa düzeltici işlem yolunu tanımlayın. İnceleme ekranında son başarılı adım ile açık kalan işi yan yana göstermek ekibin durumu anlamasını kolaylaştırır. Hata mesajında teknik ayrıntı yığını yerine kişinin ne yapabileceğini söyleyin ve destek için bir işlem kimliği sunun.
Kullanıma gerçek senaryolarla hazırlanın
İlk değerlendirmede yalnızca düzgün ilerleyen örneği göstermeyin. Yanlış para birimi, eksik belge, değişen tutar, reddedilen onay ve kesilen bağlantı gibi durumları süreç sahibiyle deneyin. Hangi sonucun kabul edileceğini denemeden önce yazın. İlk kullanımda öneri hazırlayan ve insanın uyguladığı bir düzen tercih edilebilir; işlem yetkisi, sonuçlar gözlemlendikçe ayrıca değerlendirilebilir. NIST AI RMF, risklerin kullanım bağlamında yönetilmesi için yararlı bir çerçevedir; tek başına ürün onayı anlamına gelmez. Bu yazıdaki tasarım adımları da genel bir uygulama rehberidir. Seçilen ürünün hangi adımları gerçekten desteklediği, çalışır ortamda ayrıca doğrulanmalıdır.
