Kişisel yapay zeka asistanlarında katmanlı bellek tasarımı ve mahremiyet

Katmanlı bellek neden gerekli

Kişisel yapay zeka asistanlarının en zorlayıcı sorunu her şeyi hatırlamak ile hiçbir şeyi gereksiz yere saklamamak arasındaki ince dengeyi kurmaktır. Kullanıcıların günlük akışı çok değişkendir. Sabah toplantı notları, öğle arasında sağlıkla ilgili bir soru, akşam aile planı. Tek parça bir bellek tasarımı bu çeşitliliği ya boğar ya da kritik detayları kaybeder. Katmanlı bellek yaklaşımı, farklı zaman ufuklarına ve önem derecelerine göre bilgi depolamayı ve geri çağırmayı düzenler. Böylece yanıtlar daha isabetli, sistem daha güvenli ve deneyim daha öngörülebilir hale gelir.

Bellek katmanları

Anlık bellek

Milisaniyeler ile birkaç dakika arasında yaşayan, yalnızca o anda verilen komutun bağlamını tutan uçucu alandır. Örnek olarak cümlenin öznesini veya son iki mesajdaki rakamları akılda tutmak. Bu katman, kaynak tüketimini azaltmak için halka tampon denilen sınırlı kapasiteli bir yapı ile uygulanır. Tampon dolduğunda en eski bilgi otomatik silinir.

Oturum belleği

Aynı sohbet boyunca geçerli olan, birkaç saatlik ömre sahip katmandır. Toplantı ajandası, günün hedefleri gibi geçici fakat anlamlı bağlamları barındırır. Oturum bitince zaman aşımı ile temizlenir. Bu katmanda sürümleme kullanmak faydalıdır. Böylece asistan bir konudan diğerine keskin geçişlerde önceki bağlamı yanlışlıkla taşımaz.

Uzun süreli bellek

Haftalar ve aylar boyu yararlı olabilecek bilgiler için tasarlanır. Örneğin sık tekrarlanan görev adımları veya önemli projelerin temel kavramları. Uzun süreli belleğe bilgi ekleme kuralı katı olmalıdır. En az iki farklı oturumda tekrar eden veya kullanıcı tarafından onaylanan kayıtlar eklenmelidir. Bu, gereksiz şişmeyi ve yanlış genellemeyi engeller.

Kişilik ve tercih profili

Kullanıcının üslup, bildirim sıklığı, uzantı kullanım tercihleri gibi davranışsal ayarları burada tutulur. Bu katman modelin cevap tonunu ve öneri eşiklerini etkiler. Profil katmanına yazma işlemleri daima kullanıcıya görünür olmalı ve tek dokunuşla geri alınabilir olmalıdır.

Takvim ve bağlam köprüsü

Dış sistemlerde tutulan bilgiler ile bellek arasında güvenli köprü kuran katmandır. Takvim, görev yöneticisi, e posta başlıkları gibi kaynaklardan yalnızca meta düzeyde veri çekilir. Ayrıntı yerine özet işaretler kullanılır. Bu yaklaşım, gereksiz veri taşımayı önlerken ilgili önerileri canlı tutar.

Unutma ve güncelleme stratejileri

Yumuşak ve sert unutma

Yumuşak unutma, bilginin önem puanını zamanla azaltır. Önemi düşen kayıtlar daha düşük öncelikle çağrılır. Sert unutma ise kaydı tamamen siler. Gizlilik gerektiren veriler için sert unutma varsayılan olmalıdır. İşletimsel verim için yumuşak unutma kullanılarak esnek denge sağlanır.

Zaman pencereleri ve çürüme

Her kaydın yaşını ve son kullanım anını izlemek, otomatik çürüme eğrisi uygulamayı mümkün kılar. Örneğin bir görev akışı üç hafta kullanılmadıysa önemi yarıya indirilebilir. Sık kullanılan kayıtlar ise kendini tazeleyerek kalıcılığını korur.

Tutarlılık çözümü

Yeni kayıt eski bir kayıtla çeliştiğinde iki adımlı yöntem etkilidir. Önce karşılaştırma yapıp çatışma türünü belirleyin. Ardından ya eski kaydı tarihselleştirin ya da kullanıcının onayını alarak birleştirin. Böylece asistan hem güncel kalır hem de geçmiş izlenebilirliğini kaybetmez.

Gizlilik ve güven

Veri minimizasyonu

Gereksiz hiçbir veri toplanmamalıdır. Kayıt altına alınmadan önce amaç kontrolü yapılır. Amaç yoksa saklama yok ilkesi uygulanır. Ayrıca her katman farklı saklama süresi ve erişim kuralına sahip olmalıdır.

Kenar cihaz önceliği

Mümkün olan her yerde bellek işlemleri kullanıcının cihazında çalıştırılmalıdır. Böylece ham veriler dışarı çıkmadan işlenir. Sunucuya yalnızca anonimleştirilmiş özetler gönderilir ya da hiç gönderilmez.

İzinli hatırlama

Asistan hassas bir bilgiyi kullanmadan önce kullanıcıdan kısa bir onay ister. Tek seferlik veya kalıcı izin seçenekleri sunulur. Her izin, iptal edilebilir ve geçmişte hangi yanıtta kullanıldığı kayıt altına alınır.

Uygulama mimarisi

Gömlemeler ve vektör indeksleri

Gömleme, bir metni sayılarla ifade eden ve benzer metinleri birbirine yakın konuma yerleştiren temsil tekniğidir. Bu sayısal temsiller bir vektör veritabanında saklanır. Böylece benzerlik araması hızla yapılır. Kullanıcı bir konu açtığında önce ilgili gömlemeler bulunur, ardından içerik akıllıca özetlenerek modele bağlam olarak verilir.

Geri getirme destekli üreteç

RAG olarak da bilinir. Modelin kendi bilgisini körlemesine kullanmak yerine, bellekteki alakalı kırıntılar geri çağrılır ve yanıt bu kırıntılarla desteklenir. Bu sayede hem halüsinasyon azalır hem de kişiselleştirme güçlenir.

Bellek arabulucusu

Tüm katmanlara doğrudan erişmek yerine bir arabulucu bileşen kullanmak hataları azaltır. Arabulucu, sorguyu sınıflandırır, doğru katmanı seçer, gerekli izinleri kontrol eder ve yalnızca izinli özetleri modele geçirir.

Günlükleme ve geri alma

Her bellek yazma ve okuma işlemi basit olay günlükleri ile izlenir. Kullanıcı dilediği anda bir kaydı silebilir, dondurabilir ya da taşıyabilir. Geri alma butonu tek adımlı olmalı ve tüm yan etkileriyle çalışmalıdır.

Ölçüm ve kalite

Unutma doğruluğu

Silinmesi gereken kayıtların ne kadar hızlı ve tam silindiği ölçülmelidir. Rasgele örnek seçip doğrulama yapmak güveni artırır.

İlgililik isabeti

Modelin belleği kullandığı yanıtlardaki alakalı parça oranı izlenir. Alakasız parça oranı yükselirse geri çağırma eşiği ve özetleme stratejileri yeniden ayarlanır.

Yanıltıcı anı riski

Benzer ama farklı kayıtların karıştırılma olasılığına risk skoru verilir. Skor yüksekse arama sonuçları kısıtlanır ve kullanıcıdan netleştirme istenir.

Kullanıcı deneyimi

Bellek panosu

Kullanıcıların neyin hatırlandığını görmesi için basit bir pano gereklidir. Kayıtlar başlık, önem puanı ve saklama süresiyle listelenir. Tek dokunuşla düzenleme ve silme yapılır.

Kısayollar ve ritüeller

Bir hatırla kısayolu belirlenebilir. Kullanıcı önemli gördüğü anlarda bu kısayola basarak kaydı hızlıca işaretler. Gün sonunda üç dakikalık özet ritüeli ile önerilen kayıtlar onaya sunulur.

Kriz modu

Toplantı veya canlı yayın gibi hassas anlarda asistanın bellek yazma özelliği geçici olarak kapatılabilir. Bu mod açıkken hiçbir yeni kayıt tutulmaz ve mevcut kayıtlar yalnızca yerel cihazdan okunur.

Performans ve maliyet

Katmanlar arası önbellek

Oturum ve uzun süreli katmanlar arasında küçük bir ortak önbellek, sık çağrılan kayıtların tekrar maliyetini düşürür. Öncelik sırası anlık, oturum, önbellek, uzun süreli şeklinde ayarlanır.

Sıkıştırma ve özetleme

Uzun metinler her depolama döngüsünde anlamı koruyacak şekilde özetlenir. Anahtar kavramlar ve tarih damgaları saklanır, gereksiz süslemeler atılır.

Maliyet tavanı ve düşey küçültme

Aylık bir maliyet tavanı belirlenir. Tavan yaklaşınca model boyutu düşürme, sorgu sayısını azaltma ve özet seviyesini artırma gibi otomatik tedbirler devreye girer.

Etik sınırlar

Güç asimetrisi

Asistan kullanıcıyı çok iyi tanırken kullanıcı asistanı sınırlı tanır. Bu asimetriyi azaltmak için açıklanabilir tercih kartları gösterilmeli ve her kararın gerekçesi kısaca paylaşılmalıdır.

Karanlık desenlere karşı sigorta

Belleğe yazdırmak için zorlama niteliğinde akışlar yasaklanmalıdır. Ödül veya korku taktikleri ile veri toplama yerine net fayda ve açık rıza ilkesi benimsenmelidir.

Uygulanabilir yol haritası

İlk hafta

Anlık ve oturum katmanlarını kurun. Halkasal tampon, temel izleme ve panoda görünürlük sağlayın. Yalnızca yerel cihazda çalışın.

İlk ay

Uzun süreli bellek ve onaylı yazma akışını ekleyin. Gömleme tabanlı aramayı etkinleştirin. İzinli hatırlama ve kriz modunu devreye alın.

Üçüncü ay

Profil katmanını açın. Unutma doğruluğu ve ilgililik ölçümlerini otomatik raporlayın. Maliyet tavanı, sıkıştırma ve önbellek stratejilerini otomatize edin.