Ruhsuz bir beyin

Bu proje için hâlâ kullandığım ifade bu.

Bir ajanın nasıl düşünmesi, plan yapması, konuşması ya da başka ajanlardan oluşan küçük bir şirketi nasıl yönetmesi gerektiğine karar veren yeni bir yazılım çatısı kurmaya çalışmıyorum. Daha çok bütün bunların altındaki katmanla ilgileniyorum: hafıza, bağlam, veri toplama, kalıcı bilgi ve her süreç sona erdiğinde ajanın pırıl pırıl bir hafıza kaybıyla uyanmasını engelleyen o sıkıcı altyapı.

Neden düşünmeye başladım

Kodlama ve araştırma gibi gerçek işlerde yapay zekâ ajanlarına giderek daha fazla bel bağlıyorum. Modeller akıl almaz bir hızla iyileşiyor ama proje bilgisi hâlâ dağınık, bağlam hâlâ pahalı. Bir ajanın dün öğrendiği faydalı şeyler ertesi gün sık sık baştan kuruluyor.

Barındırılan hafıza ürünleri bunun bir kısmını çözebilir. Hafıza yalnızca kullanışlı değil önemli olmaya başladığında maliyet, kontrol, taşınabilirlik ve güven benim için çok daha fazla önem kazanıyor.

Bu yüzden gelecek yıl hangi ajan sistemini kullanırsam kullanayım, altında bulunmasını isteyeceğim temeli tasarlamaya başladım.

Kasıtlı olarak otonom ajan demolarından daha az gösterişli.

Neleri taşımasını istiyorum

Projenin şunları sağlaması amaçlanıyor:

  • kod depolarından, veri akışlarından ve web sitelerinden kalıcı veri toplama;
  • düzenlenmiş bilgi bağlamları veya “bankalar”;
  • tek bir model sağlayıcısından bağımsız uzun ömürlü ajan hafızaları;
  • arka planda zaman içinde birikme ve bakım için iş kuyrukları;
  • doğru gidenler kadar yanlış gidenleri de saklama yolları;
  • başka ajanların belirli bir orkestrasyon çatısına bağlanmadan kullanabileceği erişim ve bağlam yüzeyleri.

En çok önemsediğim kısım, bilginin zamanla birikmesi. Bir ajanın her seferinde devasa bir bağlam dökümü alıp aynı dünyayı sıfırdan keşfetmesi yerine, proje hakkında giderek daha bilgili hâle gelmesini istiyorum.

Ürün soruları isteğe bağlı değil

Ajan hafızası ne kadar kişisel ve kalıcı hâle gelirse sahiplik ve ayrılma hakkındaki belirsiz vaatler beni o kadar rahatsız ediyor.

Birisi yıllar içinde biriken bağlamını bir sisteme emanet ediyorsa hesap kapatmak, “bundan sonrası seni ilgilendirir” demeye dönüşemez. Dışa aktarma, silme, şifreleme, yedekler, ödeme anlaşmazlıkları, politika geçmişi ve hizmetten ayrılma süreci; geliştirmesi heyecan verici olsun olmasın ürünün bir parçası.

Bu sorulara şaşırtıcı miktarda vakit harcadım. İyi ki harcamışım.

Şimdiki yön

Temeli dar tutmak istiyorum. Sağlayıcı API’leri onun üstünde, ajanlar onların üstünde durabilir. İnsanlar istedikleri orkestrasyonu seçebilir.

Hafıza katmanı faydalı şeyleri hatırlamalı ve erişilebilir kılmalı; onları kullanan kişiliğe dönüşmekte ısrar etmemeli.

Kısa tanım olarak “ruhsuz beyin”i hâlâ seviyorum.