Web sitemi gezdiyseniz geçmişten günümüze Google markasına yada işleyiş tarzına karşı her zaman hayram olduğumu görebilirsiniz. Bunu çevremde birçok arkadaşım bildiği için yapay zeka devrimi yaşanırken Google çok geride kaldı diye sürekli eleştiriler geliyordu. Aslında Machine learning yada yapay zeka alanında ilk gelişmeyi gösteren firma Google’du. Ama bu hızlı yarışta daha sakin kalmayı tercih etmişti.
Birçok yapay zeka deli gibi yatırımlar alır şovlar yaparken, Google harika bir yöntemle çalışmaya gidiyor bence. Tam bir Startup gibi davranıyor. Yeni bir ürün çıkarmak için uğraşan ekipler birbirinden bağımsız yapay zeka teknolojileri geliştiriyor ve bunları ürün olarak sunuyorlar. Google’nin şu anda aistudio, gemini, stick, nano bana gibi birçok yapay zeka aracı bulunuyor. İlerleyen zamanda bu araçları tanıtmak ve özellikleri konusunda içerik yazmayı düşünüyorum.
Google içindeki bu Startup ruhu ile geliştirilen ürünlere bir yenisi daha eklendi. Google’nin geliştiricilere özel Agent Sandbox, GKE Pod Snapshots ve Multi-Tier Checkpointing (MTC).
Aslında daha önce yazdığım bu yazımda (https://www.internetdevri.com/anthropic-claude-ve-google-1-milyon-tpuluk-dev-ortaklik/) Google ile Antropic arasında yapılan anlaşmada AI ile kod yazma tarafında Google’nin Claude’a destek vereceğini belkide gelecekte Claude Code satın alabileceğini düşünüyordum. Google’nin bu adımından kısa bir süre sonra OpenAI kod yazım aracı Codex’i duyurmuştu.
KubeCon + CloudNativeCon North America (https://cloud.google.com/blog/products/containers-kubernetes/agentic-ai-on-kubernetes-and-gke) etkinliğinde duyurulan bu araçlar, AI uygulamalarını kurup çalıştırmayı çok daha kolay hale getiriyor. Benim fikrimce Google en temele inen çözümler üretmeye çalışıyor. Google’nin birçok ürün geliştirirken temel prensip olan “Useful” prensibiyle haraket ediyorlar.
Kilit Nokta 1: Agent Sandbox, geliştiricilerin binlerce izole yapay zekâ ajanı oluşturmasına izin veriyor. Ajan işini bitirince ortam otomatik siliniyor. Bu sistemin temeli, 2018’de tanıtılan gVisor aracına dayanıyor. Yani güvenlik konusunda da sağlam bir kalkan söz konusu.
Kilit Nokta 2: Pod Snapshots, büyük dil modellerinin (LLM) başlatma süresini yüzde 80’e kadar kısaltabiliyor. 70 milyar parametreli bir model 80 saniyede, 8 milyarlık bir modelse 16 saniyede açılabiliyor. Bu ciddi bir fark.
Kilit Nokta 3: Multi-Tier Checkpointing (MTC), büyük ölçekli AI eğitimini hızlandırıyor. Yeni modellerin eğitimi ve mevcut modellerin güncellenmesi çok daha pratik hale geliyor.
Son olarak GKE Inference Gateway de üretim aşamasında artık yüzde 96 daha düşük ilk token gecikmesi sunuyor. Yani inference tarafında da “ışık hızına” geçiş diyebiliriz.
Sonuç: Google açık kaynak tarafında hız kesmiyor. Bu duyurular, sadece Kubernetes kullanan geliştiriciler için değil, AI ile uğraşan herkes için altyapı açısından ciddi bir sıçrama anlamına geliyor.
@GoogleCloudTech adlı hesabın X (Twitter) gönderisi
Gönderiyi X'te aç →