Google, Haziran ayında yüksek performans ve verimlilik için tasarlanan Gemma 2 adını verdiği yeni nesil açık dil modellerini duyurmuştu. Şimdiye kadar Gemma 2, 9 milyar (9B) ve 27 milyar (27B) parametre olmak üzere iki boyutta mevcuttu. Şimdi ise Google, Gemma 2 ailesini 2 milyar parametreli Gemma 2 2B modeli ile genişletti.
Gemma 2 2B, Chatbot Arena’da 1126 puanla tüm GPT-3.5 modellerini geride bırakarak sınıfının en iyi performansını sunduğunu iddia ediyor. Ayrıca model, PC’lerden ve uç cihazlardan Google Cloud Vertex AI’daki bulut dağıtımlarına kadar çeşitli donanımlarda verimli bir şekilde çalışabiliyor. Google, modeli NVIDIA TensorRT-LLM kütüphanesiyle optimize etti ve geliştiriciler bunu bir NVIDIA NIM (NVIDIA Inference Microservices) olarak kullanabilir. Model ayrıca, NVIDIA TensorRT-LLM kütüphanesi için optimize edildiğinden, NVIDIA RTX, NVIDIA GeForce RTX GPU’ları ve NVIDIA Jetson modülleri kullanan çeşitli platformlarda çalışabiliyor. Gemma 2 2B, kolay geliştirme için Keras, JAX, Hugging Face, NVIDIA NeMo, Ollama, Gemma.cpp ve yakında MediaPipe ile entegre olacak.
Gemma 2’nin model ağırlıkları Kaggle, Hugging Face ve Vertex AI Model Garden’dan indirilebilir. Google Gemini modellerinin aksine, Gemma 2 ticari açıdan uygun lisanslama altında mevcut. Google, Gemma 2 ile birlikte ShieldGemma güvenlik içeriği sınıflandırıcı modellerini ve Gemma Scope model yorumlanabilirlik aracını da duyurdu.
