Oobabooga

“text-generation-webui” Büyük Dil Modelleri için tasarlanmış, Transformers, GPTQ, AWQ, EXL2, llama.cpp (GGUF) ve Llama modelleri dahil olmak üzere çeşitli model arka uçlarını destekleyen Gradio tabanlı bir web kullanıcı arayüzüdür. üç arayüz moduna sahiptir: varsayılan (iki sütun), not defteri ve sohbet.

Kullanıcılar bir açılır menü aracılığıyla modeller arasında hızlı bir şekilde geçiş yapabilir ve ses çıkışı için Coqui TTS ve ses girişi için Whisper STT gibi çok sayıda yerleşik ve kullanıcı tarafından katkıda bulunulan uzantılarla işlevselliği genişletebilir.

Araç, özel karakterlerle sohbeti, talimatları takip eden modeller için hassas şablonları ve özel eğitim verileri için dinamik LoRA yüklemesini destekler. Ayrıca, Transformers kütüphanesi ile entegre olarak modellerin farklı hassasiyetlerde çalışmasını sağlar ve sohbet ve tamamlamalar için OpenAI uyumlu bir API sunucusu sağlar.

Kurulum, platforma özgü komut dosyalarının çalıştırılmasını içerir ve konteynerli ortamlar için Docker desteklenir.

Büyük Dil Modelleri geliştirme için görsel arayüz. LLM yapay zeka kategorisinde yer alan Oobabooga yapay zeka uygulaması keşfedebilirsiniz.