Temel / Ön Eğitimli Modelleri Çalıştırma

Temel veya ön eğitimli dil modelleriyle deneme yaparken, uygun bir model bulmak zor olabilir; çünkü mevcut modellerin çoğu artık talimat-odaklı eğitilmiş (instruction-tuned) hale getirilmiş durumda.

Bu yüzden bu modelleri hem barındırılan API'ler hem de yerel olarak çalıştırmanın birkaç hızlı ve pratik yolunu paylaşmak istedim. Böylece model aramakla vakit kaybetmeden hemen denemeye başlayabilirsiniz.

OpenAI API Kullanımı

babbage-002 kullanan basit bir curl örneği:

curl https://api.openai.com/v1/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -d '{
    "model": "babbage-002",
    "prompt": "Merhaba, dünya",
    "max_tokens": 50
  }'

Ollama ile Yerel Modelleri Çalıştırma

API'lerden kaçınmak ve modelleri yerel olarak çalıştırmak isterseniz, Ollama bunu çok kolay hale getiriyor. Model ağırlıkları, tokenizer'lar veya özel sunucu betikleriyle uğraşmanıza gerek yok; sadece Ollama'yı kurun ve çalıştırın:

ollama run llama2

Veya başka bir temel model deneyin:

ollama run mistral