Sağladığımız ürün ve servisler için envai.tr adresini ziyaret edebilirsin.
Ollama’da cloud free tier (ücretsiz bulut) modellerini bulmak için tarayıcıya ihtiyacınız yok. Bunu tamamen komut satırından otomatik hale getirebilirsiniz.
Mantık basit: Önce arama sayfalarını çekiyoruz, sonra model isimlerini çıkarıp “cloud” içeren tag’leri filtreliyoruz. Bu tag’ler genelde cloud (ve çoğu zaman free tier) desteğini gösterir.
LangSmith üzerinde evaluator ile testler yaparken, küçük ama uğraştırıcı bir problemle karşılaştım. Bu durum, küçük uygulama detaylarının bile standart davranışları nasıl bozabileceğini gösteriyor.
Modelim için bir “Correctness” evaluator oluşturdum. Model, Extra Headers alanı üzerinden Authorization header’ı ekledim, zira uzak sunucudaki Ollama bunu gerektiriyor.
Her şey oldukça standart, başka bir ayar değiştirmedim.
Header’ı şu şekilde manuel olarak eklediğimde:
Authorization: Bearer <token>
testler sorunsuz çalışıyor.
Ancak evaluator’ı kaydettikten sonra LangSmith, header’ı otomatik olarak küçük harfe çeviriyor:
authorization: Bearer <token>
Poetry’yi kurun:
curl -sSL https://install.python-poetry.org | python3 -
Depoyu klonlayın:
git clone https://github.com/run-llama/llama_index.git
Proje klasörüne gidin:
cd llama_index
Diyelim ki LangChain veya LangGraph ile bir proje geliştiriyorsunuz ve geliştirme ortamınızı uzak bir sunucuda tutmak istiyorsunuz.
LangSmith Studio çözümüne bu sunucu üzerinden erişmek istediğinizde, basit bir şekilde şu linki kullanabilirsiniz:
https://smith.langchain.com/studio/?baseUrl=http://127.0.0.1:2024
Ancak burada şöyle bir durum var: Takımınızdaki her geliştirici LangSmith Studio ile hata ayıklamak istediğinde, bu linkin çalışabilmesi için projeyi sunucudan alıp kendi lokal geliştirme ortamını kurmaları gerekir. Aksi halde link onlar için çalışmayacaktır.
Temel veya ön eğitimli dil modelleriyle deneme yaparken, uygun bir model bulmak zor olabilir; çünkü mevcut modellerin çoğu artık talimat-odaklı eğitilmiş (instruction-tuned) hale getirilmiş durumda.
Bu yüzden bu modelleri hem barındırılan API'ler hem de yerel olarak çalıştırmanın birkaç hızlı ve pratik yolunu paylaşmak istedim. Böylece model aramakla vakit kaybetmeden hemen denemeye başlayabilirsiniz.
babbage-002 kullanan basit bir curl örneği:
Yakın zamanda, akıllı belge işleme ve otomasyonla ilgili pratik bir kullanım durumunu tartıştığımız bir iş görüşmesini geçtim. Bu blog dizisinde, böyle bir sistemi ne kadar iyi tasarlayabileceğimi ve ilgili araç ve yazılımları entegre edebileceğimi değerlendirmek için bu kullanım senaryosunun önemli kısımlarını uygulamaya çalışacağım.
Bize aşağıdaki senaryo veriliyor:
Büyük İsimler Bile Yanlış Olabilir: İnternetteki Her Şeye Neden Güvenmemelisiniz?
A hospital booking application: an example of Docker
For example, a hospital wants to make an appointment booking application. The end users may use the app on Android, iOS, Windows machine, MacBook, or via the hospital’s website. If the code were deployed separately on each platform, it would be challenging to maintain. Instead, Docker could be used to create a single universal container of the booking application. This container can run everywhere, including on computing platforms like AWS.
Bu Amazon web sitesinden: https://aws.amazon.com/what-is/compute/. Wayback Makinesi'ni bile kontrol ettim ve ne yazık ki original version from 2022 aynı şeyi söyledi.
ChatGPT'e sorduğumda söyledikleri şunlardı:
Bu bana doğru gelmiyor. Docker, uygulamaları doğrudan Android, Windows veya iOS gibi platformlarda çalıştırmak için tasarlanmamıştır, değil mi?
https://huyenchip.com/llama-police adresinde Chip Huyen, LLM modelleri etrafında oluşturulan araçlara ve depolara özel olarak odaklanarak açık kaynaklı yapay zeka ekosisteminin güncel bir analizini sunuyor.
Bu araçları keşfetmekten gerçekten keyif alıyorum ve onlarla pratik yapmaya çalışıyorum. Her hafta bir tanesini seçip nasıl çalıştığını daha iyi anlamak için küçük bir oyun projesi oluşturuyorum. Her proje bana yapay zeka ve büyük dil modelleri (LLM) hakkında yeni bir şeyler öğretiyor.
Geçen haftanın aracı Crawler4AI idi. Bunu kullanarak bir oyun projesi oluşturmak istedim ve taranacak web sitesi olarak FactBook'yi seçtim.
Size ne yaptığımı daha ayrıntılı olarak göstereyim!
Önceki yazı'larımdan birinde, LLM uygulamaları oluşturmak için güçlü bir framework olan LlamaIndex'i tanıttım. Bu yazıda, yerel LLM'leri çalıştırmak için Ollama sağlayıcısıyla eşleştirilmiş bir Next.js backendini kullanarak bir hobi proje oluşturarak işi bir adım daha ileri taşımak istiyorum.
Hadi başlayalım.
Devam etmek için aşağıdakilerin kurulu olduğundan emin olun: