Ana içeriğe geç

EnvAI Blog'a Hoşgeldin!

Ollama'da QwQ modeli

Alibaba, mantıksal akıl yürütme ve problem çözme becerilerini geliştirmek için tasarlanmış son teknoloji ürünü bir yapay zeka modeli olan QwQ-32B-Preview'ı piyasaya sürdü.

Yakın zamanda QwQ modelini Ollama'da test ettim ve bu, OpenAI'nin O1 modelinin ilk dikkate değer alternatifi. Sonuçlar oldukça umut verici:

10+10'u hesapla

So I have this simple calculation to do: 10 + 10. It seems
 really straightforward, but let's break it down step by step to make sure I und
erstand it completely.\n\nFirst, I need to recognize what operation is being ask
ed here. The plus sign (+) between the two numbers tells me that I need to add t
hem together. Addition is one of the basic arithmetic operations, and it means c
ombining the values of the numbers involved.\n\nNow, let's look at the numbers t
hemselves. Both are 10, which is a whole number. Adding two whole numbers is pre
tty straightforward because there are no fractions or decimals to worry about.\n
\nSo, starting with the first 10, I need to add the second 10 to it. One way to
visualize this is to think of having ten apples and then getting ten more apples
, making a total of twenty apples.\n\nAlternatively, I can think of it in terms
of place value. The number 10 has a 1 in the tens place and a 0 in the ones plac
e. When I add another 10, I'm adding another ten to the tens place, so 1 ten plu
s 1 ten equals 2 tens, which is 20.\n\nLet me write it out horizontally to see i
t better:\n\n10 + 10\n\nStarting from the rightmost digit (the ones place), I ha
ve 0 + 0, which equals 0. Then, moving to the left, I have 1 + 1 in the tens pla
ce, which equals 2. So putting it together, it's 20.\n\nAnother way to think abo
ut it is to use mental math. Since both numbers are the same, I can double 10. D
oubling means multiplying by 2, so 10 multiplied by 2 is 20.\n\nAlternatively, I
 could count up from 10 by 10 units. Starting at 10, if I count up 10 units, I r
each 20.\n\nI can also use a number line. If I start at 10 and move 10 units to
the right, I land on 20.\n\nFurthermore, I could consider the concept of place v
alue blocks. If I have one ten-block and add another ten-block, I have two ten-b
locks, which equal 20.\n\nIt's important to note that addition is commutative, m
eaning the order of the numbers doesn't matter. So, 10 + 10 is the same as 10 +
10; both equal 20.\n\nAlso, addition is associative. If I had more numbers to ad
d, the way I group them wouldn't change the sum. For example, (10 + 10) + 10 is
the same as 10 + (10 + 10), both equaling 30.\n\nBut in this case, it's just two
 numbers, so it's straightforward.\n\nLet me check if there's any possibility of
 misinterpretation. The numbers are clear, and the operation is explicitly addit
ion. There are no decimals or negative numbers to consider.\n\nI can also verify
 this with a calculator or any computational tool, but since it's a simple addit
ion, it's unnecessary.\n\nIn conclusion, 10 + 10 equals 20.\n\n**Final Answer**\
n\n\\[ \\boxed{20} \\]

Ollama Nasıl Taklit Edilir?

Hey,

Bir Ollama sunucusunu taklit etmeye çalıştığım son denememden bazı kod parçacıklarını paylaşmak istedim.

create-llama ile çalışırken Ollama sunucusuna gönderilen sorguları ve ondan alınan yanıtları tam olarak yakalamam gerekiyordu. Bunu yapmak için sahte bir Ollama sunucusu oluşturdum. Ancak başlangıçta beklediğimden daha zorlu olduğu ortaya çıktı! :)

Tam olarak emin değilim ama denemem sırasında bir hata keşfetmiş olabileceğimi düşünüyorum! 🥳

Projeye kesinlikle biraz karmaşıklık katan sunucu iletişimini simüle etmek için Python'un soket modülünü kullandım. Bu yazıda yazdığım Python soket programını, süreç boyunca kullandığım diğer ilgili kod parçacıkları ve komutlarla birlikte paylaşacağım.

Bir süre curl ile denemeler yaptıktan sonra başlıkları ve yanıtları nasıl kullanacağımı buldum. Ancak verileri bir soket aracılığıyla parçalar halinde göndermek, beklediğim kadar kolay olmadı.

LlamaIndex JSONReader

JSONReader, düğümler arasındaki ilişkileri çıkarmaya yönelik özellikler sunarken JSON belgelerini ayrıştırmanıza olanak tanır.

Geçişin derinliğini kontrol etmek, uzun JSON parçalarını daraltmak ve JSON yapısını temizlemek için seçenekler sunar.


Öncelikle paketi pip aracılığıyla kuralım:

pip install lama-index-readers-json


Jupyter AI Dil Modeli Sağlayıcı Sorunu

MERHABA,

Jupyter-AI'yi yakın zamanda yüklediyseniz ve OpenAI, Ollama veya diğerleri gibi popüler sağlayıcılarla etkileşim kurmayı denediyseniz, minimum kurulumda ("pip install jupyter-ai") bazı gerekli paketlerin eksik olduğunu fark etmiş olabilirsiniz.

Bu noktada iki seçeneğiniz var:

  • Tam sürümü `install jupyter-ai[all]' pip'i ile yükleyin.
  • Seçtiğiniz sağlayıcı için ek paketi yükleyin. Örn. 'pip kurulumu langchain-openai'

Ne yazık ki, 'pip install jupyter-ai[all]' komutunu çalıştırmak, pip'in bağımlılık çözünürlüğü nedeniyle sonsuz bir kurulum döngüsüne neden olabilir ve çoğu zaman başarısızlıkla sonuçlanabilir. 😞

JupyterAi Desteğiyle Conda Sanal Ortamı Kurma

Jupyter Notebooks/Lab veya JupyterAI ile çalışmaktan hoşlanıyorsanız sanal ortamınızı kolayca kurmak için bu şablonu kullanabilirsiniz.

Conda ile LlamaIndex ve Jupyter-AI'yi Kurma Conda aracılığıyla kullanılamayan langchain-ollama paketini yüklemek için pip dokunuşuyla LlamaIndex ve Jupyter-AI'yi nasıl kuracağınız aşağıda açıklanmıştır (bkz: langchain-ollama on Anaconda).

# install conda
mkdir -p ~/miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh -O ~/miniconda3/miniconda.sh
bash ~/miniconda3/miniconda.sh -b -u -p ~/miniconda3
rm ~/miniconda3/miniconda.sh

jupyter-ai

Hey!

Jupyter AI'yi henüz kontrol ettiniz mi? Jupyter not defterlerini kullanan herkes için oyunun kurallarını değiştirecek!

Harika kod önerileri alırsınız ve hatta verilerinizle sohbet edebilirsiniz. Veri bilimiyle ilgileniyorsanız, denemelisiniz! 🚀

Katkıda bulunmayı unutmayın! 🐱‍💻

Son PR adresim

Sıfırdan Linux

Eğer benim gibi 2 saatlik kod derlemesi sonrasında açılışta siyah ekranla karşılaşırsanız paniğe kapılmayın!

Muhtemelen grafik kartı sürücüsünde sorun yaşıyorsunuz. Lütfen Troubleshooting guide adresinden "The screen goes blank during the boot process" bölümünü kontrol edin.