DeepSeek AI Kurulumu ve Kullanımı
ChatGPT ye alternatif olarak ortaya çıkan ve Açık Kaynak olarak kullanıma sunulan DeepSeek local bilgisayarlarımızda çalışması ile ün kazandı. DeepSeek in ortaya çıkışı ile teknoloji devleri değer kaybetti. NVIDIA hisseleri 500 milyar dolar düştü. DeepSeek’in rakiplerine göre çok daha düşük maliyetle geliştirdiği yapay zekâ modeli, ABD merkezli teknoloji devlerinin hisselerinde düşüşe neden oldu. NVIDIA’nın piyasa değeri 500 milyar doların üzerinde azaldı.
DeepSeek R1, son zamanlarda gelişmiş muhakeme yetenekleriyle ün kazandı. Gizlilik açısından, bir AI modelini tamamen çevrimdışı (ve sınırlı kaynaklarla) çalıştırma yeteneğine sahip olmak önemli bir avantajdır.
Verileri yerel olarak işleyerek kuruluşlar hassas veya düzenlenmiş bilgileri şirket içinde tutabilir ve veri sızıntısı riskini azaltabilir. Bu yazıda, DeepSeek’i bir Linux sistemine kuracağız, etkileşim için bir GUI kullanacağız ve bunu bir Python betiğine entegre edeceğiz. Windows işletim sistemi üzerinde Linux çalıştırmak için WSL kullanacağız.
WSL için CUDA Yükleme
WSL kurulumu için https://learn.microsoft.com/tr-tr/windows/wsl/about adresini inceliyebilirsiniz.
Ubuntu’da CUDA’yı etkinleştirmek için aşağıdaki komutları kullanıyoruz.
sudo apt update
sudo apt install build-essential
wget https://developer.download.nvidia.com/compute/cuda/12.6.2/local_installers/cuda_12.6.2_560.35.03_linux.run
sudo sh cuda_12.6.2_560.35.03_linux.run
Sonra terminale nvidia-smi komutunu yazalım.

Kurulum tamamlandıktan sonra /usr/local/cuda-12.6/extras/demo_suite/deviceQuery komutunu çalıştıralım.
Ollama Yükleme
Ollama, bulutta LLM uygulamaları oluşturmanın ve çalıştırmanın yeni yollarını sağlayan güçlü bir araçtır. Geliştirme sürecini basitleştirir ve esnek dağıtım seçeneklerinin yanı sıra uygulamaların kolay yönetimi ve ölçeklenmesi sunar. Bunu şu şekilde indirebilir ve yükleyebilirsiniz:
curl -fsSL https://ollama.com/install.sh | sh

DeepSeek İndir
DeepSeek modelini ollama adresinden indiriyoruz. DeepSeek-R1, her biri farklı performans ve kaynak ihtiyaçlarını karşılamak üzere tasarlanmış, Qwen ve Llama mimarilerinden türetilmiş birden fazla damıtılmış modelle birlikte gelir.
Bu modellerin boyutları değişiklik gösterir. Örneğin, 1.5b modeli yaklaşık 2.3 GB, 7b modeli yaklaşık 4.7 GB ve 70b modeli 40 GB’ı aşar. Benim durumumda, varsayılan deepseek-r1 modelini kullandım .
1.5b modeli daha az kaynak gerektirirken, 14b ve 32b gibi modeller daha yüksek performansa yöneliktir.

Resimde görebileceğiniz gibi, indirdikten hemen sonra çalıştırıyoruz.
Sonuç olarak DeepSeek basit kurulumu, kişisel bilgisayarımızda çalıştırılabilme özellikleri ile incelenmeye ve denemeye değerdir. İyi çalışmalar.
Cristian Souza nın medium yazısından derlenmiştir.