Ancak, hala rakiplerinden daha ucuz.
Deepseek'in yeni sohbet botu bu açıklamayla kendisini bana tanıttı:
Merhaba, yaratıldım, böylece herhangi bir şey sorabilir ve sizi şaşırtabilecek bir cevap alabilirsiniz.
Bugün, Deepseek tarafından geliştirilen yapay zeka, pazarda zorlu bir rakip olarak ortaya çıktı ve Nvidia'nın en büyük hisse senedi fiyat düşüşlerinden birine katkıda bulundu.
Resim: ensigame.com
Bu modeli ayıran şey, yenilikçi mimarisi ve eğitim yöntemleridir. Birkaç gelişmiş teknoloji içerir:
Çoklu Tahmini Tahmin (MTP): Model, bir seferde bir kelimeyi tahmin etmek yerine, bir cümlenin farklı bölümlerini analiz ederek aynı anda birden fazla kelimeyi tahmin eder. Bu yaklaşım, modelin hem doğruluğunu hem de verimliliğini önemli ölçüde artırır.
Uzmanların Karışımı (MOE): Bu mimari, girdi verilerini işlemek için çeşitli sinir ağlarını kullanır. AI eğitimini hızlandırır ve performansı artırır. Deepseek V3'te 256 sinir ağı kullanılır, sekizi her bir jeton işleme görevi için etkinleştirilir.
Çok Baş Gizli Dikkat (MLA): Bu mekanizma bir cümlenin en önemli kısımlarına odaklanır. MLA, metin parçalarından gelen temel ayrıntıları tekrar tekrar çıkarır ve önemli bilgilerin eksik olma olasılığını azaltır. Sonuç olarak, AI giriş verilerindeki önemli nüansları yakalamada daha beceriklidir.
Önde gelen Çin girişimleri Deepseek, asgari maliyetlerle rekabetçi bir AI modeli geliştirdiğini iddia ediyor ve güçlü sinir ağı Deepseek V3'ü eğitmek için sadece 6 milyon dolar harcadıklarını ve sadece 2048 grafik işlemcisi kullandıklarını belirtiyor.
Resim: ensigame.com
Bununla birlikte, Semianaliz analistleri Deepseek'in yaklaşık 50.000 NVIDIA Hopper GPU'si içeren büyük bir hesaplama altyapısı işlettiğini ortaya koymuştur. Buna 10.000 H800 birim, 10.000 daha gelişmiş H100 ve ek grup H20 GPU'lar dahildir. Bu kaynaklar çeşitli veri merkezlerine dağıtılır ve AI eğitim, araştırma ve finansal modelleme için kullanılır.
Şirketin sunuculara toplam yatırımı yaklaşık 1,6 milyar dolar, operasyonel giderlerin 944 milyon dolar olduğu tahmin ediliyor.
Deepseek, 2023'te AI teknolojilerine odaklanan ayrı bir bölüm olarak başlatılan Çin Hedge Fonu High-Flyer'in bir yan kuruluşudur. Bulut sağlayıcılarından bilgi işlem gücünü kiralayan çoğu girişimin aksine, Deepseek kendi veri merkezlerine sahiptir ve AI model optimizasyonu üzerinde tam kontrol sağlar ve inovasyonların daha hızlı uygulanması. Şirket, esnekliğini ve karar verme hızını olumlu yönde etkileyen kendi kendini finanse ediyor.
Resim: ensigame.com
Dahası, Deepseek'teki bazı araştırmacılar yılda 1.3 milyon doların üzerinde para kazanıyor ve önde gelen Çin üniversitelerinden en iyi yetenekleri çekiyor (şirket yabancı uzmanları işe almıyor).
Bunu göz önünde bulundurarak, Deepseek'in son modelini sadece 6 milyon dolarlık eğitme iddiası gerçekçi görünmüyor. Bu rakam sadece eğitim öncesi GPU kullanımının maliyetini ifade eder ve araştırma giderleri, model iyileştirme, veri işleme veya genel altyapı maliyetlerini açıklamaz.
Deepseek, kuruluşundan bu yana AI gelişimine 500 milyon doların üzerinde yatırım yaptı. Bununla birlikte, bürokrasi ile yüklenen daha büyük şirketlerin aksine, Deepseek'in kompakt yapısı AI yeniliklerini aktif ve etkili bir şekilde uygulamasını sağlar.
Resim: ensigame.com
Deepseek örneği, iyi finanse edilen bağımsız bir AI şirketinin endüstri liderleriyle rekabet edebileceğini göstermektedir. Bununla birlikte, uzmanlar şirketin başarısının büyük ölçüde milyarlarca yatırım, teknik atılımlar ve güçlü bir ekipten kaynaklandığını vurgularken, AI modelleri geliştirmek için "devrimci bir bütçe" iddiaları biraz abartılıdır.
Yine de, rakiplerin maliyetleri önemli ölçüde daha yüksek. Örneğin, model antrenman maliyetini karşılaştırın: Deepseek R1'e 5 milyon dolar harcadı, ChatGpt4o ise 100 milyon dolara mal oldu.
