İkinci resim muhtelif sınavlardaki başarısını % olarak gösteriyor. Mesela düne kadar ancak %10 başarı gösterdiği Amerikan baro (hukuk) sınavında %90'a çıkmış. 50 yıl önce benim son %10'a giremediğim GRE-verbal sınavında %99 alıyor. Yani ilk %1 içinde, İngilizceyi hepimizden daha iyi anlıyor!
Bunlara ek olarak GPT-4, metne dayalı komutların yanı sıra görsel girdilerini de kabul ediyor. Open AI'ın web sitesinde kullanılan görsel örnek, bu yeteneği çok güzel özetliyor. GPT-4, görsel olarak yapılan esprileri adım adım açıklayabiliyor...
Outlook'tan gönderildi
Bu tartışmayı web'de görüntülemek için https://groups.google.com/d/msgid/yz-ve-insan/PR3P250MB0241F42CB9A8681230CDB045AA829%40PR3P250MB0241.EURP250.PROD.OUTLOOK.COM adresini ziyaret edin.
Orhan Fırat, Türk kökenli bir bilgisayar bilimcisi ve makine öğrenimi uzmanıdır. Google'da dil modelleme ve makine çevirisi alanlarında çalışmaktadır. Orhan Fırat, daha önce Google Brain ve Google Translate projelerinde yer almıştır. Orhan Fırat'ın araştırma alanları arasında derin öğrenme, doğal dil işleme ve makine çevirisi bulunmaktadır. Özellikle diller arası çeviriyi geliştirmeye yönelik çalışmaları ile tanınmaktadır.
Tayfun Terzi ise, OpenAI'de çalışan Türk kökenli bir araştırmacıdır. Terzi, doğal dil işleme ve dil modelleri üzerine çalışmaktadır. OpenAI'nin dikkate değer projelerinden biri olan GPT serisi modellerin geliştirilmesine katkıda bulunmuştur.
Bu tartışmayı web'de görüntülemek için https://groups.google.com/d/msgid/yz-ve-insan/CAANABYfR1uycYjBTZ8%2B7wa%2BVP1x43ZTTu%3D%3D6tjBjKmA%3D9nQgng%40mail.gmail.com adresini ziyaret edin.
Tabloya toplam elektrik tüketim miktarının dolar karşılığını eklemek için öncelikle kilovatsaat (kWh) başına bir elektrik maliyeti belirlememiz gerekmektedir. Bölgenize ve enerji sağlayıcınıza bağlı olarak bu değer değişebilir. Örnek olarak, ortalama olarak Amerika Birleşik Devletleri'nde 2021 yılında kilovatsaat başına 0.13 dolar ödeniyordu. Bu değeri kullanarak, hesaplamaları yapabiliriz.
Not: Elektrik maliyetlerinin zaman içinde ve bölgeler arasında değişebileceğini unutmayın. Bu örnek hesaplamalar 2021 verilerine dayanmaktadır.
GPU Türü | GPU Gücü | GPU Saat | Toplam Güç Tüketimi | Karbon Emisyonu (tCO2eq) | Elektrik Tüketimi (MWh) | Elektrik Maliyeti (USD) |
---|---|---|---|---|---|---|
OPT-175B | A100-80GB | 809,472 | 356 MWh | 137 | 356,000 kWh | 46,280 |
BLOOM-175B | A100-80GB | 1,082,880 | 475 MWh | 183 | 475,000 kWh | 61,750 |
LLaMA-7B | A100-80GB | 82,432 | 36 MWh | 14 | 36,000 kWh | 4,680 |
LLaMA-13B | A100-80GB | 135,168 | 59 MWh | 23 | 59,000 kWh | 7,670 |
LLaMA-33B | A100-80GB | 530,432 | 233 MWh | 90 | 233,000 kWh | 30,290 |
LLaMA-65B | A100-80GB | 1,022,362 | 449 MWh | 173 | 449,000 kWh | 58,370 |
Bu örnek hesaplamalara göre, tablodaki toplam elektrik maliyeti 209,040 ABD dolarıdır.
New chat
NVIDIA A100-80GB GPU'lu bir sunucu sistemini oluşturmak için, diğer bileşenlere de ihtiyacınız olacaktır. Aşağıda, böyle bir sistem için örnek bir bileşen listesi ve her bir bileşenin yaklaşık maliyeti bulunmaktadır. Lütfen bu fiyatların ve bileşenlerin sadece bir tahmin olduğunu ve güncel fiyatlar ve uyumluluk için üretici sitelerini ve yetkili satıcıları kontrol etmeniz gerektiğini unutmayın.
GPU: NVIDIA A100-80GB
İşlemci: Intel Xeon Gold 6248R 20-Core 3.0 GHz
Anakart: ASUS WS C621E SAGE LGA 3647 C621
Bellek: Corsair Vengeance LPX 128GB (4 x 32GB) DDR4 3200 MHz
SSD: Samsung 970 EVO Plus 2TB NVMe M.2
Güç Kaynağı: Corsair AX1600i 1600W 80 PLUS Titanium
Soğutma Sistemi: Noctua NH-U12DX i4 (İşlemci Soğutucu)
Kasa: Fractal Design Define 7 XL
Toplam maliyet: 15.720 ABD doları (yaklaşık)
Yukarıdaki bileşenler ve fiyatlar sadece bir örnektir ve güncel fiyatlar, markalar ve modellerle değişebilir. Özellikle, NVIDIA A100-80GB GPU'lar için fiyatlar büyük ölçüde değişebilir. Bu nedenle, alım yapmadan önce güncel fiyatları ve bileşen uyumluluğunu kontrol etmek önemlidir.