Dolandırıcı Bildirim
Bu makale bu nedenle İngilizce olarak mevcuttur. Teknik yardım ile tercüme edildi ve yayınlanmadan önce Editory inceledi.
Bunu bir daha gösterme.
Apple'ın yararlı makine öğrenimi çerçevesi MLX ile çalışmak istiyorsanız, mümkün olduğunca fazla m-çip gücüne sahip bir Mac kullanmak zorunda kaldınız. Yerel LLM'lerin gerçekleştirilebileceği LM Studio gibi araçların hayranları macOS altında yemin ediyor ve buna göre Apple SoC'lerinden ve birleşik hafızalarından daha iyi yararlanması gereken Lama, Qwen veya Mistral'ın MLX optimize edilmiş varyantlarını çekiyor. MLX, bazı geliştiriciler söz konusu olduğunda artık diğer platformlara yayılabilir. MLX'in arkasındaki GitHub projesinin bir parçası olarak, şu anda bir CUDA pişirme dosyalanıyor. Means: NVIDIA tabanlı sistemler gelecekte MLX kullanabilir.
Mac'te geliştirin, kümede performans sergileyin
Ancak, proje hala başlangıçta. Bir ürün olgunluğu varsa, MLX optimize edilmiş modellerin, örneğin eğitimin bir parçası olarak daha güçlü NVIDIA GPU'ları için nispeten kolayca ayarlanabileceği düşünülebilir. Buna ek olarak, MLX modelleri en azından teorik olarak daha hızlı yayılabilir çünkü Cuda'nın arkasında çok daha büyük bir topluluğa sahip.
MLX, Apple Silikon ve GPU arayüz metali için özel olarak optimize edilmiştir. NVIDIA GPUS durumunda, Metal – Cuda (Compute Unified Cihaz Mimarisi anlamına gelir) değiştirilecektir. MLX, Swift, C ve C ++ için ciltlerle birlikte gelir. ZCBENZ kullanıcı adı ile pişirmenin arkasındaki ana geliştirici Japonya'dan geliyor. Bilgilerine göre, Apple işin kısımlarını finanse ediyor.
Geliştirici: Apple projeye dahil
Geliştirici, “Çoğunlukla bir cuda pişirmenin iki nedeni var” diyor. “İlk olarak, CUDA Birleşik Bellek Destekleri (…) İkincisi, NVIDIA Donanımı bilimsel alanda ve büyük bilgi işlem kümelerinde çok uzak [“Massive Computations”, schreibt zcbenz im Original] Bu nedenle yararlıdır. Diyerek şöyle devam etti: “Bu nedenle, daha sonra süper bilgisayarlara egzersiz yapmak için Mac'inize yerel olarak kod yazıp test edebilmeniz yararlıdır.” Bu iyi bir geliştirici deneyimi olurdu. “
Projenin ne kadar hızlı ilerlediği görülüyor. İlkbaharda başladı. Bu hafta Zcbenz, Cuda pişirmenin hala geliştirildiğini ve resmi olarak yayınlanmadığını açıkladı. “İşler daha iyi bir formdaysa” daha fazla bilgi olacak.
(BSC)
Ne yazık ki, bu bağlantı artık geçerli değil.
Boşa harcanan eşyalara bağlantılar 7 günden daha büyükse veya çok sık çağrıldıklarında geçersiz hale gelir.
Bu makaleyi okumak için bir Haberler+ paketine ihtiyacınız var. Bir haftayı şimdi yükümlülük altına almadan test edin – yükümlülük olmadan!
Bu makale bu nedenle İngilizce olarak mevcuttur. Teknik yardım ile tercüme edildi ve yayınlanmadan önce Editory inceledi.
Bunu bir daha gösterme.
Apple'ın yararlı makine öğrenimi çerçevesi MLX ile çalışmak istiyorsanız, mümkün olduğunca fazla m-çip gücüne sahip bir Mac kullanmak zorunda kaldınız. Yerel LLM'lerin gerçekleştirilebileceği LM Studio gibi araçların hayranları macOS altında yemin ediyor ve buna göre Apple SoC'lerinden ve birleşik hafızalarından daha iyi yararlanması gereken Lama, Qwen veya Mistral'ın MLX optimize edilmiş varyantlarını çekiyor. MLX, bazı geliştiriciler söz konusu olduğunda artık diğer platformlara yayılabilir. MLX'in arkasındaki GitHub projesinin bir parçası olarak, şu anda bir CUDA pişirme dosyalanıyor. Means: NVIDIA tabanlı sistemler gelecekte MLX kullanabilir.
Mac'te geliştirin, kümede performans sergileyin
Ancak, proje hala başlangıçta. Bir ürün olgunluğu varsa, MLX optimize edilmiş modellerin, örneğin eğitimin bir parçası olarak daha güçlü NVIDIA GPU'ları için nispeten kolayca ayarlanabileceği düşünülebilir. Buna ek olarak, MLX modelleri en azından teorik olarak daha hızlı yayılabilir çünkü Cuda'nın arkasında çok daha büyük bir topluluğa sahip.
MLX, Apple Silikon ve GPU arayüz metali için özel olarak optimize edilmiştir. NVIDIA GPUS durumunda, Metal – Cuda (Compute Unified Cihaz Mimarisi anlamına gelir) değiştirilecektir. MLX, Swift, C ve C ++ için ciltlerle birlikte gelir. ZCBENZ kullanıcı adı ile pişirmenin arkasındaki ana geliştirici Japonya'dan geliyor. Bilgilerine göre, Apple işin kısımlarını finanse ediyor.
Geliştirici: Apple projeye dahil
Geliştirici, “Çoğunlukla bir cuda pişirmenin iki nedeni var” diyor. “İlk olarak, CUDA Birleşik Bellek Destekleri (…) İkincisi, NVIDIA Donanımı bilimsel alanda ve büyük bilgi işlem kümelerinde çok uzak [“Massive Computations”, schreibt zcbenz im Original] Bu nedenle yararlıdır. Diyerek şöyle devam etti: “Bu nedenle, daha sonra süper bilgisayarlara egzersiz yapmak için Mac'inize yerel olarak kod yazıp test edebilmeniz yararlıdır.” Bu iyi bir geliştirici deneyimi olurdu. “
Projenin ne kadar hızlı ilerlediği görülüyor. İlkbaharda başladı. Bu hafta Zcbenz, Cuda pişirmenin hala geliştirildiğini ve resmi olarak yayınlanmadığını açıkladı. “İşler daha iyi bir formdaysa” daha fazla bilgi olacak.
(BSC)
Ne yazık ki, bu bağlantı artık geçerli değil.
Boşa harcanan eşyalara bağlantılar 7 günden daha büyükse veya çok sık çağrıldıklarında geçersiz hale gelir.
Bu makaleyi okumak için bir Haberler+ paketine ihtiyacınız var. Bir haftayı şimdi yükümlülük altına almadan test edin – yükümlülük olmadan!