Η NVIDIA προσπαθεί να ανταποκριθεί στη ζήτηση για AI GPUs

Δεν καταλαβαίνω, αφού υπάρχει απαγόρευση των ΗΠΑ για τις πωλήσεις τσιπ AI στην Κίνα, πως η NVIDIA πουλάει στην Κίνα;

παντα κατι θα υπαρχει.

πριν ηταν το μιναρισμα, τωρα το ΑΙ, μετα τι?

7 λεπτά πριν, pcos είπε

παντα κατι θα υπαρχει.

πριν ηταν το μιναρισμα, τωρα το ΑΙ, μετα τι?

Μετά το skynet

Αυτή η NVidia πραγματικά πρέπει να έχει λαγοπόδαρο!

Για 2+ χρόνια, τους έκατσε η φάση με το etherum και πουλήσανε μέχρι και τα σώβρακα τους. Και τώρα που το ether έγινε PoS και τα κρυπτονομίσματα ξεφούσκωσαν, να΄σου η τρέλα με το AI και τους AI cores. Και το καλύτερο από όλα: Η AMD δήλωσε πριν σκάσει η τρέλα του ChatGPT πως δεν προτίθεται να ανταγωνιστεί την NVidia στους AI cores, οπότε αυτή τη στιγμή παίζει να είναι 2~3 χρόνια πίσω σε development από την NVidia! Πραγματικά φυτρώνουν λεφτόδεντρα στον κήπο τους!

Τα σύγχρονα μοντέλα τεχνητής νοημοσύνης είναι εξαιρετικά απαιτητικά σε GPU VRAM.

Για την εκπαίδευση των μοντέλων οι εταιρείες έχουν χρησιμοποιήσει χιλιάδες GPU (με 80GB VRAM έκαστη) για εβδομάδες.

Έχω 2 GPU με 24GB έκαστη (48GB σύνολο) και οριακά τρέχω κάποια σύγχρονα μοντέλα.

Το LLaMA 65B του Facebok θέλει πάνω από 250GB GPU VRAM για να τρέξει (όχι για εκπαίδευση, μόνο για inference).

΄

Δύο επιπλέον λόγοι για τους οποίους υπάρχει ζήτηση σε νέες GPU είναι:

1. Δεν υπάρχει συμβατότητα νέων εκδόσεων του CudaTookit με παλαιότερες κάρτες γραφικών. Γι'αυτό η Nvidia K80 με 24GB κοστίζει μεταχειρισμένη κάτω από 100€ ενώ η 3090 με 24GB κοστίζει μεταχειρισμένη 700~1000€

2. Οι GPU δεν είναι αθάνατες, έχουν την τάση να χαλάνε μετά από μερικά χρόνια εντατικής χρήσης. Για επαγγελματία είναι αδιανόητη η χρήση μεταχειρισμένης GPU.

Μας εχεις πρηξει πετσινε

AI και συ nvidia...   ?

Έβγαλε και τη 4060ti που στην ουσία είναι σαν μια 3060ti OC και καλά της ρίξανε κράξιμο με το μπάζο. Να δούμε με την 16GB vram μήπως κάπως το σώσουν.

Ότι και να γίνει, κατά πως φαίνεται η Nvidia θα έχει ζήτηση για το ένα ή το άλλο. Ποτίζεται με κάθε καιρό. 😁

Στο τέλος θα πρέπει να λέμε και ευχαριστώ που βγάζει ΚΑΙ GPUs για gamers....

Τώρα οδεύουμε σς άλλο επίπεδο δηλαδή θα μιλάνε για παιχνίδια με αυξημένες δραστηριότητες και εφέ…ιδίως το Α100 που οκ απλή ονομασία είναι. Α100 FM απλά μου θύμισε ιστορικό ΡΑΔΙΟΦΩΝΟ 

"

Τα τσιπ αυτά πωλούνται σε τιμές 40% υψηλότερες από την τιμή λιανικής τους λόγω της μεγάλης ζήτησης για AI GPU στην Κίνα. Επιπλέον, οι χρόνοι παράδοσης των GPU της NVIDIA στην Κίνα έχει επηρεαστεί. Η εταιρεία δίνει προτεραιότητα στους μη κινέζους τεχνολογικούς συνεργάτες της, γεγονός που οδηγεί σε μεγαλύτερους χρόνους παράδοσης στην Κίνα. Ορισμένες νέες παραγγελίες ενδέχεται να μην εκπληρωθούν μέχρι τον Δεκέμβριο, χρόνος αναμονής που ξεπερνά δηλαδή τους 6 μήνες.

Η υψηλή ζήτηση για τις GPU HPC και AI της NVIDIA θα μπορούσε ενδεχομένως να διαταράξει την προμήθεια των τσιπ για gaming GPUs, καθώς η εταιρεία διαθέτει περισσότερους πόρους προς το AI. Η NVIDIA εργάζεται σκληρά για να διασφαλίσει ότι μπορεί να συνεχίσει να προσφέρει τσιπ σε επαρκείς ποσότητες στους μεγαλύτερους συνεργάτες της, οι οποίοι είναι πρόθυμοι να πληρώσουν και μεγαλύτερο κόστος για τις κορυφαίες AI προτάσεις της εταιρείας.  "

Εδώ είναι ολη η παραμύθα , πουλάει ακριβότερα η κακομοίρα , δεν θα έχουν οι gamers gpu αλλά δουλευει σκληρά για να είναι όλοι ευχαριστημένοι .

Eγώ πιστεύω οτι σαν ινσομνια κοινότητα πρέπει να τσοντάρουμε ολοι μαζί ενα σεβαστό ποσό και να φτιάξουμε ενα μνημείο για την nVidia .

Ακόμα περιμένω την 3080 κάτω από 500 ευρώ εγω 💀