Odyss3us Δημοσ. 8 Απριλίου Δημοσ. 8 Απριλίου 3 hours ago, michael92 said: Με τι hardware θα γίνει αυτό; για κολοσσους οπως Google/Microsoft τιθεται σοβαρα τετοιο ζητημα;
michael92 Δημοσ. 8 Απριλίου Δημοσ. 8 Απριλίου 51 λεπτά πριν, Odyss3us είπε για κολοσσους οπως Google/Microsoft τιθεται σοβαρα τετοιο ζητημα; Ναι φυσικά και τίθεται ζήτημα. Έχουν φτιάξει τεράστια datacenters τα οποία δεν πρόκειται ποτέ να βγάλουν κέρδος. Μπορούν να πετάξουν 5-10 δις στα σκουπίδια, αλλά όχι 100. Επίσης δεν μπορεί από τη μία να βλέπουμε την nvidia και την AMD να μας σερβίρουν GPUs με 10-20% καλύτερο raw performance μετά από 2 χρόνια και παρόλα αυτά να θεωρούμε ότι το AI θα συνεχίσει να βελτιώνεται εκθετικά. Κάποια στιγμή τελειώνουν τα χρήματα, τελειώνουν τα training optimizations, τελειώνει το quantization (ήδη φτάσαμε στο FP4) και η όποια πρόοδος εξαρτάται καθαρά από το αν θα καταφέρει η TSMC να συνεχίσει για λίγο ακόμα τα node shrinks.
Odyss3us Δημοσ. 8 Απριλίου Δημοσ. 8 Απριλίου (επεξεργασμένο) 3 hours ago, michael92 said: Ναι φυσικά και τίθεται ζήτημα. Έχουν φτιάξει τεράστια datacenters τα οποία δεν πρόκειται ποτέ να βγάλουν κέρδος. Μπορούν να πετάξουν 5-10 δις στα σκουπίδια, αλλά όχι 100. Επίσης δεν μπορεί από τη μία να βλέπουμε την nvidia και την AMD να μας σερβίρουν GPUs με 10-20% καλύτερο raw performance μετά από 2 χρόνια και παρόλα αυτά να θεωρούμε ότι το AI θα συνεχίσει να βελτιώνεται εκθετικά. Κάποια στιγμή τελειώνουν τα χρήματα, τελειώνουν τα training optimizations, τελειώνει το quantization (ήδη φτάσαμε στο FP4) και η όποια πρόοδος εξαρτάται καθαρά από το αν θα καταφέρει η TSMC να συνεχίσει για λίγο ακόμα τα node shrinks. ωστε καθονται και φτιαχνουν τεραστια datacenters χωρις κερδος... μαλλον δεν εχεις ακουσει τιποτα τα τελευταια χρονια για το AI race war που συντελειται παγκοσμιως τοσο σε εταιρικο οσο και σε διακρατικο επιπεδο... ταχεις μπερδεψει/ανακατωσει λιγο και τα gaming με τα AI gpus αλλα δεν πειραζει.. καταρχας η σειρα 40ΧΧ με την 50ΧΧ ειναι φτιαγμενη στα ιδια processing nodes οποτε οι μικρες διαφορες που παρουσιαζουν ηταν αναμενομενες, -και δεν ειναι η πρωτη φορα που συμβαινει αυτο τοσο σε gpu οσο και σε cpu chips- αφου εξαρταται απο το εκαστοτε fabrication jump στα nm παμε να δουμε τωρα και την εξελιξη στο AI computing, τα στοιχεια στις εικονες μιλουν απο μονα τους: Επεξ/σία 8 Απριλίου από Odyss3us
torgar Δημοσ. 8 Απριλίου Δημοσ. 8 Απριλίου (επεξεργασμένο) 11 ώρες πριν, michael92 είπε Με τι hardware θα γίνει αυτό; Πηγή; Γιατί στο video με τον μπαλονάνθρωπο τελικά αποδείχτηκε ότι έπεσε επεξεργασία πάνω στα clips... https://www.fxguide.com/fxfeatured/actually-using-sora/ Υπάρχουν cycle accurate emulators. Το συγκεκριμένο fever dream (μπορείς να το δοκιμάσεις εδώ) δεν έχει καμία σχέση με preservation. Απο ατομο που εχει αμεση επαφη με τη παραγωγη Επεξ/σία 8 Απριλίου από torgar
michael92 Δημοσ. 8 Απριλίου Δημοσ. 8 Απριλίου 14 λεπτά πριν, torgar είπε Απο ατομο που εχει αμεση επαφη με τη παραγωγη 0:30 Αναφορά σε κείμενο All the footage that you are seeing right now was made using an AI toolset combined with traditional tools. Specifically episode 6 represents the first scene in a show that's driven by generative AI tools. Now many other traditional tools were used in the process. Real actors were used to perform the scene, but this represents a leap forward in technology in what we were able to achieve. Όχι απλά δεν ήταν 100% AI generated, αλλά χρησιμοποίησαν και ηθοποιούς σε green screen. 4 ώρες πριν, Odyss3us είπε ωστε καθονται και φτιαχνουν τεραστια datacenters χωρις κερδος... Ναι: https://www.sequoiacap.com/article/ais-600b-question/ 4 ώρες πριν, Odyss3us είπε μαλλον δεν εχεις ακουσει τιποτα τα τελευταια χρονια για το AI race war που συντελειται παγκοσμιως τοσο σε εταιρικο οσο και σε διακρατικο επιπεδο... Βασικά έχω βαρεθεί να ακούω AGI in 2 more years. 4 ώρες πριν, Odyss3us είπε παμε να δουμε τωρα και την εξελιξη στο AI computing, τα στοιχεια στις εικονες μιλουν απο μονα τους: Σου γράφω ότι τελειώνουν tricks και optimizations όπως το περαιτέρω quantization και μου βάζεις γραφήματα του πέτσινου όπου διαφημίζει το FP4 performance και το συγκρίνει με παλιότερα FP8 και FP16... Επίσης η B200 έχει μόλις 25% καλύτερο performance/watt σε σχέση με την H100 στο FP16. Αυτό για να μην νομίζουμε ότι συμβαίνει κάτι ξεχωριστό σε σχέση με τις gaming GPUs, με μοναδική εξαίρεση το VRAM starvation. Αν δεν υπήρχε το AI craze δηλαδή, δεν θα είχαμε πιο γρήγορες consumer GPUs αλλά κατά πάσα πιθανότητα θα είχαν διπλάσια VRAM.
Odyss3us Δημοσ. 8 Απριλίου Δημοσ. 8 Απριλίου (επεξεργασμένο) 4 hours ago, michael92 said: Ναι: https://www.sequoiacap.com/article/ais-600b-question/ Βασικά έχω βαρεθεί να ακούω AGI in 2 more years. Σου γράφω ότι τελειώνουν tricks και optimizations όπως το περαιτέρω quantization και μου βάζεις γραφήματα του πέτσινου όπου διαφημίζει το FP4 performance και το συγκρίνει με παλιότερα FP8 και FP16... Επίσης η B200 έχει μόλις 25% καλύτερο performance/watt σε σχέση με την H100 στο FP16. Αυτό για να μην νομίζουμε ότι συμβαίνει κάτι ξεχωριστό σε σχέση με τις gaming GPUs, με μοναδική εξαίρεση το VRAM starvation. Αν δεν υπήρχε το AI craze δηλαδή, δεν θα είχαμε πιο γρήγορες consumer GPUs αλλά κατά πάσα πιθανότητα θα είχαν διπλάσια VRAM. καλο ειναι να μην αναπαραγεις biased αρθρα απο το παρελθον τα οποια τα αποδομει η ιδια η πραγματικοτητα, ο τυπος εγραφε τον Ιουνιο του 2024 οτι το Gpu shortage ξεπεραστηκε... ηδη ξεπερασαμε το 1ο τριμηνο του 2025 και μαντεψε.. οι νεας γενιας GPU καθε ειδους ΕΧΟΥΝ shortage ακομα και οι gaming απο διαφορους "επενδυτες" που εξακολουθουν να βρισκουν τροπους να τις αγοραζουν σε παλετες και να τις πουλανε σε κινεζους... μαλλον δεν ειδες το τελευταιο πινακακι που εβαλα πιο πανω για το που εκτοξευεται ο Rubin το 2027 και ο Feynman το 2028.. ειτε το θελεις ειτε οχι το ΑΙ δεν βασιζεται μονο στο raw processing power αφου ειναι συνδυασμος διαυλου μνημης και power efficiency οταν μιλαμε για εκατονταδες και χιλιαδες clusters... ο τυπος τα γραφει απο τη σκοπια ενος golden boy μιας μικρης ai startup απο τις εκατονταδες που ξεφυτρωσαν χωρις λογο υπαρξης, παρολαυτα παραδεχεται οτι τα ΑΙ infrastructures εξελισσονται πολυ γρηγοροτερα απο το νομο του Moore! με αποτελεσμα μικροεπενδυτες σα τη παρτη του να χανουν τη μπαλα αφου μια Χ βραχυπροθεσμη επενδυση χωρις σαφη στοχο θα χασει αξια απο τις ραγδαιες εξελιξεις που θα τη ξεπερασουν σε κοστος... : "Depreciation: We know from the history of technology that semiconductors tend to get better and better. Nvidia is going to keep producing better next-generation chips like the B100. This will lead to more rapid depreciation of the last-gen chips. Because the market under-appreciates the B100 and the rate at which next-gen chips will improve, it overestimates the extent to which H100s purchased today will hold their value in 3-4 years. Again, this parallel doesn’t exist for physical infrastructure, which does not follow any “Moore’s Law” type curve, such that cost vs. performance continuously improves." τα διαφορα chatgpt, ai image/text/video generators κλπ. ειναι by-products της AI δεν ειναι αυτος ο βασικος στοχος και καπου εκει σαυτο το χυλο καποιοι προσπαθουν γρηγορα να πλουτισουν οπως εγινε και με χιλια δυο αλλα στο παρελθον.. και ολα αυτα τη στιγμη που ΟΛΟΙ παραδεχονται οτι ειμαστε μολις at the beginning of reasoning models and of physical AI.. οσον αφορα αυτο για τις μνημες ποτε στην ιστορια των υπολογιστων δεν δοθηκε κατι τσαμπα γιατι ετσι, δες για παραδειγμα τους ssd, πηρε πανω απο 10ετια για να εξισωθουν οι τιμες με τους hdd οι οποιοι εξακουλουθουν να εχουν λογο υπαρξης σε mass cloud storage Επεξ/σία 8 Απριλίου από Odyss3us
Προτεινόμενες αναρτήσεις
Δημιουργήστε ένα λογαριασμό ή συνδεθείτε για να σχολιάσετε
Πρέπει να είστε μέλος για να αφήσετε σχόλιο
Δημιουργία λογαριασμού
Εγγραφείτε με νέο λογαριασμό στην κοινότητα μας. Είναι πανεύκολο!
Δημιουργία νέου λογαριασμούΣύνδεση
Έχετε ήδη λογαριασμό; Συνδεθείτε εδώ.
Συνδεθείτε τώρα