Xeon ή i7 σε pc για deep learning

[Kostas93]

i) Το ποσό που διαθέτουμε: ρευστό ακόμη

 

ii) Tη χρήση του υπολογιστή (αναφέρετε επίσης αν θα ασχοληθείτε με το mining ή όχι : http://www.insomnia....-για-αρχάριους/  )  όχι

 

iii) Ειδικά προγράμματα που θα χρησιμοποιηθούν:

 

iv) Στη σύνθεση θέλουμε να συμπεριληφθεί οθόνη? Αν όχι ποια οθόνη έχουμε? Υπάρχει πιθανότητα για μελλοντική αγορά άλλης? όχι

 

v) Στη σύνθεση θέλουμε να συμπεριληφθούν και πληκτρολόγιο,ηχεία,ποντίκι? όχι

 

vi) Το Hardware-περιφερειακά-οθόνη που θέλουμε να αγοράσουμε, θέλουμε να είναι απο ένα κατάστημα (διευκρινίστε ποιο) ή επιθυμούμε την αγορά απο διαφορετικά καταστήματα? (Αναφέρετε και την περιοχή στην οποία βρίσκεστε για περαιτέρω διευκόλυνση) λογικα απο ένα

 

vii) Επιθυμούμε να συναρμολογηθεί το σύστημα στο κατάστημα (στην περίπτωση που δεν γνωρίζουμε πως να το συναρμολογήσουμε) ή το σύστημα θα στηθεί απο τον ενδιαφερόμενο?

 

viii) Επιθυμούμε λειτουργικό σύστημα? Αν ναι ποιο?  όχι

 

ix) Στο νέο σύστημα θα γίνουν πιθανές μελλοντικές αναβαθμίσεις στο Hardware? Αν ναι, υπάρχει πιθανότητα για διπλές κάρτες γραφικών (sli/crossfire)? -> συμβάλλει στην επιλογή κατάλληλου τροφοδοτικού και παίζει ρόλο και στην επιλογή κουτιού  για κάρτα παίζει να μπει και άλλη

 

x) Θα γίνει oc στο CPU (επεξεργαστής)? Αν ναι σε τί μέγεθος? (μικρό, μεσαίο, μεγάλο) -> συμβάλλει στην επιλογή κατάλληλου τροφοδοτικού, μητρικής και φυσικά κατάλληλης ψύκτρας   δε ξερω, αλλα στο budget αυτο ετσι και αλλιως λογικα παμε σε ξεκλείδωτο επεξεργαστή

 

xi) Θα γίνει oc στη GPU (κάρτα γραφικών)? Αν ναι θα γίνει με πείραγμα της τάσης για stability (μεγάλο oc) ή απλά θα ανεβάσετε λίγο τις συχνότητες με stock voltage? -> συμβάλλει στην επιλογή κατάλληλου τροφοδοτικού

Αργοτερα ίσως πειραχτεί, η κάρτα βασικά είναι πολύ σημαντική για το συγκεκριμένο σύστημα

 

xii) Αναφέρετε αν θα χρησιμοποιήσετε ή όχι κάποιο κομμάτι Hardware από άλλο/παλιό σύστημα: όχι


Ανέθεσαν σε φίλο να στήσει ένα pc το οποίο θα χρησιμοποιηθεί για να τρέχει αποκλειστικά επιστημονικά προγράμματα (για deep learning σε νευρωνικά δίκτυα κτλ).

Μια αρχική σύνθεση που έχει κατα νου είναι η εξής:
cpuIntel Core i7-5930K
mbASUS ATX X99-E WS
psuCorsair AX1200i
caseCorsair Carbide Series Air 540 High Airflow ATX Cube
ramKingston 16G DDR4

gpuNVIDIA GTX TITAN-X 12GB
ssdSamsung 850 PRO 512GB

hddWD Red 3TB


και τώρα έρχετε το ερώτημα, τι αλλάζουμε; Η μητρική πιστεύω είναι υπερβολική και μπορούμε να κόψουμε αρκετά. Επίσης δε ξέρω αν θα ήταν καλύτερα να πάμε σε XEON αντί για i7.
Η κάρτα δεν αλλάζει, υπάρχει λόγος.  Γενικά είναι σε αναγνωριστικό στάδιο οπου κοιτάζουμε τι παίζει στην αγορά οπότε μας ενδιαφέρουν περισσότερο τα κομμάτια και όχι το απο που θα αγοραστούν.
 

[pnick]

 

και τώρα έρχετε το ερώτημα, τι αλλάζουμε; Η μητρική πιστεύω είναι υπερβολική και μπορούμε να κόψουμε αρκετά. Επίσης δε ξέρω αν θα ήταν καλύτερα να πάμε σε XEON αντί για i7.

Η κάρτα δεν αλλάζει, υπάρχει λόγος.  Γενικά είναι σε αναγνωριστικό στάδιο οπου κοιτάζουμε τι παίζει στην αγορά οπότε μας ενδιαφέρουν περισσότερο τα κομμάτια και όχι το απο που θα αγοραστούν.

 

 

H μητρική και η σύνθεση συνολικά είναι λογικές επιλογές, αν και εφόσον θα προστεθούν και άλλες gpu για deep learning με cuDNN. 

To τροφοδοτικό είναι αρκετό μέχρι για 3 Τιτάνες σε full λειτουργία.

 

Ο επεξεργαστής είναι ιδανική επιλογή λόγω pcie lanes που τις χρειάζεστε. Ένας Xeon ή ένας μεγαλύτερος i7 όπως ο 5960Χ θα είχαν νόημα μόνο λόγω μεγαλύτερης cache, που από ό,τι είδα παίζει κάποιο ρόλο στην διαδικασία. Αν δεν υπάρχει το ρευστό όμως είναι μια χαρά. 

 

Βασικά, μόνο αυτό χρειάζεται να απαντηθεί. Αν θα βάλετε και άλλες κάρτες στο μέλλον. 

 

Υ/γ Θα άλλαζα το κουτί. Χρειάζεται κάτι αρκετά ευρύχωρο, ειδικά αν μπουν και άλλες κάρτες. 

Επεξ/σία 23 Μαρτίου 2016 από pnick

[Kostas93]

Σκεφτόμουν πως περα απο την cache και οι +2 πυρήνες των XEON ίσως ήταν καλύτερη επιλογή, δυστυχώς για να πάμε σε 8-core i7 ξεφευγει λίγο και δε εχει οριστικοποιηθεί το budget, οπότε καλύτερα να μιλαμε σε χαμηλότερη βάση και να προσθέσουμε κατι στη συνέχεια παρά να αρχισουμε να κόβουμε μετά αν προκύψει πάνω απο το τελικό budget.

καμια πρόταση για κουτάκι; λογικα παμε σε full tower, αλλα ποιο;

για τις κάρτες λογικα αργοτερα μπορει να μπουν και αλλες, οποτε το κραταμε ετσι προς το παρον σαν λογικη

[pnick]

Σκεφτόμουν πως περα απο την cache και οι +2 πυρήνες των XEON ίσως ήταν καλύτερη επιλογή, δυστυχώς για να πάμε σε 8-core i7 ξεφευγει λίγο και δε εχει οριστικοποιηθεί το budget, οπότε καλύτερα να μιλαμε σε χαμηλότερη βάση και να προσθέσουμε κατι στη συνέχεια παρά να αρχισουμε να κόβουμε μετά αν προκύψει πάνω απο το τελικό budget.

 

καμια πρόταση για κουτάκι; λογικα παμε σε full tower, αλλα ποιο;

 

για τις κάρτες λογικα αργοτερα μπορει να μπουν και αλλες, οποτε το κραταμε ετσι προς το παρον σαν λογικη

Από τα λίγα που είδα, οι παραπάνω πυρήνες δεν ωφελούν σε αυτές τις εργασίες. Single-thread είναι οι περισσότερες διεργασίες, οπότε μη σκέφτεσαι παραπάνω πυρήνες. Δεν έχουν νόημα. Cache και pcie lanes είναι το επίκεντρο. 

 

Αν δεν πρόκειται να μπουν τουλάχιστον 3 κάρτες στο σύστημα, η WS δεν έχει νόημα. Το premium που πληρώνεις για αυτήν την μητρική είναι για την πληθώρα pcie lanes που παρέχει. Ο επεξεργαστής δίνει 40 και η μητρική έχει δύο plx που τεχνητά σου αυξάνουν το bandwidth σε περισσότερα slots. Αλλά, αυτό που δεν γνωρίζω είναι αν με αυτούς τους αλγόριθμους μπορείς να εκμεταλλευτείς όλο το bandwdith του x16. Αυτά πρέπει να τα ψάξετε, γιατί θα μπορούσε και μια μητρική με το μισό κόστος ή παρακάτω να σας κάνει την δουλειά και με x8.

 

Κάτι ακόμα είναι το θέμα ότι αν και όταν το σύστημα θα τρέχει τους αλγόριθμους μέσω της κάρτας πόσους πόρους χρειάζεται. Θα την απασχολεί 100%; Δεν έχω ασχοληθεί με αυτά τα θέματα και δεν ξέρω αν το gpgpu σε αυτή την περίπτωση έχει ένταση όπως ας πούμε το gpu rendering που ρουφάει ό,τι έχει να δώσει η κάρτα. Αν ισχύει αυτό, δηλαδή η κάρτα θα ζορίζεται στο 100% όταν δουλεύει πάνω στο deep learning, τότε εγώ προσωπικά θα ξεκινούσα με δύο κάρτες εξαρχής. Μια απλή να οδηγεί την οθόνη και τον Τιτάνα να κάνει τους υπολογισμούς. Αλλιώς, αν η απασχόληση του Τιτάνα είναι 100% με το gpgpu και ταυτόχρονα πρέπει να οδηγήσει και οθόνη πάνω στην οποία δουλεύει ο φίλος σου, είναι πιθανό να γίνεται κάπως slide show η κατάσταση. 

 

Είναι βασικά θέματα αυτά να απαντηθούν από τον φίλο σου ώστε και σπατάλη να μη γίνει, αλλά και το σύστημα να έχει ικανό υπόβαθρό να σηκώσει αναβαθμίσεις στο μέλλον.  

 

Υ/γ Α, τώρα το είδα. Ξεχάστε oc στην κάρτα, ειδικά αν πρόκειται να μπουν και άλλες. Θα χρειαστείς υδρόψυξη για να τις ψύξεις δίπλα-δίπλα. 

 

Από κουτί, ίσως να κοίταζα το 750D air flow edition της Corsair, ή το Enthoo Luxe για την περίπτωση. Να έχει υπόψιν ότι αν αρχίζουν και δουλεύουν 2-3 κάρτες δίπλα-δίπλα σε full load τα πράγματα θα γίνουν αρκετά θορυβώδη, πέρα από την ζέστη. 

Επεξ/σία 23 Μαρτίου 2016 από pnick

[Kostas93]

θα τον ενημερωσω αν ειναι, γιατι δεν ειναι ο τομεας μου, οποτε δε μπορω να τα απαντησω εγω αυτα τα ερωτηματα.

τους πυρηνες τους σκεφτηκα με τη λογικη οτι πανω κατω το ιδιο single thread performance θα εχουν, οποτε οι +2 πυρήνες ίσως δώσουν ώθηση αργότερα αν χρειαστεί να τρέξουν κάτι cpu intensive, μιας και αυτά που εχουν κατα νου μέχρι στιγμής είναι gpu depended. Η cache ήταν επίσης ενας απο τους λόγους.

[pnick]

θα τον ενημερωσω αν ειναι, γιατι δεν ειναι ο τομεας μου, οποτε δε μπορω να τα απαντησω εγω αυτα τα ερωτηματα.

 

τους πυρηνες τους σκεφτηκα με τη λογικη οτι πανω κατω το ιδιο single thread performance θα εχουν, οποτε οι +2 πυρήνες ίσως δώσουν ώθηση αργότερα αν χρειαστεί να τρέξουν κάτι cpu intensive, μιας και αυτά που εχουν κατα νου μέχρι στιγμής είναι gpu depended. Η cache ήταν επίσης ενας απο τους λόγους.

Οι Xeon είναι γενικά χαμηλότερα χρονισμένοι από τους i7. Προσωπικά πιστεύω ότι περισσότερο τον ωφελεί η μεγαλύτερη συχνότητα του 5930Κ στην συγκεκριμένη περίπτωση από ό,τι η cach. Φαντάζομαι, για oc δεν τίθεται καν λόγος, μιας και πρόκειται για μηχάνημα ερευνητικό. 

 

Υπολογίστε και μια ψύκτρα στο σύνολο. Οι επεξεργαστές του 2011-3 δεν έχουν. 

 

Από σκληρό, καλύτερα όχι WD Red. Δεν είναι και τόσο αξιόπιστοι από ό,τι ξέρω. 

[Kostas93]

για ψυξη κτλ εχει κανα κατοσταρικο budget, δε τα ανεφερα αλλα εννοειται οτι θα μπει καποια καλη αεροψυκτρα.

κανα black θα ελεγα εγω καλυτερα (και για ssd αρχικα έλεγε για evo και δική μου πρόταση ειναι ο pro-εγγύηση/MLC μνήμες)
Seagate δε τους εχω σε εκτιμηση, οποτε μαλλον προς black θα ελεγα.

[pnick]

για ψυξη κτλ εχει κανα κατοσταρικο budget, δε τα ανεφερα αλλα εννοειται οτι θα μπει καποια καλη αεροψυκτρα.

 

κανα black θα ελεγα εγω καλυτερα (και για ssd αρχικα έλεγε για evo και δική μου πρόταση ειναι ο pro-εγγύηση/MLC μνήμες)

Seagate δε τους εχω σε εκτιμηση, οποτε μαλλον προς black θα ελεγα.

Ωραία. Πολύ καλά έκανες για τον Pro. Χρειάζεται αξιόπιστα κομμάτια. Για hdd και εγώ black προτείνω (έχω και στο σύστημα έναν 2ΤΒ και είναι αστέρι), ή Hitachi που είναι αρκετά αξιόπιστοι.

Βρήκα ένα πάρα πολύ χρήσιμο άρθρο ακριβώς για το θέμα σου. http://timdettmers.com/2015/03/09/deep-learning-hardware-guide/

Το γράφει άνθρωπος που δουλεύει πάνω σε αυτά και εξηγεί πώς συνεισφέρει το κάθε κομμάτι του hardware στο deep learning. 

 

H cache τελικά δεν παίζει κανένα ρόλο. Υπάρχουν άλλα bottleneck πιό πριν που ακυρώνουν την όποια αξία της. 

 

Συνιστώ προσεκτικό διάβασμα γιατί απαντάει σε όλα τα ερωτήματα. Προσωπικά, κέρδισα πολλά διαβάζοντάς το, άσχετα με το θέμα. 

[CrimsonSky_gr]

Αν οντως χρειαζεται καρτα επιπεδου titan-x καλυτερα να περιμενετε (αν ειναι δυνατο φυσικα) αλλους ~6μηνες για τη νεα γενια με το die shrink που θα φερει πολυ μεγαλη αυξηση αποδοσεων. Ειδαλλως τουλαχιστον 15 μερες μεχρι το gpu technology conference που θα γινουν αποκαλυψεις καθως μπορει να πεσει η τιμη της titan x,να βγουν περισσοτερες μεταχειρισμενες στην αγορα εν οψει της νεας γενιας κλπ.

http://www.gputechconf.com/automotive-track

Αμα δεις κεντρικο θεμα θα ειναι και το deep learning, με αποκαλυψη ενδεχομενως καποιας νεας τεχνολογιας στον τομεα

[Kostas93]

Η titan-x είναι donation, δε θα αγοραστεί, οπότε δεν είναι προς διαπραγμάτευση.

 

Για τις κάρτες, ενημερώθηκα πως θα υπάρξει πρόβλεψη για δεύτερη, αλλά ως εκεί.

[pnick]

Η titan-x είναι donation, δε θα αγοραστεί, οπότε δεν είναι προς διαπραγμάτευση.

 

Για τις κάρτες, ενημερώθηκα πως θα υπάρξει πρόβλεψη για δεύτερη, αλλά ως εκεί.

Αν υπάρξει απλά δεύτερη, τότε δεν χρειάζεται WS και δεν χρειάζεται Corsair AX 1200i. 

 

Μια απλή http://www.skroutz.gr/s/6620637/Asus-X99-A-USB-3-1.html είναι υπεραρκετή. Για τροφοδοτικό ένα http://www.skroutz.gr/s/5130233/Super-Flower-Leadex-Platinum-1000W.html και πάλι είναι υπεραρκετό. Γλυτώνει ο φίλος σου 400-500€ από αυτές τις δύο αλλαγές μόνο. 

[Kostas93]

Αν υπάρξει απλά δεύτερη, τότε δεν χρειάζεται WS και δεν χρειάζεται Corsair AX 1200i. 

 

Μια απλή http://www.skroutz.gr/s/6620637/Asus-X99-A-USB-3-1.html είναι υπεραρκετή. Για τροφοδοτικό ένα http://www.skroutz.gr/s/5130233/Super-Flower-Leadex-Platinum-1000W.html και πάλι είναι υπεραρκετό. Γλυτώνει ο φίλος σου 400-500€ από αυτές τις δύο αλλαγές μόνο. 

για το evga (supernova Gκατι, δε θυμαμαι το καλο version ομως) που εχει 10 χρόνια εγγύηση τι λες?

[pnick]

για το evga (supernova Gκατι, δε θυμαμαι το καλο version ομως) που εχει 10 χρόνια εγγύηση τι λες?

Η ίδια εταιρεία τα φτιάχνει. H Super Flower. Bεβαίως, είναι εξαιρετικό τροφοδοτικό. Θα προτιμούσα προσωπικά, μιας και φτιάχνετε high-end workstation με ικανό budget, να βάλω platinum τροφοδοτικό. http://www.skroutz.gr/s/4344534/EVGA-SuperNOVA-1000-P2.html (είναι πιό φτηνό από το G2, άρα δεν θα το σκεφτόμουν). To συγκεκριμένο τροφοδοτικό (1000P2) είναι από τα καλύτερα και πιό αξιόπιστα τροφοδοτικά της αγοράς. Επίσης, τυχαίνει να είναι πιό οικονομικό αυτή την στιγμή και το http://www.skroutz.gr/s/3753235/EVGA-SuperNOVA-1300-G2.html, το οποίο αν μιλάμε για 2 κάρτες, είναι απόλυτο overkill, αλλά είναι σε καλή τιμή για τα W. 

[Kostas93]

Οκ ευχαριστώ, θα του τα μεταφέρω και βλέπουμε τι θα μου πει.