pytorch και παλιά έκδοση cuda toolkit (6.5)

[solution1]

Μια βοήθεια λίγο, εάν κάποιος έχει ασχοληθεί με pytorch.

Αυτή τη στιγμή, η τελευταία έκδοση pytorch (1.7.1) υποστηρίζει cuda toolkit 9.2+.

Υπάρχει κάποια παλιά έκδοση της pytorch η οποία να υποστηρίζει version 6.5;

Βρήκα ένα post, στο οποίο αναφέρεται ότι η version 0.3, το υποστηρίζει, αλλά δεν έβγαλα άκρη..

Ευχαριστώ

[vs_skg]

Εξηγησε λιγο τι προσπαθεις να κανεις, εχεις καποια παλια καρτα γραφικων και πρεπει να τρεξεις κατι locally? 

[solution1]

Ακριβώς. Έχω ένα παλιό laptop με ανεξάρτητη κάρτα γραφικών, η οποία δεν είναι συμβατή με τις τελευταίες εκδόσεις του cuda toolkit.

Τελευταία υποστηριζόμενη έκδοση του, είναι η έκδοση 6.5.

Αν είχα desktop, θα έπαιρνα μία gt 710 / 1030 και θα έκανα τη δουλειά μου.

Το project είναι για άσκηση μεταπτυχιακού (εκπαίδευση νευρωνικού δικτύου)

Δεν είναι απαραίτητο να τρέξει τοπικά. Αν υπάρχει κάτι εύκολο στο σετάρισμα, ευχαρίστως να το δοκιμάσω (Τύπου colab, amazon services κλπ)

Επεξ/σία 8 Φεβρουαρίου 2021 από solution1

[pmav99]

Κάντο σε google collab ή σε kaggle. Το collab μου φαίνεται λίγο πιο γυαλισμένο από το kaggle, αλλά δεν ξέρω ποιο σου δίνει περισσότερο χρόνο στο free tier για training. Οποιοδήποτε από τα δύο λογικά σου φτάνει με το παραπάνω

Επεξ/σία 8 Φεβρουαρίου 2021 από pmav99

[pwnedToaster]

Αν πας να το κάνεις με ενα μάπα λάπτοπ θα μισήσεις τη ζωή σου. Δεν υποστηρίζει καν καινούργιο cuda, τι ελπίζεις ότι θα βελτιώσει το gpu acceleration; 

Ο επεξεργαστής επίσης θα σέρνεται

Το Google Colab είναι τίμιο αν θες να τρέξεις Jupyter scripts. Ότι παραπάνω από αυτό και θα σου κάνει τη ζωή δύσκολη. Το Kaggle είναι πιο ψαγμένο και δίνει καλύτερα VMs με πιο γρήγορα GPU και TPU, και το editor του υποστηρίζει script, αν και σε περιορίζει σε ένα μόνο script και αν θες να τρέξεις ένα πιο πολύπλοκο πρόγραμμα ο πόνος θα φανεί. Επίσης, έχει εβδομαδιαίο όριο 40 ωρών για GPU, TPU και θέλει τηλέφωνο για επιβεβαίωση πριν το VM αποκτήσει πρόσβαση στο internet και στα GPU, TPU.

Και οι δύο πλατφόρμες είναι της Google και σχεδόν ίδιες. Το τελευταίο κακό είναι ότι για να σε κάνουν να μην χρησιμοποιήσεις GPU, TPU όταν αλλάξεις σε instance που τα έχει ρίχνουν τους πυρήνες στη μέση (στους 2), οπότε αν το script σου έχει υπολογιστικές απαιτήσεις (CPU) δεν θα κάνεις πολλά.

Αν θες να ρίξεις λεφτά σε Quadro με Google, AWS κτλ είναι πολύ ακριβές, με 1-3Ε την ώρα. Η scaleway είναι η πιο καλή με 1Ε ανά ώρα (χωρίς ΦΠΑ), και μετά πληρώνεις μερικά $ τον μήνα για να κρατήσεις το storage το ίδιο.

Αυτό που δοκίμασα πρόσφατα είναι το vast.ai με 30 λεπτά ανά ώρα για ένα ίσο instance με το 1Ε του scaleway. Είναι consumer RTX gpus χοσταρισμένες από miner. Το κακό εκεί είναι ότι μόλις ρίξεις το instance ουσιαστικά χάνεις και το storage, οπότε κάθε φορά θέλει σετάρισμα το environment και συχνά backups. Επίσης δεν έχει πιστοποιημένη ασφάλεια οπότε για closed source το ξεχνάς. Αλλά με 1/3 το κόστος που θα έδινες σε internet cafe για να παίξεις LOL ανά ώρα αξίζει σίγουρα.