Local τεχνητή νοημοσύνη;

[octa]

Καλησπέρα,

 

Πως μπορώ να κατεβάσω κάποιο AI πρόγραμμα με δυνατότητα να τρέχει και offline ?

 

Ευχαριστώ 

[geomagas]

Αν εννοείς LLM, χρειάζεσαι τεράστια υπολογιστική ισχύ για να το τρέξεις.

Επίσης, για να το εκπαιδεύσεις χωρίς την πληροφορία που θα μπορούσε να βρει online, θα πρέπει να κάθεσαι να του διαβάζεις εγκυκλοπαίδειες για ξερωγώ κάποιους αιώνες...

[octa]

Και όμως, το είχα κατεβάσει στο pc μου. Σε μια ελεύθερη πλατφόρμα με gui( δεν μπορώ να θυμηθώ ) αλλά μου έκαψε την μητρική.

Ελεύθερα είναι το ollama αλλά και το deepseek και άλλα που μπορείς να τα καταβάσεις.Και να τα χρησιμοποιείς offline.

Μέχρι και σε κινητό μπαίνουν με pkg

 

 

[gsarig]

Κάτι από τα παρακάτω δεν σου κάνει; 

• https://ollama.com/
• https://lmstudio.ai/

To LM Studio είναι πιο φιλικό αν θες να κάνεις τα πάντα με GUI. 

Εκτός αν δεν κατάλαβα καλά το ερώτημα και ψάχνεις κάτι διαφορετικό. 

 

[octa]

Ευχαριστώ,

Το https://lmstudio.ai/ έψαχνα !!!

[octa]

καλημέρα !

Να ρωτήσω κάτι. Το lmstudio.ai είναι σχεδών 1 GB . Εμπεριέχει τα μοντέλα 

Run Llama 3.2 Mistral Phi Gemma DeepSeek Qwen 2.5 on your computer

Όπως τα γράφει στη σελίδα τους ή πρέπει να τα κατεβάσω ξεχωριστά.

Ευχαριστώ

[elvizakos]

1 GB και να εμπεριέχει τα μοντέλα λίγο δύσκολο. Το llama3.2:3b μόνο είναι 2GB. Θα πρέπει να τα κατεβάσεις λογικά. Το lmstudio.ai δεν το έχω δουλέψει αλλά με το ollama τρέχεις "ollama pull <μοντέλο>" ή "ollama run <μοντέλο>". Να προσέχεις όμως τις απαιτήσεις του κάθε μοντέλου και ρίχνε και καμιά ματιά στις θερμοκρασίες του συστήματός σου για να μην στο ξανακάψει.