Το νέο μικρού μεγέθους μοντέλο Mu της Microsoft ενισχύει τις λειτουργίες των Windows 11

[Crash24]

Η Microsoft αποκάλυψε πρόσφατα το νέο μοντέλο γλώσσας Mu, ένα μικρού μεγέθους γλωσσικό μοντέλο σχεδιασμένο για αποτελεσματική λειτουργία σε συσκευές περιορισμένης ισχύος, το οποίο ήδη τροφοδοτεί ορισμένες λειτουργίες των Windows 11.

Ενώ τα μεγάλα γλωσσικά μοντέλα (LLMs) κυριαρχούν στις συζητήσεις για την τεχνητή νοημοσύνη, τα μικρότερα γλωσσικά μοντέλα έχουν επίσης σημαντικό ρόλο, ιδιαίτερα σε συσκευές με περιορισμένη ισχύ όπως τα κινητά τηλέφωνα και οι φορητοί υπολογιστές.

Η Microsoft χρησιμοποιεί ήδη ένα μικρό γλωσσικό μοντέλο με την ονομασία Phi Silica στα Windows 11, επιτρέποντας στις λειτουργίες Copilot+ PC να λειτουργούν χωρίς καθυστερήσεις σε επεξεργαστές όπως o Snapdragon X Plus. Δημοφιλή chatbots τεχνητής νοημοσύνης όπως το ChatGPT, το Copilot και το Gemini χρησιμοποιούν πιο προηγμένα LLMs που απαιτούν ισχυρές GPU, αλλά μικρότερα μοντέλα όπως το Phi Silica και το Mu μπορούν να επιτύχουν παρόμοια αποτελέσματα με ένα κλάσμα της υπολογιστικής ισχύος, με αντάλλαγμα τη μικρότερη ευελιξία.

Το Mu είναι ένα "μικρού μεγέθους, εξειδικευμένο για συγκεκριμένες εργασίες γλωσσικό μοντέλο" σχεδιασμένο να λειτουργεί αποδοτικά σε μια Μονάδα Επεξεργασίας Νευρωνικών Δικτύων (NPU), όπως αυτές που βρίσκονται στους πρόσφατους υπολογιστές Copilot+ PC, αναφέρει η Microsoft. Η εταιρεία χρησιμοποίησε διάφορες τεχνικές βελτιστοποίησης για να επιτύχει υψηλή απόδοση με περιορισμένη ισχύ, συμπεριλαμβανομένης μιας αρχιτεκτονικής transformer encoder–decoder, κοινής χρήσης βαρών σε ορισμένα στοιχεία για τη μείωση του συνολικού αριθμού παραμέτρων και χρήσης μόνο επιταχυνόμενων λειτουργιών από το hardware.

Σύμφωνα με τη Microsoft, το Mu μπορεί να "τρέξει" με ταχύτητα άνω των 200 tokens ανά δευτερόλεπτο σε ένα Surface Laptop 7, κάτι που αποτελεί ταχύτερη απόκριση από αυτή που θα λαμβάνατε συνήθως από τις δωρεάν εκδόσεις του ChatGPT ή του Gemini σε έναν browser.

Το μοντέλο Mu χρησιμοποιείται πρώτα για τη γραμμή αναζήτησης στην εφαρμογή ρυθμίσεων των Windows 11, η οποία κυκλοφόρησε πρόσφατα στους Windows Insiders με υπολογιστές που ενσωματώνουν επεξεργαστή Snapdragon. Μπορεί να κατανοεί εντολές όπως "πώς να ελέγχω τον υπολογιστή μου με τη φωνή μου" ή "ο δείκτης του ποντικιού μου είναι πολύ μικρός" και να εντοπίζει τη σωστή ρύθμιση. Για την ώρα δεν είναι σαφές αν το Mu θα χρησιμοποιηθεί για άλλες λειτουργίες του Copilot+ PC.

Όπως αναφέρεται σε blog post της Microsoft, "Η διαχείριση του εκτεταμένου φάσματος ρυθμίσεων των Windows έθεσε τις δικές της προκλήσεις, ιδιαίτερα με αλληλοεπικαλυπτόμενες λειτουργίες. Για παράδειγμα, ακόμη και ένα απλό ερώτημα όπως 'Αύξηση φωτεινότητας' θα μπορούσε να αναφέρεται σε πολλαπλές αλλαγές ρυθμίσεων – αν ένας χρήστης έχει διπλές οθόνες, αυτό σημαίνει αύξηση της φωτεινότητας στην κύρια οθόνη ή σε μια δευτερεύουσα οθόνη; Για την αντιμετώπιση αυτού, βελτιώσαμε τα δεδομένα εκπαίδευσής μας ώστε να δίνουν προτεραιότητα στις πιο δημοφιλείς ρυθμίσεις καθώς συνεχίζουμε να βελτιώνουμε την εμπειρία για πιο περίπλοκες εργασίες."

Τα "ελαφριά" γλωσσικά μοντέλα που εκτελούνται τοπικά αποτελούν μερικές από τις καλύτερες χρήσεις για την παραγωγική τεχνητή νοημοσύνη, καθώς η ταχύτητα απόκρισης και το απόρρητο των δεδομένων είναι πολύ ευκολότερο να διασφαλιστούν όταν δεν εμπλέκονται διακομιστές στο cloud. Αυτό βέβαια δεν εμπόδισε το Recall από το να φτάσει κοντά στο να αποτελέσει μια καταστροφή σε θέματα ασφαλείας.

Διαβάστε ολόκληρο το άρθρο

[cpc464]

Ναι όλο μέσα στο ινοβέσιο η MS αλλά ποιον θα εξυπηρετεί η AI; εμένα η την MS;.

[alexpap]

Η Microsoft έχει βαλθεί να μας κάνει ηλίθιους.

Ποιο χαζοί από αυτό που είμαστε δεν γίνεται έχουμε πιάσει πάτο.

H Microsoft έτσι όπως το πάει με τα γλωσσικά μοντέλα θέλει να φτιάξει την καινούρια γενιά ηλιθίων.

Σαν τα πουλάκια που τα ταΐζει η μάνα τους στο στόμα μέχρι να μεγαλώσουν.

Θέλουμε κάτι που να αυξάνει την παραγωγικότητα και τη δημιουργικότητά μας όχι να λέμε στα windows “φτιάξε μου τον κέρσορα του ποντικιού”, “μεγέθυνε μου την εικόνα”, “κάνε επανεκκίνηση” κλπ.

Σημείωση:

Θέλει να μας κάνει τόσο χαζούς που  θα πιστεύουμε ότι άμα λέμε βρέξε θα βρέχει ή άμα λέμε φύσα θα φυσάει.

Επεξ/σία Πέμπτη στις 02:05 μμ από alexpap

[zazoum]

11 minutes ago, alexpap said:

Η Microsoft έχει βαλθεί να μας κάνει ηλίθιους.

Ποιο χαζοί από αυτό που είμαστε δεν γίνεται έχουμε πιάσει πάτο.

H Microsoft έτσι όπως το πάει με τα γλωσσικά μοντέλα θέλει να φτιάξει την καινούρια γενιά ηλιθίων.

Σαν τα πουλάκια που τα ταΐζει η μάνα τους στο στόμα μέχρι να μεγαλώσουν.

Θέλουμε κάτι που να αυξάνει την παραγωγικότητα και τη δημιουργικότητά μας όχι να λέμε στα windows “φτιάξε μου τον κέρσορα του ποντικιού”, “μεγέθυνε μου την εικόνα”, “κάνε επανεκκίνηση” κλπ.

Σημείωση:

Θέλει να μας κάνει τόσο χαζούς που  θα πιστεύουμε ότι άμα λέμε βρέξε θα βρέχει ή άμα λέμε φύσα θα φυσάει.

Σε εμένα δεν της περνάει της Microsoft. Ειμαι ήδη ηλίθιος δεν μπορεί να με αγγίξει 😛

[MikeKata]

Quote

To improve Windows’ ease of use, we focused on addressing the challenge of changing hundreds of system settings. Our goal was to create an AI-powered agent within Settings that understands natural language and changes relevant undoable settings seamlessly. 

Το πανηγύρι θα γίνει όταν ο "μέσος" χρήστης θα ζητήσει κάτι, δε θα είναι καλό το prompt ή/και το μοντέλο δε θα το καταλάβει σωστά και θα του αλλάξει διαφορετικά settings από αυτά που ήθελε. Άντε μετά, ο "μέσος" χρήστης να βρει τις ρυθμίσεις μία μία για να κάνει roll back.

Επεξ/σία Πέμπτη στις 02:33 μμ από MikeKata

[lefstef]

το οποίο ήδη τροφοδοτεί ορισμένες λειτουργίες των Windows 11.

ρε MS πότε θα καταλάβεις ότι δεν θέλουμε καπόλου λειτουργίες στο background; 

[somt]

εδω κλαιγόμαστε για τη microsoft;

[cpc464]

Με βλέπω με Windows 10 IoT Enterprise LTSC μέχρι το 32.

[Athoz]

Πέρα του ότι η ΜΣ προσπαθεί να μας ταΐσει ΑΙ σε όλα της τα προϊόντα αλά φουά γκρά και διώχνει κόσμο, της αξίζει ένα εύγε για τα μικρά της υπερ-αποδοτικά μοντέλα όπως το Mu αλλά περισσότερο για το Bitnet.

Το όνομα Mu είναι από το γράμμα "μ" (micro) όπως χρησιμοποιείται στην επιστημονική διάλεκτο.

[ethereum]

μου αρέσουν αυτές οι μικρές επεμβάσεις της  Microsoft , κάνει τα Windows να έχουν ενδιαφέρον

Επεξ/σία Πέμπτη στις 06:02 μμ από ethereum

[freegr]

Δεν έχει χρησιμότητα στα πανάκριβα surface τα οποία δυστυχώς έχουν και πρόβλημα