Η άνοδος του ενσωματωμένου ML μετασχηματίζει τον τρόπο με τον οποίο οι συσκευές αλληλεπιδρούν με τον κόσμο, ωθώντας τα όρια του τι είναι δυνατό με περιορισμένους πόρους. Αυτές οι εφαρμογές, από έξυπνα φορητά έως βιομηχανικούς αισθητήρες, απαιτούν μια λεπτή ισορροπία μεταξύ της απόδοσης, της κατανάλωσης ενέργειας και της ιδιωτικής ζωής.
Ο Vladislav Agafonov, ένας εμπειρογνώμονας μηχανικής μάθησης στο Meta Reality Labs UK (πρώην Oculus VR), κατανοεί στενά αυτές τις προκλήσεις.
“Η ενσωματωμένη μηχανική μάθηση είναι τόσο συναρπαστική όσο και προκλητική, διότι εκτελούμε μοντέλα βαθιάς μάθησης σε συσκευές με πολύ περιορισμένη μνήμη και δύναμη επεξεργαστή”, δήλωσε ο Agafonov.
Μία από τις πιο επίμονες προκλήσεις, σύμφωνα με τον Agafonov, βελτιστοποιεί μοντέλα για συσκευές με περιορισμένη υπολογιστική ισχύ και μνήμη.
“Η πιο επίμονη πρόκληση είναι η εξισορρόπηση της ακρίβειας του μοντέλου με περιορισμένη μνήμη on-chip και περιορισμένη ισχύ επεξεργασίας”, δήλωσε ο Agafonov.
Για να αντιμετωπιστεί αυτό, οι τεχνικές όπως η ποσοτικοποίηση και το κλάδεμα είναι κρίσιμες. Η ποσοτικοποίηση μειώνει τον αριθμό των δυαδικών ψηφίων που χρησιμοποιούνται για την αποθήκευση βαρών μοντέλων, συχνά από 32 bits σε 8 ή λιγότερα, σημαντικά κοπή της μνήμης. Το κλάδεμα, από την άλλη πλευρά, αφαιρεί τις περιττές συνδέσεις στο δίκτυο, συρρικνώνοντας το μέγεθος του μοντέλου και επιταχύνοντας το συμπέρασμα.
“Δίνω επίσης προσοχή στη λειτουργία Fusion, πράγμα που σημαίνει συγχώνευση πολλαπλών βημάτων στον υπολογισμό για να αποφευχθεί η αποθήκευση μεγάλων ενδιάμεσων αποτελεσμάτων στη μνήμη”, δήλωσε ο Agafonov. “Ομοίως, η χρήση της άμεσης πρόσβασης μνήμης (DMA) μπορεί να αφήσει τα δεδομένα των αισθητήρων να ρέουν κατευθείαν στον υπολογισμό του κινητήρα χωρίς επιπλέον αντίγραφα, συμβάλλοντας στη μείωση της λανθάνουσας κατάστασης”.
Με σχολαστικά προφίλ κάθε βήματος, κύκλοι μέτρησης, αποτύπωμα μνήμης και κατανάλωση ενέργειας, οι μηχανικοί μπορούν να βελτιστοποιήσουν το σημείο όπου έχει μεγαλύτερη σημασία, τοποθετώντας τα εξελιγμένα μοντέλα σε μερικές εκατοντάδες χιλιομέτες μνήμης.
Επιτάχυνση υλικού και βελτιστοποίηση λογισμικού
Η επιτάχυνση υλικού είναι ένα άλλο κρίσιμο στοιχείο του ενσωματωμένου ML. Εξειδικευμένες μάρκες όπως μονάδες νευρωνικής επεξεργασίας (NPUs) και μονάδες επεξεργασίας τανυστή (TPU) χειρίζονται παράλληλη επεξεργασία, επιταχύνοντας δραστικά το συμπέρασμα του νευρικού δικτύου, ελαχιστοποιώντας τη χρήση ισχύος.
“Η επιτάχυνση υλικού είναι απολύτως καθοριστική για τη λειτουργία εξελιγμένων μοντέλων ML σε ενσωματωμένες συσκευές”, δήλωσε ο Agafonov. “Αλλά καθώς αυτά τα τσιπ εξελίσσονται, η βελτιστοποίηση λογισμικού παραμένει εξίσου σημαντική.”
Τα πλαίσια όπως ο Executorch στοχεύουν στην απλούστευση της διαδικασίας ανάπτυξης με το χειρισμό λεπτομερειών χαμηλού επιπέδου, όπως η χαρτογράφηση φόρτου εργασίας σε διαφορετικούς επιταχυντές και η αποτελεσματική διαχείριση της μνήμης.
“Αντί να ξοδεύετε ώρες προσπαθώντας να ανεβάσετε το χέρι κάθε μέρος του κώδικα σας για κάθε νέο τσιπ, μπορείτε να βασιστείτε στο πλαίσιο για να κάνετε τη βαριά ανύψωση”, δήλωσε ο Agafonov.
Αυτό επιτρέπει στους προγραμματιστές να επικεντρωθούν στα ίδια τα μοντέλα μηχανικής μάθησης και όχι στις περιπλοκές της βελτιστοποίησης υλικού.
Ιδιωτικό προσωπικό και ομοσπονδιακή μάθηση
Η ιδιωτική ζωή είναι μια αυξανόμενη ανησυχία και το ενσωματωμένο ML προσφέρει το πλεονέκτημα της τοπικής επεξεργασίας δεδομένων.
“Ένας από τους μεγάλους λόγους που ενσωματώνεται το ML είναι τόσο πολύτιμο είναι ότι τα δεδομένα μπορούν να επεξεργαστούν ακριβώς στη συσκευή, γεγονός που μειώνει ή ακόμη και εξαλείφει την ανάγκη αποστολής ευαίσθητων πληροφοριών σε ένα δίκτυο”, δήλωσε ο Agafonov.
Η ομοσπονδιακή μάθηση παίρνει περαιτέρω αυτή την ιδέα, επιτρέποντας στις συσκευές να εκπαιδεύουν μοντέλα τοπικά και να μοιράζονται μόνο συγκεντρωμένες ενημερώσεις με κεντρικό διακομιστή.
“Αντί να συγκεντρώνουν τα δεδομένα όλων σε μια κεντρική βάση δεδομένων, κάθε συσκευή εκπαιδεύει το μοντέλο ανεξάρτητα χρησιμοποιώντας τις δικές της τοπικές πληροφορίες”, δήλωσε ο Agafonov. “Στη συνέχεια, στέλνει μόνο μια« ενημέρωση »ή μια περίληψη του τι έμαθε – όχι τα ίδια τα ακατέργαστα δεδομένα».
Αυτή η προσέγγιση ενισχύει την προστασία της ιδιωτικής ζωής, εμποδίζοντας τη μετάδοση δεδομένων ακατέργαστων χρηστών, ιδιαίτερα σημαντικά σε ευαίσθητες εφαρμογές όπως η υγεία και τα προσωπικά φορητά.
Η άνοδος του Tinyml
Το Tinyml, η εφαρμογή της μηχανικής μάθησης σε συσκευές εξαιρετικά περιορισμένου πόρων, όπως οι μικροελεγκτές, κερδίζει δυναμική.
“Σκεφτείτε ένα μικρό τσιπ με μόνο μερικές εκατοντάδες kilobytes μνήμης που πρέπει ακόμα να χειριστεί εργασίες όπως ταξινόμηση ή ανίχνευση χωρίς να αποστραγγίζει μια μπαταρία στη διαδικασία”, δήλωσε ο Agafonov.
Οι εφαρμογές όπως η περιβαλλοντική παρακολούθηση και η βιομηχανική πρόβλεψη συντήρησης είναι πρωταρχικά παραδείγματα.
“Οι μικροί αισθητήρες με μπαταρία μπορούν να ανιχνεύσουν συγκεκριμένους ήχους ζώων ή αλλαγές στην ποιότητα του αέρα και στη συνέχεια να μεταδίδουν σημαντικές ειδοποιήσεις χωρίς να σπαταλούν ισχύ στη σταθερή ροή δεδομένων”, δήλωσε ο Agafonov. “Στη βιομηχανία, οι μικροελεγκτές μπορούν να ανιχνεύσουν πρώιμα σημάδια αποτυχίας των μηχανημάτων παρακολούθησης των κραδασμών ή των αιχμών θερμοκρασίας, βοηθώντας στην πρόληψη δαπανηρών αναλύσεων”.
Η ανάπτυξη του TINYML οδηγείται από τις εξελίξεις σε υλικό και λογισμικό. Οι μικροελεγκτές περιλαμβάνουν τώρα εξειδικευμένα μπλοκ επεξεργασίας και τα ελαφριά πλαίσια ML απλοποιούν τη βελτιστοποίηση και την ανάπτυξη μοντέλου.
Εντυπωσιακές εμπειρίες και μελλοντικές τάσεις
Στα εργαστήρια Meta Reality, το ενσωματωμένο ML χρησιμοποιείται για την ενίσχυση των εντυπωσιακών εμπειριών.
“Μας αξιοποιούμε το ενσωματωμένο ML για να κάνουμε τις εντυπωσιακές εμπειρίες πιο φυσικές και ανταποκρινόμενες – σκεφτείτε γρήγορη αναγνώριση χειρονομίας σε ένα βραχιολάκι που σας επιτρέπει να ελέγχετε τις διεπαφές AR ή VR χωρίς ογκώδεις ελεγκτές”, δήλωσε ο Agafonov.
Ωστόσο, παραμένουν τεχνικά ζητήματα. “Ένα σημαντικό εμπόδιο είναι η εξισορρόπηση της κατανάλωσης ενέργειας με την ανάγκη για σχεδόν σε στάδιο συμπερασμάτων”, δήλωσε ο Agafonov. “Ένας άλλος είναι να εξασφαλιστεί ότι τα μοντέλα παραμένουν ακριβή υπό οποιεσδήποτε συνθήκες.”
Κοιτάζοντας μπροστά, ο Agafonov βλέπει αρκετές βασικές τάσεις που διαμορφώνουν το μέλλον του ενσωματωμένου ML. Η αυξανόμενη υιοθέτηση των μικροελεγκτών με δυνατότητα ML και ML, η επέκταση της επιτάχυνσης του υλικού με εξειδικευμένες μάρκες ML και η αυξανόμενη χρήση της ομοσπονδιακής μάθησης για την επεξεργασία δεδομένων διατήρησης της ιδιωτικής ζωής είναι έτοιμοι να οδηγήσουν την καινοτομία στον τομέα αυτό.
Καθώς το ενσωματωμένο ML συνεχίζει να εξελίσσεται, η ικανότητα εξισορρόπησης της εξισορρόπησης της εξισορρόπησης, της ιδιωτικής ζωής και της απόδοσης θα είναι κρίσιμη για το ξεκλείδωμα των δυνατοτήτων του.
VIA: DataConomy.com
