Υπάρχει μια αφήγηση στην τεχνολογία που υποθέτει την κεντρικοποίηση: τα δεδομένα μετακινούνται στο cloud, ο υπολογισμός γίνεται εκεί, τα αποτελέσματα επιστρέφουν. Για τις εταιρείες υποδομής cloud, αυτή η αφήγηση είναι βολική. Για τις εταιρείες που πραγματικά κατασκευάζουν συστήματα AI που πρέπει να λειτουργούν αξιόπιστα, γρήγορα και με ασφάλεια σε πραγματικά περιβάλλοντα, αυτή η αφήγηση γίνεται όλο και πιο περιοριστική.
Ο υπολογισμός άκρου (Edge computing) — η μετατόπιση της υπολογιστικής ικανότητας πιο κοντά στο σημείο όπου δημιουργούνται τα δεδομένα και όπου πρέπει να ληφθούν οι αποφάσεις — δεν είναι κάτι καινούργιο. Αυτό που είναι καινούργιο είναι η επείγουσα ανάγκη του. Ο συνδυασμός των απαιτήσεων AI σε πραγματικό χρόνο, της νομοθεσίας περί απορρήτου, των περιορισμών εύρους ζώνης δικτύου και της αναδυόμενης πολυπλοκότητας των συστημάτων IoT και αυτόνομων συστημάτων καθιστά τον υπολογισμό άκρου όχι μια εξειδικευμένη αρχιτεκτονική επιλογή αλλά μια κεντρική απαίτηση για ολόκληρες κατηγορίες εφαρμογών.
Έχω παρακολουθήσει στενά αυτή τη μετατόπιση μέσω της NexaTech Ventures επειδή αντιπροσωπεύει μία από τις πιο σημαντικές αρχιτεκτονικές μεταβάσεις στην υποδομή τεχνολογίας από τη μετάβαση στο cloud computing.
Πού Αποτυγχάνει η Αρχιτεκτονική Cloud
Το cloud computing χτίστηκε πάνω σε μια υπόθεση που αποδείχθηκε σωστή για τις πρώτες δύο δεκαετίες του διαδικτύου: είναι φθηνότερο να μεταφέρεις δεδομένα σε κεντρικούς υπολογιστικούς πόρους παρά να διανείμεις τον υπολογισμό σε όλο το δίκτυο. Για τις περισσότερες διαδικτυακές εφαρμογές — αναζήτηση, κοινωνικά μέσα, ηλεκτρονικό εμπόριο — αυτό παραμένει αληθές. Αλλά για έναν διευρυνόμενο αριθμό εφαρμογών, η υπόθεση καταρρέει.
Σκεφτείτε τα αυτόνομα οχήματα. Ένα αυτοοδηγούμενο αυτοκίνητο παίρνει αποφάσεις κρίσιμες για την ασφάλεια σε χιλιοστά του δευτερολέπτου με βάση δεδομένα αισθητήρων. Η αποστολή ακατέργαστων δεδομένων αισθητήρων σε μια απομακρυσμένη υπηρεσία cloud, η αναμονή απάντησης και η λήψη της απόφασης πίσω δεν είναι μόνο αναποτελεσματική· είναι θεμελιωδώς ανέφικτη. Η καθυστέρηση είναι απαράδεκτη και η απαίτηση αξιοπιστίας δεν μπορεί να ικανοποιηθεί. Ο υπολογισμός πρέπει να γίνεται στο ίδιο το όχημα, σε πραγματικό χρόνο, χρησιμοποιώντας τοπική επεξεργασία.
Ή σκεφτείτε τις εφαρμογές που υπόκεινται σε κανονισμούς απορρήτου στην υγειονομική περίθαλψη ή τις χρηματοοικονομικές υπηρεσίες. Το GDPR και παρόμοιοι κανονισμοί απαιτούν όλο και περισσότερο τα ευαίσθητα προσωπικά δεδομένα να επεξεργάζονται σε συγκεκριμένες δικαιοδοσίες και υπό συγκεκριμένους ελέγχους ασφαλείας. Η ροή ιατρικών δεδομένων ή στοιχείων χρηματοοικονομικών συναλλαγών σε μια υπηρεσία cloud σε άλλη χώρα, ακόμη και για νόμιμη ανάλυση, δημιουργεί επιπλοκές συμμόρφωσης που καθιστούν την κεντρικοποιημένη επεξεργασία νομικά και λειτουργικά επικίνδυνη.
Ή σκεφτείτε την παραγωγή στο εργοστάσιο. Μια παραγωγική εγκατάσταση που δημιουργεί terabytes δεδομένων αισθητήρων από εξοπλισμό παραγωγής δεν μπορεί ρεαλιστικά να μεταδώσει όλα αυτά σε μια υπηρεσία cloud για ανάλυση. Το κόστος εύρους ζώνης είναι απαγορευτικό, η καθυστέρηση για προσαρμογές διαδικασιών σε πραγματικό χρόνο είναι απαράδεκτη και ο κίνδυνος λειτουργικής ανθεκτικότητας είναι πολύ υψηλός. Ο υπολογισμός πρέπει να γίνεται τοπικά.
Αυτές δεν είναι περιθωριακές περιπτώσεις. Αυτές είναι βασικές κατηγορίες αναδυόμενων εφαρμογών. Και η αρχιτεκτονική cloud computing, εξ σχεδιασμού, είναι ακατάλληλη για όλες αυτές.
Η Απαιτούμενη Τεχνική Μετατόπιση
Το Edge AI απαιτεί διαφορετική τεχνική αρχιτεκτονική από το AI που βασίζεται στο cloud. Τα μοντέλα μηχανικής μάθησης πρέπει να είναι μικρότερα, πιο αποδοτικά και βελτιστοποιημένα για συσκευές με περιορισμένους πόρους. Οι διαδικασίες συμπερασμού πρέπει να είναι ανθεκτικές σε διακοπτόμενη σύνδεση δικτύου. Το μοντέλο ασφαλείας πρέπει να λειτουργεί για κατανεμημένα συστήματα παρά για κεντρικοποιημένα κέντρα δεδομένων. Οι μηχανισμοί ενημέρωσης και διαχείρισης εκδόσεων πρέπει να ωθούν αλλαγές σε χιλιάδες ή εκατομμύρια συσκευές άκρου αποτελεσματικά και με ασφάλεια.
Αυτά είναι δύσκολα προβλήματα και απαιτούν διαφορετικές προσεγγίσεις από την ανάπτυξη cloud AI. Οι εταιρείες που τα λύνουν δεν είναι εταιρείες cloud computing· είναι νέες εταιρείες που κατασκευάζουν υποδομή AI βελτιστοποιημένη για το άκρο.
Αρκετές τεχνικές τάσεις συγκλίνουν για να καταστήσουν δυνατή αυτή τη μετάβαση. Οι τεχνικές συμπίεσης και κβαντοποίησης μοντέλων βελτιώνονται ταχέως, επιτρέποντας σε εξελιγμένα μοντέλα AI να τρέχουν σε συσκευές άκρου με κλασματικούς υπολογιστικούς πόρους. Το εξειδικευμένο υλικό — TPUs, NPUs και άλλοι επιταχυντές AI — γίνεται διαθέσιμο σε συσκευές άκρου, παρέχοντας την απαραίτητη υπολογιστική ικανότητα. Αναδύονται ανοιχτά πρότυπα για την ανάπτυξη στο άκρο, σπάζοντας το κλείδωμα σε ιδιόκτητες πλατφόρμες.
Στη NexaTech Ventures, υποστηρίζουμε εταιρείες σε τρεις κατηγορίες εντός της υποδομής edge AI. Πρώτον, πλατφόρμες βελτιστοποίησης και ανάπτυξης μοντέλων που παίρνουν μεγάλα μοντέλα AI και τα συμπιέζουν για εκτέλεση στο άκρο. Δεύτερον, μηχανές συμπερασμού άκρου βελτιστοποιημένες για χαμηλή καθυστέρηση, κατανεμημένη εκτέλεση. Τρίτον, συστήματα ενορχήστρωσης άκρου που διαχειρίζονται την ανάπτυξη, τις ενημερώσεις και την παρακολούθηση των φόρτων εργασίας AI σε κατανεμημένη υποδομή άκρου.
Πού Βρίσκεται η Ευρώπη
Το πλεονέκτημα υποδομής της Ευρώπης στον υπολογισμό άκρου είναι διακριτικό αλλά πραγματικό. Η ήπειρος έχει επενδύσει σημαντικά σε υποδομή τηλεπικοινωνιών και ανάπτυξη 5G, η οποία παρέχει τη χωρητικότητα δικτύου και τη χαμηλή καθυστέρηση συνδεσιμότητας που είναι απαραίτητη για τον υπολογισμό άκρου. Η ευρωπαϊκή νομοθεσία προστασίας δεδομένων, μακριά από το να είναι μειονέκτημα, τροφοδοτεί τη ζήτηση για λύσεις υπολογισμού άκρου που διατηρούν τα ευαίσθητα δεδομένα τοπικά.
Πιο σημαντικά, οι ευρωπαϊκοί τομείς παραγωγής, αυτοκινητοβιομηχανίας και βιομηχανίας οδηγούν τη γνήσια ζήτηση για edge AI. Οι γερμανικές αυτοκινητοβιομηχανίες χρειάζονται edge AI για αυτόνομα οχήματα. Οι ιταλοί κατασκευαστές χρειάζονται υπολογισμό άκρου για ακριβή παραγωγή. Η ολλανδική γεωργία χρειάζεται edge AI για συστήματα ακριβούς καλλιέργειας. Αυτό δημιουργεί έναν ενάρετο κύκλο όπου η ζήτηση οδηγεί την επένδυση σε υποδομή edge AI, η οποία προσελκύει ταλέντο και κεφάλαιο, που βελτιώνει την ικανότητα της τεχνολογίας, που οδηγεί σε περαιτέρω υιοθέτηση.
Η αμερικανική αφήγηση για τον υπολογισμό άκρου κυριαρχείται επί του παρόντος από εταιρείες cloud που προσπαθούν να επεκτείνουν τις πλατφόρμες τους στο άκρο. Η AWS, η Google Cloud και η Azure προσφέρουν όλες υπηρεσίες άκρου. Αλλά αυτές είναι θεμελιωδώς αρχιτεκτονικές με επίκεντρο το cloud με το άκρο προσαρτημένο. Η μετασχηματιστική αρχιτεκτονική edge AI κατασκευάζεται από εταιρείες που ξεκινούν με την υπόθεση ότι ο υπολογισμός συμβαίνει στο άκρο και το cloud είναι η εξαίρεση, όχι ο κανόνας.
Η Επενδυτική Περίπτωση
Ο υπολογισμός άκρου και το edge AI αντιπροσωπεύουν μια δομική μετατόπιση στον τρόπο που το λογισμικό αναπτύσσεται και εκτελείται. Δεν είναι μια προσωρινή τάση ή μια εξειδικευμένη αγορά. Είναι μια θεμελιώδης αρχιτεκτονική μετάβαση που οδηγείται από πραγματικές τεχνικές απαιτήσεις που το cloud computing δεν μπορεί να ικανοποιήσει.
Η επενδυτική ευκαιρία βρίσκεται σε πολλαπλά επίπεδα. Στο επίπεδο υποδομής, οι εταιρείες που κατασκευάζουν πλατφόρμες AI βελτιστοποιημένες για το άκρο και εργαλεία ανάπτυξης δημιουργούν ανθεκτικό ανταγωνιστικό πλεονέκτημα. Στο επίπεδο εφαρμογής, οι εταιρείες που επανασχεδιάζουν το λογισμικό τους για εκτέλεση στο άκρο — αυτόνομα οχήματα, βιομηχανικά συστήματα, συσκευές υγειονομικής περίθαλψης — θα επιτύχουν πλεονεκτήματα απόδοσης και αξιοπιστίας που θα είναι δύσκολο να εκτοπιστούν.
Στη NexaTech Ventures, αναζητούμε εταιρείες edge AI που κατανοούν τόσο τις τεχνικές απαιτήσεις όσο και τις λειτουργικές προκλήσεις. Οι καλύτερες εταιρείες δεν απλώς βελτιστοποιούν αλγορίθμους· κατασκευάζουν πλήρη συστήματα για ανάπτυξη στο άκρο, συμπεριλαμβανομένης της παρακολούθησης, της ασφάλειας, της διαχείρισης ενημερώσεων και της λειτουργικής υποστήριξης.
Η μετατόπιση από το κεντρικοποιημένο cloud στον κατανεμημένο υπολογισμό άκρου αντιπροσωπεύει την πιο σημαντική μετάβαση υποδομής στην τεχνολογία από τη μετανάστευση στο cloud. Οι εταιρείες που τοποθετούνται νωρίς σε αυτή τη μετάβαση θα κατασκευάσουν ουσιαστικές και αμυνόμενες επιχειρήσεις.
Ο Scott Dylan είναι ο Ιδρυτής της NexaTech Ventures. Γράφει για υποδομή τεχνολογίας, AI και επενδύσεις σε βαθιά τεχνολογία. Διαβάστε περισσότερα στο scottdylan.com.
