Μια αναφορά από το Cast AI αποκαλύπτει ότι η μέση χρήση GPU στον κλάδο της τεχνολογίας είναι μόνο 5%, υποδηλώνοντας εκτεταμένη αναποτελεσματικότητα στη χρήση της υποδομής. Παρά τις σημαντικές επενδύσεις σε πόρους τεχνητής νοημοσύνης, οι εταιρείες αγοράζουν περίπου είκοσι φορές περισσότερη χωρητικότητα GPU από την απαραίτητη.
Τα ευρήματα υποδεικνύουν ότι η υπερπαροχή επιδεινώνεται αντί να βελτιώνεται, με τη χρήση της CPU να μειώνεται από 10% σε 8% και τη χρήση της μνήμης από 23% σε 20% τον περασμένο χρόνο. Οι οργανισμοί διατηρούν σχεδόν διπλάσιο πόρους CPU και τετραπλάσια μνήμη από αυτήν που απαιτούν πραγματικά οι φόρτοι εργασίας τους.
Σύμφωνα με το Cast AI, η υπερπαροχή CPU έχει αυξηθεί από 40% σε 69%, ενώ η υπερπαροχή μνήμης ανέρχεται στο 79%. Αυτό δείχνει ότι πολλές εταιρείες πληρώνουν για υποδομές που οι εφαρμογές τους δεν χρησιμοποιούν αποτελεσματικά, επιδεινώνοντας έτσι το κόστος.
Η αναφορά υπογραμμίζει ότι το κόστος της αδρανούς GPU υπερβαίνει σημαντικά το κόστος των CPU σε αδράνεια, κοστίζοντας δολάρια ανά ώρα σε σύγκριση με απλά σεντ για τις CPU. Σε μια αξιοσημείωτη αλλαγή, οι τιμές της GPU αυξήθηκαν κατά 15% τον Ιανουάριο του 2026 για πρώτη φορά από την κυκλοφορία του EC2 το 2006, λόγω των διακυμάνσεων της προσφοράς και της ζήτησης.
«Σε χρήση 5%, τα μαθηματικά δεν λειτουργούν», δήλωσε ο Laurent Gil, συνιδρυτής και Πρόεδρος της Cast AI. Ο Gil τόνισε ότι η τάση της υπερβολικής παροχής πηγάζει από την προτίμηση για την αντιληπτή ασφάλεια έναντι της αποδοτικότητας των πόρων.
Ενώ ορισμένοι οργανισμοί έχουν επιτύχει υψηλότερα ποσοστά χρήσης GPU – ένας ανέφερε χρήση 49% σε H200 και 30% σε H100 – οι περισσότεροι δεν αξιοποιούν υπάρχουσες λύσεις όπως η αυτοματοποιημένη εκχώρηση δικαιωμάτων, η κοινή χρήση GPU και η διαχείριση Spot, με αποτέλεσμα τη συνεχιζόμενη υπερπαροχή.
Τα δεδομένα του Cast AI δείχνουν ότι πολλές εταιρείες παραμένουν απρόθυμες να αλλάξουν μακροχρόνιες επιχειρησιακές πρακτικές, ακόμη και με το κόστος υψηλότερων εξόδων. Μια στροφή προς την αντιμετώπιση της αποδοτικότητας των πόρων ως συνεχούς αυτοματοποιημένης διαδικασίας είναι απαραίτητη για τον μετριασμό αυτών των αναποτελεσματικών.
VIA: dataconomy.com
