Η Niv-AI, μια startup με έδρα το Τελ Αβίβ, βγήκε από το “stealth”, ανακοινώνοντας seed χρηματοδότηση ύψους 12 εκατομμυρίων δολαρίων.
Καθώς τα κορυφαία εργαστήρια AI λειτουργούν ταυτόχρονα χιλιάδες GPUs για την εκπαίδευση και εκτέλεση προηγμένων μοντέλων, δημιουργούνται ξαφνικές, σε κλίμακα χιλιοστού του δευτερολέπτου, αιχμές στη ζήτηση ενέργειας. Αυτό συμβαίνει καθώς οι επεξεργαστές εναλλάσσονται διαρκώς μεταξύ υπολογιστικών εργασιών και επικοινωνίας με άλλες GPUs.
Αυτές οι αιχμές καθιστούν εξαιρετικά δύσκολο για τα data centers να διαχειριστούν την ενέργεια που αντλούν από το δίκτυο. Για να μην ξεμείνουν από ρεύμα, αναγκάζονται είτε να πληρώνουν για προσωρινή αποθήκευση ενέργειας είτε να περιορίζουν τη χρήση των GPU τους—κάτι που μειώνει δραματικά την απόδοση της επένδυσης στα πανάκριβα αυτά τσιπ.
Η στρατηγική της Niv-AI επικεντρώνεται στην ακριβή μέτρηση και διαχείριση της κατανάλωσης:
Αισθητήρες σε επίπεδο rack: Το πρώτο βήμα είναι η εγκατάσταση αισθητήρων που ανιχνεύουν τη χρήση ενέργειας σε επίπεδο χιλιοστού του δευτερολέπτου πάνω στις GPUs.
Κατανόηση προφίλ: Στόχος είναι να χαρτογραφηθεί το ειδικό ενεργειακό προφίλ διαφόρων εργασιών deep learning, ώστε να αναπτυχθούν τεχνικές μετριασμού που θα ξεκλειδώσουν τη χαμένη χωρητικότητα.
Ανάπτυξη AI Μοντέλου: Οι μηχανικοί σκοπεύουν να εκπαιδεύσουν ένα μοντέλο AI με τα δεδομένα που συλλέγουν, δημιουργώντας έναν “copilot” για τους μηχανικούς των data centers που θα προβλέπει και θα συγχρονίζει τα ενεργειακά φορτία.
Η startup ιδρύθηκε πέρυσι από τον CEO Tomer Timor και τον CTO Edward Kizis. Στον seed γύρο των 12 εκατ. δολαρίων συμμετείχαν κορυφαία funds, όπως τα Glilot Capital, Grove Ventures, Arc VC, Encoded VC, Leap Forward και Aurora Capital Partners.
Μέσα στους επόμενους 6 έως 8 μήνες, η Niv-AI αναμένει να έχει εγκαταστήσει ένα λειτουργικό σύστημα σε επιλεγμένα data centers των ΗΠΑ. Το όραμα των ιδρυτών είναι να δημιουργήσουν το «επίπεδο νοημοσύνης» (intelligence layer) που λείπει σήμερα μεταξύ των data centers και του ηλεκτρικού δικτύου.
