Την αύξηση του κόστους λειτουργίας ανά agentic workflow κατά τουλάχιστον πέντε φορές έως το 2028 προβλέπει νέα ανάλυση της Gartner. Η συγκεκριμένη εξέλιξη σηματοδοτεί μια νέα οικονομική πρόκληση για τις επιχειρήσεις, καθώς η αγορά μεταβαίνει από τα απλά παραγωγικά εργαλεία αυτόνομα συστήματα ικανά να εκτελούν εργασίες πολλαπλών σταδίων. Η Gartner περιγράφει το φαινόμενο ως «Inference Paradox».
Παρότι το κόστος των θεμελιωδών μοντέλων και των tokens μειώνεται σταθερά, η συνολική δαπάνη αυξάνεται ραγδαία. Αυτό συμβαίνει επειδή τα προηγμένα AI workflows καταναλώνουν πολλαπλάσια tokens συγκριτικά με ένα συμβατικό chatbot, το οποίο απλώς ερμηνεύει ένα ερώτημα και απαντά.
Ένας AI agent καλείται να συλλογιστεί, να αξιολογήσει επιλογές και να προσαρμόσει τη συμπεριφορά του. Κάθε τέτοιο στάδιο πολλαπλασιάζει την κατανάλωση υπολογιστικών πόρων, με τον ρυθμό της καινοτομίας να ξεπερνά την καμπύλη μείωσης των τιμών.
Για τη συγκράτηση των δαπανών και την επίτευξη θετικής απόδοσης των επενδύσεων, οι οργανισμοί θα απαιτηθεί να επιλέγουν το κατάλληλο επίπεδο επεξεργασίας ανά εργασία. Τεχνικές όπως το inference tiering, το έξυπνο routing και το orchestration θα επιτρέπουν τη λειτουργία οικονομικά αποδοτικών οικοσυστημάτων πολλαπλών μοντέλων.
Ακολουθήστε μας σε LinkedIn & Facebook και γίνετε μέλος της μεγαλύτερης ελληνικής κοινότητας του κλάδου.