Οι οργανισμοί ξοδεύουν δισεκατομμύρια κάθε χρόνο, προκειμένου να διαμορφώσουν τα δεδομένα τους και να παραμετροποιήσουν τους αλγόριθμους που χρησιμοποιούν, ώστε να δίνουν τα καλύτερα δυνατά αποτελέσματα. Αν αποφασίσουν να αλλάξουν προμηθευτή, κανείς δεν εξασφαλίζει ότι τα δεδομένα δεν θα χρειαστούν εκ νέου διαμόρφωση και κυρίως ότι οι νέοι αλγόριθμοι θα τα αντιλαμβάνονται με τον ίδιο τρόπο.

Η ανάλυση δεδομένων βασίζεται σε αλγόριθμους κατασκευασμένους σε «εργαστήρια» των οποίων ελάχιστοι έχουν τα κλειδιά. Ακόμα όμως και αυτοί οι λίγοι έχουν αρχίσει να παραδέχονται ότι «τα παιδιά» των αλγόριθμων πρώτης γενιάς, είναι σαν σκοτεινά κουτιά για τον ανθρώπινο εγκέφαλο και η λειτουργία τους γίνεται αντιληπτή μόνο από τα αποτελέσματά τους, δηλαδή εκ των υστέρων.

Όσοι έχουν ασχοληθεί με το αρχείο registry των Windows, νιώθουν την αδυναμία ελέγχου απέναντι σε εκατοντάδες γραμμές εντολών, όπου η αλλαγή μιας παραμέτρου μπορεί να σημαίνει ακόμα και τη διακοπή της ομαλής λειτουργίας του υπολογιστή. Ανάλογη αδυναμία ελέγχου νιώθουν και όσοι συγκρίνουν την επέμβαση στα μηχανικά, ηλεκτρικά και ηλεκτρονικά μέρη του αυτοκινήτου καθημερινής χρήσης σε σχέση με την επέμβαση στα μηχανικά και ηλεκτρικά μέρη του αυτοκινήτου που μπορούν με ειδική άδεια να κυκλοφορήσουν μόνο τα Σαββατοκύριακα. Τα παραδείγματα μπορούν να είναι πολλά και ο κοινός παρανομαστής σε όλα είναι «η ευκολία χρήσης ως αντιστάθμισμα στην παραίτηση από τη γνώση λειτουργίας».

Το γεγονός είναι ότι σε μεγάλο ποσοστό, ο κίνδυνος που συνεπάγεται της παραίτησης είναι μικρός. Για παράδειγμα, δύσκολα το έξυπνο πλυντήριο ρούχων ή ένας έξυπνος λαμπτήρας θα μπορούσαν να μας βλάψουν. Ωστόσο, υπάρχουν και «έξυπνα» πράγματα που αν δεν αποδειχτούν τόσο έξυπνα όσο ισχυρίζονται θα μπορούσαν να μας βλάψουν ή ακόμα και να μας στερήσουν τη ζωή. Ήδη, τα περιστατικά με τα δύο αεροπλάνα της Boeing και τα δυστυχήματα με τα αυτοκίνητα της Tesla, έχουν στοιχίσει τη ζωή μερικών εκατοντάδων ανθρώπων σε διάστημα λιγότερο των δύο ετών.
Ίσως, το ερώτημα που γεννιέται είναι αν τα παραπάνω έχουν κάποια σχέση με τη χρήση αλγόριθμων ανάλυσης δεδομένων που οι επιχειρήσεις χρησιμοποιούν ήδη εδώ και αρκετά χρόνια στις λειτουργίες τους. Θεωρούμε ότι έχουν και στη συνέχεια θα προσπαθήσουμε να εξηγήσουμε το γιατί.

Οι γάμοι της τεχνολογίας
Θα γυρίσουμε στο 2008, όταν η SAP έστειλε μια επιστολή στους πελάτες της, ενημερώνοντας ότι η τιμή του συμβολαίου συντήρησης Standard Support, θα αυξάνονταν την ερχόμενη χρονιά από το 17% στο 22%. Το νέο υποχρεωτικό βασικό πακέτο ονομάστηκε Enterprise Support και είχε περισσότερες παροχές, οι οποίες όπως φάνηκε από τις αντιδράσεις των πελατών δεν ήταν απαραίτητες για όλους. Θα λέγαμε ότι η SAP μάλλον ζήλεψε τη στρατηγική της Oracle, η οποία είχε ορίσει το ποσοστό στο 22% αρκετά χρόνια πριν.

Ανάλογες δεσμευτικές πολιτικές που σχετίζονται με τα συμβόλαια συντήρησης τηρούν όλοι οι πάροχοι τεχνολογίας, βασιζόμενοι κυρίως στο γεγονός ότι οι πελάτες τους έχουν περιορισμένους βαθμούς ελευθερίας, αν θέλουν να αλλάξουν προμηθευτή. Όπως μας λέει, ο Θάνος Αγγελόπουλος, διευθυντής διαχείρισης κινδύνων και αναλογιστικής της Υδρόγειος Ασφαλιστική, «η εταιρεία είναι δεμένη με τη SAS σε όλο το ταξίδι του ψηφιακού της μετασχηματισμού και είναι ευχαριστημένη από τις υπηρεσίες της. Ωστόσο, ενώ μπορούμε να αλλάξουμε cloud provider αρκετά εύκολα, δύσκολα θα μπορούσαμε να αλλάξουμε τη SAS ως προμηθευτή». Αυτή είναι η πραγματικότητα για ένα πολύ μεγάλο ποσοστό εταιρειών, αλλά ακόμα και για κυβερνήσεις, όπως η Ελληνική, οι οποίες έχουν εξαρτήσει σχεδόν το σύνολο των εφαρμογών πληροφορικής από λογισμικά και υποδομές που είναι έτσι διαμορφωμένα ώστε να μην επιτρέπουν στους χρήστες να γνωρίζουν ούτε πώς λειτουργούν, αλλά και ούτε να τα αντικαταστήσουν με άλλα πιο συμφέροντα, εάν αυτό χρειαστεί.

Ακριβώς το ίδιο συμβαίνει τώρα και με τους αλγόριθμους ανάλυσης, οι οποίοι ενσωματώνονται σε εφαρμογές που διατίθενται εμπορικά.
Η διαφορά είναι ότι οι βιβλιοθήκες εφαρμογών, όπως των Microsoft Windows, Oracle database και άλλων παρόμοιων, μοιάζουν με ανοιχτό βιβλίο μπροστά στις γραμμές κώδικα ενός αλγόριθμου, τις οποίες ελάχιστοι εξειδικευμένοι επιστήμονες μπορούν να κατανοήσουν και μάλιστα κυρίως από τα αποτελέσματα της λειτουργίας τους. Δηλαδή, ο αλγόριθμος ενός αυτόνομου οχήματος που θα ξεχωρίσει τον γλάρο από τον άνθρωπο λειτουργεί καλά και ας μη ξέρουμε πως το έκανε, ενώ αυτός που σκότωσε τον άνθρωπο γιατί τον πέρασε για γλάρο δε λειτουργεί καλά και… ζωή σε λόγου μας.

Σε ένα τόσο εξειδικευμένο αντικείμενο, είναι σαφές ότι το δέσιμο μιας εταιρείας με τους προμηθευτές της είναι πολλαπλάσιο.
Οι οργανισμοί ξοδεύουν δισεκατομμύρια κάθε χρόνο, προκειμένου να διαμορφώσουν τα δεδομένα τους και να παραμετροποιήσουν τους αλγόριθμους που χρησιμοποιούν, ώστε να δίνουν τα καλύτερα δυνατά αποτελέσματα. Αν αποφασίσουν να αλλάξουν προμηθευτή, κανείς δεν εξασφαλίζει ότι τα δεδομένα δεν θα χρειαστούν εκ νέου διαμόρφωση και κυρίως ότι οι νέοι αλγόριθμοι θα τα αντιλαμβάνονται με τον ίδιο τρόπο.
Ίσως αυτός είναι και από τους βασικούς λόγους που η επιλογή μιας εταιρείας να αλλάξει προμηθευτή τεχνολογίας πληροφορικής γίνεται συχνά πρωτοσέλιδο στα σχετικά μέσα, καθώς πρόκειται για γεγονός που όσο περνά ο καιρός συμβαίνει μια στις τόσες.

Το δέσιμο σε ένα γάμο δεν είναι απαραίτητα πηγή προβλημάτων
Εκατομμύρια γάμοι που έχουν διαρκέσει πολλές δεκαετίες αποδεικνύουν την παραπάνω άποψη.
Επομένως, με την προϋπόθεση αμοιβαίων παραχωρήσεων, ο γάμος ενός οργανισμού με τον πάροχο τεχνολογίας θα μπορούσε να είναι αμοιβαία ωφέλιμος και ευχάριστος.
Ωστόσο, όταν μιλάμε για αλγόριθμους τεχνητής νοημοσύνης υπεισέρχεται ένας ακόμα παράγοντας που θα μπορούσαμε να πούμε ότι είναι ο άγνωστος X στην εξίσωση της σχέσης. Ο παράγοντας αυτός είναι η συμπεριφορά του αλγόριθμου.

Ας φανταστούμε μια εφαρμογή ERP, η οποία αντιστοιχεί ένα λάθος αριθμό σε λάθος πεδίο. Εκεί για παράδειγμα που πρέπει να βάλει το ποσοστό ΦΠΑ, βάζει την έκπτωση του πελάτη. Κάποιος μέσα από τον οργανισμό εντοπίζει το πρόβλημα, ενημερώνει την κατασκευάστρια εταιρεία, η οποία επεμβαίνει στον κλειστό κώδικα, κάνει την αλλαγή και το πρόβλημα διορθώνεται.
Ας φανταστούμε τώρα έναν αλγόριθμο, ο οποίος έχει αναλάβει να εκτελεί χρηματιστηριακές συναλλαγές και λαμβάνει μια απόφαση, η οποία κοστίζει στην εταιρεία και τους πελάτες της μερικά δισεκατομμύρια.

Κάτι τέτοιο συνέβη πριν από δέκα περίπου χρόνια, οι ειδικοί ακόμα προσπαθούν να κατανοήσουν πως λειτούργησε ο αλγόριθμος και επειδή δεν το έχουν καταλάβει, βρήκαν τη λύση να του βάλουν ένα περιορισμό, ο οποίος θα αποτρέψει στο μέλλον παρόμοιες καταστροφικές αποφάσεις. Κάτι ανάλογο συνέβη και με τα αεροπλάνα 737 MAX της Boeing, τα οποία θα ξαναβρεθούν σύντομα στον αέρα, μετά από διορθώσεις που έγιναν στους αλγόριθμους πλοήγησης, αφού προηγουμένως έπεσαν δύο από αυτά σκοτώνοντας 346 ανθρώπους.

Ενώ λοιπόν και τα ERP και οι αλγόριθμοι είναι «σκοτεινά κουτιά» για τους πελάτες, η διαφορά βρίσκεται στο γεγονός ότι οι αλγόριθμοι είναι «σκοτεινά» κουτιά και για τους κατασκευαστές τους, οι οποίοι συχνά τους έχουν αγοράσει από τρίτους ή τους έχουν βρει δωρεάν από κάποιο ακαδημαϊκό ερευνητικό έργο και τους τροποποιούν προκειμένου να τους μετατρέψουν σε εμπορικά προϊόντα.

Ζούμε την άνοιξη της τεχνητής νοημοσύνης
Σύμφωνα με στοιχεία που δημοσίευσε η Ακαδημία της Microsoft (γράφημα 1), το 2020 είχαμε μια εκτίναξη στις δημοσιεύσεις ερευνητών με θέμα την τεχνητή νοημοσύνη, η οποία πρακτικά ενίσχυσε την επίσης σημαντική ανάπτυξη το 2019. Στο γράφημα 2, βλέπουμε την ανοδική πορεία της Κίνας, οι ερευνητές της οποίας από το 2017 και έπειτα βλέπουν τις δημοσιεύσεις τους να γίνονται διαρκώς περισσότερο δημοφιλείς.

Ωστόσο, ο αδιαμφισβήτητος δείκτης ανάπτυξης είναι οι επιχειρηματικές επενδύσεις, δεδομένου ότι χωρίς αυτές, η ακαδημαϊκή έρευνα δεν θα είχε πρακτικά οφέλη. Βλέπουμε λοιπόν στο γράφημα 3 ότι οι συνολικές επενδύσεις το 2020, ξεπέρασαν τα 67 δισεκατομμύρια δολάρια και η μερίδα του λέοντος προήλθε από τον ιδιωτικό τομέα, είναι όμως αξιοσημείωτο και το ποσοστό των επενδύσεων από κυβερνητικούς οργανισμούς.
Η πανδημία έπαιξε σημαντικό ρόλο στην αύξηση των επενδύσεων σε τεχνητή νοημοσύνη και αυτό φαίνεται από το γράφημα 4, όπου βλέπουμε εκτίναξη των επενδύσεων στον τομέα της υγείας και ιδιαίτερα της φαρμακευτικής.

Θα μπορούσαμε να ισχυριστούμε ότι η περίοδος που διανύουμε είναι για την τεχνητή νοημοσύνη ότι ήταν και η περίοδος του τέλους του 19ου και των αρχών του 20ου για την επιστήμη.
Την περίοδο εκείνη, κορυφαίοι επιστήμονες απέκτησαν πρόσβαση σε οικονομικούς πόρους και μπόρεσαν να διεξάγουν ελεύθερα τη θεωρητική τους έρευνα και στη συνέχεια να κάνουν δεκάδες πειράματα επαλήθευσης. Τους καρπούς των πνευματικών τους κόπων απολαμβάνει σήμερα η ανθρωπότητα, καθώς σχεδόν στο σύνολο της, η τρέχουσα τεχνολογία είναι βασισμένη στις ανακαλύψεις εκείνης της περιόδου.

Αναλογικά, θα μπορούσαμε να πούμε ότι τα τελευταία χρόνια, δεκάδες χιλιάδες επιστήμονες των δεδομένων, έχουν αποκτήσει πρόσβαση σε πόρους που προέρχονται από ιδιωτικούς οργανισμούς και κυβερνήσεις και διεξάγουν θεωρητική έρευνα, την οποία στη συνέχεια έχουν τη δυνατότητα να εφαρμόσουν σε στρατιωτικούς, κυβερνητικούς και ιδιωτικούς οργανισμούς.

Μια ακόμα ομοιότητα με την περίοδο εκείνη, βλέπουμε και στις συζητήσεις που γίνονται για την ηθική χρήση των επιστημονικών ανακαλύψεων.
Όπως το Πρόγραμμα Μανχάταν οδήγησε στη δημιουργία της ατομικής βόμβας, έτσι και η τεχνητή νοημοσύνη μπορεί να οδηγήσει στη δημιουργία καταστροφικών όπλων, αλλά και ελεγκτικών μηχανισμών που δεν έχει γνωρίσει ποτέ σε τόσο ευρεία κλίμακα η ανθρωπότητα στο παρελθόν. Αυτός είναι και ένας από τους λόγους που η ΕΕ αποφάσισε να θέσει πρώτη κάποια όρια με την πρόταση της για ηθική χρήση της τεχνητής νοημοσύνης, για την οποία μπορείτε να διαβάσετε αναλυτικότερα σε επόμενο άρθρο.