netweek - Μπορούμε να ελέγξουμε αυτό που δεν μπορούμε να μετρήσουμε απόλυτα;

Τρίτη, 25 Σεπτεμβρίου 2018

ΔΙΑΦΗΜΙΣΗ

IT Industry

Μπορούμε να ελέγξουμε αυτό που δεν μπορούμε να μετρήσουμε απόλυτα;

22 Ιουνίου 2018 | 09:31 Γράφει ο Γιάννης  Κανελλόπουλος Topics: Opinion,Απόψεις

Γιάννης Κανελλόπουλος

Συζητώντας για το αντίκτυπο που έχει πλέον η αυτόματη αλγοριθμική λήψη αποφάσεων (Τεχνητή Νοημοσύνη, Μηχανική Μάθηση/Black-Boxes κ.ά.) στην καθημερινή ζωή των στελεχών και τον τρόπο που δουλεύουν.

Έχοντας περάσει αρκετό χρόνο τους τελευταίους μήνες με ανθρώπους προερχόμενους από διαφορετικούς χώρους και ρόλους, από υψηλόβαθμα στελέχη του τραπεζικού τομέα, ιδρυτές startups στην υγεία ή την τεχνολογία έως και μεταφραστές, όλοι εκφράζουν την ίδια ανησυχία και όχι άδικα, καθώς η κρισιμότητα και η βαρύτητα των αυτόματων αλγοριθμικών αποφάσεων αυξάνονται ολοένα και περισσότερο. Το ενδιαφέρον από τις συνομιλίες μου μαζί τους είναι ότι λίγο ή πολύ, οι περισσότεροι έμειναν δυσαρεστημένοι από τον συγκεκριμένο τρόπο λήψης αποφάσεων. Κάποιοι στηρίχθηκαν στην προσωπική τους διαίσθηση ή εμπειρία για να ξεπεράσουν τα προβλήματα που προέκυψαν, αλλά αναρωτιέμαι πόσο εύκολο είναι κάτι τέτοιο; Συνεπώς, είναι φυσιολογικό να υπάρχει ανησυχία για το πως λειτουργεί η αυτόματη λήψη αποφάσεων, ιδίως χρησιμοποιώντας black-box μοντέλα και το πως μπορούμε να τα ελέγξουμε έτσι ώστε να εμπιστευτούμε τις αποφάσεις που παίρνουν για λογαριασμό μας. Έτσι λοιπόν όλοι καλούμαστε να απαντήσουμε σε μία πολύ καλή ερώτηση που συνοψίζεται στο εξής: “Πώς μπορώ να ελέγχω αυτό το «πράγμα», το οποίο αποφασίζει για λογαριασμό μου; ”.Διαισθητικά θα λέγαμε ότι αυτό δεν είναι κάτι απλό καθώς τουλάχιστον για την ώρα, η γνωστή ρήση του Tom DeMarco: “Δεν μπορείς να ελέγξεις αυτό που δεν μπορείς να μετρήσεις” δεν είναι απολύτως εφαρμόσιμη. Ο βασικός λόγος για την παραπάνω θεώρηση είναι ότι κάθε αλγοριθμικό μοντέλο, ενώ μπορεί να μετρηθεί και ελεγχθεί ως ένα σημείο, δεν παίρνει μόνο του αποφάσεις, αλλά αντίθετα λειτουργεί σε ένα οργανωσιακό πλαίσιο το οποίο το επηρεάζει θεμελιωδώς. Και είναι ακριβώς αυτό το πλαίσιο το οποίο δεν μπορεί να αποτιμηθεί ποσοτικά. Ή για να το πούμε πιο απλά, ακόμη και το πιο εξελιγμένο αλγοριθμικό σύστημα αποφάσεων στη βάση του έχει φτιαχτεί και ελέγχεται από ανθρώπους (προς το παρόν, αλλά αυτό είναι μία άλλη συζήτηση).

Τα παραπάνω όμως δεν σημαίνουν ότι εμείς δεν πρέπει να προσπαθήσουμε να είμαστε σε θέση να ελέγξουμε τόσο τους αλγόριθμους όσο και τους οργανισμούς που τους δημιουργούν ή χρησιμοποιούν. Μόνο αν προσπαθήσουμε να το κάνουμε και προς τις δύο αυτές κατευθύνσεις θα μπορέσουμε να φτάσουμε σε ένα αξιόπιστο επίπεδο ελέγχου και λογοδοσίας στην περίπτωση που τα πράγματα δεν δουλεύουν με τον τρόπο που περιμένουμε. Ένα αυτόματο αλγοριθμικό σύστημα αποφάσεων είναι στην ουσία ένα λογισμικό το οποίο:

  1. Λύνει ένα πρόβλημα το οποίο καθορίζεται από τον οργανισμό που το δημιουργεί,
  2. Δέχεται δεδομένα ως είσοδο, τα οποίο έχουν επιλεγεί ή προ-επεξεργαστεί είτε από έναν άνθρωπο είτε από μία αυτοματοποιημένη διαδικασία,
  3. Χρησιμοποιεί έναν αλγόριθμο μάθησης (π.χ. SVM, deep-learning, RF) ο οποίος επεξεργάζεται ή/και μετασχηματίζει τα δεδομένα, παράγει ένα μοντέλο και στο τέλος είτε παίρνει μία απόφαση είτε συστήνει μία απάντηση ή λύση στο πρόβλημα που του έχει τεθεί.

Τελικά αυτό που χρειαζόμαστε για να μπορούμε να έχουμε επαρκή πληροφόρηση είναι τα παρακάτω:

  • Αρχικά ο οργανισμός που δημιουργεί τον αλγόριθμο χρειάζεται να υλοποιήσει μηχανισμούς ελέγχου και λογοδοσίας. Με άλλα λόγια πρέπει να καθοριστεί πότε και πως ένας αλγόριθμος θα καθοδηγείται (ή περιορίζεται) για να αντιμετωπιστεί το ρίσκο ενός κρίσιμου ή ακριβού λάθους ή μίας μορφής μεροληψίας (φυλετικές διακρίσεις, άδικες αρνήσεις ή λογοκρισία).
  • Όσον αφορά τα δεδομένα εισόδου, εκεί πρωταρχικά χρειάζεται να γνωρίζουμε την ποιότητά τους, δηλαδή την ακρίβεια, την πληρότητα ή αβεβαιότητά τους καθώς και το χρονικό διάστημα που αυτά αντιπροσωπεύουν.
  • Σχετικά τώρα με το αλγοριθμικό μοντέλο καθεαυτό, χρειάζεται να γνωρίζουμε ποιες είναι οι παράμετροί του, ποιες οι μεταβλητές που χρησιμοποιεί και τα αντίστοιχα βάρη τους (αν έχουν).

Ως συμπέρασμα, μπορούμε να πούμε ότι ο έλεγχος ενός αλγοριθμικού μοντέλου (μέχρι κάποιο σημείο) δεν είναι κάτι το αδύνατο, αλλά απαιτεί ένα επίπεδο ωριμότητας για τον οργανισμό που το δημιουργεί και το χρησιμοποιεί για κρίσιμες αποφάσεις.

Όπως και να έχει, εκτός από την GDPR η οποία και προδιαγράφει κάποια από τα παραπάνω, πρέπει και εμείς οι ίδιοι να πιέσουμε προκειμένου οι οργανισμοί να προβούν σε έλεγχο των αλγορίθμων τους και να υπάρχει περισσότερη διαφάνεια ως προς τη λειτουργία τους.

netweek (T. 414)
Έχετε άποψη;
Ο σχολιασμός των άρθρων προϋποθέτει την Είσοδο σας στο Netweek Online.
ΔΙΑΦΗΜΙΣΗ

Δείτε ακόμη...

Οι πιο δημοφιλείς ειδήσεις σήμερα

Αυτοί που διάβασαν αυτό διάβασαν επίσης

Τα πιο δημοφιλή Topics

Οι πιο δημοφιλείς ειδήσεις σε αυτήν την ενότητα

Οι πιο δημοφιλείς ειδήσεις σε άλλες ενότητες

ΔΙΑΦΗΜΙΣΗ
ΔΙΑΦΗΜΙΣΗ

Συνεντεύξεις / Πρόσωπα

 
ΔΙΑΦΗΜΙΣΗ

Topics

Banking / Finance

International

Τηλεπικοινωνίες

Πολιτισμός / Ψυχαγωγία

e-government

Μουσική Βιομηχανία

Retail

Ευρωπαική Ένωση

Services

Ενέργεια / Περιβάλλον

©2018 Boussias Communications, all rights reserved. Κλεισθένους 338, 153 44 Γέρακας, info@boussias.com, Τ:210 6617777, F:210 6617778