Διαχείριση κρίσεων με τη βοήθεια της Επιστήμης των Αποφάσεων - Με τον Παντελή Λάππα

Αυτόματη μεταγραφή — ενδέχεται να περιέχει λάθη.

00:00 Κατά μία έννοια είναι ένα είδος πρόληψης αυτό δηλαδή. Εξασκούμε σε αυτό που θα συναντήσω οπότε όταν το συναντήσω να είμαι όσο γίνεται πιο έτοιμος. Και αυτό που πολύ σωστά και αυτό που έχει ενδιαφέρον είναι όταν φτιάχνεις ένα τέτοιο σενάριο, οι μεταβλητές που θέτεις και οι παράμετροι που θέτεις, οπότε αν έρθει κάποιος και σου δίνει διάφορες παραμέτρους, φανταστείτε ένα περιβάλλον στο οποίο μπορώ να τρέξω προσωμιώσεις.

00:20 Δηλαδή μπορώ να κάνω αυτό που λέμε στοχαστικές διακυμάνσεις πάνω σε διάφορες μεταβλητές, δηλαδή και αν η ταχύτητα του ανέμου δεν είναι αυτή και είναι λίγο παραπάνω, είναι λίγο λιγότερο. Δηλαδή μπορώ να κάνω διάφορες παραλλαγές στο μοντέλο μου, να τρέχω την προσωπή μου και να δω ποιο είναι το αναμενό μου αποτέλεσμα. Αυτό είναι πάρα πολύ ενδιαφέρον σε επίπεδο εκπαίδευσης γιατί μπορεί κάποιος να δει διαφορετικά σενάρια κινδύνου, από χαμηλό κίνδυνο ως μέτριο κίνδυνο ως υψηλό κίνδυνο ή εξαιρετικά υψηλό κίνδυνο και πρακτικά να εκτεθεί σε ένα σενάριο, σε ένα εικονικό περιβάλλον χωρίς να υπάρχει κάποια επίπτωση αλλά εκεί μπορεί να δοκιμάσεις να εκπαιδευτείς και να δοκιμάσεις την αποτελεσματικότητα του τρόπου με τον οποίο θα διεχειριστείς μια δυνητική κρίση.

01:04 Λογικά. Κάθε εβδομάδα ο Θανάσης Φρυδάς και η Ειρήνη Αναγνώστου φιλοξενούν ένα καλεσμένο, διερευνώντας μαζί του επιστημονικά και τεχνολογικά θέματα. Θέματα που επιδρούν στην καθημερινότητά μας τα παρουσιάζουν με άμεσο και κατανοητό τρόπο. Ο Παντελής Λάπας είναι επίκουρος καθηγητής επιχειρησιακής έρευνας και υπολογιστικής νοημοσύνης του Πανεπιστήμιου Αιγαίου με ερευνητικό και επαγγελματικό έργο στη διασταύρωση στατιστικής, βελτιστοποίησης, μηχανικής μάθησης και τεχνητής νοημοσύνης.

01:38 Τα ενδιαφέροντά του περιλαμβάνουν τη λήψη αποφάσεων υπό αβεβαιότητα, τη διαχείριση χρηματοοικονομικού κινδύνου, την πολυκριτεριακή ανάλυση και την ανάπτυξη αλγορίθμων μεγάλης κλίμακας. Παράλληλα, διαθέτει εκτενή εμπειρία στην αγορά, έχοντας εργαστεί σε εταιρείες χρηματοοικονομικού λογισμικού, fintech, οργανισμούς στο εξωτερικό και ευρωπαϊκά ερευνητικά έργα.

01:59 Στόχος του είναι η μεταφορά της επιστημονικής γνώσης σε αξιόπιστα και εξηγήσιμα συστήματα τεχνητής νοημοσύνης που υποστηρίζουν υπεύθυνες αποφάσεις στον πραγματικό κόσμο. Τι επαγγελματικές διαδρομές ανοίγουν αυτά που είπατε στην πράξη? Όσον αφορά τις επαγγελματικές προοπτικές, οι απόφοιτ του τμήματος μπορούν να εργαστούν ως στατιστικοί, αναλογιστές ή χρηματοοικονομικοί σύμβουλοι αλλά και σε θέσεις που απαιτούν τεχνητή νοημοσύνη και αναλυτική σκέψη Επιπλέον, όποιος επιθυμεί την ακαδημαϊκή πορεία μπορεί να συνεχίσει σε μεταπτυχιακά και διδακτορικά σε στατιστική, μαθηματικά, χρηματοοικονομική, μηχανική, αναλογιστική ή αλγοριθμική επιχειρησιακή έρευνα.

02:43 Δηλαδή, με λίγα λόγια, το Τμήμα Στατιστικής, Αναλογιστικών και Χρηματοοικονομικών Μαθηματικών εκπαιδεύει επιστήμονες που μπορούν να συνδυάζουν θεωρία και πράξη, μαθηματικά και τεχνολογία και να αντιμετωπίζουν πολύπλοκα προβλήματα στο σύγχρονο κόσμο των δεδομένων των επιχειρήσεων και της οικονομίας. Η λέξη αβεβαιότητα κατέχει κεντρική θέση στο έργο σας Πώς την εξηγείτε σε κάποιον που ακούει για μοντέλα πρόβλεψης ή διάφορα άλλα μοντέλα που υπάρχουν τέλος πάντων και νομίζει ότι θα πάρει μια σίγουρη απάντηση Η λέξη αβεβαιότητα βρίσκεται στο επίκεντρο του έργου μου γιατί στην πραγματικότητα τα μοντέλα και οι αναλύσεις ποτέ δεν δίνουν απόλυτες απαντήσεις Όταν μιλάμε για μοντέλα δεν σημαίνει ότι θα μας πούν αυτό θα γίνει σίγουρα αλλά ότι μας παρέχουν ένα εργαλείο για να κατανοήσουμε τις πιθανότητες και να παίρνουμε πιο τεκμηριωμένες αποφάσεις Μπορούμε να το σκεφτούμε αυτό σαν έναν οδηγό που δείχνει τις πιθανές διαδρομές και τις πιθανότητες κάθε επιλογής

03:44 Δεν μας λέει δηλαδή ποιο μονοπάτι θα συμβεί με βεβαιότητα αλλά μας βοηθά να αποφύγουμε εκπλήξεις και να σχεδιάσουμε στρατηγικές Μια κλασική παγίδα στη λήψη των αποφάσεων είναι το ένστικτο ή η υπερεκτήμηση των προσωπικών μας εμπειριών Για παράδειγμα, κάποιος μπορεί να πιστεύει ότι μία επένδυση είναι σίγουρη επειδή η φίλη του είχε επιτυχία Αγνοώντας τα δεδομένα που δείχνουν υψηλό ρίσκο Τα δεδομένα εφόσον έχουν αναλυθεί σωστά μπορούν να μας επαναφέρουν στην πραγματικότητα και να μειώσουν τις λανθασμένες εκτιμήσεις που προκύπτουν από προκαταλήψεις ή επερεκτιμήσεις.

04:28 Και μιας και μιλήσαμε για ρίσκο αξίζει να το ορίσουμε κάπως. Δηλαδή ο ρίσκο είναι η πιθανότητα ένα αποτέλεσμα να αποκλίνει από αυτό που περιμένουμε και η απόκλιση αυτή να έχει συνέπειες. Δεν σημαίνει απλώς κίνδυνος δηλαδή αλλά αβεβαιότητα με επίπτωση. και το ρίσκο έχει πάντα δύο συστατικά την αβεβαιότητα δηλαδή δεν ξέρουμε ακριβώς τι θα συμβεί και τις συνέπειες. Αυτό που θα συμβεί έχει κόστος και όφυλος. Οπότε αν λείπει ένα από τα δύο δεν μιλάμε για ρίσκο.

04:55 Ωραίος ορισμός είναι έτσι. Μπορεί να γίνει όμως και τανάποδο. Δηλαδή τα δεδομένα να μας δώσουν κάτι παραπλανητικό. Ναι ένα μοντέλο μπορεί να δείχνει μια πρόβληψη ηχή αλλά αυτό δεν σημαίνει ότι αυτό θα γίνει σίγουρα, τα μοντέλα βασίζονται σε υποθέσεις, ιστορικά δεδομένα και περιορισμένες πληροφορίες. Αν δεν κατανοήσουμε αυτά τα όρια υπάρχει κίνδυνος να εμπιστευτούμε τυφλά τα αποτελέσματα και να πάρουμε λανθασμένες αποφάσεις.

05:24 Το κρίσιμο είναι να βλέπουμε τα μοντέλα ως εργαλεία που μας ενημερώνουν για πιθανότητες όχι ως όργανα που αντικαθιστούν τη σκέψη και την κρίση μας. Μία ενδιαφέρουσα επίσης νηστόσα σε αυτό το πλαίσιο είναι και η μηχανική μάθηση σε ανταγωνιστικά ή αντιπαραθετικά περιβάλλοντα Είναι αυτό που αποκαλούμε στα εγγλικά Machine Learning in Adversarial Environments όπου τόσο η εκπαίδευση όσο και η λειτουργία του μοντέλου γίνονται υπό συνθήκες σκόπιμης παραπλάνησης Πολλές φορές ο τρόπος που το αντιμετωπίζουμε είναι με τη βοήθεια της θεωρίας παιγνίων Δηλαδή βλέπουμε ένα παίγνιο μεταξύ παιχτών, μόνο που οι παίχτες δεν είναι φυσικά πρόσωπα, αλλά είναι μοντέλα μηχανικής μάθησης.

06:03 Άρα λοιπόν, από τη μία το ένστικτό μας, η εμπειρία μας, να το πω διαφορετικά, μπορεί τελικά να μας βγει σε κακό, δηλαδή να είμαστε προκατηλημένοι προς μια κατεύθυνση και τελικά αυτό να δώσει λάθος λύση. Απ' την άλλη, μας είναι και απαραίτητο, μαζί με την κριτική σκέψη και την εμπειρία, να εκτιμήσουμε κατά πόσον η προτινόμενη ενέργεια είναι τελικά σωστή.

06:28 Χρειάζεται από τη μία να το τιθασέβουμε, αλλά από την άλλη, αν μας λείπει, θα έχουμε πρόβλημα. Και πάντα την απόφαση την παίρνουν άνθρωποι. Ακριβώς, ακριβώς. Όλα αυτά τα εργαλεία είναι εργαλεία τα οποία βοηθάνε τη λήψη απόφασης, αν θέλετε. και δεν κάνουν τη λήψη απόφασης, δηλαδή δεν παίρνουν την απόφαση. Και πρακτικά υπάρχει μια πολύ μεγάλη τάση στην βιβλιογραφία τα τελευταία χρόνια και τώρα είναι ακόμα πιο έντονη σε αυτό που αποκαλούμε human in the loop approach.

06:58 Δηλαδή θα πρέπει ο άνθρωπος να είναι μέσα στη διαδικασία της λήψης απόφασης και πρακτικά ένα έξυπνο μοντέλο είναι αυτό το οποίο μοντελοποιεί με κάποιο τρόπο τη γνώση και την εμπειρία των ανθρώπων. Οπότε καταλαβαίνετε ότι η αποτελεσματικότητα επηρεάζεται από το επίπεδο της γνώσης ή από το επίπεδο της εμπειρίας του ανθρώπου. Οπότε μια λάθος εμπειρία ή μια λάθος γνώση θα μοντελοποιηθεί λάθος και θα έχει προφανώς λαθασμένα αποτελέσματα.

07:25 παρόλα αυτά όταν όλα γίνονται σωστά επιστημονικά και η καλή εμπειρία μεταφράζεται ορθά επιστημονικό τρόπο μοντελοποιείται σωστά σε όλα αυτά τα υποδείγματα τότε μπορεί να οδηγεί σε πολύ καλά αποτελέσματα οπότε ναι ο άνθρωπος είναι αυτός ο οποίος τελικά θα πάρει την απόφαση Μίλησατε λίγο νωρίτερα για τρόπο εκπαίδευσης μηχανικής μάθησης ανταγωνιστικό κάπως έτσι το είπατε θέλετε να μας τα λέτε λίγο μου ακούστηκε πολύ ενδιαφέρον Ναι, συνήθως υπάρχουν κάποια, φανταστείτε ένα περιβάλλον όπου ένας επιστήμονας δεδομένων έχει αναπτύξει μια διαδικασία η οποία βρίσκει δεδομένα από μια βάση δεδομένων, παίρνει τα δεδομένα, με κάποιο τρόπο αυτόματα φτιάχνει ένα data set το οποίο θα χρησιμοποιηθεί το σύνολο αυτό το δεδομένο στην εκπαίδευση του αλγορίθμου.

08:24 Φανταστείτε λοιπόν ότι κάποιος κακόβουλος κάνει αυτό που λέμε έχει ένα machine learning threat, μια απειλή μηχανικής μάθησης που πρακτικά σου τροποποιεί τα δεδομένα. Οπότε εσύ αντί να παίρνεις τα σωστά δεδομένα παίρνεις τα δεδομένα από τη βάση δεδομένων τα οποία έχουν με κάποιο τρόπο αλλοιωθεί. οπότε το σύνολο δεδομένων που θα χρησιμοποιήσεις στην εκπαίδευση δεν θα σε οδηγήσει στο επιθυμητό μοντέλο γιατί τα δεδομένα έχουν αλλοιωθεί.

08:51 Απ' την άλλη, φανταστείτε το αντίθετο. Δηλαδή έχεις εκπαιδεύσει πολύ σωστά ένα μοντέλο το έχεις μεταφέρει σε ένα παραγωγικό περιβάλλον και ξαφνικά όταν το μοντέλο θα πρέπει να πάρει θέση σε κάποια δεδομένα που δεν τα έχει δει ποτέ του τα δεδομένα πάλι αλλοιώνονται και περνάνε στο μοντέλο με λάθος μορφή. Για παράδειγμα περνάει η μεταβλητή εισόδημα που η οποία είναι 5.000 και αντί για 5.000 βάζει κάποιος 20.000.

09:19 Οπότε αυτό για το μοντέλο σημαίνει ότι είναι μια μεταβλητή, είναι ένα καλό χαρακτηριστικό και άρα θα μπορούσα να το χρησιμοποιήσω στην εκπαίδευσή μου για να βγάλω μια πιθανότητα αθέτησης ας πούμε σε οφειλή. Η πιθανότητα αυτή η αθέτηση θα είναι χαμηλή επειδή έχει πολύ καλό εισόδημα. Στην πραγματικότητα όμως το εισόδημα είναι αρκετά χαμηλό αλλά κάποιος άλλος το έχει αλλοιώσει. Άρα στην ουσία αυτή η διαδικασία που σας ανέφερα πριν είναι σε περιβάλλοντα όπου υπάρχουν απειλές μηχανικής μάθησης, δηλαδή υπάρχει hacking, κάποιος μπορεί να σου τροποποιήσει τα δεδομένα είτε στην προετοιμασία του μοντέλου είτε κατά τη χρήση του μοντέλου.

10:01 Είπατε ότι χρησιμοποιείτε μεθόδους βελτιστοποίησης και αλγορίθμους. Αν το πούμε απλά, τι σημαίνει βρίσκω την καλύτερη λύση όταν υπάρχουν περιορισμοί και αντικρουόμενοι στόχοι. Στην επιχειρησιακή έρευνα και τη βελτιστοποίηση όταν λέμε ότι βρίσκουμε την καλύτερη λύση δεν εννοούμε ότι υπάρχει μια μαγική απάντηση που λύνει τα πάντα.

10:26 Σημαίνει ότι προσπαθούμε να μεγιστοποιήσουμε ή να ελαχιστοποιήσουμε κάποιο στόχο. Παραδείγμα τους χάρη κέρδος, κόστος, χρόνο, υποπεριορισμούς όμως, όπως πόρους, χρόνο ή κανονισμούς. Άρα στην πράξη συχνά έχουμε πολλαπλούς αντικρουόμενους στόχους και περιορισμούς και δεν υπάρχει λύση που να ικανοποιεί τα πάντα ταυτόχρονα. Άρα η βέλτιστη λύση είναι εκείνη που εξισορροπεί τους στόχους και περιορισμούς όσο το δυνατόν καλύτερα.

10:51 Αυτό για να το καταλάβουμε λίγο καλύτερα μπορούμε να ορίσουμε την επιχειρησιακή έρευνα που κατακήρυο λογός φορείται με την βελτιστοποίηση ως μια προσπάθεια να προσπαθήσει να βελτιστοποιήσει την απόδοση ενός συστήματος. Αν θέλετε ο όρος επιχειρησιακή έρευνα στα ελληνικά πολλές φορές παραπλανεί, δεν αναφέρεται σε επιχειρήσεις, αναφέρεται, είναι η μετάφραση του operations research στα αγγλικά που πρακτικά αναφέρεται στη βελτιστοποίηση διαδικασιών, λειτουργιών.

11:25 Άρα λοιπόν προσπαθείς να μηγιστοποιήσεις την απόδοση ενός συστήματος και στην πράξη τι κάνεις, πρακτικά έχεις ένα σύστημα, το σύστημα αυτό είναι κάτι πραγματικό στον κόσμο μας, δηλαδή μπορεί να είναι μια τράπεζα, μπορεί να είναι μια συγκεκριμένη διαδικασία, μπορεί να είναι ένα τραπεζικό σύστημα, έτσι σαν σύστημα πληροφορικής ενώ πληροφοριακό σύστημα και πραγματικά τι προσπαθείς να κάνεις, προσπαθείς να μελετήσεις αυτό το σύστημα, να το αναλύσεις και να δεις πώς λειτουργεί.

11:55 Οπότε πραγματικά τι κάνεις, φτιάξwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwah το οποίο μοντέλο όμως έχει παραμέτρους, μεταβλητές απόφασης και περιορισμούς.

12:26 Άρα το αποτέλεσμα, το πόσο καλή λύση θα δώσει το μοντέλο, εξαρτάται πώς έχει γίνει η αναπαράσταση του μοντέλου από το σύστημα. Δηλαδή αν κάποιος χρησιμοποιήσει λίγες παραμέτρους, λίγες μεταβλητές, τότε πρακτικά αυτό είναι ένα μοντέλο το οποίο είναι απλό μοντέλο, μπορεί κάποιος να το λύσει και αναλυτικά με ακριβείς μεθόδους.

12:51 Αν όμως βάλεις περισσότερες παραμέτρους, βάλεις περισσότερες μεταβλητές, αυτό το μοντέλο θα είναι πιο πιστο, πιο κοντά στην πραγματικότητα. Η επίλυσή του όμως θα είναι αρκετά δύσκολη, γιατί έχει πολύ μεγάλο αριθμό παραμέτρων, πολλές μεταβλητές απόφασης, πολλούς περιορισμούς. Ναι με έναν αναπαριστά, άρα αναπαριστά πολύ καλύτερα το πραγματικό κόσμο, αλλά η πύλησή του είναι πιο δύσκολη.

13:15 Οπότε εκεί λοιπόν η έβριση της βέλτιστης λύσης ή της καλύτερης δυνατής λύσης εξαρτάται από πάρα πολλούς παράγοντες. Εκεί μένουν οι έννοιες της πολυπλοκότητας του χρόνου, της πολυπλοκότητας του χώρου, οπότε το να βρεις τη βέλτιστη, την καλύτερη λύση όλων δεν είναι ο καλύτερος τρόπος προσέγγισης του προβλήματος γιατί συνήθως η πολυπλοκότητα του χρόνου σε οδηγεί πολύ μακριά στο να βρεις αυτή τη λύση.

13:40 Άρα λοιπόν θες να βρεις μια λύση η οποία είναι κοντά στο βέλτιστο γιατί ξέρεις ότι αυτή η λύση είναι πιο κοντά στην πραγματικότητα. Απ' την άλλη το μοντέλο το οποίο ήταν πολύ απλό και έβαλες πολύ λίγες παραμέτρους πολύ λίγες μεταβλητές απόφασης δεν έχει καμία σχέση με τον πραγματικό κόσμο οπότε και να δώσεις την καλύτερη λύση όλων σε πολύ σύντομο χρονικό διάστημα λόγω του μικρού αριθμού των παραμέτρων πρακτικά δεν θα αντικατοπτίσει την πραγματικότητα.

14:04 Αυτή είναι η, αν θέλετε να στο πούμε το trade-off θέλεις μεταξύ του πραγματικού προβλήματος και του μοντέλου που κάποιος σχεδιάζει και υλοποιεί για να λύσει το πρόβλημα στον πραγματικό κόσμο. Απαιτείται νομίζω σημαντική εμπειρία στο να καταφέρεις να κατανοήσεις ένα σύστημα που εμπλέκεται εκτός από τις διαδικασίες και διάφοροι άνθρωποι που τη στηρούν το σωστό πλήθος μεταβλητών.

14:32 Ακούγεται έτσι λίγο, όπως το λέτε, επιστημονικό, αλλά είναι ένα πολύ πρακτικό εγχείρημα. Νομίζω ότι διαρκώς συμβαίνει αυτό που λέτε. Θέλετε να μας δώσετε κάποιο παράδειγμα από την πραγματικότητα, όπου δεν κυνηγάμε την τέλεια λύση, γιατί πιθανά δεν υπάρχει, αλλά επιτυγχάνουμε αυτό που στην ουσία είπατε, την καλύτερη εφικτή, το ρεαλιστικό, ας το πούμε.

14:54 Ναι φυσικά ένα παράδειγμα έτσι από την καθημερινή ζωή είναι η διαχείριση του χρόνου μας φανταστείτε ότι θέλουμε να δουλέψουμε σε ένα project να περάσουμε χρόνο με την οικογένεια και να σκυθούμε δεν μπορούμε να τα κάνουμε όλα τέλεια ταυτόχρονα πρέπει να κάνουμε κάποια όπως λέμε trade-offs, να βρούμε ένα σημείο ισορροπίας μεταξύ των τριών αυτών δραστηριοτήτων. Άρα η καλύτερη εφικτή λύση είναι να οργανώσουμε το χρόνο μας ώστε να έχουμε όσο το δυνατόν μεγαλύτερη ωφέλεια και για τις τρεις δραστηριότητες, ακόμα και αν δεν είναι τέλεια για καμία.

15:26 Φανταστείτε επίσης έναν πλανόδιο πολιτή που πρέπει να επισκεφθεί πολλές πόλεις διάσπαρτες έναν χάρτη και στο τέλος να επιστρέψει στη βάση του. Το βασικό ερώτημα είναι ποια διαδρομή ελεγχιστοποιεί τη συνολική απόσταση που θα διανύσει. Αν το δούμε μαθηματικά, πρόκειται για ένα πλήρη γράφο όπου κάθε πόλη μπορεί να συνδεθεί με κάθε άλλη Όμως όσο αυξάνεται ο αριθμός των πόλεων ο αριθμός των πιθανών διαδρομών αυξάνεται κριτικά Για παράδειγμα, με 5 πόλεις έχουμε μόλις 12 αναλεκτικές διαδρομές Με 10 πόλεις οι συνδυασμοί ξεπερνούν τις 180.000 και αν πάμε σε 20, 100 ή 1000 πόλεις τότε μιλάμε πλέον για υπολογιστική έκρηξη Ένα πρόβλημα που δεν μπορεί να λυθεί με εξαντλητικό έλεγχο, ακόμα και με σύγχρονους υπολογιστές.

16:07 Εδώ ακριβώς μπαίνουν οι αλγόρθμοι βελτιστοποίησης και οι υπολογιστικοί νοημοσύνοι, όχι για να βρουν την τέλεια λύση πάντα, αλλά την καλύτερη εφικτή. Ένα άλλο παράδειγμα στον επιχειρηματικό κόσμο, που σχετίζεται με την παραγωγή και τη διανομή προϊόντων. Μπορεί να θέλουμε να μειώσουμε τα κόστη μεταφοράς, να παραδώσουμε γρήγορα στους πελάτες και να διατηρήσουμε υψηλή ποιότητα.

16:26 Οι στόχοι αυτοί συγκρούονται. Η βελτιστοποίηση μας βοηθάει να βρούμε την καλύτερη εφικτή ισορροπία, ώστε η απόφαση να είναι όσο το δυνατόν πιο αποτελεσματική μέσα στους περιορισμούς που έχουμε. Και αν θέλετε σε αυτό που με ρωτήσατε με τους πολλούς εμπλεκόμενους στη διαδικασία της λήψης απόφασης, ξέρετε κάποτε στα προηγούμενες δεκαετίες, αν κοιτάξεις κάποιους προσεκτικά με τη βιβλιογραφία βλέπεις ότι έχουν προταθεί πολλά μοντέλα βελτιστοποίησης, πολλά στατιστικά υποδείγματα σε συγκεκριμένα προβλήματα σε ένα συγκεκριμένο κλάδο.

17:00 Στη σημερινή εποχή είναι τελείως διαφορετικά τα πράγματα, δηλαδή λόγω αυτής της υπολογιστικής ισχύς που υπάρχει και είναι διαθέσιμη, πλέον τα προβλήματα έχουν ένα διεπιστημονικό χαρακτήρα, δηλαδή βλέπεις ότι έχεις δεδομένα από διαφορετικές πηγές, αυτό που αποκαλούμε Internet of Things, δηλαδή φανταστείτε ότι παίρνω διαρκώς δεδομένα από διαφορετικές πηγές δεδομένων.

17:22 ένα υποσwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwah σημαίνει ότι θα πρέπει με κάποιο τρόπο η έμπειρια, ας το πούμε, αναθεματική περιοχή να έρθουν σε επικοινωνία μεταξύ τους και πρακτικά όλη αυτή η γνώση, όπως είπα και πριν, η εμπειρία να μοντελοποιηθεί με τον κατάλληλο τρόπο, με τον κατάλληλο μαθηματικό εργαλείο, ώστε να προκύψει ένα μοντέλο το οποίο μπορεί να πάρει θέση σε όλα αυτά.

18:16 Άρα προσπαθούμε να φτιάξουμε να δούμε πώς από τα δεδομένα μπορούμε να βοηθήσουμε κάποιον να λάβει απόφαση και αυτός ο κάποιος μπορεί να είναι και μια ομάδα ανθρώπων οι οποίοι είναι και αποδιαφορετικά αν θέλετε background. Και όλο αυτό πηγάζει από το γεγονός ότι ενώ στην βιβλιογραφία παλιά μπορεί να έβλεπες προβλήματα μικρής διάστασης πολύ στοχευμένα σε συγκεκριμένο πρόβλημα, λόγω της έλλειψης της υπολογιστικής ισχύως ήταν πολύ περιορισμένη η έκταση των μοντέλων αυτών με λίγες παραμέτρους, με λίγες μεταβλητές απόφευσης, οπότε λινώθησαν και αναλυτικά.

18:48 Πλέον με την υπολογιστική ισχύ και όλα αυτά τα δεδομένα τα οποία είναι διαθέσιμα χρειάζεται μοντέλα τα οποία θα σου δώσουν μια εφικτή λύση γιατί απλούστατα ο υπολογιστικός χρόνος που απαιτείται είναι τέτοιος που δεν μπορεί να βρεθεί ποτέ η βέλτιστη λύση, η καλύτερη δηλαδή όλων των λύσεων. Γι' αυτό αν πας στη βιβλιογραφία πλέον δεν υπάρχει κάποια μαθηματική αν θέλετε φόρμουλα η οποία θα σου δώσει ότι αν συνδυάσεις τα δεδομένα του καιρού με τα δεδομένα για τις φωτιές, με την κίνηση των αυτοκινήτων, θα βγάλεις ένα ρίσκο στο 0%.

19:21 Δεν υπάρχει τέτοιου μαθηματικού επόδομα. Οπότε τι κάνουμε λοιπόν, προσπαθούμε με επιστημονική μεθοδολογία και διάφορες τεχνικές οι οποίες έχουν προταθεί, να πάρουμε τη γνώση και την εμπειρία των ανθρώπων, των διαφορετικών ανθρώπων, από τα διαφορετικά αντικείμενά τους, να τα μοντελοποιήσουμε με κατάλληλο τρόπο, ώστε να βγάλουμε αυτό το ρίσκο με έναν συντονισμένο τρόπο, με έναν επιστημονικό τρόπο και όχι με έναν αφαίρετο τρόπο.

19:43 Προσπαθούμε δηλαδή κατά μία έννοια κύριε καθηγητά να κλέψουμε λιγάκι, δηλαδή χωρίς να κάνουμε το συνολικό υπολογισμό που είναι αδύνατο, να προσπαθήσουμε να πλησιάσουμε όσο πιο κοντά μπορούμε στο αποτέλεσμα που θα μας έδινε. Ακριβώς, γιατί αν θέλεις να λύσεις το πρόβλημα, θες να το λύσεις αύριο, δεν μπορείς να περιμένεις για παράδειγμα πέντε μήνες ή ένα χρόνο μέχρι υπολογιστικά να σου δοθεί η λύση σε ένα πρόβλημα πολύ μεγάλης διάστασης και αρκετά πολύπλοκο.

20:10 Υπάρχει αυτό που λέμε πολυπλοκότητα του χρόνου. Τι σημαίνει αυτό πρακτικά. Σημαίνει ότι δεν υπάρχει, σου δίνουν ένα πρόβλημα και δεν υπάρχει αλγόρθμος που σε πολυωνυμικό χρόνο, δηλαδή σε εύλογο χρονικό διάστημα θα σου δώσω μια λύση. Οπότε λοιπόν από το να περιμένω να βρω την καλύτερη λύση που υπάρχει σε ένα πραγματικό πρόβλημα στον κόσμο μας, θα προτιμώ να δώσω μια λύση που είναι κοντά στον φέλτιστο αρκεί να δώσω μια λύση.

20:37 από το να μην δώσω καθόλου λύση λόγω της αναμονής μου στον χρόνο, λόγω της πολυπλοκότητας του χρόνου όπως είπα. Άρα τα μοντέλα πάντα λύση δίνουν. Ναι, τα μοντέλα, αυτό που προσπαθούμε ιδιαίτερα με την χρήση, με την αξιοποίηση των δεδομένων είναι να δώσουμε μία λύση. Απλά η λύση, αν η διάσταση του προβλήματος είναι πολύ μικρή, θα σου δώσω την ακριβή λύση και σε πολυονομικό χρόνο, σε εύλογο χρονικό διάστημα.

21:03 Αν το πρόβλημα είναι μεγάλης διάστασης, δηλαδή οι παράμετροι είναι πάρα πολλές, οι μεταπαιδεύσεις απόψε είναι πάρα πολλές, οι περιορισμοί είναι πάρα πολλοί, τότε αντί να περιμένω να δώσω την καλύτερη λύση σε ένα χρονικό διάστημα το οποίο δεν είναι εύλογο, προτιμώ να δώσω μια λύση η οποία είναι εφικτή μεν, αλλά κοντά στο βέλτιστο, αλλά όχι το βέλτιστο.

21:24 Πού τελειώνει η στατιστική και τα μοντέλα και πού αρχίζει το machine learning στη δική σας δουλειά Δηλαδή πότε χρησιμοποιούμε τι Στη δουλειά μου η στατιστική και τα παραδοσιακά μοντέλα χρησιμοποιούνται όταν θέλουμε να κατανοήσουμε τα δεδομένα Να κάνουμε ελέγχους υποθέσεων και να εκτιμήσουμε πιθανότητες με βάση ιστορικά στοιχεία Το machine learning ή μηχανική μάθηση δηλαδή μπαίνει στο παιχνίδι όταν τα δεδομένα είναι πιο μεγάλα, πιο πολύπλοκα ή όταν θέλουμε να ανακαλύψουμε μοτίβα και σχέσεις που δεν είναι εύκολο να δούμε με κλασικές μεθόδους.

21:58 Με άλλα λόγια, η στατιστική μας δίνει τη βάση και την ερμηνεία, ενώ η μηχανική μάθηση μας δίνει τη δύναμη να προβλέπουμε ή να βρίσκουμε σχέσεις σε μεγάλα και σύνθετα συνολαδομένων. Πάνω κάτω δηλαδή, αυτό είναι που μας δίνει όλο μαζί αυτό που λέμε αλγόρθμους υποστήριξης αποφάσεων. Ναι, όταν μιλάμε για αλγόρθμου υποστήριξης αποφάσεων δεν αναφερόμαστε σε ένα μαγικό κουμπί που απλώς λέει αυτό θα γίνει Ένα τέτοιο σύστημα μπορεί να προβλέπει πιθανά αποτελέσματα, να προτείνει αναλλακτικές ενέργειες ή να οργανώνει διαφορετικά σενάρια ώστε ο άνθρωπος να μπορεί να συγκρίνει επιλογές και να καταλάβει ποιες είναι πιο αποτελεσματικές ή πιο ασφαλείς Στην πράξη δηλαδή πρόκειται για εργαλεία που ενισχύουν τη λογική και την κρίση μας, δεν τις αντικαθιστούν.

22:46 Ιδιαίτερα χρήσιμες είναι δε τεχνικές όπως η ανάλυση ευαισθησίας, τα εύρυευαισθησίας και τα εύρυευη φυκτότητας που μας δείχνουν πόσο αντέχει μια απόφαση όταν αλλάζουν οι συνθήκες ή οι παραδοχές. Από την άλλη πλευρά η μηχανική μάθηση βασίζεται στην ιδέα ότι τα συστήματα μαθαίνουν από προηγούμενες εμπειρίες για να τοποθετηθούν σε νέες καταστάσεις Αυτό όμως πρακτικά σημαίνει ότι η ποιότητα των αποφάσεων εξαρτάται άμεσα από την ποιότητα των δεδομένων Αν τα δεδομένα δίνουν λαθασμένα ή ημεροληπτικά τότε ισχύει απολύτως το γνωστό garbage in, garbage out Η πιο πρακτική συμβουλή που θα δίνετε σε έναν οργανισμό πριν βάλει συστήματα τεχνητής νοημοσύνης.

23:23 Ποια είναι, τι πρέπει να έχει τακτοποιημένα, ας το πούμε έτσι, τα δεδομένα του, τις διαδικασίες του, τους στόχους του. Η πιο πρακτική συμβουλή πριν ένας οργανισμός βάλει τεχνητή νοημοσύνη είναι να βεβαιωθεί ότι έχει τακτοποιήσει πρώτα τα βασικά. Τα δεδομένα του, δηλαδή πρέπει να είναι καθαρά, αξιόπιστα και οργανωμένα, οι διαδικασίες του καταγεγραμμένες και κατανοητές και κυρίως οι στόχοι του απολύτως ξεκάθαροι.

23:49 Χωρίς αυτά ακόμη και ο πιο εξελιγμένος αλγόρθμος δεν μπορεί να δώσει χρήσιμα ή αξιόπιστα αποτελέσματα. Εξίσου κρίσιμο είναι και το ανθρώπινο κομμάτι. Η τεχνητή νοημοσύνη δεν δουλεύει μόνη της, απαιτεί το σωστό άνθρωπο σε σωστή θέση. Υπάρχουν διακριτήρια όλοι όπως για παράδειγμα οι διαχειριστές των βάσεων δεδομένων, οι αναλυτές και οι επιστήμονες δεδομένων, η μηχανική μηχανικής μάθησης, οι επιχειρησιακοί αναλυτές, οι business analysts, η μηχανική λογισμικού που επίσης είναι απαραίτητη γιατί πολλές φορές ας πούμε τα πληροφοριακά συστήματα που τρέχουν και η μηχανική μάθηση έχουν κάποια διεπαφή αλλά από την άλλη έχουν και ένα back-end όπως λέμε μηχανισμό ο οποίος πρέπει να συντηρείται.

24:31 Και φυσικά οι άνθρωποι εκείνοι οι οποίοι είναι υπεύθυνοι να πάρουν το μοντέλο της μηχανικής μάθησης, αν θέλετε, το μοντέλο της βελτιστοποίησης και να το βάλουν στο παραγωγικό περιβάλλον. Η διαφορά με το παραδοσιακό λογισμικό είναι ότι ενώ στο λογισμικό διατηρούμε εκδόσεις, κάθε φορά που προκύπτει μια νέα ενημέρωση του λογισμικού, με τη μηχανική μάθηση έχουμε δύο εκδόσεις. Έχουμε την έκδοση του μοντέλου μηχανικής μάθησης και την έκδοση των δεδομένων που χρησιμοποιηθήκαν προκειμένου να εκπαιδευτεί αυτό το μοντέλο.

25:07 Και πάνω απ' όλα χρειάζονται σίγουρα προϊστάμενοι και decision makers που γνωρίζουν πραγματικά το αντικείμενο, έχουν περάσει από τις αντίστοιχες θέσεις και μπορούν να γεφυρώσουν τεχνολογία και επιχειρησιακές ανάγκες, όχι να είναι απλώς γενικοί διαχειριστές. Στην ουσία μας ανέφερε και ένα σωρό επαγγέλματα που αναδύονται, έτσι.

25:25 Απ' την άλλη, αυτό που καταλαβαίνει ο Ειρήνη είναι ότι αν και θεωρούμε δεδομένο όλοι μας ότι οι οργανισμοί πλέον ήδη ξεκινάνε να χρησιμοποιούν τεχνητή νοημοσύνη και όλοι θα τη χρησιμοποιούν, δεν φαίνεται να είναι απλό το να το κάνεις αυτό με έναν τρόπο σωστό. Καθόλου. Γι' αυτό χρειάζονται όλες αυτές οι ειδικότητες. Το θεωρείτε αυτό ένα πιθανό πρόβλημα, κύριε καθηγητά, δηλαδή ειδικά εμείς εδώ στην Ελλάδα που είμαστε λίγο πιο επιπόλαιοι ας το πω σε εισαγωγικά, να αρχίσουμε να χρησιμοποιούμε την τεχνητή νοημοσύνη χωρίς να έχουμε κάνει όλη αυτή τη δουλειά που απαιτείται, οπότε και τα αποτελέσματα να μην είναι τα αναμενόμενα.

26:01 Ναι, να ξέρετε ότι αυτό είναι γενικό πρόβλημα. Μιλώντας από την εμπειρία μου και από την εμπλοκή μου σε πραγματικά έργα που λύσεις μηχανικής μάθησης έχουν πάει σε παραγωγικά περιβάλλοντα, είναι ένα θέμα το οποίο είναι αρκετά εμφανές, τουλάχιστον την προηγούμενη δεκαετία αν όχι τώρα τόσο εμφανές. Υπήρχε ένα μάλιστα έτσι ωραία αναφορά από τη Μακίνζη που έλεγε ότι πρακτικά μόνο το 20% των λύσεων μηχανικής μάθης τεχνητής νομοσύνης έχουν πάει σε παραγωγικό περιβάλλον και ένας από τους λόγους που αυτό οφείλεται είναι η καλή οργάνωση από την σωστή άντληση, διαχείριση των δεδομένων μέχρι τη δημιουργία του μοντέλου, τη μεταφορά του στο παραγωγικό περιβάλλον και την παρακολούθησή του.

26:46 Αυτό είναι πάρα πολύ σημαντικό. Δηλαδή να παρακολουθείς ένα μοντέλο όταν το φτιάχνεις δεν το πηγαίνεις στο παραγωγικό περιβάλλον και το αφήνεις εκεί στην τείχη του. Θα πρέπει να το παρακολουθείς με κάποιους δείκτες σε ημερήσια, σε μηνιαία, σε εβδομαδιαία βάση προκειμένου να δεις κατά πόσο λειτουργεί σωστά και αν χρειάζεται, κατά πόσο εξηγεί τα αποτελέσματα σωστά, αν χρειάζεται κάποιου είδους επανεκπαίδευση και ούτω καθεξής.

27:09 Οπότε ναι, είναι ένας παράγοντας πολύ κρίσιμος το να έχεις τους σωστούς ανθρώπους για την κατάλληλη φάση του κύκλου ζωής της μηχανικής μάθησης. Αυτή είναι διακριτή, είναι διαφορετική ρόλη και κάνουν τελείως διαφορετικά πράγματα ο ένας με τον άλλο. Δηλαδή, για παράδειγμα, ο επιστήμονας των δεδομένων ή να το πάρω καλύτερα, ο αναλυτής των δεδομένων είναι αυτός ο οποίος θα προετοιμάσει τα δεδομένα πριν ο επιστήμονας δεδομένων αποφασίσει ποιον αλγόρθμο να χρησιμοποιήσει προκειμένου να τον εκπαιδεύσει.

27:39 Απ' την άλλη ο μηχανικός μηχανικής μάθησης θα πάρει τον αλγόρθμο που ρέγυψε από την προηγούμενη διαδικασία που πρακτικά αποτελεί ένα αν θέλετε πρωτότυπο στην προσπάθεια επίλυσης του προβλήματος και είναι αυτός ο οποίος θα το εμπλουτίσει με περαιτέρω μηχανισμούς προκειμένου να λειτουργήσει ένα περιβάλλον παραγωγικό. Δηλαδή θα πρέπει να ελέγξεις αν τα δεδομένα υπάρχουν πριν τρέξεις στο μοντέλο, θα πρέπει να δεις αν τα δεδομένα που παίρνεις είναι δεδομένα για τον σωστό πελάτη.

28:04 Και το καθεξής, αυτά τα στοιχεία θα πρέπει, εφόσον εμπλουτιστεί λοιπόν αυτό το πρωτότυπο και είναι πιο κοντά σε αυτό που λέμε λογισμικό, έτοιμο προς χρήση, Ο άνθρωπος ο οποίος είναι υπεύθυνος, χρησιμοποιεί τη ορολογία με ML Ops ή DevOps στην πραγματικότητα, είναι αυτός ο οποίος θα το μεταφέρει διατηρώντας αυτή την συνέπεια που σας είπα πριν στις εκδόσεις των δεδομένων και στις εκδόσεις των μοντέλων στο παραγωγικό περιβάλλον.

28:29 Και απ' την άλλη ο business analyst, ο επιχειρησιακός αναλυτής δηλαδή, είναι αυτός ο οποίος θα επικοινωνήσει τα αποτελέσματα με τον πελάτη που θα χρησιμοποιήσει αυτό το μοντέλο μηχανικής μάθησης. Είναι αυτός ο οποίος επίσης θα πάρει νέες απαιτήσεις από τον πελάτη προκειμένου να τις μεταφέρει σε όλη την ομάδα των επιστημόνων οι οποίοι θα πρέπει να λύσουν το πρόβλημα.

28:48 Άρα λοιπόν είναι αλληλένδρο, δηλαδή είναι μια λυσίδα όλο αυτό το πλαίσιο που πρακτικά απαιτεί τους ανθρώπους να επικοινωνούν μεταξύ τους και να μιλάνε την ίδια γλώσσα και την εξειδίκευση του καθενός στο να κατασκευαστεί εν τέλει το πετυχημένο μοντέλο. Μια λυσίδα που διαδοχικά μεταφράζει το σύστημα από τη λειτουργία του και τις διαδικασίες τους σε ένα μοντέλο τεχνητής νοημοσύνης που μπορεί να δώσει χρήσιμα για αυτό αποτελέσματα αν το κατάλαβα σωστά αυτό που λέτε Ακριβώς Πολλή κουβέντα γίνεται τον τελευταίο καιρό γιατί ίσως έχει αρχίσει να φεύγει αυτή η έκπληξη του πόσο φοβερή είναι η τεχνητή νοημοσύνη και για το κατά πόσο μπορεί να γίνει εξηγήσιμη αλλά και για το κατά πόσο είναι αξιόπιστη.

29:41 Θέλετε να μας τα ορίσετε αυτά λίγο με ένα πιο κατανοητό σε εμάς τρόπο. Ναι, φυσικά. Όταν λέμε εξηγήσιμη τεχνητή νοημοσύνη, πρακτικά εννοούμε ότι ακόμα και κάποιος μη ειδικός μπορεί να καταλάβει πώς και γιατί το μοντέλο παίρνει μια απόφαση. Δεν αρκεί απλώς να λέει έτσι αποφάσισα, θέλουμε να δείχνει ποια δεδομένα και ποιοι παράγοντες οδήγησαν σε μια πρόβληψη η πρόταση.

30:05 Αυτό μπορεί να γίνει για παράδειγμα με γραφικές αναπαραστάσεις των σημαντικότερων μεταβλητών που χρησιμοποιεί το μοντέλο ή με μοντέλα που περιγράφονται μέσω γραμμικών εξισώσεων που οι θετικοί ή αρνητικοί συντελεστές δείχνουν τη συνεισφορά τους για παράδειγμα σε μια πιθανότητα, όπως είναι η πιθανότητα θέτης μιας οφειλής για παράδειγμα, σε ένα χρηματοοικονομικό πρόβλημα Η έμφαση είναι δηλαδή στην ερμηνεία και όχι στην κατασκευή του μοντέλο έτσι ώστε ο χρήστης να μπορεί να εμπιστευτεί τα αποτελέσματα και να πάρει πιο ενημερωμένες αποφάσεις.

30:35 Στην παραγωγική τεχνητή νοημοσύνη, από την άλλη, αυτό σημαίνει επίσης να γνωρίζουμε από πού προέρχονται τα δεδομένα ή τα κείμενα που χρησιμοποιήθηκαν για τη δημιουργία περιεχομένου ή αναφορών, ώστε να υπάρχει διαφάνεια και αξιοπιστία. Αν περάσουμε στα μοντέλα λήψης αποφάσεων, η αξιοπιστία επίσης μετράται με διάφορους τρόπους.

30:59 μπορούμε για παράδειγμα να μετρήσουμε την συνέπεια του ατόμου ή της ομάδας που λαμβάνει την απόφαση. Υπάρχει αυτό που λέμε δείκτης ασυνέπειας, ο οποίος θα πρέπει να είναι κάτω από 10% και συνήθως αυτό προκύπτει σε προβλήματα πολυκριτήριας ανάλυσης λήψης αποφάσεων. Δηλαδή έχεις πολλές αναλλακτικές επιλογές και προσπαθείς με διαφορετικά κριτήρια κάθε φορά να επιλέξεις την καλύτερη δυνατή.

31:26 Ένα παράδειγμα έτσι και να είναι κατανοητό θα σας δώσω από την εμπλοκή μου σε ένα έργο που είχε τρέξει όταν έκανα το διδακτορικό μου στο Κέντρο Προγραμματισμού και Οικονομικών Ερευνών όπου πρακτικά προσπαθήσαμε να ορίσουμε μια μεθοδολογία με την οποία μπορούμε να αξιοποιήσουμε στο βέλτιστο τα χρήματα της Ευρωπαϊκής Ένωσης για αναπτυξιακά έργα.

31:53 Αυτό είναι ένα κλασικό πρόβλημα βελτιστοποίησης, για παράδειγμα όπου θες να μετρήσεις την αξιοπιστία. Έχει συνήθως πολλές αναπτυξιακές ανάγκες αλλά περιορισμένα χρήματα. Άρα λοιπόν θα πρέπει αυτομάτως αυτό να μεταφραστεί σε πολλές εναλλακτικές επιλογές και περιορισμένοι πόροι, χρηματικοί πόροι. Οπότε λοιπόν εκεί έχει ιδιαίτερη αξία ποιες εναλλακτικές επιλογές θα επιλέξεις.

32:18 Εκεί λοιπόν ένας τρόπος που μπορείς να το μετρήσεις είναι, για παράδειγμα, χρησιμοποιώντας ερωτηματολόγια προκειμένου να αντλήσεις την άποψη διαφορετικών ατόμων στη διαδικασία λήψης απόφασης. Για παράδειγμα μπορείς να πάρεις την απόφαση να πάρεις τις προτιμήσεις του Περιφερειάρχη ή να πάρεις τις προτιμήσεις του Δήμου,wahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwahwah εργα να υλοποιήσω στο Δήμο Κιλίνης και βλέπω λοιπόν θα πρέπει να συγκρίνω το έργο 1 με το 2, το 1 με το 3, το 1 με το 4, το 2 με το 3, το 2 με το 4 και το καθεξής.

33:13 Άρα κάθε φορά ένας χρήστης θα μπορούσε να δώσει ένα άτομο που θα μπορούσε να δώσει λοιπόν προτιμήσεις. Η ασυνέπεια που έρχεται λοιπόν, έρχεται στο γεγονός ότι αν κάποιος αποκλίνει από αυτό που έχει πει σε προηγούμενες συγκρίσεις, αρχίζει και μεγαλούν η ασυνέπειά του. Αλλιώς τα έλεγε πριν, αλλιώς τα λέει μετά. Άρα λοιπόν έχουμε μηχανισμούς οι οποίοι πρακτικά τι κάνουνε οι αυτές οι προτιμήσεις οι οποίες με στατιστικό τρόπο μπορούν να μετελοποιηθούν και να σου δώσουν κάποια scores, κάποιους βαθμούς δηλαδή για κάθε μία εναλλακτική επιλογή για κάθε ένα αναπτυξιακό έργο στο παράδειγμα μας θα μπορούσαν λοιπόν να χρησιμοποιηθούν με τέτοιο τρόπο ώστε να μετρηθεί η ασυνέπεια του χρήστη και αν η ασυνέπεια είναι πάνω από 10%, τότε πρακτικά να το χρησιμοποιήσει έναν μηχανισμό ο οποίος προειδοποιεί το χρήστη ότι η διαδικασία λήψης απόφασης δεν μπορεί να ολοκληρωθεί γιατί υπάρχει ασυνέπεια.

34:04 Θα είναι έτσι κάποια παραδείγματα που πρακτικά γίνουν την ανάγκη στο να υπάρχει εξηγήσιμη τεχνητή νοημοσύνη και από την άλλη να μετρήσει με κάποιο τρόπο την αξιοπιστία έστω και μέσω της ασυνέπειας των ατόμων που συμμετέχουν στη λήψη απόφασης. Κλασική εφαρμογή θα μπορούσε να βρει κανείς στα προεκλογικά προγράμματα και στο ότι εφαρμόζεται στη συνέχεια.

34:30 Νομίζω και το μοντέλο θα αντιμετώπιζε πολύ σοβαρά προβλήματα. Η ασυνέπεια θα ήταν βέβαιη μάλλον. Τέλος πάντων. Στην πραγματικότητα όμως, ξέρετε, πολλές φορές είναι και η έλλειψη γνώσης ορισμένων θεμάτων. Δηλαδή αυτά είναι κάποια εργαλεία που μπορεί να έχουν προταθεί, να έχουν προταθεί σε ένα συγκεκριμένο πλαίσιο, αλλά πρακτικά εκεί έρχεται η ανάγκη, ή μάλλον η σπουδαιότητα της επιστήμης και η γενίκευση ας το πούμε αυτών των δικτών σε διαφορετικά προβλήματα διαφορετικής φύσεως.

35:02 Οπότε είναι εργαλεία που πρακτικά, λόγω της έλλειψης γνώσης μπορεί να μην έχουν εφαρμοστεί, αλλά αν τελικά εφαρμοστούν ακόμα και τα άτομα τα οποία μπορεί στην αρχή να σου δώσουν πολύ μεγάλα συνέπεια να συμμορφωθούν γιατί στην πραγματικότητα τι γίνεται αυτό είναι πολύ εμφανές στην ομαδική λήψη απόφασης. Δηλαδή όταν έχεις διαφορετικά άτομα τα οποία θα πρέπει να πάρουν μια κοινή απόφαση πρακτικά η απόφαση δεν θα βγει ποτέ αν δεν συγκλίνουν.

35:26 Ο καλύτερος τρόπος να συγκρίνουν λοιπόν να βρεις αυτό το σημείο ισορροπίας είναι ένα πρόβλημα που εξυπηρετείς δηλαδή στην πράξη. Είναι ένα σημείο ισορροπίας που πρέπει να βρεις μεταξύ όλων των εμπλεκομένων. Οπότε πρακτικά δεν μπορεί να εποφεληθεί μόνο ένας και οι υπόλοιποι να μην εποφεληθούν γιατί θα υπάρχει η αντίδραση. Άρα λοιπόν προσπαθείς να βρεις αυτή τη λύση, αυτό το σημείο ισορροπίας που πρακτικά όλοι είναι ικανοποιημένοι.

35:46 αραιολογικά αν με κάποιο τρόπο μάθουν το μηχανισμό, ας το πούμε, μέτρηση της ασυνέπειας, πρακτικά θα πρέπει να τον ακολουθήσουν προκειμένου να βγει μια απόφαση. Άρα, αν θέλετε, είναι και λίγο μια έλλειψη γνώσης που μπορεί να υφίσταται σε έναν οργανισμό, σε μια υπηρεσία και μια εφαρμογή συνδυαστικών πραγμάτων, που αυτόνται όχι μόνο της τεχνητής νοημοσύνης, δηλαδή με την αξιοποίηση των δεδομένων, αλλά και κλασικής στατιστικής.

36:15 Η ελπίδα είναι να γεφυρωθεί αυτό το κενό, φαντάζομαι, σιγά-σιγά, της γνώσης έτσι ώστε πράγματα τα οποία υπάρχουν εδώ και πολύ καιρό να αρχίσουν να γίνονται και πρακτικά χρήσιμα για την κοινωνία. Δεν μπορεί όμως ένα μοντέλο να είναι αποδοτικό και ταυτόχρονα να μην είναι εξηγήσιμο. και αν ναι μπορούμε να το εμπιστευτούμε.

36:37 Ισχύει αυτό. Δηλαδή αν ένα μοντέλο αποδίδει αλλά δεν εξηγείται εγώ προσωπικά είμαι πολύ προσεκτικός. Δηλαδή η καλή απόδοση απομόνησης δεν είναι αρκετή. Η εμπιστοσύνη χτίζεται μόνο όταν κατανοούμε και μπορούμε να αξιολογήσουμε τους λόγους πίσω από την απόφαση. Οπότε εκεί αν θέλετε μπορούμε να τραβήξουμε την γραμμή τη δική μας.

37:00 Αν δεν μπορούμε δηλαδή να εξηγήσουμε τις αποφάσεις δεν πρέπει να τις αφήσουμε να καθορίζουν κρίσιμα θέματα όπως χρηματοοικονομικές ή κοινωνικές επιλογές. Οπότε στην πράξη το σημαίνει ότι ακόμα και αν χρησιμοποιήσουμε για παράδειγμα νευρονικά δίκτυα που πολλές φορές χαρακτηρίζονται ως μαύρα κουτιά λόγω των πολλών μετασχηματισμών που πραγματοποιούνται στα αρχικά δεδομένα που παίρνει το μοντέλο, προσπαθούμε να εξάγουμε συμπεράσματα ή κανόνες από τα δεδομένα και τα εμπλουτίζουμε αυτά τα δίκτυα με ασαφή λογική ή εφαρμόζουμε τεχνικές επιλογής βέλτισης του υποσυνόλου με τα βλητών, ώστε η πρόβληση να είναι όσο δυνατόν πιο κατανοητή και τεκμηριωμένη.

37:35 Δηλαδή αν δεν μπορείς ένα μοντέλο να το καταλάβεις, υπάρχουν τεχνικές τις οποίες μπορείς να εφαρμόσεις προκειμένου να δεις τη συμπεριφορά του αλγορίθμου. Και εκεί εξαρτάται ο αλγόριθμος που χρησιμοποιείς. Υπάρχουν δύο, αν θέλετε, κατηγορίες αλγορίθμων, δηλαδή μοντέλων. Αν πάρουμε τα γραμμικά μοντέλα ή τα μη γραμμικά μοντέλα. Το γεγονός ότι κάποιος χρησιμοποιεί γραμμικό μοντέλο τον βοηθάει πάρα πολύ στο να εξηγήσει τα αποτελέσματα.

38:09 Απ' την άλλη υπάρχει πολύ μεροληψία γιατί ο κόσμος δεν είναι γραμμικός είναι μη γραμμικός Οπότε πρακτικά αυτό που συναντάει κάποιος όταν χρησιμοποιεί ένα γραμμικό μοντέλο είναι ότι μπορεί να το εξηγήσει πολύ εύκολα Έχει υψηλή όμως μεροληψία αλλά άμα χρησιμοποιήσει διαφορετικά σύνολα δεδομένων θα πάρει πάνω κάπου τα ίδια αποτελέσματα Απ' την άλλη αν πας σε ένα μη γραμμικό μοντέλο όπως είναι το νευρωνικό δίκτυο που είναι πιο κοντά στην πραγματικότητα το πώς είναι ο κόσμος μας.

38:38 Πρακτικά αυτό το μοντέλο έχει πολύ λίγη αμεροληψία αλλά άμα του δώσεις διαφορετικά δεδομένα θα σε οδηγήσει σε διαφορετικά αποτελέσματα. Οπότε πρακτικά προσπαθείς να βρεις αυτό το σημείο ισορροπίας πάλι δηλαδή είναι ένα πρόβλημα με τη θεωρήση προσπαθείς να βρεις το σημείο ισορροπίας μεταξύ της αμεροληψίας και της διαφορετικής συμπεριφοράς που έχει στα διαφορετικά δεδομένα.

39:01 Οπότε εκεί λοιπόν έρχεται η στατιστική και αρχίζει και εμπλουτίζει την όλη διαδικασία ας πούμε επέδευσης είτε γραμμικού είτε μη γραμμικού μοντέλου με διάφορες τεχνικές. Μία καλή τεχνική στο παράδειγμα που σας ανέφερα πριν είναι του να δεις ότι αν στο σύνολο δεδομένου χρησιμοποιώ για παράδειγμα 100 μεταβλητές. Τι θα γίνει αν φτιάξω ένα μοντέλο με 10 μεταβλητές ή με 5 μεταβλητές ή με 20 μεταβλητές. Ποια είναι η διαφορά στη συμπεριφορά του μοντέλου.

39:26 μοντέλου. Οπότε λοιπόν με αυτόν τον τρόπο προσπαθούμε η πρόληψη να είναι όσο δυνατόν πιο κατανοητή και τεκμηριωμένη. Άρα λοιπόν δεν μπορώ να πάρω ένα μοντέλο να πάρω την αποφασίστη του και να την χρησιμοποιήσω χωρίς να μπορώ να την εξηγήσω. Με κάποιο τρόπο δεν θα πρέπει να την εξηγήσεις. Αν δεν μπορείς να την εξηγήσεις τότε δεν θα πρέπει να την χρησιμοποιήσεις.

39:45 Έχει αρχίσει να συζητιέται ότι η τεχνητή νοημοσύνη ίσως είναι είναι σίγουρα ένα από τα πιο επιδραστικά αργαλεία που έχουμε ποτέ φτιάξει οι άνθρωποι αλλά ενδεχομένως να γίνει και το επιδραστικότερο για να ανοίξω λίγο την κουβέντα μας καθώς πλησιάζουμε προς το τέλος σας ανησυχεί σε ένα κοινωνικό πλαίσιο δηλαδή μήπως την ελέγχουν περισσότερο οι ισχυροί ή μήπως αυτό δημιουργήσει μια καινούρια λογική στο ποιοι είναι ισχυροί και ποιοι όχι οι έννοιες όπως της δικαιοσύνης της διαφάνειας, η λογοδοσία ακόμα σχετικά με το ποιος ευθύνεται όταν χρησιμοποιούμε την τεχνητή νοημοσύνη.

40:19 Όλες αυτές οι ανησυχίες που υπάρχουν γενικά σε εσάς, πώς εκφράζονται από εσάς. Ευχαριστώ πολύ για την ερώτηση. Για να διασφαλίσουμε ότι η τεχνητή νοημοσύνη παραμένει εργαλείο που εξυπηρετεί όλους και όχι μόνο τους ισχύρους, χρειάζεται ένας συνδυασμός τεχνικών, θεσμικών και κοινωνικών μέτρων. Τεχνικά σημαίνει χρήση ανοιχτού λογισμικού, κατασκευή μοντέλων με κατάλληλα και αντιπροσωπευτικά δεδομένα, συνεχής αξιολόγηση και δυνατότητα ελέγχου των αποτελεσμάτων.

40:51 Απ' την άλλη κοινωνικά και θεσμικά σημαντικό ρόλο παίζουν τα ακαδημαϊκά ιδρύματα που μπορούν να παρέχουν ελεύθερη γνώση, εκπαίδευση και ανεξάρτητη αξιολόγηση των μοντέλων. Αυτό είναι πάρα πολύ σημαντικό. Και παράλληλα η διαφάνεια που αναφέρατε, η δικαιοσύνη και η λογοδοσία πρέπει να ενσωματώνονται σε κάθε στάδιο ανάπτυξης της χρήσης της τεχνητής νομοσύνης.

41:09 Στην Ευρώπη υπάρχει ο κανονισμός, αυτό που αποκαλούμε AI Act, το οποίο στέτει σαφή πλαίσια για την ασφάλεια, τη διαφάνεια και τη δικαιοσύνη των συστημάτων τεχνητής νοημοσύνης υποστηρίζοντας θεσμικά τη λογοδοσία και την εμπιστοσύνη στο κοινό. Οπότε με αυτόν τον τρόπο η τεχνητή νοημοσύνη μπορεί να παραμείνει εργαλείο που ενισχύει τη λήψη απόφασης για όλους και όχι μόνο για λίγους.

41:31 Άρα είναι ένα συνδυασμός όπως είπα των τεχνικών, θεσμικών και κοινωνικών μέτρων που θα πρέπει να εφαρμόζονται σε όλα τα στάδια ανάπτυξης ενός συστήματος, ενός μοντέλου τεχνητής νοημοσύνης. Γενικά είστε πολύ προσεκτικός στο πώς εκφράζεστε, οπότε θα σας τσιγκλίσω εγώ λίγο παραπάνω. Το ένστικτό σας τι σας λέει. Έχουμε από τη μία μία τρελή κούρσα ανταγωνισμού και από την άλλη αυτό το πλαίσιο που περιγράψατε.

41:57 Θα τους προλάβουμε ή θα επικρατήσει κάποιος από αυτούς και θα τον κυνηγάμε. Γιατί νομίζω αυτό είναι μια ρεαλιστική ανησυχία. Η αλήθεια είναι ότι ειδικά μετά την εμφάνιση της παραγωγικής τεχνητής νοημοσύνης, δηλαδή τα μεγάλα γλωσσικά μοντέλα που υπάρχουν όπως είναι το chat GPT και όλα αυτά τα διάφορα συστήματα τα οποία προκύπτουν, Τα πράγματα τρέχουν πάρα πολύ γρήγορα, τεχνικά αν θέλετε, δηλαδή προτείνονται πολλά μοντέλα, βιώνουν πολλά συστήματα με πάρα πολύ γρήγορο ρυθμό.

42:35 Απ' την άλλη βέβαια, η πράξη έχει δείξει ότι δεν μπορούμε να περάσουμε από τη μία μέρα στην άλλη ένα σύστημα τεχνητής νοημοσύνης σε παραγωγικό περιβάλλον έτσι εύκολα. θα πρέπει λοιπόν να θα πρέπει με κάποιο τρόπο κάθε φορά που περνάει κάτι σε ένα παραγωγικό περιβάλλον στηρίζεται σε κάποιες απαιτήσεις των πελατών αυτές οι απαιτήσεις συνήθως ακολουθούν ένα συγκεκριμένο μοντέλο ανάπτυξης λογισμικού πιο παραδοσιακά σε παλαιότερες εποχές υπήρχε αυτό που λέμε μοντέλο του καταράκτη Δηλαδή, ερχόντουσαν όλες οι απαιτήσεις και αφού τελείωνε η φάση συλλογής των απαιτήσεων, μετά ξεκινούσε η υλοποίηση ενός συστήματος και μετά το σύστημα απλά δεν χρησιμοποιούνταν ποτέ.

43:25 Γιατί οι απαιτήσεις σε σχέση με την πραγματικότητα είχαν πολύ μεγάλη απόσταση. Πλέον, σε εταιρείες πληροφορικής, τα μοντέλα που ακολουθούνται για την ανάπτυξη του λογισμικού, είτε έχει μέσα τεχνητή νοημοσύνη είτε δεν έχει τεχνητή νοημοσύνη, ακολουθούν ένα πιο agile τρόπο, δηλαδή σπάνε την διαδικασία ανάπτυξης σε μικρούς κύκλους όπου γίνονται όλα, δηλαδή έχουμε τις απαιτήσεις, αναπτύσσεται ένα χαρακτηριστικό, πηγαίνει στο παραγωγικό περιβάλλον, το βλέπει ο πελάτης, δίνει feedback και πηγαίνουμε στη δεύτερο κύκλο ανάπτυξης.

43:59 Μετά παίρνουμε feedback και πηγαίνουμε στη τρίτη κύκλο ανάπτυξης. κάποιο στιγμή όταν τελειώνει το έργο, οι απαιτήσεις με το τελικό παραδεδέο έχουν άμεση σχέση. Οπότε αυτός είναι ένας παράγοντας, ο οποίος είναι ένας παράγοντας πολύ καθοριστικός στο να αναπτύξεις πολύ προσεκτικά λογισμικό με τεχνητή νοημοσύνη ή χωρίς τεχνητή νοημοσύνη.

44:20 Δηλαδή φανταστείτε ότι χωρίς τεχνητή νοημοσύνη και είναι αρκετά εξεντλητική η διαδικασία, πόσο μάλλον με τεχνητή νοημοσύνη όπου τα εργαλεία χρησιμοποιούνται για τη λήψη απόφασης. Απ' την άλλη, όταν θα χρησιμοποιηθεί τεχνητή νοημοσύνη υπάρχουν μια σειρά από ρόλοι οι οποίοι θα πρέπει να ενεργοποιηθούν. Όπως σας ανέφερα πριν, ο επιστήμονας των δεδομένων, ο αναλυτής των δεδομένων, η διαχείριση των βάσεων δεδομένων, η μεταφορά στο παραγωγικό περιβάλλον, η εξήγηση του μοντέλου.

44:45 Αν όλα αυτά δεν περάσουν κάποιον έλεγχο δεν μπορεί έτσι απλά να πάει ένα μοντέλο στην παροχή διαδικασίας. Οπότε γενικά είμαι πολύ αισιόδοξος ότι η χρήση τέτοιων εργαλείων θα βοηθήσει τους ανθρώπους στο να αποκτήσουν βοηθητικά εργαλεία στη διαδικασία λήψης απόφασης, όποια και να είναι αυτή. Και από την άλλη προκύπτουν διάφορες ανάγκες για διαφορετικούς ρόλους που η συνέργεια μεταξύ αυτών των διαφορετικών ρόλων δημιουργεί μια καινούργια πραγματικότητα.

45:16 Οπότε στο άρθρο που σας ανέφερα για παράδειγμα στη Μακίνζη που το 20% των λύσεων πηγαίνει στο παραγωγικό περιβάλλον αυτό ήταν κυρίως πριν την παραγωγική τεχνητή νοημοσύνη. Με τη βοήθεια της παραγωγικής τεχνητής νοημοσύνης και την προσεκτική εννοείται χρήση των δεδομένων τα οποία θα χρησιμοποιήσεις για να αξιοποιήσεις την παραγωγή τεχνητής νοημοσύνη, η παραγωγικότητα θα αυξηθεί, ο ορθμός με τον οποίο θα πηγαίνει μια λύση σε οποιοδήποτε περιβάλλον ενδεχομένως να αυξηθεί, να γίνει μεγαλύτερος, Αλλά σίγουρα υπάρχουν πολλές δικλήτες ασφαλείας και υπάρχουν και κανονιστικά πλαίσια τα οποία θα πρέπει να εφαρμοστούν πριν δοθεί στην παραγωγή η χρήση της τεχνητής νομοσύνης. Οπότε υπάρχουν οι κατάλληλοι μηχανισμοί, αλλά είναι μια σειρά από το πώς οι άνθρωποι μεταξύ τους συνεργάζονται στο να πάρουν αυτή τη λύση και να την βάλουν σε ένα περιβάλλον και πώς μετράνε την αξιοπιστία και την επεξηγησιμότητα που έχει το κάθε ένα μοντέλο.

46:13 Άρα λοιπόν δεν με φοβίζει τόσο αν θέλετε ότι υπάρχει πολύ, παράγεται πάρα πολύ γρήγορα η γνώση. Μια γνώση η οποία βγαίνει με τόσο γρήγορο ρυθμό έχει κρύβει αρκετή μεθοδολογία από πίσω. Πολλές βλέπεις αρκετές δημοσιεύσεις οι οποίες βγαίνουν και έχουν καινούργια υποδείγματα τα οποία αξιολογούνται. Άρα δεν μπορεί να περάσει εύκολα ένα μοντέλο το οποίο δημοσιεύτηκε σε ένα πολύ καλό περιοδικό την επόμενη μέρα.

46:44 Χρειάζεται ανάλυση, χρειάζεται κατανόηση και μετά έρχεται η υλοποίηση. Δηλαδή είναι αυτό που λέμε ξεκινάς από το πρωτότυπο για να πας στο software, να πας στο παραγωγικό περιβάλλον. Υπάρχει μια απόσταση, άρα με κάποιο τρόπο όλα αυτά θέλουν το χρόνο τους και ο χρόνος αυτός θα μπορούσε να είναι επικοδομητικός στο να ενεργοποιήσει διαφορετικούς ρόλους, άρα διαφορετικές ανάγκες, διαφορετικές απαιτήσεις σε μια νέα πραγματικότητα όπου πρακτικά οι άνθρωποι απλά χρησιμοποιούν υποστηρικτικά, βοηθητικά όλα αυτά τα εργαλεία για να κάνουν κάτι καλύτερο και όχι κάτι χειρότερο.

47:16 Κλείνοντας λοιπόν, ποιο είναι τοwahwah Οι καθηγητές έχουν τεράστια ευθύνη να διδάξουν τα παιδιά να μελετούν, να αγαπήσουν το βιβλίο και την έντυπη γνώση, αλλά παράλληλα να εξοικειωθούν με εργαλεία τεχνητής νομοσύνης με ασφαλή και κριτικό τρόπο. Να τα εκπαιδεύουν οι ίδιοι ενδεχομένως φοιτητές, πολλές φορές τα μοντέλα αυτά με δικά τους δεδομένα και φυσικά να έχουν πρόσβαση σε μεγάλο όγκο δεδομένων υποέλεγχο.

48:04 Οπότε η τεχνολογία από μόνη της δεν φτάνει. Η υπευθυνότητα, η κριτική σκέψη και η παιδεία είναι αυτές που θα καθορίσουν πώς θα χρησιμοποιηθεί σωστά η τεχνητή νομοσύνη. Νομίζω ήταν μια πολύ ενδιαφέρουσα κουβέντα. Ναι, και πολλά μοντέλα. Πολλά διαφορετικά μοντέλα και πολύ χρήσιμα νομίζω. Να σας ευχαριστήσουμε πάρα πολύ. Ευχαριστώ πολύ.

48:31 Κι εγώ ευχαριστώ πάρα πολύ. Ωραία. Πάει το πρώτο. Θα μπορούσατε να γίνετε και διπλό.