Debrief #11: Τεχνητή Νοημοσύνη, Ηθική και Δημοκρατία | Χρίστος Παπαδημητρίου

Αυτόματη μεταγραφή — ενδέχεται να περιέχει λάθη.

00:30 την τεχνολογία που παρότι δεν είναι πολύ νέα ως τεχνολογία, μπήκε κάπως επιθετικά στη ζωή μας τα τελευταία χρόνια. Και όχι απλώς μπήκε, αλλά άρχισε να μας βάζει και πολλοί πιεστικά ερωτήματα. Τα ερωτήματα αυτά δεν έχουν μόνο να κάνουν με το πώς θα την εντάξουμε στη δουλειά και στη ζωή μας, όπως γίνεται με τις περισσότερες τεχνολογίες, αλλά είναι και βαθύτερα.

00:50 Η επικοινωνία με τα μεγάλα γλωσσικά μοντέλα γίνεται όλο και πιο αληθοφανής και συνεχίζουμε να μην μπορούμε να γνωρίζουμε ακριβώς το πώς φτάνουν σε αυτές τις απαντήσεις που μας δίνουν. Συνεπώς, όλο και περισσότερο μας απασχολούν ηθικά και διοντολογικά θέματα για τη φύση του ανθρώπου και για τα όρια της μηχανής. Και πιο πρακτικά, ας πούμε, ποιος θα βάλει αυτά τα όρια στις μηχανές και στους ιδιοκτήτες τους.

01:15 Δίπλα μου, για να μιλήσουμε για όλα αυτά, έχω τον κύριο Χρήστο Παπαδημητρίου, θεωρητικό επιστήμονα των ηλεκτρονικών υπολογιστών, καθηγητής στο Πανεπιστήμιο Κολούμπια της Νέας Υόρκης, μέλος της Αμερικανικής Ακαδημίας Τεχνών και Επιστημών, αλλά και πλέον από το 2004 μέλος της Ακαδημίας Αθηνών. Ο κύριος Παπαδημήτριο έχει βραβευτεί πολλές φορές για το έργο του σε διάφορες χώρες, είναι ακόμα επίτιμος διδάκτορας σε νέα πανεπιστημίων και κάτι που μάλιστα τον κυνηγά για πάντα, ότι η ζωή του επιστήμων των υπολογιστών πάει κάπως πιο γρήγορα από τη ζωή των υπολοίπων. Δηλαδή η τεχνολογική εξέλιξη της τελευταίας δεκαετίας είναι τρομερά γρήγορη. Είναι το αντίστοιχο ένας ιστορικός να βλέπει τις αυτοκρατορίες να ανεβαίνουν και να πέφτουν στη διάρκεια μιας ανθρώπινης ζωής.

02:04 Είναι το ζήτες εσείς πραγματικά κάπως έτσι, αισθάνεστε αυτή την ταχύτητα? Ναι, η δουλειά μου είναι λίγο σαν αυτή του ιστορικού και το βρίσκω συναρπαστικό. Δηλαδή, κάποιο τρόπο πρέπει συνεχώς να αλλάζω το πώς θα εξηγήσω στους μαθητές μου μια κοσμογωνία που βρίσκεται σε εξέλιξη. Δεν είναι εύκολο. Και πώς θα προσπαθήσω στην έρευνά μου να την τιμονέψω στον βαθμό που μπορώ.

02:32 Θυμάμαι αυτή τη στιγμή, τη στιγμή που κατάλαβα ότι το διαδίκτυο δεν ήταν απλώς μια νέα τεχνολογία αλλά ήταν ένας νέος καινούριος τρόπος ζωής, ένα τεχνούργημα και πολύ διαφορετικό από τις πόλυμες τεχνολογίες με την εξής έννοια, ότι ήταν ένα τεχνούργημα θυμάμαι τη στιγμή που τη συνειδητοποίησα αυτό το οποίο το σχεδίασε όχι μια εταιρεία ή μια ομάδα σχεδιαστών αλλά δημιουργείται συνεχώς και αλλάζει από οντότητες, εταιρείες και ανθρώπους που αλληλοπιδρούν και ο καθένας έχει τα δικά του κίνητρα τις καταδημικές του προτεραιότητες, συμφέροντα, χούια και ότι η πληροφορική λοιπόν είχε γίνει μια κοινωνική επιστήμη με το διαδίκτυο γιατί βέβαια το διαδίκτυο είναι αυτό ότι καταλάβαμε ότι ο υπολογιστής ήταν ένα τίποτα ήταν το κατζετάκι που μας έφερε το διαδίκτυο όπως είναι και το κατζετάκι που μας έφερε την τεχνική νοημοσύνη και από εδώ και πέρα με αυτά θα πρέπει να ασχολούμαι.

03:38 Σήμερα λοιπόν πρέπει να εξηγώσω στους μαθητές μου τι ήταν ο κόσμος πριν από τα smartphones και πριν από το Google. Εντάξει που δεν μπορούσες μέσα σε δέκα δευτερόλεπτα να έχεις απαντήσει όλες τις ερωτήσεις. Δηλαδή αυτό είναι ένας ιστορικός της κοινωνίας που βλέπει ολόκληρους τρόπους ζωής να εμφανίζονται και να εξαφανίζονται στην κατάλληλη διάρκεια της ζωής του.

04:06 Είναι προνόμιο ή εμπόδιο να παρακολουθείτε από κοντά αυτή την εξέλιξη που ζείτε εσείς. Τι να πω. Μετά από λίγο σε κουράζει. Περίπου βαριές έλεγες. Όχι άλλη επανάσταση. Αλλά όντως είναι προνόμιο να ζεις τις αλλαγές και να τις ζεις με μια συνειδητοποίηση τρομάρα μου βέβαια στο βαθμό που νομίζω ότι συνειδητοποιώ την πραγματική τους φύση.

04:40 Χρησιμοποιούμε και για την τεχνητή νοημοσύνη τον όρο τεχνολογική επανάσταση, όπως έχουμε κάνει για πολλές άλλες τεχνολογίες στο παρελθόν, αλλά το πλώω, τι είναι μια τεχνολογική επανάσταση και τελικά η τεχνητή νοημοσύνη εμπίπτει σε αυτή την κατηγορία. Πώς ορίζει κανείς την επανάσταση πιο γενικά, αλλά η τεχνολογική επανάσταση είναι ακόμα πιο δύσκολο στο θέμα, νομίζω.

05:02 Νομίζω το εξής, ότι αστιδέ με τεχνολογική επανάσταση μια τεχνολογία, όταν αλλάζει όχι μόνο το τι κάνεις, αλλά και τι νομίζεις ότι είσαι. Δηλαδή πώς βλέπεις τον κόσμο και τι λέει αυτός σου. Τι θέλω να πω από αυτό. ότι η τυπογραφία ήταν μια τεχνολογική επανάσταση γιατί άλλαξε τη σχέση των ανθρώπων με κάτι φοβάρα βασικό, τη γνώση.

05:34 Δηλαδή ότι η γνώση ξαφνικά έγινε απεριόριστη και χωρίς προνόμια μπορείς να την αποκτήσεις. Η εκβιομηχάνηση ήταν μια τεχνολογική επανάσταση γιατί άλλαξε το σχέση του κοινού ανθρώπου με το χρόνο και την εργασία. το διαδίκτυο άλλαξε τη σχέση μας με δύο πράγματα την πληροφορία, ότι ξαφνικά η πληροφορία είναι εκεί και απλώς για σένα να την ψάξεις και να την βρεις χωρίς να έχεις ιδιαίτερες γνώσεις και με τον τόπο, ότι βασικά μπορείς να είσαι μέρος μιας ομάδας που δεν υπάρχει στο χάρτη που ο τόπος δεν υπάρχει στο χάρτη που υπάρχει παντού τέλος πάντων τι είναι αυτό που αλλάζει με την τείχνη νομοσύνη νομίζω ότι αλλάζει τη σκέψη μας τη σχέση μας ή θα πω διανόηση αλλά δεν θέλω να τον μπερδέψω με το sponsor μας με τη σκέψη αλλάζει τον τρόπο μας με τη σκέψη δηλαδή ότι βασικά με ποιο μιλάω και ποιος είμαι ή ακόμα καλύτερα λες κάτι ή γράφεις κάτι και λες αυτό εγώ το σκέφτηκα δηλαδή άρα με αυτόν τον ορισμό μάλλον είμαστε μπροστά σε κάτι που μοιάζει με τεχνολογική επανάσταση

07:01 πάντως στο δημόσιο δημόσιο είναι νομίζω περισσότερο από τέτοια όχι μόνο είναι αλλά σίγουρα είναι η πιο μεγάλη επιστημονική κατάκτηση που έχω δει στην ζωή μου και η μεγαλύτερη επιστημονική ανατροπή. Να σου μπορεί να μας δώσει την ευκαιρία να το εξηγήσει ότι είναι ονομαλότερα. Πάντως το δημόσιο διάλογο παρουσιάζεται πολύ συχνά με τσικουρία έντονους όρους.

07:26 Ότι είναι μια τρομερή απειλή για την ανθρωπότητα, ότι θα μας κατακτήσει και διάφορα τέτοια σενάρια ή ότι είναι ένα θαύμα, θα φέρει ατέλειωτη παραγωγικότητα, ατέλειωτο πλούτο για όλους κλπ. Υπάρχει ένας λίγο ψύχρεμος τρόπος Να την κατανοήσουμε Ναι αυτό που λέτε ισχύει Και είναι πολύ ανθρώπινο Θεός και διάβολος Δίπολη αντίληψη Όλο δυστηδαιμονία Η αλήθεια φαντάζομαι Είναι στη μέση και θα είναι πολύ πιο βαρετή Από αυτά τα μεταφυσικά Η τεχνητή νοημοσύνη όπως ξέρουμε Είναι απλά ένα εργαλείο Αλλά μακράν το πιο ισχυρό και το πιο καθοριστικό εργαλείο και στην ιστορία και επομένως το πιο ανησυχητικό εργαλείο στην ιστορία.

08:12 Και είναι ένα εργαλείο, το οποίο δεν πρέπει να ξεχνάμε, το οποίο ενσωματώνει όλες τις αξίες και τα κουσούρια της ανθρωπότητας, του πολιτισμού μας. Κοιτάξτε. Και ρωτάτε ποια είναι μια ψύχραιμη αντιμετώπιση. Ποια είναι μια ψύχραιμη. Δηλαδή ψύχραιμη αντιμετώπιση είναι να βάζεις στην πάντα το δέος και το σεβασμό για το τι επιτελείται και να ρωτάς ποιος ωφελείται ποιος χάνει και ποιος αποφασίζει ιδιαίτερα το τελευταίο και αν η απάντηση στο τελευταίο είναι τρεις εταιρείες στην Καλιφόρνια και η κυβέρνησης της Κίνας έχουμε πρόβλημα.

09:07 Θα πάμε λίγο αργότερα σε αυτό, αλλά θέλω να σας ρωτήσω κάτι λίγο εσωτερικό για το χώρο της τεχνολογίας. Ειδικά με την AI, έχουμε δει λίγο την τεχνητή νοημοσύνη να μυθοποιείται, ότι είναι κάτι πολύ δύσκολο, κάτι που μόνο οι ειδικοί το καταλαβαίνουν, που περιλαμβάνει πολύ ανώτερα μαθηματικά, που θέλουμε δέκα ζωές, ας πούμε, να τα κατανοήσουμε.

09:27 Είναι πράγματι έτσι, είναι τόσο καινούριο και τόσο σύνθετο πράγμα. Είναι πολύ καινούριο, είναι αρκετά σύνθετο, αλλά κάθε τεχνολογία που υπερβαίνει ένα γνωστικό όριο πολυπιδοκότητας, δηλαδή του τι μπορεί να συλλάβει εκείνη τη στιγμή ο μέσος άνθρωπος, είναι εξ ορισμού μαγεία. Αυτό δεν είναι μαγεία. Εντάξει, νομίζω ότι αυτό πρέπει να ορισμούν μαγεία.

09:52 Και επομένως είναι ένας μύθος. είναι ένα μύθευμα το οποίο δεν έχει πολλές αντικειμενικές ρίζες ας πούμε μυθολογία δηλαδή ως δάσκαλος αυτό το βιώνω προσωπικά δηλαδή ότι θέλουμε κατανόηση και όχι ιερό δέος εντάξει και αυτό δηλαδή η κατανόηση και όχι ιερό δέος είναι απαραίτητο για δημοκρατική συζήτηση του θέματος Οι βασικές αρχές πίσω από την τεχνική νοημοσύνη είναι απλούστατες και εξηγήσιμες.

10:32 Εντάξει, απόλυτα εξηγήσιμες. Τα μοντέδα μαθαίνουν από παραδείγματα, αναγνωρίζουν μοτίβα. Δεν σκέφτονται με την ανθρωπινία του όρου. Θα μπορούσα να εξηγήσω πέντε λόγια. Ίσως πεντακόσια. πώς δουλεύει η τεχνική νομοσύνη. Ωραία. Λοιπόν, χρονομετρήστε με. Αυτή τη στιγμή το καλύτερος τρόπος να δεις αν μια μαστογραφία έχει πρόβλημα είναι να τη δώσεις σε μια τεχνική νομοσύνη.

11:15 Δηλαδή η τεχνική νομοσύνη σήμερα βρίσκει 20% περισσότερους όζους σε ματοχρητογραφίες από ότι οι καλύτεροι χτινογράφοι και ογκολόγοι. Το θέμα είναι πώς γίνεται αυτό. Πώς είναι μια μηχανή που παίρνει μια μαστογραφία, που είναι βασικά μια εικόνα, και μας δίνει στην έξοδο, ναι, όχι, υπάρχει όζος, δεν υπάρχει όζος. Αυτό βασικά είναι ένα κουτί.

11:45 Απ' τη μια μεριά μπαίνει η είσοδος, βάζουμε τις κουκίδες αυτές, τα πίξερς που λέμε, της μαστογραφίας, το καθένα είναι άσπρο, μαύρο ή γκρίζο. Τα σημεία, τα δεδομένα. Τα σημεία, τα δεδομένα, όλα, ναι. Και από την άλλη μεριά βγαίνει, υπάρχει όζος και μάλιστα αυτό το σημείο. Εντάξει ή δεν υπάρχει. Τώρα, άμα ανοίξουμε αυτό το κουτί, τι έχει μέσα.

12:08 Άμα ανοίξουμε αυτό το κουτί, μέσα έχει, είναι κάπως ένα τεράστιο ηλεκτρονικό και ηλεκτρικό κύκλωμα, εντάξει, που έχει αδιστάσεις, αριθμούς. Δηλαδή είναι ένα κύκλωμα, είναι ένα δίκτυο, ένα δίχτυ που πάνω στις γραμμές του έχει αριθμούς. Εντάξει, τους αριθμούς αυτούς τους λέγαμε βάρη. Και βασικά τα βάρη αυτού του συγκεκριμένου κουτιού θα τα έχουμε διαλέξει πολύ προσεκτικά, ώστε να μας λένε αν μια μαστογραφία είναι θετική ή αρνητική.

12:35 Και πώς το κάναμε αυτό, το κατορθήσαμε με τους αριθμούς, ότι έχουμε ένα τρισεκατομμύριο βάρη μέσα. και όταν είναι τρεις εκατομμύριο είναι εύκολο να πιστέψεις ότι κάπου θα υπάρχουν και τα σωστά βάρη εντάξει το θέμα είναι πως βρίσκεις αυτά τα σωστά βάρη και η απάντηση είναι πολύ απλή αρχίζουμε με τυχαία βάρη δηλαδή η αριθμή αυτή είναι τυχαία και το κουτί λέει ότι να είναι σαν συντελεστές σαν αντιστάσεις ενός τεράστιου ηλεκτροϊκού δικτύου λοιπόν και και είναι τυχαία στην αρχή και οπότε βάζουμε ένα λιμένο πρόβλημα μια μαστογραφία που έχει ένα νόσο ή δεν έχει, ξέρουμε όμως τι απ' τα δύο ένα λιμένο πρόβλημα και βέβαια η συσκευή λέει ότι να είναι, αλλά εμείς δεν μας αγνούμε την απάντηση, απλώς κοιτάμε ένα ένα βάρος και γι' αυτό το βάρος αποφασίζουμε, έσπροχνε προς τη σωστή κατεύθυνση, προς τη σωστή απάντηση ή προς τη λάθος απάντηση και αν έσπροχνε προς τη σωστή κατεύθυνση το επιβραβεύουμε λιγάκι το ανεβάζουμε κατά 1% ας πούμε το βάρος του και αν έσπαιρνε προς τη λάθος κατεύθυνση

13:39 το κατεβάζουμε κατά 1% το βάρος του αλλά κάθε φορά το ανανεώνουμε ναι ακριβώς το αλλάζουμε ανάλογα με το πώς θα πήγε σχετικά με αυτή το λιμένο πρόβλημα και αυτό μπορούμε να το βρούμε εύκολα με παραγόγους και τελικά αυτό δίνει στο τέλος αυτό το θαύμα ότι στο τέλος φτάνουμε σαν σωστά βάρη Σας πήραν τρία λεπτά και το εξήγησε πολύ κατανοητά νομίζω.

14:08 Να πω ένα ακόμα πράγμα. Ότι τα γλωσσικά μοντέλα, που δεν χρησιμοποιώ το επίθετο μεγάλα, γιατί στην πραγματικότητα είναι γιγαντιαία, αλλά τα γλωσσικά μοντέλα και θα φτάσουμε σε σημείο που να μην υπάρχει επίθετο στην ελληνική γλώσσα. Λοιπόν, τα γλωσσικά μοντέλα, αυτό που κάνουν είναι με τον ίδιο τρόπο που έχουν εκπαιδευτεί να μάθουν σε κάθε κείμενο ποια είναι η επόμενη η επόμενη πιθανή λέξη σωστά λέξη δηλαδή ότι σε αυτό θα το κάνουμε πολύ εύκολα δηλαδή ότι έχουν μάθει επειδή έχουν εκπαιδευτεί με δισεκατομμύρια τρισεκατομμύρια λιμένα προβλήματα τι είναι ένα λιμένο πρόβλημα άμα ανοίξεις ένα βιβλίο κάθε λέξη αυτού του βιβλίου που το βιβλίο έχει 100.000 είναι ένα λιμένο πρόβλημα δηλαδή δεν χρειάζεται να βρίσκεις συνέχεια ψαγμένες τομογραφίες ή παστογραφίες, μπορείς να έχεις άπειρο αριθμό προδομάτων. Και έτσι, λοιπόν, αυτά τα μηχανήματα έχουν βρει τους μνόμους με τους οποίους η μία λέξη διαδέχεται την άλλη.

15:17 Και μην το ξεχνάμε ποτέ αυτό, ότι κάθε φορά που προσπαθεί να μας εντυπωσιάσει ένα γλωσσικό μοντέλο με τη σοφία της απάντησής του, είναι καλό, μας κάνει καλό, είναι θεραπευτικό να θυμόμαστε ότι αυτό το μοντέλο αγκομάχησε, αγωνίασε, αγωνίουσε για κάθε λέξη άμα θα μαντέψει τη σωστή ή όχι. Επιθύστηκε πανεπιστημιακός και διδάσκεται εδώ και δεκαετίες.

15:44 Θεωρείτε ότι υπάρχει ανάγκη για καλύτερη ενημέρωση των ανθρώπων σχετικά με το AI, τι είναι, τι δεν είναι. Εννοείται, εννοείται Δηλαδή και όχι μόνο αυτό Αλλά είναι Είναι θέμα Δημοκρατικής υγιεινής Να μάθουμε Τι είναι και τι δεν είναι το αιγάγια Δηλαδή ότι Γιατί Κάνουμε όλα αυτά Γιατί προσπαθούμε Δηλαδή αυτή είναι και αυτή η δουλειά Βασικά η δουλειά Η αποστολή του δάσκαλου Σε αυτή την κατέβλεψα σε αυτή τη συγκυρία.

16:21 Εντάξει, πρέπει να σας πω ότι η δουλειά μου είναι να κάνω έρευνα, αλλά πραγματικά η αποστολή μου και το μεγάλο μου πάθος είναι το να διδάσκω. Εσείς προφερικά, πότε αρχίζατε να συνειδητοποιείτε ότι η AI δεν είναι μόνο ένα τεχνολικό άλμα, αλλά έχει αυτή τη τόσο πολύ εντονή ηθική κοινωνική διάσταση. Για να με ειλικρινείς, αυτό το σκεφτόμαστε και από πολύ παλιά δηλαδή όταν το ΙΑΕ η τεχνική νομοσύνη ήταν στα Σπάργανα όταν όχι μόνο στα Σπάργανα όταν ήταν ο περίγελος της επιστημονικής κοινότητας δηλαδή όταν πιστεύαμε ότι πολύ δύσκολα θα προχωρήσει κοιτάξτε έχω χάσει εγώ είμαι πάντα της απεσιόδοξης σχολής ότι τα πράγματα, η ζωή είναι δύσκολη και πολλά στοιχήματα έχω χάσει από το πόδο από τι θα κάνει η AI και σε όλα αυτά με εξέπληξε αλλά πάντα το ηθικό θέμα ότι τι θα είναι πώς θα πρέπει να χειριστούμε το AI όταν συζητήθηκε η δημοσιογραφία ήταν πάντα μπροστά στις προτεραιότητες μας όλης της πανεπιστημιακής κοινότητας όλης της ερευνητικής κοινότητας και και αυτή τη στιγμή είναι

17:55 ακόμα και οι τρεις γιγαντές εταιρείες που έχουν στα χέρια τους τη σημερινή τεχνική δημοσίνη έχουν σίγουρα προσποιούνται αρκετά πιστικά και ξοδεύουν αρκετά λεπτά για αυτά τα ζητήματα. Δηλαδή αυτό που λέμε το πρόβλημα της ευτιγράμμισης. Εντάξει, δηλαδή πώς θα μπορέσει η πορεία της τεχνητής νοημοσύνης να γίνει προς την κατεύθυνση που συμφέρει την ανθρωπότητα.

18:33 Πάντως, τουλάχιστον με τα γλωσσικά μοντέλα που είναι η πιο διαδεδομένη εφαρμογή τεχνητήν των τσενοημοσύνης σήμερα είναι πολύ εύκολο κάποιος να χάσει την αίσθηση και να τους αποδώσει ανθρώπινες ιδιότητες. Συνήθως το κάνουμε και λίγο ασυναίσθητα και μετά πρέπει να σταματήσουμε λιγότερα αυτό να σας πούμε, οπ, αυτό είναι μηχανή, τι κάνω τώρα.

18:52 Είναι επικίνδυνο να αποδίδουμε σε μηχανές ενέσοχους η σκέψη ή βούληση. Είναι πάρα πολύ επικίνδυνο. Είναι πάρα πολύ επικίνδυνο. Δηλαδή, κοιτάξτε, όλοι το κάνουμε και εγώ το κάνω και εγώ πιάνω με αυτό μου έτσι και λέω, κόφτε ο. και κοιτάξτε είμαστε άνθρωποι που σημαίνει πως είμαστε ποιθικοί που σημαίνει ότι έχουμε εξελιχθεί η βιβλιογική μας οικογένεια των ποιθήκων έχει το εξής που τα ξεχωρίζει από τα υπόλοιπα ζώα δεν είναι ότι πολύ στεκοντόρθει ή οτιδήποτε άλλο είναι ότι έχουν θεωρία του νου theory of mind Με αυτό εννοώ ότι έχουν την ικανότητα να βλέπουν κάποιον άλλον και να λένε τώρα αυτός τι σκέφτεται, τι θέλει, τι πιστεύει.

19:52 Και όταν ο άλλος φεύγει να ξέρουν ότι συνεχίζει να υπάρχει. Ναι, καλά, αυτό είναι, αυτό είναι, αυτό το έχουν και τα κατάκια. Αλλά το αποκτούν μετά από... Αλλά η θεωρία του νου είναι κάτι που τα παιδιά το αποκτούν όταν γίνονται τεσσάρων χρονών, πέντε. Δηλαδή είναι πολύ ανθρώπινο και πολύ ανθρώπινο. Και βέβαια και το έχουν και οι άλλοι primates.

20:19 Τα θηλαστικά. Primates. η πίθηγη γενικά ξεχνάω τώρα το βιολογικό όνομα στα ελληνικά λοιπόν δηλαδή έχουμε εξελιχθεί να ανοιχνεύουμε την πρόθεση και ότι δηλαδή κάθε φορά που βλέπουμε κάτι το οποίο συμπεριφέρεται με τρόπο που μας θυμίζει τον εαυτό μας θέλουμε να ανοιχνεύσουμε την πρόθεση και το τι σκέφτεται και τη βούληση, τη σκέψη κάνει αυτό το πλαγό.

20:54 Το κάνουμε με τα ζώα, ακόμα με τη θάλασσα. Και προβάλλουμε τον εαυτό μας πάνω τους. Και αυτό είναι επικίνδυνο για ένα απλό πρακτικό λόγο. Ότι είναι πολύ επικίνδυνο. Ότι αν η μηχανή σκέφτηκε ή αποφάσισε, τότε εμείς δεν φτάμε για τίποτα. Δεν είμαστε υπεύθυνοι για τίποτα. Δηλαδή ότι βασικά η ανθρωπομορφωτή της τεχνητής νοημοσύνης είναι ένα εξαιρετικά βολικό άλωθη και εργαλείο για την απαλλαγή από την ευθύνη.

21:31 Για τις εταιρείες, για τις κυβερνήσεις, για οποιονδήποτε θέλει να κρυφτεί πίσω από μια αόρατη νοημοσύνη. Δηλαδή ότι είναι θέμα ευθύνης και λογοδοσίας για τα πιο σοβαρά πράγματα στον κόσμο. Μια και μιλάμε για την ευθύνη, λέμε ας πούμε για τα αυτόνομα συστήματα εδώ, πώς οι εφαρμογές AI θα πραγματοποιούν εργασίες με τη μικρότερη δυνατή ανθρώπινη παρέμβαση, κανείς δεν έχει τολμήσει να πει με καθόλου μέχρι στιγμής.

21:58 και πάντοτε ανακοίνει το θέμα της ευθύνης αν ο κίνδυνος πραγματοποιηθεί ποιος έχει την ευθύνη είναι του προγραμματιστή, είναι του εργαλείου είναι του ανθρώπου που έχει τη βάρδια να το επιβλέπει, πως πρέπει να σκεφτόμαστε την ευθύνη όταν είναι της εταιρείας που το πούλησε, είναι της εταιρείας που το αγόρασε, είναι η τεράστια αλυσίδα του υπάλληλου που πάτησε αποτέχονε ο πολιτικός που ανέχωνε τη χρήση του ο βουλευτής που δεν ψήφισε το νόμο που θα το απαγόρευε δηλαδή ναι ότι λοιπόν ένα πράγμα είναι σίγουρο ότι όποιος δεν έχει βούληση και σκέψη και αυτό το έχουμε αποφασίσει εντάξει δεν μπορεί να έχει ευθύνη δηλαδή η ευθύνη δεν είναι του εργαλείου του κώδικα εντάξει αυτό εδώ μας οδηγεί και σε μια άλλη κακιά απάντηση που είναι όλοι φταίνε εντάξει όλοι μαζί τα φάγαμε το οποίο είναι κακόβουλο ψεύδος εντάξει και σημαίνει ότι δεν φταίει κανείς εντάξει ότι ωραία δηλαδή ότι είναι ένας άλλος τρόπος να αποποιηθείς κάθε ευθύνη εντάξει επομένως κανείς δεν θα φταίει

23:13 αυτό που χρειάζεται είναι νομοθεσία και αυτή θα έρθει μόνο μετά από ποιητή πίεση από τους πολίτες οι οποίοι θα είναι ενήμεροι. Έχουμε όμως την πρακτική γνώση του πώς να ρυθμίσουμε κάτι σαν την AI. Δηλαδή, ας πούμε ότι όλοι είμαστε καλοί, καλοί παίκτες ας πούμε σε όλο αυτό και θέλουμε να ρυθμίσουμε πολύ δίκαια και πολύ αποτελεσματικά αυτές τις εφαρμογές.

23:42 Δεν γνωρίζουμε σήμερα πώς μπορεί να γίνει αυτό. Ναι. Λοιπόν, όπως και να το κάνουμε, Και δεν μιλάω τώρα για την Ελλάδα, γιατί η Ελλάδα δεν είναι ακόμα στο σημείο που θα αρχίσει να το σκέφτεται αυτό, αλλά όπως και να το κάνουμε, όλοι οι κυβερνήσεις, νομοθέτες, εταιρείες πέραν της τεχνικής δημοσίευσης, τρέχουν πίσω από την τεχνική δημοσίευση και προσπαθούν, δηλαδή έχει αναπτυχεί με τέτοια ταχύτητα, δηλαδή μέσα σε 10 χρόνια κατάκτησε τον κόσμο και που δεν μπορούμε να την προλάβουμε.

24:23 Δηλαδή τρέχουμε και δεν φτάνουμε. Ότι βασικά αυτό που χρειαζόμαστε είναι ρυθμιστές που καταλαβαίνουν πολύ καλά την τεχνική του ημοσύνη και ένα κοινό, πολίτες, ψηφοφόρους που επίσης καταλαβαίνουν το θέμα, που έχουν πιάσει το θέμα. και βέβαια η ελπίδα είναι ότι οι μεγάλες εταιρείες που αυτή τη στιγμή έχουν παράλογη δύναμη υπερβολική, πολύ υπερβολική δύναμη και είναι παντοδύναμες δεν τους ελέγχει κανείς και βασικά κοιτάξτε κακά τα ψέματα στην Αμερική ο Μάσκ αγόρασε έβγαλε τον Τραμπ Προέδρο με ένα δισεκατομμύριο δολάρια, αυτές οι εταιρείες έχουν τρεις εκατομμύρια εντάξει ότι έτσι όπως είναι το πολιτικό σύστημα είναι παντοδύναμες και πολιτικά όχι μόνο όπως έχουν τους καλούς ερευνητές που θα βγάλουν το επόμενο μοντέλο αυτό που χρειάζεται είναι ένας τρόπος αυτές οι εταιρείες που δεν το βλέπω που δεν το ξέρω πώς θα γίνει ακούγεται σαν άλλη το πρόβλημα ότι ο ανεξάρτητος έλεγχος δεν είναι εχθρός του, ότι το χρειάζονται γιατί αλλιώς θα βρεθούν υπόλογες Αυτές οι εταιρείες

25:36 λειτουργούν πέρα από σύνορα με την έννοια ότι δίνουν τα προϊόντα τους σε όλο τον κόσμο και αντίστροφα υπάρχουν υπερεθνικοί θεσμοί που θα μπορούσαν να παίξουν αυτόν τον ρόλο. Ο μόνος θεσμός που έχει λειτουργήσει είναι το Ευρωπαϊκό Κοινοβούλιο. Φαντάζομαι ότι η κυβέρνηση της Κίνας επίσης έχει κάνει πολλά πράγματα τα οποία δεν τα πολύ ξέρουμε και δεν είναι πολύ γνωστά.

26:05 δηλαδή ότι φαντάζομαι ότι εκεί πέρα ελέγχεται ότι εκεί πέρα υπάρχει κυβερνητικός έλεγχος αλλά βέβαια από ένα κατεστώς που δεν εκλέγεται και που δεν το εκλέγεται κανείς αλλά ναι ότι όντως όπως πραγματικά πρέπει να υπάρξει έλεγχος Πάντως πολλοί άνθρωποι και στην Ελλάδα το δείχνουν και έρθουν στις διανέωσεις ανησυχούν για το πώς η AI θα επηρεάσει αυτό που λέμε θεσμή, δημοκρατία, την ποιότητα της δημοκρατίας.

26:40 Είναι δικαιολογημένη αυτή η ανησυχία. Λοιπόν, αξίζει να σκεφτούμε τι γίνεται αυτή τη στιγμή. Ας μιλάμε τώρα, μίλησα για το κοινοβούλιο, για το Ευρωπαϊκό Κοινοβούλιο. Ας μιλήσουμε για την Ευρώπη, που έχει μια υγιή δημοκρατική ιστορία. Εντάξει Λοιπόν Παρεμπιπτόντως Το Ευρωπαϊκό Κοινοβούλιο όπως είπα Είναι πρωτοπόρο Στο θέμα του ελέγχου Αυτό το οποίο Όλους μας Εκανοποίησε και μας ενδουσίασε Τώρα δαιμονοποιείται Και με κάποιο μικρό Μικρό βαθμό δίκαιο με κάποιο δίκιο, ότι κρατάει την Ευρώπη πίσω από τον ανταγωνισμό με την Κίνα και τις ΗΠΑ.

27:34 Ότι κάποιο τρόπο πυροβολεί στο πόδι σου. Ότι πας στη μάχη τραυματισμένος. Κάπως έτσι. Αυτό λέγεται. Δεν συμφωνώ. Ότι αποθαρρύνει την καινοτομία. Ναι, ότι κάπως αποθαρρύνει. Και νομίζω ότι σίγουρα μπορεί να υπάρξει πολύ έντονη ενθάρρυση της καινοτομίας και σε πλαίσια δημοκρατικά. Βασικά, κοιτάξτε, η δημοκρατία δεν σημαίνει ομοφωνία.

28:08 Εντάξει. Η δημοκρατία απαιτεί ένα κοινό πεδίο αλήθειας. Ένα ελάχιστο κοινό παρονομαστή για να διαφωνήσουμε. Εντάξει. Μπορώ να διαφωνήσω μαζί σας για τα ιδιωτικά πανεπιστήμια, αλλά πρέπει να ξέρουμε ποια ιδιωτικά πανεπιστήμια υπάρχουν. Εντάξει. Ποιοι νόμοι υπάρχουν, τι λέει το Σύνταγμα. Δηλαδή πρέπει να ξέρουμε σε ποιο γήπεδο παίζουμε. Αυτό εννοώ. Η τεχνική νομοσύνη ξέρει να εξατομικεύει τον κόσμο μας σε εμάς.

28:42 και κάποιο τρόπο τραβάει το χαλί του κοινού τόπου του κοινού γηπέδου κάτω από τα πόδια μας δηλαδή ότι μπορεί να προσαρμόσει το κανθένα στο τι θέλει να ακούσει και να πιστεύει τι θέλει να ακούσει και έτσι να χάσουμε τον κοινό τόπο δηλαδή να υπάρξει μια διαφωνία μεταξύ ανθρώπων που ζουν σε διαφορετικό πληροφοριακό σύμπαν Δηλαδή ότι δεν μιλάνε για το ίδιο πράγμα.

29:15 Λίγο μας απομονώνει λέτε. Ναι, ναι, ναι. Μπράβο. Ποήγησες τα δεύτερα. Πάντως εσείς προσωπικά, εκτός από πολλά συγγράμματα, έχετε γράψει και δύο μυθιστορήματα, ένα graphic novel και άλλο ένα graphic novel, όπως μου είπατε, για την τεχνητή νομοσύνη που πρόκειται να κυκλοφορήσει. Έχετε κάποια εκτίμηση για το πώς θα επηρεάσει την ανθρώπινη δημιουργικότητα.

29:37 πολλοί άνθρωποι χρησιμοποιούν τα εργαλεία, τα βιβλιοσυκά μοντέλα για brainstorming, για να πάρουν ιδέες, για οτιδήποτε. Και έχει επηρεάσει τη δική σας δημιουργικότητα. Κοιτάξτε, εννοείται επηρεάζει πολύ θετικά τη δημιουργικότητα τώρα μας, γιατί έχουμε ένα πολύτιμο βοηθό. Δηλαδή ότι αυτό το graphic novel το γράψαμε, το όνομα λέγεται Γένεσης, θα βγει το φθινόπωρο από τις εκδόσεις Πατάκη και το γράφω με τον Δημήτρη Παγώνα, ένα πολύ ταλούχο σκητσογράφο και έχει να κάνει με βασικά την ιστορία της τεχνικής νοημοσύνης.

30:26 πώς άρχισε με τον Τούρινγκ, με τον Φωνόημαν και πώς έφτασε και πώς αλλάζει τον κόσμο με μεγάλη ταχύτητα. Τέλος πάντων, είναι ένα σκοτεινό κόμικ ασπρόμαυρο στη Νέα Υόρκη, πολύ νουάρ. Ναι. Και γιατί άρχισα να μην τα λέω αυτήν την ιστορία σάς ενέβησε σίγουρα η τέχνη της δημοσίευσης σίγουρα με ενέβησε σήμερα σίγουρα δεν χρησιμοποίησαμε τα εκτήματα μεσήν για το σκίτσο αλλά το γράψαμε στα αγγλικά και το μεταφράσαμε στα ελληνικά μέσα σε τρεις ώρες δηλαδή ότι φερβίν που βέβαια άλλες αρκετές ώρες να το φέρουμε αλλά θέλω να πω πως έχει απλοποιεί πάρα πολλά πράγματα πάντως υπάρχει και το αντεπιχείρημα ότι μας κάνει και λίγο νοθρούς ότι λίγο φτιάχνει όλα τα πράγματα για εμάς και εμείς σταματάμε να σκεφτόμαστε τόσο πολύ σταματάμε να σκεφτόμαστε, χάνουμε τη δουλειά μας δηλαδή ότι οι εργάτες Οι εργάτες πνεύματος και πληροφορίας και όλοι εδώ μέσα αυτό είμαστε, είμαστε αναλώσιμοι.

31:56 Δηλαδή ότι δεν ξέρω ότι θα υπάρχουν καθήκητες σε 20 χρόνια. Πάντως η τεχνολογία, για να κλείσουμε κιόλας, ήταν πάντοτε συνδεδεμένη με την ενδυνάμωση των ανθρώπων και την αυτονομία τους. Η βασική υπόσχεση είναι ότι θα τους κάνει πιο ελεύθερους. Τα τελευταία χρόνια συζητάμε και τώρα και αυτό το μισάωρο που συζητάμε, συζητάμε συνέχεια για την τεντολογία τα ολυκοπόλια, τη ρύθμιση θεωρείτε ότι η υπόσχεση αυτή έχει θολώσει Λοιπόν, τα πράγματα όντως έχουν γίνει πιο πολύπλοκα, πιο δύσκολα και πιο θολά σίγουρα το θέμα είναι θα βρεθούν άνθρωποι που θα δουν ξεκάθαρα μέσα από τη θολούρα και το τι διακυβεύεται, το διακύβευμα, είναι τεράστιο.

32:55 Είναι το μέλλον της ανθρωπότητας. Ωραία. Με αυτή την ερώτηση μάλλον είναι η κατάλληλη στιγμή να κλείσουμε. Θα ήθελα να ευχαριστήσω τον κύριο Χρήστο Παγκοδημητρίου, θεωρητικό επιστήματος των υπολογιστών, καθηγητής στο τμήμα επιστήμης των υπολογιστών στο Κολούμπια. Ήταν ένα ακόμη επεισόδιο της σειράς podcast The Brief από τον Οργανισμό Διανέωσης.