Debrief #9: Προκλήσεις και ευκαιρίες της ΑΙ | Ιωσήφ Σηφάκης

Αυτόματη μεταγραφή — ενδέχεται να περιέχει λάθη.

00:30 για την τεχνητή νοημοσύνη ήδη πάρα πολύ συχνά μπήκε αρκετά επιθετικά στη ζωή μας. Ήδη περισσότερο από ένα δισεκατομμύριο άνθρωποι χρησιμοποιούν εφαρμογές τεχνητής νοημοσύνης σε όλο τον κόσμο. Ακόμα και στην Ελλάδα η πρόσφατη έρευνα της Διανέωσης έδειξε ότι πάνω από 65% του ελληνικού πληθυσμού έχει χρησιμοποιήσει μια τέτοια εφαρμογή.

00:49 Τα σενάρια για τις αλλαγές που αυτή η τεχνολογία θα φέρει την υγεία μας τόσο πολύ που θα μας κάνει αθάνατους, θα μας κάνει πιο χαζούς και πιο μοναχικούς, θα φέρει μια δυστοπία, απόλυτο ελέγχο που θα χάσουμε δικαιώματα και τελικά τι μπορούν να κάνουν οι οργανωμένες κοινωνίες για όλες αυτές τις πιθανές ή και λιγότερο πιθανές αλλαγές.

01:19 Πάλι στην ίδια έρευνα της διανέωσης, 9 στους 10 Ελληνίδες και Έλληνες θεωρούν ότι πρέπει να υπάρξουν περιορισμοί στις σχετικές εφαρμογές. Για όλα αυτά θα συζητήσουμε με τον κύριο Ιωσήφ Σιφάκη. Είναι καθηγητής πληροφορικής και κάτοχος του πολύ σημαντικού Διεθνώς Αναγνωρισμένου Βραβείου Τούρινγκ. Χαίρετε κύριε Σιφάκη. Χαίρετε.

01:39 Η τεχνολογία έπαιζε πάντα καθοριστικό ρόλο στην ανθρώπινη ιστορία. Τώρα το κύμα αυτό της τεχνητής νοημοσύνης τι διαφορετικό φέρνει, σε τι μοιάζει με τις προηγούμενες επαναστάσεις που έχουμε ζήσει και τι έχει το ιδιαίτερο. Ναι, η τεχνολογία όπως το είπατε παίζει πολύ και θα παίξει σημαντικό ρόλο στην εξέλιξη της ανθρωπότητας και αυτό συνέβη από την εποχή που ο άνθρωπος χρησιμοποίησε τη φωτιά, τον τροχό, τους μοχλούς.

02:12 Οπότε ο άνθρωπος συνεξελίχθηκε με την τεχνολογία Όταν ανακάλυψε το μοχλό δεν χρειάστηκε να έχει δυνατούς μυς. Και μετά βέβαια ήρθαν οι τεχνολογίες, οι γνωστές που έφεραν την βιομηχανική επανάσταση. Η τεχνητή νοημοσύνη ως τεχνολογία επιτρέπει βέβαια, έχει όλα τα χαρακτήσεις κάμιας τεχνολογίας, αλλά έχει και το εξής ιδιαίτερο χαρακτηριστικό ότι είναι μια τεχνολογία η οποία ανταγωνίζεται τον άνθρωπο στην ανακάλυψη, στην παραγωγή γνώσεων και στην εφαρμογή γνώσεων.

02:52 Και ως προς αυτό βέβαια έχει αυτή την ιδιαίτεροτητα. Με βάζετε στον πειρασμό να πω σε πιο φιλοσοφικές αναζητήσεις γύρω από τη φύση της AI, αλλά θα το κρατήσω για λίγο αργότερα. πριν από αυτό πολλοί άνθρωποι ανησυχούν πολύ για το πως θα επηρεάσει τις ζωές μας στο άμεσο μέλλον σύντομα και γενικά πως θα χαρακτηρίζατε τις συνέπειες είναι μια επανάσταση της γνώσης αλλά θα χάρη στην τεχνητή νοημοσύνη θα έχουμε πρόοδο στις επιστήμες θα έχουμε πρόοδο στην παραγωγικότητα Αυτοματισμό διαδικασιών, σίγουρα αυτά.

03:38 Από την άλλη μεριά όμως η τεχνητή νοημοσύνη επειδή διαμορφώνει το σύνολο των γνώσεων που θα χρησιμοποιεί και ο άνθρωπος, μπορεί να επιφέρει αλλαγές βέβαια στις κοινωνικές σχέσεις, στις σχέσεις εργασίας και μπορεί ως ένα βαθμό να επηρεάσει το τι είμαστε σαν άνθρωποι, σαν κοινωνικά όντα. Μάλιστα, θα ήθελα να το εξειδικεύσουμε και να πάμε σε κάποια επιμέρους παιδεία είπατε πρώτη πρώτη την επιστήμη πώς θα την επιταχύνει την πρόεδρο και ποια είναι η καλύτερη μαντεψιά που μπορούμε να κάνουμε Ναι, κοιτάξτε η τεχνητή νοημοσύνη που στηρίζεται στις τεχνικές μάθησεις έχει τη δυνατότητα να αναλύει πολύπλοκα δεδομένα το οποίο ο άνθρωπος δεν μπορεί να το κάνει.

04:35 Γιατί, διότι έχει περιορισμένες ικανότητες ανάλυσης δεδομένων. Και όλες οι επιστημονικές θεωρίες που έχουμε είναι πάρα πολύ απλές, εξαρτώνται από λίγες παραμέτρους. Τα συστήματα τεχνητής νοημοσύνης μπορούν και αναλύουν φαινόμενα όπου υπησέρχονται πάρα πολλές παράμετροι και κάνουν προβλέψεις. Αυτό λοιπόν θα βοηθήσει τον άνθρωπο να κατανοήσει βαθύτερα τις σχέσεις αιτίου-αιτιατού που υπάρχουν σε πολλοί προκαφενόμενα.

05:07 Θα έχει εφαρμογές επιστημονικές, παραδείγματος χάρη στη βιολογία, θα έχει εφαρμογές στην ανακάλυψη καινούριων υλικών, στην ιατρική, αλλά θα έχει επίσης και εφαρμογές σε επιστήμες όπου δεν μπορούσαμε να κάνουμε καλές προβλέψεις. Παραδείγματος χάρη στη μετεωρολογία, στην πρόβλεψη σεισμών, παραδείγματος χάρη, στην διαχείριση πόρων, στην πρόβλεψη κρίσεων και ανάλυση κρίσεων.

05:38 Γιατί, διότι η τεχνητή νοημοσύνη μπορεί και να λύει αυτά τα πολύπλοκα φαινόμενα και κάνει προβλέψεις. Το πρόβλημα βέβαια είναι ότι αυτού του είδους γνώσης, αυτού του είδους επιστήμη μας επιτρέπει πρόβλεψη χωρίς όμως να έχουμε βαθιά κατανόηση το πώς βγαίνουν αυτά τα αποτελέσματα. Άρα θα έχουμε επιστήμη με πρόβλεψη αλλά χωρίς κατανόηση και ως προς αυτό πρέπει να είμαστε προσεκτικοί.

06:07 Θα έχουμε πιο πολλά αποτελέσματα αλλά δεν θα ξέρουμε πώς φτάσαμε εκεί πολύ καλά. Ακριβώς, το οποίο αυτό είναι επικίνδυνο βέβαια γιατί ούτε και οι μηχανές μπορούν να μας το εξηγήσουν αυτό. Μαρτύ, η τεχνολογία επίσης είναι πολύ συνειφασμένη με την οικονομία. Η συζήτηση επικεντρώνεται γύρω από το θέμα της παραγωγικότητας.

06:25 το πως με τους ίδιους πόρους μπορούμε να έχουμε μεγαλύτερες ποσότητες προϊόντων είναι μέσα πως φαίνεται μια εκτιμή σίγουρα νομίζω ότι θα μπει ήδη η τεχνική νομιμεσχύνη που έχουμε τώρα μας επιτρέπει να αυτοματοποιούμε ορισμένες διαδικασίες το πεδίο βέβαια εφαρμογής είναι τεράστιο και ακόμα βρισκόμαστε στην αρχή γιατί έχουμε συστήματα στα οποία κάνουμε ερωτήσεις, παίρνουμε απαντήσεις αλλά θα θέλαμε συστήματα τα οποία να είναι πιο έξυπνα, τα οποία να λειτουργούν χωρίς παρέμβαση του ανθρώπου παραδείγματος χάρη να αναλύουν κρίσεις να παίρνουν μία ροή δεδομένων και να βγάζουν ορισμένα συμπέραγματα ή συστήματα τα οποία οδηγούν αυτοκίνητα να παίρνουν περισσότερες αποφάσεις εκεί τώρα υπάρχει ένα θέμα το οποίο είναι το θέμα της αξιοπιστίας αυτών των συστημάτων γιατί αυτό δεν είναι κάπως τεχνικό ενώ μπορούν και να λύουν πολύ προκαταδομένα, δεν μπορούμε αυτές τις διεργασίες τις λειτουργίες που έχουν να τις καταλάβουμε κατά τρόπο αυστηρό, κατά τρόπο μαθηματικό

07:41 δηλαδή να το πω διαφορετικά όταν έχετε ένα θερμοστάτι, όταν έχετε ένα σύστημα ελέγχου ενός αεροπλάνου, το οποίο το προγραμματίζεται εκεί καταλαβαίνετε ακριβώς τι κάνει το σύστημα. Τα συστήματα τεχνητής νοημοσύνης είναι συστήματα μάθησης. Δητουργούν δηλαδή όπως μαθαίνει ένα παιδί να ξεχωρίζει μια γάτα από ένα σκυλό. Όταν μαθαίνουμε εμείς οι άνθρωποι οι νοητικές διαδικασίες επιτρέπουν να βγάζουμε γνώση, αλλά δεν καταλαβαίνουμε ακριβώς πώς μαθαίνουμε.

08:14 Υποθέτω έχει να κάνει και με το κόστος του λάθους Όχι όχι όχι Είναι αυτό Αυτό εξηγείται Πολύ καλά Ξέρετε η ανθρώπινη σκέψη Συμβιάζει δύο συστήματα Ένα σύστημα το οποίο είναι Ταχύ και μη συνειδητό Παραδείγματος χαρήτρα σας μιλώ Όταν περπατώ το μυαλό μου Λύνει ένα πρόβλημα το οποίο είναι Εξαιρετικά πολύπλοκο Αλλά δεν ξέρω πως το λύνει και ξέρουμε ότι είναι δύσκολο πρόβλημα γιατί έχουμε δυσκολία να κάνουμε ρομπότ τα οποία ώρα. Τώρα υπάρχει λοιπόν αυτό το σύστημα σκέψης και το σύστημα συνειδητής σκέψης που είναι αργή σκέψη. Όταν λύνουμε ένα πρόβλημα, λες θα κάνω αυτό, θα κάνω αυτή είναι η αργή διαδικαστική συνειδητή σκέψη. Αυτή μπορούμε και την αναλύουμε.

09:04 Την άλλη τώρα που είναι μέσα από μια διαδικασία μάθησης αυτό είναι που εφαρμόζει η τεχνητή νοημοσύνη, δεν μπορούμε, δεν καταλαβαίνουμε πώς γίνεται. Απλώς υπάρχει ένα σύστημα προσαρμοστικό το οποίο λύνει ένα πρόβλημα χωρίς όμως να καταλαβαίνουμε πώς γίνεται. Και εκεί είναι το μεγάλο πρόβλημα της τεχνητής νοημοσύνης. Ότι επειδή δεν καταλαβαίνουμε πώς λειτουργούν τα συστήματα, δεν μπορούμε να εγγυηθούμε και την ασφάλειά τους και τις ιδιότητές τους και όλα αυτά.

09:29 δεν μπορούμε δηλαδή να εφαρμόσουμε προσεγγίσεις που εφαρμόζομαι στα παραδοσιακά συστήματα για τα οποία μπορούμε και εφαρμόζομαι μαθηματική ανάλυση. Ένας μεγάλος προβληματισμός παντού στον κόσμο, αλλά το φαίνεται και από τα ελληνικά στοιχεία, είναι οι δουλειές, είναι η εργασία. Υπάρχει μια μεγάλη ανησυχία σε μεγάλα μέρη του πληθυσμού που λέει ότι πολλές δουλειές, πολύ περισσότερες από πριν και με πολύ μεγαλύτερο ρυθμό θα αυτοματοποιηθούν και πολλοί άνθρωποι θα μείνουν άνεργοι. Πρώτον είναι μια εύλογη ανησυχία αυτή και ποιες δουλειές μπορεί να χαθούν.

10:09 Είναι μια εύλογη ανησυχία, είναι οι δουλειές οι οποίες μπορούν να αυτοματοποιηθούν και είναι δουλειές οι οποίες δεν έχουν κρίσιμες διαδικασίες γιατί κρίσιμες σημαίνει ότι αν κάνεις ένα λάθος μπορεί. Αυτό το φαινόμενο το βλέπουμε ήδη. Τώρα το κατά πόσο αυτό το φαινόμενο θα γενικευθεί και θα επεκταθεί αυτό θα εξαρτηθεί από το κατά πόσο θα μπορούμε να χρησιμοποιούμε την τεχνητή νοημοσύνη για διαδικασίες οι οποίες είναι πιο κρίσιμες.

10:46 Είτε στις επιχειρήσεις, είτε στη βιομηχανία παραδείγματος χάρη, είτε σε έξυπνες πόλεις, διάφορες εφαρμογές. Οπότε δεν μπορούμε να προσδιορίσουμε το έυβρος του φαινομένου. Αυτό που είναι σίγουρο είναι ότι θα υπάρξει ένα τέτοιο φαινόμενο. Αλλά και για αυτό το φαινόμενο δεν πρέπει να θεωρούμε ότι φταίει η τεχνητή νοημοσύνη.

11:10 Είναι ένα πρόβλημα το οποίο πρέπει να λύσουν οι κοινωνίες και οι κοινωνίες έπρεπε να το λύσουν κάθε φορά που αυξήθηκε η παραγωγικότητα. Όπως παραδείγματος χάρη με τη βιομηχανική επανάσταση. Δηλαδή αντί να δουλεύεις 10 ώρες τη μέρα κάθε μέρα, δουλεύεις 8 ώρες, δουλεύεις 40 ώρες τη βδομάδα, κάτι τέτοιο. Άλλο έτσι ένα πεδίο προβληματισμού και πολλών debates είναι το πώς μπορεί να επηρεάσει την πολιτική διαδικασία.

11:41 Αν απειλεί τη δημοκρατία, αν απειλεί τα προσωπικά δεδομένα. Λέω, η τεχνητή νοημοσύνη δεν απειλεί κανένα. Η τεχνητή νοημοσύνη είναι Μία τεχνολογία Μπορούμε να την χρησιμοποιήσουμε για το καλό και για το κακό Το θέμα είναι πως την χρησιμοποιείς Εάν Αυτό που λέμε Απειλεί της τεχνικής νοημοσύνης Για να το καταλάβουμε Πρέπει να καταλάβουμε ποια είναι τα ρίσκα Δηλαδή Χρησιμοποιώ πάντα μια τεχνολογία Χρησιμοποιώ τον ηλεκτρισμό Μπορεί να με σκοτώσει Αν δεν το χρησιμοποιήσω προσεχτικά Άρα υπάρχει πάντα όταν χρησιμοποιούμε μια τεχνολογία ένα ρίσκο. Το θέμα είναι πώς εκτιμούμε αυτά τα ρίσκα, τι φύσεως είναι αυτά τα ρίσκα.

12:26 Και τα ρίσκα μπορεί να είναι τεχνολογικά, δηλαδή κάνει κάποιο λάθος το σύστημα και μπορεί να έχει αυτοσυνέπειες, αλλά είναι και άλλου είδους ρίσκα τα οποία πρέπει να ελέγξουμε. ένα ρίσκο το οποίο πρέπει να ελέγξουμε είναι το πως οι άνθρωποι θα προσπαθήσουν να χρησιμοποιήσουν την τεχνητική νοημοσύνη δηλαδή έχουμε ένα σύστημα, λειτουργεί σωστά αλλά ο άνθρωπος όμως μπορεί να επειδή δεν υπάρχουν κατάλληλοι κανόνες, νόμοι και τα λοιπά, αν πάρετε παραδείγμα σχάρη ένα τσάντζι πιτί και βγάλετε και συνθέσετε εικόνες οι οποίες να προσβάλλουν κάποιο ή να προσβάλλουν την ιδιωτικότητα κάποιου, αυτό ενέχει ευθύνη του χρήστη.

13:15 Και αυτό πρέπει... Και το τρίτο είδος ρίσκου είναι τα συστημικά ρίσκα. Συστημικά ρίσκα είναι τα ρίσκα πάνω στην κοινωνία, πάνω στα άτομα. Είναι ρίσκα τα οποία οφείλονται στην εφαρμογή της τεχνολογίας και είναι μακροπρόθεσμα ρίσκα. Αυτά νομίζω είναι και τα πιο σημαντικά Να μείνουμε λίγο γιατί μιλήσαμε για την κοινωνική διάσταση της τεχνητής νοημοσύνης το πώς μπορεί να επηρεάσει τις οργανωμένες κοινωνίες αλλά πώς μπορεί να επηρεάσει και τα ίδια τα άτομα και τον τρόπο που σκεφτόμαστε που λειτουργούμε καθημερινά, τις σχέσεις μας Ακριβώς, αυτό είναι συστημικό ρίσκο αυτό είναι ακριβώς ένα ένα είδος συστημικού ρίσκου Ένα θέμα το οποίο συζητείται εκτενώς σήμερα είναι το φαινόμενο που λέγεται cognitive deficit μας κάνει λιγότερο εύστροφους ναι ακριβώς αυτό είναι μια απειλή την οποία πρέπει να την πάρουμε σοβαρά και πρέπει να το κατανοήσει να το κατανοήσει η κοινωνία να το κατανοήσουν οι γονείς ιδιαίτερα για τα παιδιά τους έχω μιλήσει μυρωεκτεδαμένα πάνω σε αυτό το θέμα ιδιαίτερα

14:32 στη Γαλλία, όταν ένα παιδί παραδείγματος χάρη χρησιμοποιεί το τσατσιπιτί για να κάνει τις τις εργασίες του τότε ο κίνδυνος είναι ότι θα εξαρτηθεί από αυτό. Η εκπαίδευση είναι μια άθληση του νου. Είναι σαν ένας αθλητής και προσπαθείς στο νους να τον κάνεις πιο ρομαλαίο, να μπορεί να συγκεντρώνεται να μπορεί να είναι δημιουργικός.

14:59 μπορεί να το χρησιμοποιεί και ο δάσκαλος βέβαια για να διορθώσει τα μαθήματα αλλά η ζημιά στο παιδί είναι πολύ πολύ μεγαλύτερη και αυτό που λέω συχνά είναι ότι ας φανταστούμε ότι έχουμε ένα αθλητή ξέρω εγώ που θέλει να κάνει μισ που θέλει να τρέξει ένα καθοστάρι να γίνει πρωταθλητής στο τέξιμο και βάσει ένα ρομπότ αντί να πηγαίνει αυτός να το κάνει για να γίνουν καλύτερες οι επιδόσεις του Νομίζω ότι αυτό πρέπει να το αντιμετωπίσει πολύ σοβαρά η κοινωνία και οι οικογένειες βέβαια, διότι ήδη αυτά τα συμπτώματα τα οποία βλέπουμε στα νέα παιδιά είναι εντελώς ανησυχητικά.

15:40 Το άλλο κομμάτι έχει να κάνει και με τις σχέσεις μεταξύ των ανθρώπων. Υπάρχει ήδη, ας πούμε, στη Βρετανία, υπάρχει το περίφημο Υπουργείο Μοναξιάς. Ε, βέβαια. Πολλοίς κόσμος δηλώνει και πολλοί περισσότεροι δεν το δηλώνουν, αλλά το κάνουν ότι συνομιλούν με την τεχνητή νοημοσύνη απλώς για να συνομιλήσουν. Ακριβώς. Και επειδή η τεχνητή νοημοσύνη έχει ορισμένα χαρακτηριστικά τα οποία είναι φτιαγμένη για να είναι μια δημαγωγική τεχνολογία.

16:09 Δηλαδή, πρώτον πρώτον ποτέ το τσατζιπιτί δράσου ποιοτή σε βλάκας. Θα σε κολακεύσει κιόλας μερικές φορές. Δηλαδή κάνω λάθη ή ας πούμε μου λέει έχεις πάντα δίκιο. Έτσι πάντα κοιτάει να μπει στο πετσί σου και να... Νομίζω ότι αυτός είναι ένας κίνδυνος. ότι αυτές οι τεχνολογίες μπορεί να αλλάξουν τις συμπεριφορές μας, να μας παγιδεύσουν επίσης σε μία σχέση ανθρώπου-μηχανής, όπου η μηχανή βέβαια θα σου λέει αυτό που θέλεις να ακούς, το οποίο μπορεί μερικές φορές να μην στο λένε οι φίλοι σου, έτσι, και να έχουμε αυτή την απομόνωση ας πούμε του ανθρώπου και την υπερεξάρτηση.

16:55 Είναι και λίγο κυκλικό αυτό που περιγράφεται. Βέβαια, βέβαια. Οπότε να περάσουμε λίγο στη διακυβέρνηση του όλου συστήματος τεχνητής νοημοσύνης που δεν ξέρω καν αν υπάρχει. Υπάρχει σίγουρα ένας μεγάλος προβληματισμός ότι όλες οι σχετικές υποδομές ανήκουν ή ελέγχονται από πολύ λίγες μεγάλες πλατφόρμες. Ναι. Κοιτάξτε αυτό είναι κάτι το οποίο θα έπρεπε να μας ανησυχεί βέβαια.

17:23 όπως θα έπρεπε βέβαια να... Είναι ένα φαινόμενο το οποίο δεν είναι καινούριο βέβαια γιατί δεν ξέρω αν είναι γνωστό ότι παρά να τους χάρει ορισμένες ευρωπαϊκές χώρες βάζουν τα δεδομένα τους στο cloud και τα περισσότερα clouds είναι αμερικανικά. Άρα και σύμφωνα με την αμερικανική νομοθεσία μπορεί η αμερικάνικη κυβέρνηση να ελέγχει το περιεχόμενο που υπάρχει.

17:51 υπάρχει μια εξάρτηση από την τεχνολογία την οποία ελέγχουν ορισμένοι γίγαντες και η οποία εξάρτηση βαθαίνει τώρα και με την τεχνητή νοημοσύνη και εδώ βέβαια και η αδυναμία της Ευρώπης να αναπτύξει τεχνητή νοημοσύνη και να ανταγωνιστεί τους γίγαντες είναι ένα πρόβλημα επίσης αυτό το οποίο συμβαίνει είναι ότι σήμερα οι μεγάλες εταιρείες προωθούν την ιδέα ενός γιγαντισμού της τεχνητής νοημοσύνης έχοντας ορισμένα τεχνικά επιχείρηματα τα οποία δεν νομίζω ότι είναι νομίζω ότι είναι σαθρά αυτό που προσπαθούν να κάνουν είναι να κάνουν τεράστιες επενδύσεις να χρησιμοποιήσουν πολύ δυνατές μηχανές τεράστιες επενδύσεις οι οποίες αυτές από τη φύση του αλλάζουν το παιχνίδι αποκλείουν και τα μικρά κράτη τα κράτη που δεν έχουν τη δυνατότητα να επενδύουν για να κάνεις ξέρω πω μια πλατφόρμα θέλεις ξέρω, θέλεις μερικά δισεκατομμύρια δεν εξαρτάται, μπορεί να είναι και δεκάδες δισεκατομμύρια για κάτι υπάρχει και αυτός ο αριθμός το 1-3 και το 1-3 η πλατφόρμα και τα λοιπά

19:01 άρα λοιπόν ακολουθώντας αυτή την τακτική του γιγαντισμού αποκλείουν αυτόματα πάρα πολλούς ανταγωνιστές μια και το αναφέρατε να κάνω μια ερώτηση θα ήθελα την εκτίμησή σας αυτά τα χρήματα όταν ακούμε 3 εκατομμύρια που θα επενδυθούν π.χ. στην OpenAI μέχρι το τέλος της δεκαετίας είναι όλα χρήματα τα οποία είναι χρήματα καθαρών επενδύσεων ή υπάρχει ας πούμε και γύρω από την άνοδο της τεχνητής νομοσύνης και κάτι παράλληλο υπάρχει κάτι παράλληλο τώρα το οποίο αναλύουν οι οικονομολόγοι είναι ότι υπάρχει μια ανακύκλωση των χρημάτων δηλαδή δίνει η Nvidia μνήμες σε κάποιον στην OpenAI υπάρχει αυτό το κυκλικό σύστημα αυτό το οποίο είναι ανισχυτικό επίσης είναι ότι όλες αυτές οι εταιρείες οι γίγαντες της AI όταν δείτε τα οικονομικά τους στοιχεία βλέπετε ότι να το πω πολύ απλά μπαίνουν μέσα είναι σαφές για παράδειγμα η OpenAI για να διαθέτεις το κάθε κοινό θνητό το chat GPT ξοδεύει γύρω στα 800.000 δολάρια τη μέρα.

20:25 800.000 δολάρια τη μέρα είναι έξοδα απλώς σε ρεύμα, σε τέτοια, σε λειτουργικά έξοδα. Οπότε σύμφωνα με τους οικονομολόγους μπαίνει μέσα γύρω στα 4-5 δισεκατομμύρια κάθε χρόνο. Και δεν τα βγάζει αυτά δηλαδή. οπότε όλος ο κόσμος πιστεύει ότι τώρα θα υπάρχει μια φούσκα οικονομική. Νομίζω ότι είναι πολύ πιθανό να συμβεί αυτό το πράγμα.

20:54 Πλήρως όμως βέβαια αυτοί που έχουν, υπάρχουν εταιρείες που βγάζουν χρήματα από την άλλη μεριά. Δηλαδή η Google τώρα είναι μια πολύ ισχυρή εταιρεία διότι έχει πόρους χρηματικούς, μπορεί να επενδύει. Δεν ξέρω, πάντως αυτό είναι ένα ερώτημα. εάν όλα τα χρήματα τα οποία έχουν επενδύσει θα αποδώσουν μια μέρα. Προς το παρόν όχι.

21:20 Ωραία, αφού μιλήσαμε για τους προβληματισμούς που κυκλοφορούν εκεί έξω με πάρα πολλή ένταση και με όλο ένα και αυξανόμενη ένταση να πάμε τώρα λίγο στην καρδιά του ζητήματος. Τι κάνει η τεχνητή νοημοσύνη, αυτό που έχει επικρατήσει τουλάχιστον να λέμε τεχνητή νοημοσύνη τι γίνεται από πίσω όταν εμείς δίνουμε ένα prompt σε κάποια εφαρμογή.

21:40 Ναι Είναι κάπως δύσκολο να εξηγηθεί τεχνικά βασικά αυτό που θέλω να πω είναι ότι τα μεγάλα μοντέλα αυτά που λέμε τα LLM πάμε για παράδειγμα το TZPT έχουν την ικανότητα λύνουν ένα πρόβλημα το οποίο ήταν ανοιχτό από παλιά για την πληροφορική Ποιο είναι το πρόβλημα Η ανάλυση των φυσικών γλωσσών και ξέρετε ότι υπήρχαν άλλες προσεγγίσεις που ήταν εντελώς διαφορετικές.

22:13 Όπου βασικά προσπαθούσαμε να το κάνουμε πιο μαθηματικό το πρόβλημα. Δηλαδή να βγάλουμε την έννοια μιας φράσης συνθέτοντας τις έννοιες των λέξεων που την αποτελούν. Αυτή η προσέγγιση που λέει η θεσμολική δεν απέδωσε. Για λόγους που δεν θα εξηγήσω. Πριν όμως υπάρχει μια άλλη... Επί τη δεκαετία του 50. Ναι, είναι τσόμψικια ας πούμε τέτοια.

22:39 υπήρχε και μια άλλη προσέγγιση η οποία τουλάχιστον εμένα μου φαινόταν κάπως αφελής ποια είναι η αφελής προσέγγιση η οποία τελικά επικράτησε γι' αυτό πρέπει να είμαστε προσεκτικοί όταν κάνουμε προβλέψεις όταν αυτοί οι άνθρωποι είπαν ότι δεν θέλουμε να ορίσουμε ακριβώς το τι είναι ένα τραπέζι παράδειγμα τους χάρη το τι είναι μια έννοια γιατί οι άλλοι έλεγαν ένα τραπέζι έχει μια έχει πόδια έχει αυτά τα χαρακτηριστικά λες για να καταλάβουμε τι είναι ένα τραπέζι θα δω, αν θα αναλύσω τα κείμενα θα δω τη λέξη τραπέζι και θα δω πως σχετίζεται με όλες τις άλλες λέξεις και έτσι φτιάχνουμε ένα δίκτυο σχέσεων που λες ότι αν δω τραπέζι με τόση πιθανότητα σχετίζεται με κάτι άλλο άρα λοιπόν η τεχνητή λογιμοσύνη σήμερα το τσάντσιπιτή τι κάνει όταν φτιάχνει μία φράση και δει τη λέξη τραπέζι θα ψάξει να δει τις επόμενες πιο πιθανές λέξεις και έτσι φτιάχνει μία απάντηση φαίνεται λίγο μαγικό αλλά εντάξει υπάρχουν ορισμένες διορθώσεις σε αυτό αλλά αυτό κάνει καταρχήν

23:56 δηλαδή σε μία φράση που κατασκευάζει βρίσκει την επόμενη για κάθε λέξη βρίσκει την επόμενη λέξη λαμβάνοντας υπόψη βέβαια Έτσι έχει εκπαιδευτεί Ναι ναι ναι Αυτό Οπότε δηλαδή είναι μηχανές Οι οποίες δουλεύουν με πιθανότητες Και αφού δουλεύουν με πιθανότητες Μπορεί να κάνουν λάθος Με κάποια πιθανότητα Το είπατε και προηγουμένως δεν υπάρχει ένας τρόπος να γυρίσουμε πίσω Και να δούμε με ποια διαδικασία Ακριβώς βγήκε μια απάντηση Πράγμα που έτσι Δημιουργεί και ένα προβληματισμό Αν είναι κάτι ανεξέλεγκτο αν είναι σαν το τέρας που ξέφυγε από το εργαστήριο.

24:36 Όχι, είναι μία τεχνολογία η οποία έχει ορισμένες ενγενείς αδυναμίες. Έτσι αυτό είναι. Δεν είναι τίποτα που ξέφυγε ή δεν ξέφυγε. Εμείς ξέροντας αυτές τις αδυναμίες το θέμα είναι μέχρι πού τη χρησιμοποιούμε και μπορούμε να βάλουμε ορισμένους κανόνες όσον αφορά τη χρήση αυτής της τεχνολογίας. Δηλαδή να πεις πρέπει βέβαια να αναπτύξουμε και ορισμένες θεωρίες.

25:01 υπάρχουν, δεν έχει κλείσει ακόμα το θέμα. Αν μπορώ εγώ να εκτιμήσω ότι η πιθανότητα λάθους είναι τόση, αν φυσικά χρησιμοποιείτε το chat-spit για να παίζετε κτλ, δεν μπαίνει καν να ρίσκω. Αν όμως χρησιμοποιώ μια τεχνητή νοημοσύνη κατά τρόπο αυτόνομο, ανεξερεκτό, θα πρέπει να είμαι σίγουρος ότι η πιθανότητα λάθους αυτή θα πρέπει να ελέγχεται από την κρίσιμότητα της λειτουργίας.

25:35 Δηλαδή, όσο πιο κρίσιμη είναι η λειτουργία, τόσο μικρότερη πρέπει να είναι η πιθανότητα λάθος. Όσο πιο μεγάλο κόστος έχει ένα λάθος, ας πούμε. Ακριβώς. Τόσο πιο επιφυλακτική θα πρέπει να είναι. Ακριβώς. Αλλά τώρα που μιλάμε για τη λήψη αποφάσεων, για την αυτονομία ως απότατο στόχο, δεν ξέρω αν είμαστε εκεί αυτή τη στιγμή.

25:53 Δεν είμαστε. Τελικά δεν είναι και λίγο ανθρώπινη η AI αφού μπορεί να κάνει κάποια από αυτά τα πράγματα θέλω να μου εξήνθε λίγο σε τι διαφέρει από τον τρόπο που σκεπτόμαστε εμείς από τον τρόπο που λειτουργεί ο δικόνός ο εγκέφαλος Ναι, εντάξει η AI προσπαθεί να μιμηθεί το δικό μας τον εγκέφαλο τώρα ο δικόνος ο εγκέφαλος συνδυάζει όπως είπα δύο ειδών λειτουργίας η μία είναι η αυτόματη άρα όταν βλέπω κάτι πάει η εικόνα στον εγκέφαλό μου και όμως ο άνθρωπος τη συνδέει με ορισμένα νοήματα τα οποία έχει συμβολική συμβολική άρα ο άνθρωπος συνδυάζει τη συμβολική σκέψη και τη σκέψη η οποία είναι πιο αυτόματη η γρήγορη σκέψη αυτό τώρα που συμβαίνει με την ΑΓΑ ή είναι ότι δεν έχει τη συμβολική.

26:51 Δεν μπορούμε να κάνουμε αυτή τη σύνδεση. Και αυτό είναι ένα μεγάλο μειονέκτημα. Δηλαδή, ένα παράδειγμα που δίνω συχνά, όταν παραδείγματος χάρη σας δείξω μια εικόνα και είναι ένα σήμα stop, το οποίο είναι καλυμμένο για κάποιο λόγο, με χιόνι παραδείγματος χάρη, ένα χιονισμένο stop. Εσείς θα συνδέσετε την εικόνα με το νόημα του τι είναι stop.

27:18 το οποίο είναι κόκκινο, είναι εξαγωνικό, είναι έτσι, είναι αλλιώς. Άρα λέτε αυτό είναι stop. Για την τεχνητή νοημοσύνη θα θα δει αυτή την εικόνα χιονισμένο stop. Αν δεν έχει εκπαιδευτεί σε αυτό, δεν θα μπορέσει να το καταλάβει. Μάλιστα. Να πάμε λίγο αντίστροφα. Οπότε Βιώνη εξηγεί τη διαφορά μεταξύ ανθρώπινης νοημοσύνης.

27:39 Δηλαδή ο άνθρωπος έχει αυτό που λέμε κοινή λογική. τώρα η κοινή λογική είναι το σύνολο των νοημάτων ένα μοντέλο νοηματικό του κόσμου το οποίο η τεχνητή νοημοσύνη δεν το έχει Ποια θα λέγατε ότι είναι η πιο θετική προοπτική της AI γιατί μιλήσαμε πολύ για τους κινδύνους όλη αυτή αναταραχή δημιουργεί Τις προοπτικές τις είπαμε είναι καταρχήν στην επιστήμη σίγουρα στην επιστήμη σίγουρα γιατί η AI είναι πολύ καλή σε ανάλυση δεδομένων και η επιστήμη είναι πως καταλαβαίνουμε τα φαινόμενα Δηλαδή δεν είναι πώς δρούμε.

28:14 Εκεί το αδύνατο σημείο της AI είναι η αυτονομία. Είναι και καλύτερη η διατύπωση της ανάλυσης επίσης. Ναι, εκεί μπορεί να βοηθήσουν οι άνθρωποι. Αλλά νομίζω ότι η AI μπορεί να ανακαλύψει σχέσεις μες στα φαινόμενα. Αυτό στη βιολογία παράδειγμα τους κάνει. Πώς να κάνεις προβλέψεις, να βρεις μια κατάλληλη δομή κτλ. Εκεί που δεν είναι καλή η AI είναι στη λήψη αποφάσεων.

28:36 γιατί εκεί χρειάζεται συλλογισμός είναι μια διαδικασία συλλογισμού τουλάχιστον έτσι γίνεται στον άνθρωπο αυτή είναι η αρχή σκέψη που έλεγα εκεί δεν είναι καλή η AI άρα η AI στην επιστήμη σίγουρα και μετά σε ό,τι είναι διαδικασία αυτοματοποίησης εδώ πέρα τώρα μπαίνουν ερωτηματικά ακόμα και θα εξαρτηθεί κατά πόσο μπορούμε να κάνουμε την AI αξιόπιστη και πριν τελειώσουμε ήθελα να σας ρωτήσω ότι τι μπορούν τελικά να κάνουν οι οργανωμένες κοινωνίες.

29:09 Φαίνεται ότι πάρα πολλοί, και το είδαμε και στη δική μας έρευνα, 9 στους 10 ζητούν με κάποιο τρόπο να μπουν περιορισμοί. Αφενός, πώς μπορεί κάποιος να ρυθμίσει αποτελεσματικά ένα τόσο μεγάλο και τόσο επιθετικό κύμα, το οποίο είναι και μια αγορά που καινοτομεί και διαρκώς, οπότε παράγει και κάποια αξία. Και ποιες πρέπει να είναι και οι προτεραιότητες.

29:31 Ποιες περιοχές πρέπει να προσέξει κάποιος. Να πω αυτοδοκίμα. Κοιτάξτε, εμένα η άποψή μου είναι ότι βασικά δεν φταίει η AI. Η AI είναι η τεχνολογία, είναι η ευθύνη των ανθρώπων. Πώς οι άνθρωποι διαχείριζονται αυτή την τεχνολογία, ποιοι είναι οι κανόνες που μπαίνουν. Αν υπάρχουν ρίσκα πρέπει να οι άνθρωποι να πάρουν την ευθύνη να ελέγξουν τα ρίσκα.

29:54 Το παιχνίδι βέβαια, το πρόβλημα με την AI είναι ότι ελέγχεται από τεχνολογικούς κολοσσούς, οι οποίοι έχουν και μια παγκόσμια διάσταση οπότε τα κράτη κάθε κράτος χωριστά δεν μπορεί να επιβάλλει τους όρους τους και αυτό το είδαμε και πρόσφατα με την Ευρωπαϊκή Ένωση οπότε πρέπει να υπάρξει μια συνολική ρύθμιση αυτό είναι που για το οποίο μιλούν και τα Ηνωμένα Έθνη ότι να υπάρξει μια συνολική ρύθμιση γιατί αν δεν υπάρξει συνολική ρύθμιση δηλαδή κάθε κράτος έχει το νόμο του φυσικά θα προσπαθεί λίγο πολύ να το εφαρμόσει αλλά δεδομένου ότι η AI μπορεί να περνάει μέσα από τις μηχανές δεν υπάρχουν σύνορα για την AI νομίζω ότι θα είναι δύσκολο να γίνει αυτό πράγμα πρέπει κάπου να υπάρξει μια σφαιρική ρύθμιση των κανόνων χρήσης της AI Την Ευρωπαϊκή AI Act πώς την βλέπετε Κοιτάξτε η Ευρωπαϊκή οι προθέσεις ήταν πολύ καλές και εγώ είχα συνηγορήσει πέρτου να κάνει η Ευρώπη κάτι τέτοιο.

31:04 Το πρόβλημα είναι ότι για να έχεις τέτοιες φιλοδοξίες πρέπει να έχεις τα μέσα μετά και τη δύναμη για να το επιβάλλεις και ξέρουμε ότι η Ευρώπη δυστυχώς στην τεχνητική νοημοσύνη δεν τα καταφέρνει καλά. Είναι πολύ εξαρτημένη από τους Αμερικανούς και όλα δείχνουν ότι σύμφωνα με τις πρόσφατες εξελίξεις ότι η Ευρώπη θα αναγκαστεί να έρθει σε ένα συμβιβασμό. Τα κείμενα αυτό το οποίο θα πρέπει να κάνουμε.

31:34 Δηλαδή τι λένε το πολύ απλό ότι όπως για κάθε όπως για κάθε αντικείμενο, κάθε σύστημα το οποίο παράγουμε εφαρμόζουμε εφαρμόζουμε την κανόνες πρόληψης και λέμε ότι εάν είναι κρίσιμο χρειάζεται αντίστοιχη αξιοπιστία. Αυτό είναι πολύ σωστό που λέει η Ευρωπαϊκή Ένωση. Αλλά δεν μπορεί να το εφαρμόσει. Το λέει γιατί το είπατε κι εσείς ότι χρειάζονται υπερεθνικού τύπου πρωτοβουλίες.

32:17 Καμία χώρα δεν είναι μόνη της ικανή να ρυθμίσει κάτι τόσο μεγάλο και κάτι που διαδίδεται τόσο γρήγορα. Μικρές χώρες όπως η Ελλάδα ποια στρατηγική είναι καλύτερο να έχουν. Κοιτάξτε, υπάρχει καταρχήν... Καταρχήν μπορούμε να κάνουμε να εξειδικεύσουμε στα ελληνικά δεδομένα ορισμένες τεχνολογίες. Δεν μπορούμε να έχουμε τη φιλοδοξία να κάνουμε τη δική μας πλατφόρμα από μόνοι μας.

32:48 Την άλλη μεριά όμως μπορούμε να εξειδικεύσουμε αυτές τις τεχνολογίες, να τις προσαρμόσουμε στις ανάγκες μας και ως έναν βαθμό να έχουμε και τον έλεγχο βέβαια από τη στιγμή που τις έχουμε εμείς φτιαγμένες. Αυτό δεν είναι πολύ φιλόδοξο, είναι ρεαλιστικό και θα πρέπει να το κάνει η Ελλάδα. Τώρα το πώς θα το κάνει δεν ξέρω, αλλά πρέπει να γίνει.

33:10 Ωραία, σε αυτό το σημείο θα ήθελα να σας ευχαριστήσω κύριε Σιφάκη. Ήταν ο κύριος Ιωσήφ Σιφάκης, καθηγητής πληροφορικής και κάτοχος του βραβείου Turing. Ήταν ένα ακόμη επεισόδιο podcast της διανέωσης. Θα επιστρέψουμε σύντομα στο θέμα της τεχνητής νοημοσύνης και θα συζητήσουμε επίσης και με άλλους καλεσμένους διαφορετικές κρίσιμες όψεις της νέας αυτής τεχνολογίας.

33:33 Ευχαριστούμε πάρα πολύ που μας ακούσατε και ελπίζουμε ότι βρήκατε να κρατήσετε κάτι χρήσιμο από όσα είπαμε. Αν θέλετε, μπορείτε να μας ακολουθήσετε σε όποια πλατφόρμα ακούτε podcast για να σας έρχεται ειδοποίηση κάθε φορά που ανεβάζουμε κάτι καινούργιο.