Πώς μπορεί να μας εξαφανίσει η ΑΙ;

Αυτόματη μεταγραφή — ενδέχεται να περιέχει λάθη.

01:30 Όχι σαν που είναι για τις συγκρίσεις, αλλά ως. Το ζητούμενο ήταν η γενική τεχνητή νοημοσύνη. Να θυμίσω εδώ πως ο άνθρωπος είναι το πιο θανατηφόρο είδος στον πλανήτη με τα τακουνούπια. Μοιραία, σήμερα βρισκόμαστε πρώτου κινδύνου από την τεχνητή νοημοσύνη, στην οποία να απομένουν μόλις δύο βήματα για να ολοκληρώσει τη διαδρομή της ως τη γενική τεχνητή νοημοσύνη.

02:01 Δηλαδή ως προς τον εξανθρωπισμό των μηχανών εντός εισαγωγικών ή και όχι. Για να μην παρασύρεσαι από την κινδυνολογία που αναπτύσσεται και όλο θεριεύει, κάλεσα τον Βασίλη Τσαοσίδη, καθηγητή στο τμήμα ηλεκτρολόγων μηχανικών και μηχανικών υπολογιστών στο Δημοκρίτιο Πανεπιστήμιο Θράκης και συγγραφέα του βιβλίου με τίτλο «Τεχνητή Νοημοσύνη. Ναι και Όχι»

02:28 να βοηθήσει να μάθουμε ακριβώς πού βρισκόμαστε, αλλά φυσικά και τι έρχεται. Όπως πάντα, πιάνουμε την ιστορία από το μηδέν. Έτσι αρχίζουμε από το αν ο ρυθμός εξέλιξης της τεχνητής νοημοσύνης Πραγματικά έπιασε εξαπίνης αυτούς που τη διαχειρίζονται Όπως και αν η καταστροφολογία που έχει αναπτυχθεί Είναι πραγματική ή πρόκειται για marketing του φόβου Το γνωστό σε όλους μας ως AI ντουμερισμ Είναι λίγο ξαφνική αυτή η εξέλιξη Με την έννοια ότι είναι πολύ ταχύτερη Και γίνεται ένα ρυθμό που δεν το περίμενε κανείς Αυτό είναι ένα βήμα Άρα ουσιαστικά δεν υπάρχουν οι προδιαγραφές ασφαλείας έτσι ώστε να αντιμετωπιστούν οι κίνδυνοι.

03:13 Νομίζω ότι εμφανίζονται πολλοί τις τελευταίες μέρες που προειδοποιούν για τα συστήματα ασφαλείας και για τα συστήματα κινδύνου που δημιουργούνται με την έννοια ότι είναι ανεξέλεγκτη κατάσταση και δεν υπάρχει ο αναγκαίος έλεγχος και τεχνικός αλλά και θεσμικός. οπότε είναι πράγματι πολλοί αυτοί που έχουν κάνει δηλώσεις και που ζητούν οι ίδιες εταιρείες, οι μεγαλύτερες εταιρείες να αυτοευερθούν και από την άλλη μεριά υπάρχει και μια καταστροφολογία θα τη χαρακτήριζα σε πρώτη φάση ότι υπάρχει μεγάλος κίνδυνος να καταστραφεί τελικά η ίδια η ανθρωπότητα Καταρχάς συμφωνώ ότι δεν πρέπει να ερμηνεύσουμε με αφέλεια αυτές τις δηλώσεις γενικά Δηλαδή ενέχουν κάποιες απόπειρες και διαφήμισης των δυνατοτήτων του σε μέρος των εταιριών.

04:04 Αλλά δεν είναι μόνο αυτό. Δηλαδή το γεγονός ότι ας πούμε οι εταιρείες επιχειρούν να αυτοελεγχθούν σε αυτή τη φάση ενέχει πολλές παραμέτρους. Πρώτα ότι αν ελεγχθούν τώρα θα καθορίσουν αυτές τους κανόνες του ελέγχου σε μεγάλο βαθμό. Δεύτερο ότι οι ελεγκτικοί κανόνες μπορούν πράγματι να εξουθενώσουν κάποιες μικρότερες εταιρείες, οι οποίες δεν μπορούν να αντέξουν την γραφειοκρατία των νόμων και του θεσμικού πλαισίου και επομένως θα περιορίσουν τον υγιεινό ανταγωνισμό.

04:38 Η συζήτηση για την καταστροφή της ανθρωπότητας ενέχει μια υπερβολή, με την έννοια ότι ναι με αυτονομούνται αυτά τα συστήματα, δηλαδή το Agenda AI, σε αυτό αναφέρομαι κυρίως, Εδώ βρισκόμαστε σε αυτή τη φάση καθοδόν για την τεχνητή νομοσύνη, τη γενική τεχνητή νομοσύνη. Ναι, με να αποκτούν μια αυτονομία, αλλά το να καταστρέψουν την ανθρωπότητα είναι ένα δήμα μακρύτερο.

05:05 Δηλαδή, ενέχει ουσιαστικά μια δόση επιστημονικής φαντασίας, θα μπορούσε να συμβεί αν παραμείνει ανεξέλεκτο το καθεστώς της τεχνητής νομοσύνης και αν ο καθένας ελεύθερα αναπτύσσει όποιο εργαλείο θέλει χωρίς κανέναν έλεγχο. Ποιος είναι λοιπόν ο πραγματικός λόγος που οι ίδιοι, η τεχνολογική κολοσσή τον είπα, ζητούν να επιβραδυνθεί ο ρυθμός ανάπτυξης της AI?

05:33 Ένας λόγος που ζητούν τώρα οι ίδιες οι εταιρείες στην Αμερική να ανακοπεί ο ρυθμός είναι το γεγονός ότι θέλουν και οι ίδιες να απαλλαγούν από τις αστοχίες που ενδεχομένως να συμβούν. Δηλαδή και μόνο που το λένε ότι θέλουμε ένα θεσμικό πλαίσιο να μας ελέγξει είναι ως ένα βαθμό απαλλαγή από το δόλο σε περίπτωση αστοχίας.

06:02 Από την άλλη μεριά, ο Τραμπ για παράδειγμα, γιατί είδα ότι διαφώνησε μαζί με τους CEO τους συγκεκριμένους που ζήτησαν τον έλεγχο τους Αυτό που θέλει είναι η ανάπτυξη σας, δηλαδή η φάση δεν είναι διαφέρει ο έλεγχος Οπότε η διάσταση αυτή λοιπόν έχει εμπλέκει τα συμφέροντα και των δύο πλευρών Οι εταιρείες θέλουν να σιγουρευτούν ότι δεν θα λογοδοτούν για πράγματα που δεν μπορούν να γίνουν τώρα Η θεσμική προστασία είναι εν πωλής μια άγνωστη έννοια για τους κατοίκους αυτής της χώρας, που μάλιστα προσφάντως ενημερώθηκαν από τον Υπουργό Υγείας ότι έχουν ατομική ευθύνη όταν αναζητούν έναν γιατρό.

06:43 Άκου λίγο πόσο ακόμα πιο τρομακτική γίνεται η πραγματικότητά σου από τη στιγμή που δεν υπάρχει ακόμα σε επίπεδο τεχνητής νοημοσύνης. ουσιαστικά για κάθε τέτοια αστοχία είτε είναι καλόβουλη είτε είναι κακόβουλη δεν λογοδοτεί κανείς. Με ποια έννοια το λέω αυτό. Το λέω με την έννοια ότι η αστοχία σε αυτή τη φάση είναι αναμενόμενη γιατί η τεχνική νοημοσύνη ουσιαστικά είναι στατιστική και πιθανότητες.

07:11 Άρα κανείς δεν μπορεί να εγγυηθεί ένα αποτέλεσμα 100%. Άρα την ευθύνη για κάθε τέτοια εφαρμογή είτε αφορά την υγεία και αφορά στρατιωτικές εφαρμογές είτε τραπεζικά συστήματα κλπ. Πρέπει να την έχει κάποιος άνθρωπος. Ο ίδιος άνθρωπος βέβαια θα μπορούσε να χρησιμοποιήσει την τεχνητή νοημοσύνη ως δούριο ύπο για να απαλλαγεί από αυτή την παιχνί με την έννοια ότι εμπιστεύεται ένα λογισμικό και γι' αυτό το λόγο κάνει αυτό που του λέει.

07:41 Έχουμε ένα παράδειγμα να σας δώσω αυτό που συνέβη με το σχολείο πρόσφατα στο Ιράν. Στον πόλεμο στο Ιράν, οι ΙΠΑ έχουν επιστρατεύσει το Maven Smart System, δηλαδή μια πλατφόρμα τεχνητής νοημοσύνης που βρίσκει και εκτελεί έως χίλιους στόχους την ώρα. Την τελική απόφαση στα χαρτιά την έχει άνθρωπος. Μετά τη βόμβα που έπεσε σε σχολείο του Ιράν, ο άνθρωπος αυτός είπε πως είναι φύση αδύνατο να τσεκάρει το ορθό της επιλογής που προτείνει η μηχανή, εξετάζοντας τεράστιο όγκο δεδομένων σε κλάσματα δευτερολέπτου.

08:20 Ποιος έφταιγε λοιπόν για το λάθος? Κανείς. Απαλλάχθηκαν όλοι από το δόλο. Ναι. Μπορεί να συμβεί αυτό και με τους γιατρούς που χρησιμοποιούν τεχνητή νοημοσύνη σε περίπτωση λάθους. Φυσικά. Φανταστείτε τώρα ότι έχουμε ένα στρατηγό παραδείγματος χαίριο ο οποίος αποφασίζει να βομβαρδίσει τρομοκράτες. αλλά το σύστημα, το οπλικό που χρησιμοποιεί, η τεχνητή νοημοσύνη δηλαδή, αστοχεί και προκειμένου να πετύχει το στόχο της βομβαρδίζει το διπλανό σχολείο.

08:53 Ο στρατηγός προφανώς δεν εβομβάρδισε με δόλο το σχολείο. Αυτός που έφτιαξε το σύστημα προφανώς δεν ήθελε να αστοχήσει και να εβομβαρδίσει το σχολείο. Άρα λοιπόν τελικά η ζημιά γίνεται και την ευθύνη δεν την αναλαμβάνει κανείς. τους απαλλάσσει από το δόλο όλους. Αυτό μπορεί να το βρει κανείς και σε έναν γιατρό που χρησιμοποιεί την νοημοσύνη και την εμπιστεύεται και σε έναν οδηγό που έχει ένα αυτόνομο όχημα και τρακάρει το ίδιο ισχύει παντού.

09:20 Άρα η λογοδοσία είναι ένα βασικό ζήτημα. Το υπάρχον πλαίσιο της AI εξαφανίζει τη λογοδοσία από την εικόνα η οποία όμως όπως λέει ο κύριος Τσαοσίδης εμπεριέχει και ένα τεχνικό ζήτημα που ούτως ή άλλως δεν μπορεί να υποστηρίξει τεχνητή νοημοσύνη. Είναι η ερμηνευσιμότητα. Του τέστην το γιατί κάθε ενέργεια της τεχνητής νοημοσύνης.

09:44 Δεν είναι εξηγήσιμο από τον άνθρωπο πάντα ή μάλλον συχνότερα δεν είναι εξηγήσιμο το γιατί επιλέγει να κάνει μία ενέργεια ένα πρόγραμμα τεχνητής νοημοσύνης. Μπορεί αυτή να είναι δέλτιστη η ενέργεια που κάνει αλλά εμείς δεν ξέρουμε γιατί. Άρα έχει πολύ μεγάλη σημασία να μπορούμε να αντιληφθούμε τη διαδικασία της απόφασης, να μην πάμε δηλαδή κατευθείαν στο ότι αυτή είναι η απόφαση τεχνικής νοημοσύνης και να την υιοθετήσουμε, αν δεν μπορούμε να την εξηγήσουμε, διότι τότε δεν μπορούμε να αναλάβουμε και την ευθύνη.

10:24 Άρα η λογοδοσία που είναι πολύ βασική έχει να κάνει με την ερμηνευσιμότητα, που είναι ακόμα σε ένα στάδιο που τεχνικά δεν είναι κοιημένη, συχνά είναι κοιημένη ότι δεν υπάρχει, παρόλα αυτά τα αποτελέσματα είναι πολύ καλά και τα χρησιμοποιούμε. Πάμε τώρα στους άμεσους κινδύνους που δημιουργεί η απρόσμενη πρόοδος της AI στην ανθρωπότητα.

10:51 Σε τι ακριβώς πιάστηκαν απροετοίμαστοι οι επιστήμονες, οι οποίοι έως πέρσι πανηγύριζαν για τις κατακτήσεις τους και σήμερα αποτελεί υπαρκτή απειλή για όλους μας. Είναι πρώτα οι κυβερνοεπιθέσεις για παράδειγμα. Αυτές σήμερα όλα τα συστήματα και τα κράτη βασίζονται σε ένα ψηφιακό κόσμο και έχουν χτίσει όλο το οικοσύστημά τους.

11:13 Επομένως η μία κυβερνοεπίθεση μπορεί να προκαλέσει μία σειρά από αστοχίες, μπορεί να προκαλέσει οικονομικό κράχ, μπορεί να προκαλέσει απώλεια ελέγχου, μπορεί να προκαλέσει παρεμβάσεις σε οπτικά συστήματα, σε τραπεζικά συστήματα. Επομένως, αυτός ο έλεγχος αυτή τη στιγμή σήμερα δεν υπάρχει. Δεν είναι δηλαδή κατοχυρωμένο ότι τέτοια συστήματα μπορούν να αντιμετωπίσουν επιθέσεις τεχνητής νοημοσύνης, οι οποίες είναι μαζικές και έχουν μεγάλη κλίμακα.

11:45 Επομένως, αυτός είναι ένας κίνδυνος υπαρκτός. Αυτά τα συστήματα βέβαια ακόμα δεν εφαρμόζονται πλήρως. είναι σε στάδιο δοκιμών, σε κάποιες περιπτώσεις εφαρμοζόνται. Ένας άλλος κίνδυνος που προκύπτει σήμερα και όλας φέρει την υπογραφή μας. Δεν έχουμε την παραμικρή ιδέα τι επιπτώσεις θα έχει στις επόμενες γενιές σε όλα τα επίπεδα της ζωής, από την υγεία έως τους θεσμούς, η νον-στόπ χρήση των μεγάλων γλωσσικών μοντέλων που κάνουμε σήμερα.

12:17 Βέβαια ποτέ δεν μας μίλησε κανείς ή δεν μας εκπαίδευσε πάνω στην ορθή χρήση τους Εκτός από τις κυβερνοεπιθέσεις υπάρχουν και άλλοι κίνδυνοι οι οποίοι έχουν να κάνουν με τον τρόπο που έχουμε αξιοποιήσει εμείς αυτή τη τεχνολογία ως κοινωνία Δηλαδή για παράδειγμα χρησιμοποιούμε διαρκώς απλά μοντέλα LLM και δεν γνωρίζουμε τι επίπτωση έχει αυτό στατιστικά δηλαδή το δείγμα που έχουμε εμείς είμαστε εμείς οι υγιείς οι οποίοι όμως εκπαιδευτήκαμε χωρίς τη χρήση της τεχνικής νομοσύνης άρα λοιπόν δεν γνωρίζουμε καν τι επίπτωση θα έχει στις γενιές οι οποίες εκπαιδεύονται με αυτή τη τεχνική νομοσύνη.

13:04 Είναι κίνδυνοι σε κάθε επίπεδο μπορεί να τον βρει κανείς δηλαδή ακόμα και στο επίπεδο εφαρμογής στην υγεία μπορεί να βρει ότι χρησιμοποιούνται εφαρμογές που έχουν δεδομένα μεροτητικά, αν δεν υπάρχει ένα χώρο. Στη χρήση από τη λεωφορεία, στη χρήση από την αστυνομία. Αν είμαστε όλοι ειλικρινείς, θα συμφωνήσουμε πως ο μεγαλύτερος κίνδυνος για την ανθρωπότητα δεν είναι η τεχνητή νοημοσύνη, αλλά ο ίδιος μας ο εαυτός.

13:31 Ενώ υποτίθεται πως είμαστε το πιο προηγμένο είδος. Ο μεγαλύτερος κίνδυνος είναι, κατά τη δίκη μου, να παραχωρήσει ο άνθρωπος την ευθύνη του και τις ενέργειες που κάνει στη τεχνητή νοημοσύνη να μείνει αυτός αδρανής και πλέον οτιδήποτε θέλει μπορεί να το κάνει η τεχνητή νοημοσύνη. Το θέμα της λογοδοσίας και της ευθύνης είναι βασικό γιατί ουσιαστικά επηρεάζει τη δημοκρατία την ίδια.

14:01 και το θέμα της παραχώρησης της ευθύνης και των ενεργειών το γεγονός δηλαδή ότι μπορεί να υποκατασταθεί τελικά από το προσωπιωμένο του μοτέλο μπορεί να τον οδηγήσει σε μια άλλη φύση όχι την ανθρώπινη φύση όπως την κυριαρχούμε. Αυτό είναι νομίζω το μεγαλύτερο πρόβλημα πραγματικά ότι δηλαδή παραχωρούμε αυτή τη στιγμή ή εκχωρούμε, δεν ξέρω πώς να το θέσω πιο σωστά στην τεχνητή νοημοσύνη οι δικές μας αρμοδιότητες τις οποίες μετά θα δυσκολευτούμε εμείς ή δεν θα μπορούμε να τις αναλάβουμε.

14:37 Άρα δηλαδή βασικές γνωστικές λειτουργίες αλλά και βασικές κοινωνικές μας λειτουργίες. Αυτό νομίζω. Η καταστροφή από τις μηχανές έχει ήδη αρχίσει με τον πραγματικό κίνδυνο να βρίσκεται στο παρόν και να είναι πιο πρακτικός από ό,τι πιθανόν να νομίσαμε αφού αφορά τους φυσικούς πόρους. Η AI χρειάζεται τεράστιες ποσότητες ενέργειας και νερού για να λειτουργήσει και να εξελιχθεί.

15:06 Χαρακτηριστικά, το 2024-2025 μόνο τα data centers κατανάλωσαν το 1,5% της παγκόσμιας ηλεκτροπαραγωγής με τις εκτιμήσεις να αναφέρουν ότι έως το 2030 το νούμερο θα είναι διπλάσιο. Πολύ ενέργεια τρώει και η καθημερινή χρήση των LLMs ενώ για την ψήξη των σερβερς χρησιμοποιείται πολύ νερό το οποίο είναι και στο επίκεντρο της λειτουργίας των σταθμών παραγωγής ρεύματος Η τεχνητή νοημοσύνη βασίζεται πράγματι σε πόρους που αρχίζουν και εξαντλούνται με ένα δεόρυφο μάξινα, δηλαδή αναφέρομαι στην ενέργεια και στο νερό κυρίως αυτή τη στιγμή οι πολίτες βλέπουν με θαυμασμό την εξέλιξη της τεχνητής νοημοσύνης γιατί έχουν ενέργεια και νερό αν το στερευτούν όμως ή αν το στερούνταν θα το έβλεπαν διαφορετικά Αυτή είναι μια σημαντική παράμετρο Είναι οι πόροι υπεριορισμένοι που συνεπάγονται αναπόφευκτα κάποια στιγμή και περιορισμός στην πρόσβαση από τους πολίτες Αυτό το θεωρούμε δεδομένο αλλά κακός Προχωράμε στο θέμα της ασφάλειας των ανθρώπων από την τεχνητή νοημοσύνη που αναμφίβολα είναι ένα διακύβευμα

16:40 Ωστόσο δεν μπορεί να επιτευχθεί τουλάχιστον στην παρούσα φάση Όχι μόνο γιατί δεν είναι κάτι που θέλουν όλοι Βλέπεις κάποιοι εξακολουθούν να προτιμούν το κέρδος με πρώτες τη σύπα Αλλά επειδή μιλάμε για νευρονικά δίκτυα και στατιστικές πιθανότητες Που στερούνται ερμηνευσιμότητας ή αν προτιμάς λογικής Άρα τι να περιορίσεις και πώς Και κάπως έτσι φτάσαμε στη σημερινή κινδυνολογία Η ασφάλεια απαιτεί τελειοποιημένα συστήματα και σε αυτή τη φάση δεν είμαστε σε αυτό το στάδιο.

17:16 Άρα, ως ένα βαθμό η κινδυνολογία δεν είναι ακριβώς κινδυνολογία, είναι πραγματικούς κίνδυνες. Για να μπορεί κανείς να αντιμετωπίσει επιθέσεις, παραδείγματος χάρη και τυπά, θα πρέπει να τα κάνει τέλεια. Γιατί το να βρει κάποιος μια αδυναμία σε ένα πολυσύσθετο σύστημα δεν είναι τόσο δύσκολο. θα βρεθούν αδυναμίες και βρίσκονται.

17:39 Αυτή τη στιγμή οποιοδήποτε θεσμικό πλαίσιο όπως αυτό που πολύ σωστά έφεσε η Ευρωπαϊκή Ένωση σε αντίθεση με την Αμερική δημιουργεί ανακόπτη το ρυθμό της ανάπτυξης της τεχνικής νοημοσύνης. Και η λογική της Αμερικής τουλάχιστον είναι να την αφήσει ανεξέλεγκτη έτσι ώστε να συνεχιστεί η ανάπτυξη. στην Ευρώπη μπήκανε θεσμικοί κανόνες και αρχίζουν σιγά σιγά να εφαρμόζονται για να εφαρμοστούν αυτό όμως σε τεχνικό επίπεδο χρειάζεται πολλή δουλειά, χρειάζεται γραφειοκρατία χρειάζεται AI auditors να ελέγχουν το πώς λειτουργούν αυτοί οι agents να μπορούν να συγχρονίζουν το θεσμικό πλαίσιο και το νομικό πλαίσιο με τις ενέργειες τους να παρακολουθούν δηλαδή Άρα είναι μια διαδικασία και τεχνική και γραφειοκρατική που πρέπει να γίνει.

18:36 Το βέβαιο είναι πως η τεχνητή νοημοσύνη δεν ξυπνάει το πρωί και σκέφτεται πώς αλήθεια να καταστρέψω σήμερα τους ανθρώπους. Παρ' όλα αυτά, διαβάζεις ποιέους τίτλους του τύπου «Η AI δημιούργησε ιούς που δεν υπάρχουν στη γη» ή «AI agent χάκαρε το σύστημα γυμναστηρίου στην Αυστραλία για να βρει ραντεβού στο χρήστη του». Εδώ, καλό θα ήταν να θυμόμαστε όλοι πως εμείς είμαστε αυτοί που θέτουμε τα ζητούμενα, τα οποία αναπτύσσει η AI, η οποία πια παίρνει και πρωτοβουλίες.

19:08 Μάλλον, είναι μια καλή στιγμή να διευκρινίσουμε τι είναι αυτοί οι πράκτορες τεχνητής νοημοσύνης, οι οποίοι, ναι, γίνονταν εξέλεγκτοι όταν βγάζουμε από τη μέση τους όρους και τις προϋποθέσεις. Όταν δηλαδή ζητάμε να κάνει κάτι με τον όποιον τρόπο. Ο AI agent είναι ουσιαστικά στην ευθύνη της υπολογιστήτων ένα προηγμένο σύστημα λογισμικού που δεν εκτελεί απλώς κάποιες προκαθορισμένες εντορδές μόνο, αλλά λαμβάνει και αυτόνομες αποφάσεις και αναλαμβάνει δράση για να πετύχει ένα συγκεκριμένο στόχο.

19:43 Άρα το κλειδί εδώ είναι ο στόχος και η αυτονομία. Μέχρι τώρα αυτό που ξέραμε ήταν ουσιαστικά ότι έχουμε chatbots τα οποία απαντάνε στις ερωτήσεις μας Τώρα η διαφορά με τους agents είναι ότι αυτοί μπορούν να αναλάβουν δράση Άρα είμαστε στο επόμενο στάδιο που γίνεται ενεργητική πλέον η τεχνητή νομοσύνη και αναλαμβάνει δράση Αυτό που γίνεται τώρα, ας πούμε το παράδειγμα που δώσατε από την Αυστραλία με την Αυστραλία, είναι ένας στόχος οπωσδήποτε να κλείσει ένα ραντεβού στο γυμναστήριο και προκειμένου να πετύχει το στόχο ο AI agent ή τέλος πάντων οι AI agents χρησιμοποίησαν την αυτονομία τους, αποφάσισαν ότι ο καλύτερος τρόπος για να κλείσουν ή όσο στο μοναδικό στο παράδειγμα μας ήταν, για να κλείσουν ραντεβού ήταν να πετάξουν κάποιους άλλους έξω που είχαν ήδη να τεβούν και να βάλουν τον δικό τους άνθρωπο ή πελάτη στη θέση τους.

20:51 Δεν ανάγκη να είναι χακάρισμα το παράδειγμά μας. Εδώ αυτό που αναδεικνύεται είναι το εξής, ότι ο αιτζεντ προσπαθεί να βελτιστοποιήσει μια συνάρτηση. Το αποτέλεσμα θα μπορούσε να είναι κάτι καλό. Πέραν του χακαρίσματος στο γυμναστήριο της Αυστραλίας και όλων των άλλων doom επεμβάσεων των AI agents που διαβάζεις, Υπάρχουν και θετικοί συνειρμοί που έχουν κάνει αυτοί οι πράκτορες.

21:17 Ενδεικτικό είναι το παράδειγμα του πειράματος που έκανε η OpenAI με μια βαρκούλα. Τη ζήτησε κάτι και αυτή έκανε κάτι άλλο. Παρόλα αυτά κατάφερε να φτάσει στο στόχο της. Τότε οι προγραμματιστές κατάλαβαν πως ό,τι θεωρούμε εμείς οι άνθρωποι ως αυτονόητο δεν είναι την ίδια στιγμή αυτονόητο και για τους AI agents. Έχουμε μια βαρκούλα η οποία έχει μια σειρά από εμπόδια μπροστά της και μια σημεούλα στο τέρμα.

21:51 Έχει 10 εμπόδια λοιπόν που πρέπει να προσπεράσει, φανταστείτε ότι το κάνει ζικ-ζακ και κάθε φορά που δεν ακουμπάει ένα εμπόδιο και τα προσπαθνάει χωρίς να τα κουπίσει, κερδίζει ένα πόντο. Όταν λοιπόν ξεκίνησε να τρέξει αυτό το σύστημα, ο στόχος ήταν λοιπόν αυτού που έφτιαξε αυτό το σύστημα να φτάει η βαρκούλα να μην χτυπήσει πάνω σε εμπόδια και να φτάσει στη σημεούλα.

22:18 Όπως το κατασκεύασε όμως το λογισμικό του, έδωσε το στόχο, αλλά όχι τις προϋποθέσεις και τους όρους. Και τι έκανε λοιπόν η βαρκούλα, ξεκίνησε και μόλις βρήκε το πόρτο εμπόδιο άρχισε να κάνει γύρους γύρω από το πρώτο εμπόδιο και μάζευε κάθε φορά έναν πόντο με σιγουριά. άρα λίγο πολύ εμείς περιμέναμε να δούμε ότι θα πάει μέχρι το τέρμα και δεν θα χτυπήσει τα εμπόδια αυτή επέλεξε να γυρνάει γύρω από το εμπόδιο και να μαζέψει με ασφάλεια πόντ έχει σημασία λοιπόν, αυτό είναι ένα γνωστό πρόβλημα, το πρόβλημα της ευθυγράμμισης αυτό που εμείς θεωρούμε αυτονόητο δεν είναι αυτονόητο για τον πράκτορα δεν το μεταφέρουμε με τους ίδιους όρους που το σκεφτόμαστε και στο λογισμικό μας με συνέπεια να μην γνωρίζει ακριβώς, να μην έχει την ίδια αντίληψη με εμάς.

23:11 Είναι θέμα ο στόχος, αλλά είναι και θέμα να προσδιοριστούν οι προϋποθέσεις και οι κανόνες για να πετύχει το στόχο. Εκεί υστερούμε σε αυτή τη φάση. Και αυτό δεν είναι καθόλου εύκολο να συμβεί. Σήμερα χρησιμοποιούμε έναν αλγόριθμο που έχει φτάσει στο σημείο να σκέφτεται, να συνομωτεί, να αγωνιά και να εντός εισαγωγικών συμπεριφέρεται με τρόπο που τον αισθανόμαστε ως δικό μας άνθρωπο.

23:38 Σε αυτόν τον άνθρωπο εμπιστευόμαστε τα πάντα. Μάλιστα, του ζητάμε να αποφασίσει και για εμάς για τα πάντα. Υπάρχει ωστόσο περίπτωση αυτή η τεχνολογία να αποκτήσει συνείδηση ή πρόκειται για άλλη μια περίπτωση ανθρωπομορφισμού. Επειδή ουσιαστικά η τεχνητή νοημοσύνη ξεκίνησε με τα LLM και τη γλώσσα και επειδή ο άνθρωπος διαπίστωσε ότι μιλάει τη γλώσσα του τελικά και η γλώσσα ουσιαστικά είναι το υποκατάστατο της σκέψης άρα λίγο πολύ συνέβεσε αυτό το πράγμα με την ανθρώπινη ιδιότητα άρα δεν είναι παράλογο το ότι το αντιλαμβάνεται αυτός ο ανθρωπομορφισμός που αναφέρατε δηλαδή λίγο πολύ του δίνει μια ανθρώπινη διάσταση.

24:33 Απ' την άλλη μεριά και η γλώσσα αυτή η ίδια είναι η ανθρώπινη γλώσσα πάνω σε αυτήν εκπαιδευτική άρα λέει ότι φοβάμαι, ότι θυμωνώ, ότι συμφωνεί, διαφωνεί. έχει δηλαδή λίγο πολύ αυτή την επικοινωνία που είναι απολύτως φυσιολογικό για τον άνθρωπο να το σκέφτεται με αυτή την ιδιότητα την ανθρώπινη. Είναι και κοινωνικό όνομα ο άνθρωπος βέβαια έτσι θέλει να κάνει φίλους οπότε εφόσον πρει αυτό το πεδίο το κάνει.

25:04 Τώρα για το θέμα της συνείδησης και πόσο έχει προχωρήσει αυτό με λίγα λόγια είναι η στόχευση ουσιαστικά της γενικής τεχνητής νοημοσύνης. Η γενική τεχνητή νοημοσύνη έχει ως ζητούμενο τη μνήμη, την αντίληψη, την ηθική και ενδεχομένως τη συνείδηση. Πάβει να είναι παθητική και γίνεται ενεργητική. Δηλαδή πράττει εκ μέρους μας βασιζόμενης τα βιώματα και τα συναισθήματα.

25:32 Θα μου πεις ποια συναισθήματα αισθάνονται οι μηχανές. Άκου αυτό. Αν μπορεί μια μηχανή να αποκτήσει μνήμη μπορεί να αποκτήσει και συναισθήματα. Σίγουρα προσπαθεί να κάνει και τα δύο με τους τρόπους που διαθέτει Αυτό είναι ένα προστάδιο τέλος πάντων το NGRI για την γενική τεχνητική νομοσύνη Η οποία θα πρέπει να έχει μνημή, αντίληψη, ηθική και ενδεχομένως συνείδηση Δηλαδή να έχει βιώματα και συναισθήματα, αυτό είναι το πιο δύσκολο φυσικά Το να πετύχει κανείς τα συναισθήματα αυτό που μπορεί να γίνει είναι λίγο πολύ να προσωμιώσει τα συναισθήματα και να ανταποκρίνεται ή να συμπεριφέρεται μια μηχανή ή ένα λογινικό σαν να έχει συναισθήματα, ήδη κάνει κάποια τέτοια βήματα, το κάνει και το τσάδ ακόμα το κάνει αλλά δεν θα τα έχει ως βιώματα.

26:27 Κοιτάξτε λίγο, αυτό είναι λίγο περίεργο ερώτημα και από φιλοσοφικής απόψεως με την έννοια πια ότι και ο Άλαν Τιούρινγκ όταν έθεσε πρώτη φορά το ερώτημα από το 1950 «Μπορούν οι μηχανές να σκεφτούν» θεώρησαν όλοι αυτονόητοι την απάντηση ότι δεν μπορούν να σκεφτούν. Σήμερα όμως με όλα αυτά που έχουμε δει, λίγο πολύ και έτσι όπως ορίσαμε τι σημαίνει «μπορούν οι μηχανές να σκεφτούν»

26:56 θεωρούμε ότι μπορούν να σκεφτούν. Έτσι όπως ορίσαμε τη σκέψη. Αν ορίσουμε αργότερα έτσι και την συνείδηση, αν δηλαδή αυτές θα μπορούν να έχουν αντίληψη μνήμη, όπως είπα, διώματα, άσχετα αν δεν τα αισθάνονται, θα μπορούσαμε να τα κατατάξουμε σε αυτή την κατηγορία επίσης. Ιδού λοιπόν πόσο άνθρωπος είναι σήμερα η τεχνητή νοημοσύνη και πώς μπορεί να καλύψει την απόσταση έως το 100%.

27:26 Η μνήμη είναι ένα πρόβλημα σήμερα. Με ποια έννοια. Ότι πρέπει για να μπορεί κανείς να έχει διώματα να έχει εμπειρία. Άρα χρειάζεται μνήμη. Άρα όλα αυτά πρέπει για κάθε έναν από εμάς και κάθε διάλογο που κάνει να τα κρατάει για πάντα στη μνήμη του για να προσωμιώσει την εμπειρία την ανθρώπινη. Πρέπει να έχει αντίληψη τι συνδένει γύρω του.

27:50 Αυτό το έχει εν μέρη με τους αισθητήρες παραδείγματος χάρη. με τις εντολές που δίνουμε. Αλλά σε καμία περίπτωση δεν έχει φτάσει αυτή η αντίληψη, δεν έχει πλησιάσει την ανθρώπινη αντίληψη, αλλά η αντίληψη σιγά σιγά αποκτά. Και ηθική. Άρα μνήμη, αντίληψη και ηθική είναι η γενική τεχνητή νοημοσύνη και πλέον υπολείπονται η συνείδηση και τα διώματα.

28:18 Και αυτό όμως σηκώνει συζήτηση. Τίποτα δεν είναι πλέον αυτονόητο, ξαναλέω. και εξαρτάται πάντα από το πώς το αντιλαμβάνεται ο καθένας και πώς το ορίζουμε. Όπα, πώς μπορεί να αποκτήσει ηθική ένας αλγόριθμος όταν δυσκολευόμαστε σε αυτό το κομμάτι οι ίδιοι άνθρωποι. Θα μου πεις όπως απέκτησε ό,τι άλλο έχουμε και θεωρούσαμε ως μοναδικό και αποκλειστικό.

28:42 Στην πράξη θα γίνει με έναν τρόπο που θα τον έλεγες και ανήθικο. Ο τρόπος που προτείνεται είναι να εκπαιδευτεί όπως ένα μωρό. Δηλαδή ξεκινάει και σιγά σιγά μαθαίνει τι είναι καλό, τι είναι κακό, τι είναι χρήσιμο, τι δεν είναι, τι είναι επικίνδυνο. Και άρα σιγά σιγά αποκτάει κανόνες πότε βλάπτει τον άλλον, πότε όχι, τι είναι σωστό και τι λάθος.

29:07 Και άρα λοιπόν σιγά σιγά εκπαιδεύεται για να αποκτήσει τη δική της ηθική και μάλιστα να την προσαρμόσει, με βάση τη μνήμη που είπα προηγουμένως, την ηθική του κάθε ανθρώπου. Στο βιβλίο του, ο κύριος Τσαουσίδης διάλεξε για τίτλο το τεχνητή νοημοσύνη ναι και όχι. Πού είναι λοιπόν το ναι και πού το όχι. Όπως λέει, η σημερινή συνθήκη της AI είναι σαν να έχουμε στα χέρια μας φάρμακα, τα οποία δεν ελέγχει κανείς και άρα δεν ξέρουμε τις παρενέργειες και τις επιπτώσεις.

29:40 Το ναι είναι ότι είναι προφανές ότι υπάρχουν ωφέλη για καθέναν από εμάς και για το σύνολο της κοινωνίας από την τεχνική νοημοσύνη αν εφαρμόζεται σωστά και με καλές προθέσεις. Δηλαδή έχουμε δει ήδη τεράστια πρόοδο σε θέματα της οικείας, σε θέματα ασφάλειας, θα μπορούσε δηλαδή να έχει πολύ μεγάλη σημειοφορά σε θέματα ακόμα και της παραγωγής της δικής μας.

30:08 και ποιος δεν χρησιμοποιεί σήμερα το τσάτ για να γράψει ένα κείμενο, να διορθώσει τα λάθη του κλπ. Άρα θα το παρομοίαζα αυτό, την περίπτωση αυτή, με την φαρμακοδιομηχανία. Δηλαδή φανταστείτε να είχαμε φάρμακα που δεν τα είλε και κανείς και να υπήρχε ένας ανταγωνισμός ποιος θα βγάλει το καλύτερο φάρμακο αλλά να μην είλε και κανείς τις παρενέργειες που έχουν ή τις επιπτώσεις.

30:35 άρα λοιπόν δεν θέλουμε να πούμε όχι στα φαρμακά θέλουμε να τα ελέγχουμε για να ξέρουμε ότι το αποτέλεσμά τους θα είναι καλό το ίδιο πράγμα είναι και εδώ λίγο πολύ βλέπουμε ότι μπορούμε να έχουμε πολλά ωφελήματα αλλά από την άλλη μεριά δεν υπάρχει το θεσμικό πλαίσιο που υπάρχει στην φαρμακοδημηχανία είναι πολύ πιο δύσκολο να εφαρμοστεί είναι πολύ πιο σύνθετο και τεχνικά να ελεγχθεί άρα κανονικά η προσπάθεια θα έπρεπε να είναι τώρα και η απέπτυση κατά την άποψη μου των κοινωνιών να ελεγχθεί θεσμικά.

31:15 Άρα το ναι και όχι πηγαίνει στο ναι γιατί δεν θέλουμε να μην αδράξουμε αυτή την ευκαιρία της τεχνητής νοημοσύνης που μπορεί να βελτιώσει πολλούς τομείς της ζωής μας αλλά δεν θέλουμε να δυνοπαθήσουμε αν δεν λειτουργήσουν σωστά υπέρ του πολίτη. Αυτό ήταν το PopScience, το podcast του News247 που τα εξηγεί ωραία. Κάθε Δευτέρα θα σας περιμένει ένα νέο επεισόδιο στο Spotify και τα Apple Podcasts.