Η ευθύνη στην AI: Νομοθεσία, καινοτομία και οι προκλήσεις στην Ευρώπη με την Ωραιοζύλη Κουτσουπιά

Αυτόματη μεταγραφή — ενδέχεται να περιέχει λάθη.

00:00 Ωραία, για παράδειγμα, θέλω να φτιάξω ένα μοντέλο τώρα. Πες ότι έχω άπειρα χρήματα, άπειρα δεδομένα και έχω καταλήξει ότι θέλω να φτιάξω από την αρχή ένα μοντέλο. Τι πρέπει να σκεφτώ? Δηλαδή κάτι που μπορεί να πίστευε κάποιος «Έλα μωρέ, εντάξει, δεν έκανα και τίποτα». Σε μικρές ηλικίες που λένε «Εντάξει μωρέ, παίζαμε».

00:17 Μπορεί ξαφνικά ένα πλημμέλημα να γίνει κακούργημα. Περνάει ένα αυτοκινούμενο όχημα και κανονικά στους δρόμους έρχεται ένα κανονικό όχημα, πατάει μια γυναίκα, τη ρίχνει στο δρόμο και έρχεται το αυτοκινούμενο από πάνω και σταματάει. Σε αυτά ποιος φέρει τελικά την ευθύνη, φέρει δηλαδή. Η ερώτηση είναι δύο βασική τώρα. Ο Θεοατρός φταίει, η εταιρεία που το κάνει provide φταίει μετά ο developer που έγραψε τον κώδικα και ομάδα ή κανένας. Ποιος θα έρθει να βγει μαζί. Αυτή είναι η δύο βασική ερώτηση εδώ.

00:47 Καλώς ήρθατε στο Neural Coach. Ένα podcast προσεγγίζει την τεχνητή νοημοσύνη, τις επιχειρήσεις, την έρευνα και την τεχνολογία. Μέσα από την εμπειρία ανθρώπων που σχεδιάζουν, υλοποιούν και εξελίσσουν συστήματα και οργανισμούς στην πράξη. Είμαι ο Αλέξανδρος Μίτσου, μηχανικός τεχνητής νοημοσύνης και υποψήφιος διδάχορας πληροφορικής.

01:06 Καλώς ήρθατε σε ένα ακόμα επεισόδιο του Neural Coach. Στο σημερινό επεισόδιο θα μιλήσουμε για EU AI Act, καθώς και το πώς η τεχνητή νομοσύνη μετατρέπεται σε μια μορφή δύναμης. Μαζί μας, η Μαρία Ωρεοζήλη Κουτσουπιά, συνειδρήτρια του Εθνικού Συνειδητού του Δικαίου Ρύθμισης και εργαζόμενη στο AI Office της Βρυξέλλες. Καλώς ήρθες!

01:28 Καλησπέρα, καλώς σας βρήκα. Σας ευχαριστώ πάρα πολύ για την πρόσκληση και την ωραία συζήτηση. Σας ευχαριστώ πάρα πολύ που αποδέχτησες την πρόσκληση. Ο Ρεοζήλη είναι ένας άνθρωπος ο οποίος είναι υπεύθυνος σχετικά με θέματα που αφορούν ρύθμιση στην τεχνητική νομοσύνη. Αν δεν κάνω λάθος, ασχολείσαι καιρό με αυτό. Πολύ σωστά.

01:48 Πρώτα απ' όλα να πω ότι εδώ σήμερα είμαι με την προσωπική μου ιδιότητα και εκφράζω προσωπικές απόψεις και όχι με την ιδιότητα οποιοδήποτε φορέ συνδέομαι, που όπως πολύ σωστά είπες. Άρα μιλάμε προσωπικά Τέλεια Θα ήθελα να μείνουμε λίγο σε εσένα Να μας πεις δυο πράγματα σχετικά με εσένα Και πώς φρέθηκες όντας δικηγόρης ίδια Στο ντομέ της τεχνολογίας και της τεχνητής νομοσύνης Ναι είναι μια πολύ ωραία ιστορία αυτή Αλλά νομίζω ότι πολλοί δικηγόροι θα βρεθούν Στην ίδια κατάσταση πολύ σύντομα Εγώ ξεκίνησα Νομική Θεσσαλονίκη όλα καλά, τελειώσαμε, πήγα για μεταπτυχιακό στην Αθήνα και για δουλειά και διεργάστηκα σε μια μεγάλη δικηγορική εταιρεία η οποία έτσι είχε δημοσίου δικαίου υποθέσεις και φαρμακευτικού δικαίου μεταξύ άλλων.

02:32 Εγώ μεταφέρθηκα στο μεταφερόρμακευτικό κλάδο έκανα το μεταπτυχιακό δημοσίου δικαίου έκανα το μεταπτυχιακό διεθνών σπουδών νομικών και μετά όταν άρχισα να ασχολούμαι το θέμα του φαρμακευτικού και τα ιατοτεχνολογικά και τα φάρμακα πέρασα λίγο σε έναν κλάδο τεχνολογίας. Όχι καθαρή τεχνολογία αλλά η τεχνολογία ήταν συνειφασμένη με τον ιατρικό κλάδο.

02:55 Δηλαδή έρχονταν εταιρείες που κατασκευάζουν ιατροτεχνολογικά προϊόντα π.χ. βηματοδότες, π.χ. στέντ, έτσι ακόμη και γυαλιά που έχουν κάποια ένα function, τότε software function τώρα AI function. Τώρα μπλέκει και γεννήθηκε πάρα πολύ. Λίγο μπλέκει και αρκετά. Με τα ιδρυτικά δεδομένα είναι λίγο περίεργη η κατάσταση. Είναι πάρα πολύ περίπλοκος ο κλάδος.

03:17 Και με τα ιδρυτεχνολογικά μου υπάρχει ένας κανονισμός έτσι πολύ βαρύς. Άρχισα να ασχολούμαι αρκετά. Οπότε αποφάσισα να κάνω και ένα μεταπτυχιακό έξω. Εκεί πέρα έκανα στο IPICT, δηλαδή Information Communication Technology Law. Όπου εξειδικεύτηκα στο AI Medical Devices. και το legal πάντα. Δηλαδή, ναι μεν έπρεπε να εξηγήσω ποιο είναι το τεχνικό πρόβλημα, αλλά έπρεπε να βρω ποια είναι τα νομικά προβλήματα.

03:41 Και έτσι στη συνέχεια πέρασα σε Αμερικάνικες και σε δικηγορικές εταιρείες που κάνουν πάρα πολύ AI, γιατί οι πελάτες είναι βελληνικούς παγκοσμίου, οπότε ρωτούσαν πράγματα για το πώς να βάλουν AI παντού. Έτσι άρχισε αυτό να υπάρχει γύρω στο 2020-2021. Ήρθε εκείνη η ξέσπασμα. Πριν το ΤΣΑΤΣΥΠΙΤΗ ακριβώς, αλλά ενώ οι ειδέες είχαν καταλάβει τι σημαίνει η AI.

04:03 Οπότε εκεί άρχισα να... και εγώ και αυτό και κάναμε το αισθούτο τότε, το 2021 ξεκίνησε. Κάναμε το αισθούτο που καταλάβαμε ότι το AI είναι παντού, ότι πρέπει να δούμε τα νομικά θέματα. Παιδιά είναι ειδικά νομικά θέματα, δεν είναι παρεπιπτόντος κάτι θα υπροκύψει. Όχι, είναι πολύ συγκεκριμένα μετά από ένα σημείο και ξεκινάει και πλέγει η κατάσταση.

04:21 Μπράβο και επειδή τα ξέρεις από προσωπική τεχνική άποψη Ξέρεις γιατί μιλάμε Και το είδαμε αυτό όταν το έκαναμε το Ιστούτο Έρχεσα να ασχολούμαι με το AI ειδικότερα Και στη συνέχεια στην πορεία μου βρέθηκα και δόξα στο Θεό Κατάφερα και είμαι στην Ευρωπαϊκή Αρχιτεχνητής Νοημοσύνης Που είναι η υποπτεύουσα αρχή για όλα τα κράτη-μέλη Οριστικά βλέπεις πράγματα και νομολογίες και νομοθεσίες λίγο πριν τι ζούμε εμείς οι μηχανικοί.

04:46 Ή με τους πρώτους μηχανικούς που το φτιάχνουν και έρχονται σε εμάς και λένε τώρα τι κάνουμε. Ή που μαθαίνουμε ότι φτιάχτηκε ή ξέφυγε από κάποιον. Έχει πάρα πολλά περιστατικά που έρχονται σε εμάς. Για παράδειγμα τώρα δούλευα σε μια εταιρεία και έχει τύχει να μου ζητήσουν να χτυπάμε κάποια APIs με κάποια documents που είχαν μέσα σελίδες τώρα που είχαν ταυτότητες.

05:11 Είχαν για παράδειγμα διαβατήρια, δηλαδή κάταν ταυτοποίηση κάποιων άμεσα. Και θυμάμαι να τους κοιτάζω και να τρεμάω να τους λέω, παιδιά, ωραία, έχω βρει αυτά. Μήπως πρέπει να βρίσκουμε πρώτα τα πρόσωπα, να τα βγάζουμε από τη μέση, εφόσον δεν τα χρειαζόμαστε, και να χτυπάμε τα APIs με οτιδήποτε άλλο. Άρα θεωρείς ότι η Ευρώπη, γιατί ξεκίνησε να ενισχύει τόσο πολύ η τέχνη την υποσύνη.

05:37 Λοιπόν, για αυτό που μόλις περιέγραψες, αλλά δεν είναι μόνο τα προσωπικά δεδομένα. Δηλαδή, είναι ένα πολύ μεγάλο επίπεδο τα προσωπικά δεδομένα που κινδυνεύουν γιατί μιλάμε για ένα cloud σύστημα, το οποίο μπορεί να είναι διάτρητο, το οποίο μπορεί να έχει ευαλωτότητες. Αυτά ξέρετε καλύτερα από μένα. Τεχνολογικά δηλαδή και τεχνικά κινδυνεύουμε.

05:59 Οπότε, νομικά πρέπει να είμαστε καλυμμένοι από τις επίπεδες των προσωπικών δεδομένων. Εκεί είχαμε ήδη το GDPR. Οπότε οι βασικές αρχές, αυτό που υπήρχε ήδη, ό,τι ξέρουμε, συνεχίζεται. Ξέρουμε ανοιμοποίηση πριν εισάγουμε, πριν επεξεργαστούμε στοιχεία. Το κάνουμε. Άρα, πολύ ωραία. Έρχεται όμως η Ευρώπη και στην αρχή, περίπου εκεί γύρω στο 2018-2019, σκέφτηκε και φαίνεται από τα έγγραφα που εκδίδονται ότι θα ήταν καλό να μπουν κάποιες πρώτες αρχές.

06:24 πάμε λέει να το ρυθμίσουμε όχι να το ρυθμίσουμε στενά να δώσουμε κάποιες κατευθυντήρες για όσους φτιάχνουν AI και έβαλε το λέγονται AIH γιατί είναι human oversight είναι για transparency για ουσιαστικά η διαφάνεια αξιοπιστία, trustworthiness transparency, accuracy σου δίνει κάποιες γενικές αρχές πώς πρέπει να είναι ένα σύστημα όταν φτιάχνεται αυτές οι γενικές αρχές guidelines ήταν πέρασαν λίγο απαλά.

06:57 Δηλαδή είδαμε ότι δεν είχαν νομική, έντονη νομική δεν είχαν ατισμευτική νομική ισχύ άρα δεν τα πήραν και όλοι οι κατασκευαστές υπόψη τους. Ήταν λίγο θολό το τοπίο γιατί έλεγες να το κάνω να μην το κάνω, πρέπει να το κάνω. Και πώς να το κάνω. Και πώς να το κάνω, δεν υπήρχαν. Θυμάμαι ότι πριν από 4-5 χρόνια, ένα παράδειγμα, ήθελες να ανεμοποιήσεις δεδομένα και υπήρχαν δύο εργαλεία μόνο ένα νομίζω ήταν open source νομίζω λίγο ήταν DI κάτι, δεν θυμάμαι πώς λιγόταν ήταν από την γαλλική αρχή προστασίας δεδομένων την κανείλ, ναι αν δεν κάνω λάθος, ναι και μπορούσες να ανεμοποιήσεις δεδομένα μέχρι ένα level νομίζω μέχρι level 4, αν δεν κάνω λάθος και χαίρομαι που το έχεις ψάξει τόσο πολύ δείχνει ότι είσαι ένας συνειδητοποιημένος και compliant AI engineer θα μας κυριαρχάει το governance αλλιώς Ο γκάβερνες ακριβώς. Είμαστε εμείς από πίσω που κυνηγάμε.

07:49 Ναι, το θέμα, τι είδαν. Είδαν ότι αυτές οι αρχές δεν ήταν πολύ ξεκάθαρες. Υπήρχαν νόμωθυσεις. Αλλά προχωρώντας το επίπεδο, κατάλαβαν ότι υπάρχει πάρα πολύ μεγάλη ερευνητική ανάγκη. Παράλληλα, στην Ευρώπη είχαν αρχίσει να υπάρχουν μικρές εταιρείες, μικρές startups. Και πριν το CHAT-CPT, έγινε η πρώτη πρόταση για κανονισμό.

08:09 εκεί είναι το AI Act, που λέμε ο πρώτος κανονισμός εκεί ήταν πριν το chat zippity δημιουργήθηκε ένα σχέδιο κανονισμού έμειναν ώρες και ώρες να το σκέφτονται πώς θα ορίσουμε αυτό, πώς θα ορίσουμε εκείνο ξαφνικά σκάει το chat zippity ενδιάμεσα στις διαπραγματεύσεις και αλλάζει όλος ο κανονισμός αλλάζει ένα πολύ μεγάλο μέρος του κανονισμού γιατί έπρεπε πλέον να μιλήσει για τα open source μοντέλα να μιλήσει για μοντέλα γιατί πριν υπήρχαν τα συστήματα τώρα στο νέο κανονισμό υπάρχουν μοντέλα και πάνω στα μοντέλα στείλουμε συστήματα τα οποία είναι τα συστήματα με τα οποία ελεπιδρούμε εμείς ως άνθρωποι δεν ελεπιδρούμε το μοντέλο ακόμη και το chat που βλέπουμε το chat της επιτή βασίζεται σε μοντέλο, το ξέρετε πολύ καλά το λέω για τον κόσμο αλλά μιλάμε με ένα σύστημα μπροστά μας άρα εμείς ρυθμίζουμε τα συστήματα γιατί με αυτά ερχόμαστε και ελεπιδρούμε βεβαίως πρέπει να υπάρχουν κάποιες βάσεις από κάτω το μοντέλο έχει και αυτά υποχρεώσεις πριν μπω όμως στην πολύ

09:00 βαθιά στο τι λέει αυτός ο κανονισμός να σας πω ότι δημιουργήθηκε η πρώτη πρόταση το 22 έγιναν πάρα πολλές διαπραγματεύσεις το 24 είχαμε τον τελικό κανονισμό επανηγύρισαν μιλάμε έμειναν ώρες μέσα ότι βρήκα μορισμό για το AI βρήκα μορισμό για τα μοντέλα. Καταφέραμε να τους προλάβουμε Τα καταφέραμε, ναι ακριβώς. Και έγινε πάρα πολύ γρήγορα.

09:21 Σε χρόνο τετέ. Καταλαβαίνετε ότι τώρα μιλάμε μέσα σε μία πενταετία, 18 με 24 που έγινε. 18 είναι οι γενικές αρχές. Είναι πάρα πολύ γρήγορος χρόνος πριν καν σκάσει το GPT. Ξεκίνησε. Εκεί ξέφυγε και όλες. Γιατί ήταν το GPT-2 τότε, που ήταν ερευνητικό, transformers αυτά τα μοντέλα. Ακριβώς. Και κάποιος πήρε αυτό το κομμάτι, έκανε μια έξτρα έρευνα, βασικά υπήρχε και χρηματοδότηση για να γίνει αυτό και έγινε το GPT-3.

09:47 Ακριβώς. Και μετά το GPT-3 ήρθαν όλα αυτά που γνωρίζουμε σήμερα και τα χρησιμοποιούμε όλοι. Στην Ελλάδα ειδικά πάρα πολύ. Ναι, είμαστε νούμερο 1 στην Ευρώπη. Υπάρχουν δύο στατιστικά, μπορούμε να τα δούμε κάπου. Υπάρχουν, βεβαίως, βεβαίως. Στα ευρωστατιστικά μπορείτε να μπείτε και να δείτε η νούμερο ένα είναι η Ελλάδα σε όλη την Ευρώπη και χρήση AI, κάθε χρήση, έτσι, δεν λέμε τι χρήση, προσωπική ή επαγγελματική.

10:09 Όχι, όταν εννοούμε AI εννοούμε για παράδειγμα ένα τέτοιο μοντέλο, βασικά μια τεχνητή διερία, πώς είναι η OpenAI, πώς είναι το Gemini, όλα αυτά. Ακριβώς, ναι, ναι, είμαστε νούμερο ένα. Αλλά δεν το ήξερα αυτό. Και σε ηλικίες ενδιαφέρουσες από 19 μέχρι 64. Προσπαθούν σιγά σιγά και πιο μεγάλη να το χρησιμοποιήσουν. Πασικά χρήσιμο θα είναι αρκετά.

10:28 Βέβαια και καλό κάνει. Αρκεί να ξέρουμε πώς και με ποιες... Και θα πάμε εκεί. Αυτό είναι πολύ ενδιαφέρον. Με ποιες μικρές προφυλάξεις, επιφυλάξεις να έχουμε το νου μας. Όπως συνηθίζω να λέω, καλύτερα να έχουμε έναν φόβο, μια προληπτική σκέψη πριν το χρησιμοποιήσουμε και να το χρησιμοποιούμε. Απλώς να ξέρουμε τι χρησιμοποιούμε και τι είναι οι κανόνες.

10:52 Τους κανόνες δεν ξέρουμε συνήθως και πολλοί νομίζουν ότι η τεχνητή νομοσύνη, όπως έχουμε πει και σε ένα προηγούμενο επεισόδιο με τον Γιώργο Κανακόπουλο, δεν είναι βάζω απλά ένα large-laminous model, ένα μεγάλο γλωσσικό μοντέλο. Είναι και άλλα πράγματα. Μπορεί να έχεις και μοντέλα που αφορούν όραση υπολογιστική, γιατί μπορεί να έχεις έγγραφο, μπορεί να έχεις εικόνες, μπορεί να έχεις φωτογραφίες.

11:10 μπορεί να θες να γεννήσεις πράγματα να γεννήσεις διάφορα πράγματα και εκεί είναι δύσκολο ή μπορεί να έχεις ένα συγκεκριμένο σκοπό και ο σκοπός του μοντέλου ή του συστήματος παίζει τεράστιο ρόλο δηλαδή αυτό που λέμε στην ομοθεσία intended purpose και αυτό θα παίξει μεγάλο ρόλο και στον τρόπο με τον οποίο θα συμμορφώνεται ο καθένας ανάλογα δηλαδή με τον σκοπό που έχει το μοντέλο του ή το σύστημα του θα λέω το μοντέλο αλλά καταλαβαίνετε θα πρέπει να συμμορφώνονται με άλλα πράγματα.

11:38 Δηλαδή, αν φτιάξεις κάτι το οποίο είναι για την υγεία, υπάρχουν συγκεκριμένοι κανονισμοί, συγκεκριμένες ρυθμίσεις μέσα που πρέπει να λάβεις υπόψη σου. Εάν φτιάξεις κάτι που είναι για το σπίτι, είναι για προσωπική χρήση, αυτό είναι άλλο πράγμα. Εκεί, ξέρετε, είναι μόνο για προσωπική χρήση. Όταν το βάζεις στην αγορά, εκεί έχουμε άμεση εφαρμογή του κανονισμού και των συγκεκριμένων ρυθμίσεων.

11:58 Άρα είναι ανάλογα τι θέλεις να κάνεις με αυτό που φτιάχνεις. Και αυτό πρέπει να το έχουν υπόψη τους όσοι φτιάχνουν τώρα πράγματα και θέλουν να ξέρουν πώς θα πούν να το πάνε. Ωραία, για παράδειγμα, έτσι θέλω να φτιάξω ένα μοντέλο τώρα. Ότι πες ότι έχω άπειρα χρήματα, άπειρα δεδομένα και έχω καταλήξει ότι θέλω να φτιάξω από την αρχή ένα μοντέλο.

12:14 Τι πρέπει να σκεφτώ? Λοιπόν, πολύ ωραία. Πρώτη ερώτηση. Θέλω το μοντέλο μου να έρθει στην Ευρώπη. Ναι, θα πρέπει να είναι στην Ευρώπη για παράδειγμα. Έτσι ότι δραστηριοποιούμε στην Ελλάδα, άρα στην Ευρώπη. Άρα στην Ευρώπη, γιατί είναι πολύ βασικό. Άρα γιατί ο κανονισμός ισχύει όταν έρχεσαι να κάνεις δραστηριοποίηση οποιασδήποτε operations στην Ευρώπη, σε οποιοδήποτε χώρο.

12:34 Σε κράτος μέλος ή γενικότερα. Σε οποιοδήποτε κράτος μέλος. Τέλεια. Άρα, ξεκινάμε με το ότι τι έχεις στα χέρια σου. Τι σκοπεύεις να κάνεις, ποιος είναι ο σκοπός σου, αν σκοπεύεις να το πουλήσεις ή όχι. Σκοπεύεις να το πουλήσεις, σκοπεύεις να το βγάλεις στον κόσμο. Άρα, έτσι ότι το βγάζουμε στον κόσμο σαν μια σάση υπηρεσία.

12:51 Σάση υπηρεσία, πολύ ωραία. Άρα, θέλεις να κάνεις place on the market. Αυτό είναι το βασικό μας, το ανερκτήριο. Επομένως, μπαίνεις στον κανονισμό. Πάμε να δούμε τώρα αν έχεις υποχρεώσει από τον κανονισμό Γιατί ο κανονισμός δεν σημαίνει ότι όλα ρυθμίζονται Μπορείς να φτιάξεις κάτι το οποίο να μην ρυθμίζεται καθόλου Δηλαδή να πρέπει να είναι ένα video game Το οποίο ας πούμε είναι από το audio-visual κανονισμό Από ο δικό του κανονισμό, δεν έχει να κάνει με το AI act Να βάλεις ένα AI στοιχείο Ωραία Εάν όμως θες να κάνεις κάτι το οποίο είναι AI καθαρό Και είναι σε συγκεκριμένες κατηγορίες Δηλαδή πες μου τι θέλεις να κάνεις Ωραία, σας το κάνουμε και δύσκολο Γιώλας. Πες ότι θέλουμε να βάλουμε έναν ψηφιακό βοηθό για να μας δίνει ιατρικές συμβουλές.

13:32 Δηλαδή ένα βήμα πριν φτάσουμε στον γιατρό. Για παράδειγμα, νομίζω ότι έχω ιούση μέχρι εκείνο το σημείο. Λοιπόν, έχουμε πολλά να πούμε εδώ. Γιατί μπήκαμε στην ιατρική κατηγορία και εδώ πραγματικά είναι επικίνδυνα τα πράγματα. Γιατί καταρχήν οι ιατρικές συμβουλές δεν επιτρέπεται να δίνει το chatbot. αλλά ξεκινάμε από το τι δεν επιτρέπεται το άμεσης της απαγορεύσης δεν επιτρέπεται να δίνει το chatbot γιατρικές πρέπει να δίνει μόνο συστάσεις και με υποπτήρια γιατρού άρα πρέπει να δούμε πώς θα φτιάξεις το chatbot σου έτσι ώστε να έχει feedback από γιατρό, να ελέγχονται τα prompts, οι απαντήσεις και το feed του το τι θα ταΐζεται να ελεγχθεί από γιατρό άρα θες κάποιους ειδικούς, το πρώτο που θα σου πω είναι ότι έχεις βρει γιατρούς έχουμε μια ομάδα με 10 γιατρούς Έχεις θέλει έναν ιατρούς. Τέλεια.

14:20 Ωραία, λοιπόν. Πάμε να δούμε αν είναι υψηλού κινδύνου, αν είναι απογορευμένο ή αν είναι minimal transparency risk. Γιατί ο κανονισμός σου λέει ότι το κάθε ένα σύστημα υπάρχει της άλλης κατηγορίας. Εάν το μόνο είναι chatbot που δίνει γενικές κατευθύνσεις, βέβαια εδώ δεν θα είμαστε εκεί, αλλά πάμε ένα-ένα να δούμε. Εάν δίνει γενικές κατευθύνσεις στο chatbot σου ή απαντάει στη διαδικαστικά, δηλαδή σηκώνει το τηλέφωνο ξέρω εγώ και σε παραπέμπη κάπου ή αυτά που έχουν οι εταιρείες, οι Aegean ή ξέρω εγώ, οι DEA ή οτιδήποτε έχουν τέτοια chatbots, αυτά έχουν ένα minimal transparency risk.

14:59 Το μόνο που χρειάζεται να κάνεις όταν έχεις αυτό το chatbot είναι να δηλώσεις ότι είσαι chatbot. Δηλαδή πρέπει ο άλλος να καταλαβαίνει ότι μιλάμε για AI. Άρα πρέπει να το γράψεις και όλος. Ήταν να το γράψεις εάν υπάρχει κίνδυνος σύγχυσης. εάν είναι ξεκάθαρο και μιλάει έτσι, γεια σας. Τι θα θέλατε. Τότε δεν χρειάζεται να το γράψεις.

15:21 Άρα αν φαίνεται ξεκάθαρα για τον κάθε... ή αν υπάρχει κίνητος παραπλάνησης, λέμε. Ναι, σε αυτή την περίπτωση. Καλό είναι να γράφει είμαι ένας βοηθός, γι' αυτό και γραπτάς το όταν βλέπουμε online, γράφει είμαι βοηθός AI. Αυτό είναι κανονισμός. Πρέπει να βγαίνει ότι είμαι ένας AI assistant. Είμαι ένας AI assistant. Όποτε ξεκινάμε από αυτό Πολύ βασικό αυτό γιατί είσαι μοντέλο Έτσι σε chatbot Ανεβαίνουμε όμως κλάση γιατί εσύ μιλάς για υγεία Άλλιως άρα δεν μένουμε στο απλό Πάμε να δούμε αν είναι κάτι απαγορευμένο Πάμε στις απαγορεύσεις δηλαδή Ή αν είναι υψηλού ρίσκου που είναι στη μέση Και πρέπει να δούμε τις υποχρώσεις που έχουν Θα σου έλεγα εξ αρχής εγώ ότι είναι υψηλού ρίσκου Αλλά καλύτερα Σίγουρα, για παράδειγμα ξέρω πολλοί κόσμο που βγάζει φωτογραφία της εξετάσεις του και της βάζει στο chat GPT και λέει πες μου τι έχω.

16:07 Και μετά οι εξετάσεις του ταΐζονται, γίνονται ανταποδότηση για τον επόμενο. Και βεβαίως αν κάποιος καταφέρει να ρίξει το σύστημα, ποτέ δεν είναι το σύστημα ασφαλές. Όταν μιλάμε για χωρίς license, χωρίς κλειδωμένα συστήματα τέλος πάντων, δεν είναι ασφαλές. οπότε αν πάει στη στιγμή τα ιατρικά του δεδομένα μπορούν να εμφανιστούν οπουδήποτε να τα πάρει οποιοςδήποτε επειδή μην ανεβάζετε ιατρικά δεδομένα εμφώνημα υπάρχει πάρα πολύ να φαίνεται και το όνομά σου ακριβώς έστω ανωνυμοποιήστε σας παρακαλώ σβήστε από πάνω τον αριθμό αφημή το αμκα και το ανωνυμοποιήστε εμφώνημα ή κόψτε σε φωτογραφία που ανεβάζετε screen shot το έχω ακούσει πάρα πολλές φορές λέει έλα μωρέ εντάξει γενικές αματολογικές έκανα ας τις βάλω εκεί να μην πας γιατρό ας τις βάλω εκεί πέρα ας ξέρουν όλοι γιατί δεν ξέρεις πως θα χρησιμοποιηθεί εγώ δεν σας λέω παιδιά ότι θα μας κλέψουν το σπίτι επειδή ανέβασες τις φωτογραφίες αλλά το να πως θα χρησιμοποιηθούν τα προσωπικά σας δεδομένα τα οποία να ξαναπούμε εδώ

17:05 ότι είναι υπερπολίτιμα τα δεδομένα μας. Τα δεδομένα είναι θησαυρός και ο μεγαλύτερος της αυρής είναι τα προσωπικά δεδομένα. Γιατί με αυτά καθένας μπορεί να ξεκλειδώσει οτιδήποτε, μπορεί να παριστάνει τον οποιοδήποτε. Σκεφτείτε τώρα να βάλετε εσείς κάποια δεδομένα τέτοια, να χρησιμοποιηθούν αυτά τα δεδομένα σε συνδυασμό με φωτογραφικά δεδομένα σας, δηλαδή κάποιο φωτογραφείο που ανεβάσατε και υπευθυντάξαμε αυτό ή άλλαξαμε εκείνο, και να δημιουργηθεί ένα deepfake στο οποίο θα είναι υπερβολικά δύσκολο να καταλάβει κανείς ότι είναι ψεύτικο.

17:34 Και κάποιος να σας κατηγορήσει, ξέρω εγώ, για ληστεία. Έχουν αρχίσει και γίνονται τέτοιες κλινικά. Για πεδεραστεία. Για οτιδήποτε. Για βιασμό. Για παρενόχληση. Ότι βρέθηκε αυτός εκεί γιατί ανέβασες εσύ ότι έχεις πάει εκεί. Ανέβασες εσύ ότι έχεις το τάδε ιατρικό θέμα. Οπότε συνδέθηκαν οι πληροφορίες οι οποίες σε κάνουν αναγνωρίσιμο 100%.

17:56 και μπορούν να δημιουργήσουν την καλύτερη ψεύτικη εικόνα για σένα την οποία για να πολεμήσει στα δικαστήρια θα σου πάρει χρόνο, χρήμα και δεν ξέρουμε και πολλούς φορένες experts οι οποίοι αν μπορέσουν να βγουν τα μεταδεδομένα και να κάνουν τη δουλειά τους σωστά πιθανώς θα κάνουν αλλά σκεφτείτε σε τι μεγάλο μπελά μπορεί να μπείτε τώρα σας δίνω ένα σενάριο τρελό αλλά δεν είναι τόσο τρελό όχι, δεν νομίζω ότι είναι τόσο τρελό Αυτά τα πιο πολλά πράγματα έχουν γίνει στις ΗΠΑ.

18:22 Δεν έχουν γίνει ακόμα στην Ευρώπη. Έχουν γίνει και στην Ευρώπη. Έχουν αρχίσει να γίνονται. Και τέτοια δικαστήρια. Και τέτοια δικαστήρια. Έχουν αρχίσει βεβαίως πολλοί δικαστές, δύο-τρεις υποθέσεις που ξέρω ήδη, τα έχουν απορρίψει, έχουν πεταλάβει ότι τα αποδεικτικά είναι ψευδή. Και έχουμε δικαστές οι οποίοι κάνουν, και είπα πάλι καλά, είναι πολύ σημαντικό αυτό τα δικαστήρια να ξέρουν να ξεχωρήνουν deepfakes.

18:42 Μιλάμε για αποδεικτικά τα οποία έχουν φοβερά ψεύδι μέσα που μπορείς να φέρεις. Ξέρω εγώ είτε υποθέσεις επιμέλειας διαζυγίου, φέρουν ψεύτικα αποδεικτικά ότι κάποιος χτυπήθηκε, δημιουργούν εικόνες μέσω του γκροκ με λανιές κλπ ή μη γυμναμέρη. Έχουμε δει πολλά είδη τα οποία βεβαίως θα κάνουν escalates. Όσο πάνε θα ανεβαίνουν. Δεν περιμένουμε ότι θα μειωθούν. Άρα πρέπει να ξέρουμε να προστατεύουμε τα δεδομένα μας έτσι ώστε να μπορείς να πεις δεν ήμουν εγώ εκεί γιατί εγώ ήμουν εκεί.

19:13 Αν δεν το ξέρει αυτό αυτός που κλέπει τα δεδομένα ή αν κρατήσει σε ένα κρυφό μέρος. Ξέρω εγώ, θέλω να μην ανεβάζεις τη φωτογραφία με μαγιό, αλλά ξέρω εγώ ένα κομμάτι που να μην είναι όλο πάνω στο AI cloud όσο μπορείτε να κρατήσετε την ιδιωτικότητα και εγώ είμαι σε social media όλοι είμαστε σε social media πες μου κάτι που δεν είναι δυστυχώς ξέρω, πολλά άτομα στον αλληλή τομέα outliers πλέον αυτοί σου ψάχνουμε πήραμε αυτή την παράλληλη συζήτηση αλλά πρέπει να είμαστε προσεκτικοί γιατί δεν ξέρεις πως ενώνουν τα δεδομένα πάμε πίσω όμως στο δικό σου AI chatbot που είναι η healthcare και αυτό σημαίνει ότι πάμε να το κατηγοριοποιήσουμε βάσει τον κανονισμό. Ανοίγουμε λοιπόν τον κανονισμό και πάμε να δούμε εάν ανήκει στην κατηγορία των υψηλού ρίσκου.

20:04 Στο άρθρο, τώρα μη σας πηγαίνω, στα έξι είναι, αλλά στα άρθρα, εκεί κοιτάμε λέει ποιο είναι το υψηλού ρίσκου. Στο πέντε είναι τα απογορευμένα. Απογορευμένα είναι αυτά τα οποία χειραγωγούν, δεν νομίζω ότι έχει σκοπό να χειραγωγήσει ή ότι έχει τέτοιο component μέσα. Αυτά που βαθμολογούν ανθρώπους, δεν νομίζω ότι αυτό έχει σκοπό να χρησιμοποιηθεί η εξαργωγή την κοινωνική παθμολόγηση.

20:26 Αυτά τα οποία θέλουν να εξαπατήσουν πέρα από κυραγώγηση ευάλωτων. Τώρα θα είναι και αυτά τα οποία δημιουργούν γυμνές φωτογραφίες. Δηλαδή, εάν έχει αυτόν τον σκοπό απογορεύεται, θα είναι συγκεκριμένη υποχρέωση που βγαίνει τώρα. Αυτές οι υποχρεώσεις είναι ποινικά δικήματα πλέον. Βεβαίως, θα είναι Είναι αδικήματα βάσει στον κανονισμό που επισύουν χρηματική ποινή, στον κανονισμό πέναλ της, αλλά παράλληλα τυποποιούνται και ως ποινικά αδικήματα, θα τυποποιούνται.

20:52 Και κάθε χώρα βάζει τις δικές της ποινές. Άρα, δηλαδή κάτι που μπορεί να πίστευε κάποιος, έλα μωρέ εντάξει δεν έκανα και τίποτα, σε μικρές ηλικίες που λένε εντάξει μωρέ πέζαμε, μπορεί ξαφνικά ένα πλημμέλημα να είναι κακούργημα. Λοιπόν, η κάθε χώρα η αλήθεια είναι ότι μπορεί να προσδιορίσει το δικό της τρόπο ποινικής μεταχείρισης αυτών των αδικημάτων Υπάρχει ο κανονισμός ο οποίος λέει συγκεκριμένα υπάρχουν κάποια περιθώρια Δηλαδή πας από εκεί μέχρι εκεί Αλλά από εκεί και πέρα ο καθένας εξειδικεύει τον κανονισμό και μπορεί να κάνει τον εφαρμοστικό του πιο αυστηρό Αλλά εκεί είναι τα όρια, υπάρχουν thresholds, αυτά που λέμε τα κατόφλια Ποινές δηλαδή παιδιά υπάρχουν, δεν είναι...

21:31 από 2 Αυγούστου είναι οι γεφαρμόσιμες οι ποινές οι περισσότερες ποινές, φέτος 2 Αυγούστου κάποιες υποχρεώσεις πήγαν λίγο πιο μετά τώρα γιατί πολλά συστήματα υψηλού ρίσκου έχουν ήδη δημιουργηθεί δηλαδή αυτά τα τσάτου που συζητάμε τώρα για την υγεία υπάρχει ήδη και επειδή δεν είναι συμμορφωμένο αλλά η Ευρώπη δεν θέλει λεφτά να φάνε ποινές, να βγουν έξω να πρέπει να φύγουν από την Ευρώπη σου λέει πάτε λίγο χρόνο ακόμα να συμμορφωθείτε μέχρι το 27 άρα τους δώσανε προθεσμία μέχρι το 2027 για να συμμορφωθούν και τα υψηλού ρίσκου συστήματα τα οποία ήδη κυκλοφορούν.

22:03 Ναι, σωστά. Γιατί αυτό παίρνει ένα χρόνο και παίρνει χρήματα. Έχουν δημιουργηθεί, υπάρχουν ήδη και πρέπει να υπάρξει έτσι μια μέρημνα. Μέρημνα, υπάρχουν και υπενδύσεις ήδη κάποιων και μπορεί να φοβούνται γιατί σου λέει ότι τελικά έχω διαβάσει διάφορα ράθρα που λένε, για παράδειγμα, ότι η Ευρωπαϊκή Ένωση, για παράδειγμα, μπορεί να θέλει να σκοτώσει τις πιο μικρές εταιρείες και να επιβιώσει μόνο οι μεγαλύτερες που έχουν τα χρήματα να το κάνουν αυτό.

22:27 Η αλήθεια είναι ότι ακριβώς γι' αυτό ο κανονισμός αυτός φτιάχτηκε με πάρα πολύ μέρημνα για τις μικρές επιχειρήσεις. Γι' αυτό και αφήνουμε πολύ μεγάλο κομμάτι ελεύθερο, δεν ερυθμιζόμενο. πρέπει να είσαι σε εκείνη την εξαίρεση όπου επηρεάζεις την υγεία των ανθρώπων επηρεάζεις τα δικαιώματά τους και έχεις δύναμη να τα επηρεάσεις με αρνητικό τρόπο για να πούμε ότι υπάγεσαι και ότι έχεις μετά κάποιες υποχρώσεις που είναι διαφάνεια, δηλαδή ας πούμε το chatbot σου αν απαντάς σε όλα τις ερωτήσεις ναι ναι ναι, δηλαδή ναι μπορεί να επηρεάσει δικαιώματα ανθρώπων, μπορεί να βλάψει, μπορεί ξέρω εγώ να προκαλέσει στη σωματική βλάβη Ναι. Αν λοιπόν μπορεί, τότε έχουμε τις υποχρεώσεις του κανονισμού.

23:06 Πάμε να δούμε ποιες είναι. Διαφάνεια. Άρα, στο βαθμό που μπορεί το μοντέλο σου να είναι διαφανές, πρέπει να είναι διαφανές. Είναι συγκεκριμένη η προϋπόθεση. Το γράφει μέσα, δεν θέλω να μείνω. Μετά, ακούραση, ακρίβεια. Δεν μπορεί το μοντέλο σου να βγάζει ό,τι να είναι. Δηλαδή, συγγνώμη, αλλά θέλουμε ένα βαθμό, ένα θρέσκοντα ακρίβειας.

23:27 Δεν το έχουμε προσδιορίσει ακόμη. θα βγουν τα standards για να προσδιορίσουν. Όλα αυτά που σας λέω θα βγουν σε νούμερα. Θα υπάρχουν μετρικές συγκεκριμένες που θα πρέπει να πιάσεις. Βεβαίως, θα υπάρχουν συγκεκριμένες προϋποθέσεις τεχνικάλητης που λέμε. Ναι, μεν η νομοθασία σου λέει θέλω στο άρθρο 13 αντιδιαφάνεια, θέλω logs, να μου κρατάς τα αρχεία όσο το δυνατόν.

23:49 Βέβαια, εκεί είναι το ερώτημα πώς τα κρατάω. Μνημεί, σε τι μορφή, τι τύπου logs. θέλουμε λόγους όμως το βαθμό πάλι που είναι feasible όπου είναι εφικτό και πώς είναι εφικτό για να μπορείς να κάνεις trace back τις κυρίες και τις ενέργειες που έγιναν μέσα στο μηχάνημα τέλος πάντων στο AI είναι σωσίσμα αυτό μετά θέλουμε cyber security το πρώτο πράγμα είναι νομίζω γιατί είναι άλλο το robustness δεν πρέπει πλέον όταν για παράδειγμα έχεις μια εταιρεία να είσαι και compliant την μεριά του cyber security δεν έχεις κάποια ισοπιστοποιητικά Για να μπορείς να λειτουργείς μη φας πρόστιμο.

24:27 Ακριβώς. Ακριβώς. Αλλά παράλληλα με αυτό, δηλαδή υπάρχουν τα νήσεις, υπάρχουν τα cyber security directives, τέλος πάντων οι οδηγίες και οι κατευθύνσεις τις οποίες η Ελλάδα έχει ενσωματώσει και έχει και την αρχή κυβερνοασφάλειας, κανονικά πλέον, γιατί ήταν υποχρέωση να κάνουμε αρχή κυβερνοασφάλειας. Αλλά παράλληλα στο μοντέλο σου, σου λέω ότι όταν εσύ πας να δεις τι έχω τα τσέκ μου, να βάλω τα τικ μου, θα κοιτάξεις και τη κυβερνοασφάλεια.

24:49 Μπορεί να την έχεις δει, αλλά εγώ θέλω να τη δεις να μου πεις τι μέτρα πήρες για να είναι ασφαλές το μοντέλο. Ξέρω εγκρύψιο και τα λοιπά, εντάξει δεν είναι μόνο αυτό. Τεχνικά πράγματα. Μετά θέλουμε robustness. Δηλαδή είναι ένα πράγμα κυβερνοασφάλεια όταν μας επιτίθενται τρίτη, πρέπει να το ξέρουμε αυτό, και άλλο όταν εσωτερικά μπορεί να υπάρξει πρόβλημα, το μηχάνημα να σταματήσει να λειτουργεί.

25:09 Και αυτό είναι επίσης ένα πρόβλημα. Δεν μπορούμε να έχουμε μοντέλα τα οποία ας πούμε θα στηρίζουν υποδομές ή θα είναι για την υγεία ή θα χειρουργούν έναν ασθενή πάνω στο τραπέζι και θα σταματάνε να δουλεύουν γιατί ξέρω εγώ δεν ήταν το τσιπάκι που πήρες που στο οποίο βασίστηκες ήτανε, ξέρετε, προβληματικό. Τώρα πολύ χονδρικά, χονδροειδώς τα λέω.

25:30 Σε αυτά, ποιος φέρει τελικά την ευθύνη, φέρει δηλαδή. Η ερώτηση είναι δύο βασική τώρα. Ο θέλης ο ατρός φταίει, η εταιρεία που το κάνει provide φταίει, μετά ο developer που έγραψε τον κώδικα και ομάδα ή κανένας. Ποιος θα δει μαζί. Αυτή είναι η βασική ερώτηση εδώ. Είναι αυτό που λέμε, χρειαζόμαστε την αιτιώδη συνάφεια. Ποιος δηλαδή είχε το τελικό αποτέλεσμα.

25:52 Όταν λέμε δηλαδή ότι 10 μαχαίρωσαν έναν άνθρωπο, πρέπει να δούμε ποιος από αυτούς ήταν αυτός που προκάλεσε το θάνατο. Μπορεί να τον προκάλεσαν όλοι μαζί με την ίδια δύναμη, ας πούμε, μαχαίρωσα ή μπορεί να υπάρχει κάποιος που τον μαχαίρωσε στην αρτηρία και εκείνος είναι αυτός που προκάλεσε τελικά το θάνατο. Τώρα, πραγματικά πάρα πολύ χονδρικά, μη με παρεξήγησουν οι ποινικολόγοι, ξέρω ότι...

26:11 Στο περίπου, να καταλάβουμε. Ναι, να καταλάβουμε. Ένα δύσκολο παράδειγμα ακριβώς για να καταλάβουμε τι παίζει. Για την αιτιόδηση είναι άφεια. Ακριβώς. Ποιος είναι αυτός που συνδέεται με το θάνατο τελικός ή με το αποτέλεσμα το βλαπτικό. Άρα και στο AI πρέπει πάντα να βλέπουμε ποιος τελικός έδωσε εκείνο το αποτέλεσμα που προκάλεσε τη βλάβη.

26:28 Εάν φταίνε, φταίει ο σχεδιασμός του μοντέλου. Π.χ. θα δώσω ένα παράδειγμα. Για τον Grog ας πούμε επιτρέπεται να δημιουργήσει σάζα. ώστε να μπορεί να δημιουργηθούν γυμνές εικόνες παιδιών. Άλλα μοντέλα δεν μπορούσαν να το δημιουργήσουν. Άρα ξεκινάμε εξ αρχής από την κατασκευή, από το δημιουργό του μοντέλου. Άρα θέλουμε τον provider.

26:52 Έτσι λέγεται ο πάροχος δηλαδή του μοντέλου. Μετά έχουμε ένα δεύτερο level, έναν actor, έναν δράστη, ο οποίος είναι ο deployer, αυτός που θέτει το σύστημα σε εφαρμογή. Άρα είναι αυτός ο οποίος ας πούμε ότι πήρε το κράτος Το GROK Καλή ώρα ναι Και το έβαλε μέσα στον GOV Λέω τώρα Δεν έχει γίνει παιδιά Αν το πάρει και το κάνει λοιπόν αυτό Τότε υπάρχει ο κίνδυνος Ο deployer να πάρει να υπομειστεί αυτό στην ευθύνη Γιατί αυτός το έφερε Μέσα στο κράτος Αλλά και πάλι Εφόσον δεν το έχει μεταβάλει Το έχει κρατήσει ακριβώς όπως ήταν Οι βασικές υποχρώσεις είναι του πρώτου Ο πρώτος όμως οφείλει να δώσει τις πληροφορίες στο δεύτερο.

27:36 Δηλαδή ο provider πρέπει να κάνει τα πάντα όσα είπαμε, διαφάνεια, κυβέρνασφάλεια κτλ. Και να τα περάσει αυτά στο τεπλό. Να πεις στο κράτος, κοιτάξτε, πολύ χοντρικά, αυτό είναι το χαρτί με όλους τους ελέγχους που έχω κάνει. Να υπάρχουν papers θέλουμε, δηλαδή να υπάρχει μια μορφή που μπορεί να αποδείξει τι έγινε. Όλα αυτά πρέπει να κρατιούνται, ένα αρχείο.

27:58 Εννοείται. στο οποίο θα περάσει το ανεποπάνω και θα πεις εγώ έχω κάνει αυτούς τους ελέγχους, είναι έτοιμο το μοντέλο μου, είναι υψηλού ρίσκου, αλλά εκτήρησα τις διαδικασίες. Μια χαρά, προχωράμε. Όταν λοιπόν το πάρει το κράτος, το οποίο πρέπει να έχει και κάτι άλλο, όταν δηλαδή παίρνει ένα μοντέλο το δημόσιο, θέλουμε φρία, fundamental risk impact assessment, γίνεται δηλαδή μια έκθεση στην οποία ρωτάμε πώς επηρεάζουμε τα δικαιώματα των πολιτών. Αυτό είναι μόνο για το Δημόσιο γενικότερα.

28:22 Για το δημόσιο. Αλλά όλοι οι deployers καλό θα ήταν να το έχουνε. Έτοιμο. Δηλαδή καλό είναι ένα ερωτηματολόγιο, ναι. Απάντησέ το, έχετε στον τουλάπι. Μπορεί να απαντήσεις ότι τελικώς δεν επηρεάζει καθόλου. Μπορεί όμως να απαντήσεις ότι μπορεί έτσι, έτσι και έτσι. Και ποια είναι τα counter measures που παίρνω, ποια είναι τα μέτρα μου.

28:38 1, 2, 3, 4, 5. Είσαι μια χαρά. το βάζεις στο σιρτάρι για τυχόν έλεγχο ή όταν πας στο δημόσιο. Εάν όταν λοιπόν το δημόσιο πάρει αυτό το μηχάνημα, εάν το αλλάξει πες του ένα απλό ραγ οτιδήποτε. Χαίρομαι που ξέρεις τη λέξη ραγ. Είναι πολύ βασική σε εμάς. Δηλαδή όταν ο νόσος λένε με ένα ραγ έκανα. Λες παιδιά πάλι άλλαξες το μοντέλο αρκετά ώστε να γίνεις εσύ provider.

29:04 Και καταλήγουμε να έχεις τις υποχρεώσεις άρα παίρνεις την ευθύνη. Έχω ένα παράδειγμα για την ευθύνη Πολύ αληθινό για το AI Που εκεί ακόμα ενορωτιόμαστε Λοιπόν, έχουμε αυτοκινούμενο όχημα Υπάρχει σαν Φρανσίσκο Τα ξέρεις Έχουν βαλίδει σε πολλές πολιτείς Επιτρέπεται πλέον Το πρώτο ήταν εκεί της Google Και Uber έχει βάλει σιγά σιγά Και Uber έχει βάλει, ήταν η Waymo Και περνάει ένα αυτοκινούμενο όχημα Και Κανονικά στους δρόμους Έρχεται ένα κανονικό όχημα, πατάει μια γυναίκα, τη ρίχνει στο δρόμο και έρχεται το αυτοκίνημα από πάνω και σταματάει.

29:44 Γιατί σταμάτησε. Γιατί την πάτησε, σταμάτησε και την πάτησε. Γιατί δεν προχώρησε, γιατί δεν την παρέκαμψε, γιατί, γιατί, γιατί. Εκεί πέρα και μάλιστα έμεινε πάνω της. Ωραία, το βίντεο που βλέπουμε, που έχουμε δει live, είναι να είναι πάνω της. Εκεί πέρα τα θέματα ευθύνηση είναι τεράστια, γιατί ξεκινάμε. Απ' το ότι. Νούμερο ένα.

30:02 η κατασκευή ήταν σωστή δηλαδή υπήρχε ένα σφάλμα τεχνικό μέσα στο μοντέλο του αυτοκινήτου υπήρχε τεχνικό σφάλμα στο μασίνερι στο αυτοκίνητο το ίδιο δηλαδή στο κέλυφος ας πούμε που κουβαλάει το AI ακριβώς τα μεχανολογικά υπήρξε bug υπήρχε ξοδηπούτερο πρόβλημα στα data, στα δεδομένα που ταγίστηκαν γιατί μπορεί το data set να μην ήταν να ήταν garbage, να ήταν dirty είναι να ήταν απαρκές το πιο κλασικό στην έρευνα ήταν να υπάρχει data sets ακριβώς γιατί τα λεφτά είναι στα data sets επομένως πολλές φορές βάζουμε λειψά data sets γιατί είναι πολύ ακριβά να τα αγοράσεις οπότε καταλήγουμε να μην έχουμε την περίπτωση μέσα που κάποιος πατάει ένα και εγώ βλέπω μπροστά στο δρόμο το αυτοκίνητο έχει τα ιστή και λέει όταν βλέπω ένα εμπόδιο που είναι ανθρώπινο φωνάζει η κινήτα σταματάω σταματάω από πάνω αντί να πω ότι αποφεύγω ποιος είναι ο άνθρωπος που τα τάισε, μήπως δεν ταΐστηκαν σωστά.

31:03 Ή ήρθε ο δεύτερος, ήρθε ο deployer μετά και έτσι όπως έφτιαξε το σύστημα, μετέβαλε κάποια παράμετρο του συστήματος, έκανε οποιοδήποτε αλλαγή που άλλαξε τον τρόπο που αντιδρά το μηχάνημα. Είναι και πολύ δύσκολο να βρεις τι έχει γίνει, γιατί τώρα υπάρχει ουσιαστικά, έχει ανοίξει μια συζήτηση για το explainability of artificial intelligence, αλλά όμως επειδή έχουμε περάσει σε μοντέλα πολυπαραγωτικά Ποια παράμετρο συνεβεί κάτι, τι έγινε.

31:33 Υπάρχει ένα field της έρευνας αυτή τη στιγμή που λέγεται causal reasoning και ανοίγει όλο το πεδίο του explainability, αλλά είναι πάρα πολύ δύσκολο αυτή τη στιγμή. Και να ξέρετε ότι είναι συζητήσεις που κάνουμε και μέσα στο AI Office αυτές. Αυτές. Στο explainability. Πάρα πολύ. Και βάζουμε πάρα πολλές απόψεις, διαβάζουμε συνεχώς.

31:51 Γιατί πρέπει να ξέρεις explainability, transparency, τη διαφορά, σε ποιο βαθμό είναι explainable, και πού μπαίνουν τα logs και πού μπαίνουν και επειδή υπάρχουν και πολλές μικρές διαφορές έχουμε ας πούμε και το accountability που έρχεται μετά και λες για να έχουμε αρκετό accountability πρέπει να δούμε σε ποιο άτομο πρέπει το explainability να βοηθάει και μετά έρχονται και οι εταιρείες και σου λένε εγώ δεν μπορώ να είμαι fully explainable το explainable λέει, α, είναι είναι δύσκολο το σπορ, είναι καινούριο καινούριος τομέας και θεωρούμε ότι θα υπάρξει πολύ μέλλον εκεί σίγουρα, γιατί τα data sets που κοιτάζουν τώρα γιατί είναι μέρος πραγμάτων που κοιτάζω και εγώ ίδιος.

32:30 Για παράδειγμα στο autonomous driving. Προσπαθούν τώρα να χρησιμοποιήσουν κάποια μοντέλα και να πάνε από το ένα ντομένι στο άλλο χωρίς να έχουν πολλά παραδείγματα, χωρίς να έχουν πολλά δεδομένα. Ακριβώς δεν υπάρχουν πολλά δεδομένα. Για παράδειγμα, αν εγώ θέλω να μεταπηδήσω από το autonomous driving που είναι κάμερες, που μπορούν και φορετές, σε ένα χειρουργείο.

32:49 Άρα να κάνω εποπτεία του γιατρού για να τον βοηθήσω Να μην ξεχάσει κάποιο χειρουργικό εργαλείο Ή κάποιο βήμα Αν μπορεί να μετρηθεί σε βήματα Στην επέμβαση Είναι δύσκολο να φύγω από εκείνη το data set και να πάω σε ένα άλλο Υπάρχουν προσπάθειες, γίνονται προσπάθειες Είναι πάρα πολύ σημαντικό αυτό που λες Έχω γράψει εγώ ένα βέβαιο τώρα να σου πω την αλήθεια Παρόμοιο Πολύ γιατί το φέρνεις και στο θέμα των agents Το multimodal Αυτό ήτανε εδώ και χρόνια στην έρευνα που φορά pattern cognition είναι το μούλτιμο όλοι γιατί βάζεις audio, βάζεις εικόνα άρα βίντεο και βάζεις και κείμενο και τα βάζεις όλα μαζί Ακριβώς και πας να κάνεις πέρποσεις διαφορετικούς δηλαδή και αυτά όλα τα data sets στην αρχή πας να τα κάνεις για την υγεία πήγες για τα αυτοκίνητα μετά αποφάσισες να το κάνεις για την υγεία και εκεί πέρα στην ομοθεσία έχουμε θέμα γιατί λέμε όπα για τα οχήματα είχες άλλες υποχρεώσεις υγεία πρέπει να δεις ακόμη κάποια πράγματα.

33:43 Και εκεί πέρα με τους agents οι οποίοι μπορούν να κάνουν 10 διαφορετικούς τομείς, θα μπορούν τέλος πάντων τώρα είναι... Θα μπορούν να διαλέγουν διαφορετικά εργαλεία. Άρα να διαλέγουν διαφορετικό software, διαφορετικό κώδικα Ακριβώς. Εκεί πέρα παίζει πάρα πολύ μεγάλο ρόλο και το notification και τα certificate. Γιατί πρέπει να πούμε και δύο λόγια για αυτά. Ότι θα έχουμε και δύο ακόμη βοηθούς με το AIAC. Δηλαδή, ναι, είναι ο κανονισμός, αλλά όταν πάνε στο διαβάσις θα μου πεις ναι, ωραίο ζήτη, αλλά είναι γενικός.

34:08 Εσύ, καταλαβαίνω, θέλεις transparency. Πόσο transparency θέλεις ή πού είσαι ικανοποιημένος ή ποιο εργαλείο να χρησιμοποιήσεις ενάντια κάποιου άλλου. Και αυτά έχουν να κάνουν πάντα με τα standards. Και γι' αυτό καθυστέρησαν τον κανονισμό, επειδή καθυστερούν λίγο τα standards ακόμα. Όταν βγουν τα standards, ο κανονισμός ξεγίνει ανησυχή.

34:33 Ναι, πρέπει να μπορούμε να καταλάβουμε, γιατί είναι και κάτι που θέλω να σε ρωτήσω παρακάτω, ότι ουσιαστικά εσύ μπορεί να μιλάς τη γλώσσα της νομικής επιστήμης. Εγώ μιλάω για παράδειγμα τη γλώσσα της τεχνολογικής. Εγώ δεν κάπου πρέπει να τα βρούμε στη μέση για να μπορούμε να συνειδηθούμε. Οπωσδήποτε. Ναι, γιατί εγώ μπορώ να ξεκινήσω να σου λέω για πιθανότητες και εσύ να με κοιτάς.

34:52 Τι είναι αυτό. Ναι, όχι, έτσι ακριβώς. και ο δικηγόρος πρέπει να καταλαβαίνει AI. Όχι βαριά πράγματα, αλλά σίγουρα πρέπει να είναι έτοιμος για υποθέσεις με AI μέσα. Δεν υπάρχει περίπτωση, δικηγόρος, στη γενιά μου, στις επόμενες γενιές που θα έρθουν, να μην έχει υποθέσεις που περιλαμβάνουν μοντέλο, να μην περιλαμβάνουν deepfakes, να μην περιλαμβάνουν οποιοδήποτε AI component και στο μέλλον και κάποια συστήματα.

35:16 Ρε παιδί μου, ατυχήματα με ρομπότ, οτιδήποτε είτε σπιτίτε οικιακά οτιδήποτε Τι πρέπει λέει να μάθει ένας μηχανικός από ένα νομικό και το ανάποδο Στο περίπου Γιατί εδώ να κάνουμε ένα σεμινάριο Αλλά σίγουρα να έχει κάποιος στο μυαλό του ότι γράφω κώδικα αλλά μήπως να ρωτήσω κάτι αυτό το παράδειγμα Ναι γράφω κώδικα Τι έχω να κάνω, ποιος είναι ο σκοπός μου Αν θέλω να βγω στην αγορά ή να το κρατήσω ερευνητικό Πάρα πολύ βασικό αυτό το πράγμα γιατί διακρίνει τα πάντα.

35:43 Εάν είσαι ερευνητικό, εξαιρήσει. Όλα αυτά δεν ισχύουν, που είπα. Τέλεια, μπορώ να κάνω ό,τι θέλω. Κάνω ό,τι θέλεις. Βεβαίως, χωρίς να παραβιάσεις τις υπόλοιπους κανόνες. Θα τους παραβιάσω όλους και θα το κάνω open source. Τέλεια. Ωραία. Θα έρθουμε σπίτι σου. Θα με βρείτε. Θα σε βρούμε, έτσι. Λοιπόν, τι πρέπει να ξέρει.

36:02 Πρέπει να ξέρει ότι υπάρχουν κανόνες και ότι υπάρχουν κανόνες από τη στιγμή που έχεις έναν σκοπό στο μυαλό σου που είναι να έρθεις σε επαφή αυτό με κοινό. Άρα αν αυτό που φτιάχνεις πρόκειται να το πουλήσεις κάπου ή να το δώσεις σε κάποιον άνθρωπο, αυτό έχει συγκεκριμένους κανόνες ανάλογα με το field. Ανάλογα με το field που είσαι, μετά έλα να ρωτήσεις, μπες στο AI Act Service Desk, έχουμε μια πάρα πολύ ωραία σελίδα η οποία έχει μέσα tools για να κάνεις μόνο σου compliance check.

36:27 Είναι φοβερό, το λέω όσο μπορώ γιατί δεν θα ξέρει ο κόσμος Είναι πολύ ενδιαφέρον, εγώ ας πούμε δεν το ξέρω αυτό Βεβαίως και γιατί να το ξέρεις, είμαι εδώ να σου το πω Complainer checker μέσα στο οποίο βάζεις το θέμα σου και σου βγάζει που είσαι και ανάλογα με τον κίνδυνο Παράλληλα πέρα από αυτό που θα σου δώσει μια πρώτη ιδέα για τι πρέπει να κάνεις και σε ποια άρθρα πηγαίνεις Ή μπορεί να σου πει δεν έχεις κανένα ρίσκο Υπάρχει και το service desk στο οποίο μπορείς να στείλεις την ερώτησή σου κάνει AI, γιατί δεν κάνουν όλοι οι δικηγοροί AI αυτή τη στιγμή ακόμα. Οπότε, μόνο εξειδικευμένοι κάνουν και είναι ακριβό.

37:04 Ναι, είναι ακριβώς πωρ αυτό. Γιατί να μην πας πρώτα, δεν λέω, οι δικηγοροί ταξίζουν τα λεφτά τους και να τα δίνουμε, γιατί οι παιδιά έχουν κοπιάσει πολύ. Δικηγόρος είμαι και ξέρω. Αλλά πριν πας σε έναν εξειδικευμένο, πήγαινε πρώτα και ρώτα το AI Act Service Desk, του κάνεις μια ερώτηση, είναι πλατφόρμα, έρχεται σε εμάς η ερώτηση.

37:22 Απαντάμε, πάντα, και θα σου δώσουμε μια κατεύθυνση στην οποία μπορείς να πάεις και να πας σε ένα δικηγόρο μετά ή να την κάνεις μόνο σου, είναι κάτι απλό. Άρα, είναι πάρα πολύ φιλικό αυτό στον άνθρωπο, στον στάρταπερ και παράλληλα έχουμε και ένα ακόμα tool, μέσα σε αυτό είναι τρία tools, που είναι το Explorer, βάζεις σε μια λέξη τι ψάχνεις και αυτό μπορεί να σου δώσει μέσα με τι συνδέεται, τα ρεσά, σου κάνει συνδυασμούς.

37:45 Άρα αυτό είναι κάτι που Στη φαρέτρα σας ξέρω εγώ Ένα όπλο στη φαρέτρα σας για να προχωράτε Και κατά τα άλλα κοιτάμε πάντα Τι σκοπεύουμε να κάνουμε Τι, τι, που είμαστε Αν υπάρχουν υποχρώσεις πέρα από το AI Act Και να μην είμαστε απαγορευμένα Δηλαδή αν φτιάχνεις βιομετρικό σύστημα Αναγνώρισης, αν μου κάνεις κάτι με κάμερα Μην το κάνεις Ή αν το κάνεις Επιτρέπεται η χρήση του Μόνο σε συγκεκριμένες περιστάσεις Άρα πρέπει να ξέρεις ότι το σύστημα σου δεν επιτρέπεται σε άλλες περιστάσεις Άρα να το προστατεύεις Δεν μπορείς να το βάλεις σε ένα εργασιακό χώρο Σύστημα αναγνώρισης Πάμε φυλακή, εκτός να μένουμε στην Κίνα Τα ξέρεις πολύ ωραία, έτσι ακριβώς είναι Υπάρχουν κάποιες δικαιοδοσίες Τις οποίες επιτρέπουν τέταρτα Όχι στην Ευρωπαϊκή Τα γνωρίζω γιατί η έρευνά μου αφορούσε Στην αρχή, πριν αλλάξω θέμα στην ενεργασία που κάνω αφορούσε βιομητρικά δεδομένα κατεξοχή, δηλαδή ήταν ψυχολογία και πληροφορική.

38:45 Α, πολύ ωραία. Οπότε ήταν πάρα πολύ δύσκολο. Δεν ήταν μόνο emotions and feelings, ήταν γενικότερα life logging. Ήταν αυτό το κομμάτι. Βαρύ. Ήταν αρκετά βαρύ. Ήταν πάρα πολύ δύσκολο να πάρεις τις αντίστοιχες υπογραφές για να έχεις το δικαίωμα να κάνεις και αυτού του στην έρευνα και εκεί υπήρχε ένα πολύ μεγάλο έβριο σε ένα φάσμα νομικών υποχρεώσεων ακόμα και να είναι στην έρευνα.

39:07 Βεβαίως, βεβαίως υπάρχει γιατί και στην έρευνα δεν είσαι σε sandbox και να πούμε ότι θα δημιουργηθούν sandbox. Λοιπόν, θα υπάρξει ένα τμήμα, θα φτιαχτεί σε κάθε χώρα ευρωπαϊκή ένα sandbox. Το sandbox, πιστεύω οι ακροατές σου για να σε παρακολουθούν ξέρουν τι είναι, είναι ένας φαλής χώρος που έχουν δυο που δημιουργείς. Σε αυτά τα sandbox εκεί δεν υπάρχουν όντως κανόνες.

39:25 Δηλαδή είναι ελεύθερο να χρησιμοποιείς διάφορα πράγματα που έξω θα ήταν επικίνδυνο να γίνει μια διαρροή και να φύγει αυτό έξω. Οπότε στα sandboxes εκεί μέσα μπορείς να παίξεις με οτιδήποτε και θα κάνουμε και ένα ευρωπαϊκό sandbox. Επομένως και μαζί με τη διασύνδεση με τα δεδομένα και τα AI factories, εκεί για τους ερευνητές είναι πολύ ωραίος χώρος να παίξουμε ας πούμε και με motion recognition, στις τεχνολογίες, με οτιδήποτε.

39:53 μετά στην χρήση δεν επιτρέπεται να τα βάλεις τα emotional recognition σε διάφορα μέρη που απαγορεύονται. Εντάξει, να σου χτυπάνε την πόρτα και άλλοι διάφοροι. Για παράδειγμα, όταν είχα πάει στο Houston θυμάμαι ότι υποχρεωτικά πρέπει να πάρω κάποια μαθήματα ερχόμενος από την Ευρώπη, γιατί αυτοί είχαν τελείως διαφορετικές νομοθεσίες.

40:12 Αλλά από τα πρώτα πράγματα που μου έκανε αντίπωση είναι ότι επειδή η έρευνα μάντρεψε ποιον χρηματοδοτεί είτε κατά βάση, θα το αφήσω σε εσένα αυτό. Στην ειδική δικαιοσύνη. Ακριβώς. Αν έκανες κάτι που μπορεί να τους άρεσε, είχαν δίκαιο να σου το πάρουν αυτό. Ναι, είμαι σίγουρη. Και σε import και export controls, σε ένα διάστημα δεν μπορούσες να το φέρεις στην Ευρώπη, οτιδήποτε ήταν αυτό, γιατί μπορούσες προφανώς να φας και πρόστιμο σε οποιαδήποτε πολιτική, αν είσαι υπό άλλες νομοθεσιανά πολιτεία.

40:36 Αλλά ακριβώς ήταν ότι ερχόντουσαν από το στρατό ουσιαστικά Και σου λένε, α, μας ενδιαφέρει Α, κάνεις κάτι που αφορά βιομετρικά δεδομένα Α, έχεις surveillance μέσα Μας ενδιαφέρει πάρα πολύ Σίγουρα, σίγουρα Βιομετρικά δεδομένα σημαίνει δημόσια τάξη Ήταν για δημόσια τάξη φυσικά Σημαίνει στρατός, σημαίνει αστυνομία Σημαίνει mass surveillance Το οποίο είναι κάτι που πάρα πολλές χώρες το θέλουν φυσικά για τρομοκρατικά χτυπήματα αλλά και γενικότερα ήταν αυτό που βασίζονται το αίτημά τους πάντα για αντιτρομοκρατία αυτό ήταν το αίτημα η χρήση και στην Ευρώπη βιομετρικών συστημάτων αναγνώρισης live biometrics, RBI απομακρυσμένης βιομετρικής αναγνώρισης δηλαδή ένας αστυνομικός να έχει μια κάμερα και να είναι σε μια πλατεία και να αναγνωρίζει live ότι εσύ είσαι αυτός ή εσύ εαυτός και να του ρίχνεται πως θα τον εξολοτρευτείς εικόνα εδώ.

41:23 Υπάρχει κανονικά αυτό το σύστημα. Το λέω, υπάρχει. Αυτό επιτρέπεται αυτή τη στιγμή με βάση τον κανονισμό μόνο σε συγκεκριμένες περιπτώσεις. Δηλαδή, ψάχνεις για ένα παιδάκι που το απήγαγαν. Ψάχνεις για έναν τρομοκράτη συγκεκριμένο. Έχεις πάρει court order, έχεις πάρει την εντολή ή από άλλες αρχές και μπορείς να το κάνεις.

41:39 Δηλαδή, γίνεται. Δεν λέμε όλα που αγορεύονται. Γίνεται, γιατί δεν μπορείς... Οι τρομοκράτες θα χρησιμοποιούν AI. Άρα πρέπει να μπορεί να χρησιμοποιηθεί AI βεβαίως με τον νόμιμο τρόπο. Δεν πάμε να παρακολουθήσουμε τους πάντες. Άρα, Biometrics είναι πολύ μεγάλο κεφάλαιο. Έχει μεγάλες επενδύσεις. Δηλαδή, αν κάποιος θέλει να ασχοληθεί, έχει λεφτά, παιδιά.

41:59 Αλλά, ναι, στο LinkedIn όπου εσύ ασχολείται με αυτά, θα έχει αρκετά έτοιματα. Ακριβώς. Αλλά θέλει πολύ μεγάλη προσοχή γιατί δεν χρησιμοποιείται παντού. Άρα είναι περιορισμένες οι χρήσεις που μπορείς να επιτρέπεις. Ωραία και θέλω τώρα να πάμε σε κάποιες γρήγορες ερωτήσεις. Ωραία, Ευρώπη είπα. Ευρώπη. Είμαστε πιο user-friendly.

42:19 Είμαστε innovative και compliant ταυτόχρονα. Έχουμε υπεύθυνη καινοτομία και αυτό πρέπει να είναι το λόγο μας όταν δημιουργούμε στην Ευρώπη. Ταχύτητα ή ασφάλεια. Ταχύτητα. έπρεπε να πάω στην ασφάλεια το ξέρω γιατί είμαι στο AI Office αλλά θέλουμε ταχύτητα με ασφάλεια Ωραία, εξπλουναμπίλτη ή performance Σκληρό Σου βάζω δύσκολη ζητή σήμερα Σκληρό, γιατί άμα δεν έχεις performance τι να το κάνεις εξπλουναμπίλτη Άρα πάμε σε performance Θέλω όμως και μια εξπλουναμπίλτη όσο γίνεται για να προστατευτούμε Ένα τα δύο έχεις το option Άρα άλλο, open source ή closed source Open source Full open source Ωραία, ενδιαφέρον Περισσότερη αυτομοτοποίηση ή περισσότερο human oversight?

43:02 Περισσότερη αυτομοτοποίηση. Human oversight, παραμένουμε, υπάρχει ρύθμιση, είμαστε ok, το έχουμε under control. Παιδιά, πάμε να τα κάνουμε όλα AI, με ασφάλεια και AI act compliance. Κάποιοι directors τώρα κάπου είναι σε κάποια γωνία και χαίρονται χοροπηδάνε τώρα, αφού σήμερα που λες. Δεν εκφράζω απόψεις, το ξαναλέω κανένας. Είναι δικές μου προσωπικές.

43:22 Ωραία, και δύο τελευταίες. ποια πιστεύεις είναι η μεγαλύτερη απειλή της τεχνικής νοημοσύνης σήμερα και ποια είναι η μεγαλύτερη ευκαιρία από αυτά που έχεις δει τώρα. Πολύ δύσκολες ερωτήσεις είναι αυτές. Ήθελα να σας γνωρίσω λίγο στο τέλος. Λοιπόν, η μεγαλύτερη απειλή είναι να μην έχουμε έλεγχο επάνω στις πράξεις του AI στις ηλικιές πράξεις και φυσικά στο content που δημιουργεί αλλά να μην έχουμε switch off button δηλαδή να χάσουμε αυτόν έλεγχο Νούμερο ένα είναι αυτό Η μεγαλύτερη ευκαιρία είναι Να μειώσουμε Της Χαμελοδουλειές Να μειώσουμε τις δουλειές Της δουλειές που δεν μας αρέσουν Να μπορούμε να τις αναθέσουμε Και να κάνουμε τις δουλειές που μας αρέσουν Να τις κρατήσουμε Η ευκαιρία εκεί πρέπει να την δούμε Πρέπει να την αξιοποιήσουμε Την ευκαιρία Αλλά πρέπει και οι άνθρωποι Να μην δώσουμε κάνουμε outsource όλη τη δουλειά.

44:23 Δηλαδή, κράτα εσύ να βάλεις τις ιδέες σου, δικηγόρε, να βάλεις τις ιδέες του δικογράφου, τα επιχειρήματα που σκέφτηκες εσύ μόνος σου με την γνώση που έχεις. Δηλαδή, πρέπει να έχουμε τη γνώση να τη βάλουμε και το AI να κάνει όλη τη δουλειά. Ας την κάνει τη δουλειά το AI, δεν μας πειράζει το πώς θα μπουν οι παράγραφοι ή πώς θα μπει το ενώπιον και καθού του διουτάδου δικαστηρίου, είναι μια χαρά να το κάνει το AI.

44:45 Αλλά η γνώση πρέπει να προέρχεται από τον δικηγόρο. Γιατί διαφορετικά χάνουμε και την ευκαιρία. Ακριβώς, κατάλαβα. Ωραία, σας ευχαριστώ πάρα πολύ για αυτή τη συζήτηση. Ήταν η Ρεωζήλη. Σας ευχαριστώ που παραγωγήσατε αυτό το επεισόδιο. Πιστεύω να μάθετε πολλά πράγματα σχετικά με την νομοθεσία γύρω από την τεχνητή νομοσύνη και το ποιες είναι οι κατευθυντήρες γραμμές της Ευρωπαϊκής Ένωσης.

45:05 Αν έχετε οποιαδήποτε απορία, αφήστε μας ένα σχόλιο και θα σας απαντήσουμε άμεσα. Τα λέμε στο επόμενο επεισόδιο. Ευχαριστώ πάρα πολύ. Καλή συνέχεια. Ήταν άλλο ένα επεισόδιο του Neural Coach. Αν σας άρεσε η συζήτηση, κάντε ένα like και μοιραστείτε το επεισόδιο με ανθρώπους που τους ενδιαφέρει η τεχνολογία πίσω από τις αποφάσεις.

45:22 Τα λέμε στο επόμενο.