Ο διακεκριμένος πανεπιστημιακός μιλά στα “Χ.ν.” για τους νέους δρόμους και τις επιλογές που έχει μπροστά της η ανθρωπότητα
Πού οδηγούν την ανθρωπότητα οι εξελίξεις στον τομέα της τεχνητής νοημοσύνης και πόσο προετοιμασμένοι είμαστε θεσμικά για να ελέγξουμε αυτές τις αλλαγές; Τι είναι τα Τεχνητώς Νοήμονα Συστήματα (ΤεΝοΣ) και πόσο πιθανό είναι να αποκτήσουν δική τους συνείδηση, πέρα κι έξω από τον έλεγχο του ανθρώπου; Κι ακόμα, μπορούμε να ονειρευτούμε μια καλύτερη κοινωνία με σύμμαχο τις τεχνολογικές εξελίξεις και τι απαιτείται για να γίνει πραγματικότητα ένα τέτοιο σενάριο;
Τα ερωτήματα αυτά θέσαμε, μεταξύ άλλων, στον πρώην καθηγητή στο Kingston University του Λονδίνου με αντικείμενο την Τεχνητή Νοημοσύνη και μέλος σήμερα στο μεταπτυχιακό πρόγραμμα “Εγκέφαλος και νους” της Ιατρικής Σχολής του Πανεπιστημίου Κρήτης, Πέτρο Α. Μ. Τζελεπίδη, τον οποίο συναντήσαμε στο πλαισίου του 2ου Φεστιβάλ Βιβλίου Χανίων.
Μια συζήτηση μέσα από την οποία επιχειρήσαμε να σκιαγραφήσουμε τις μεγάλες προκλήσεις για την ανθρωπότητα που φέρνει μαζί της η πρόοδος που συντελείται στον τομέα της τεχνητής νοημοσύνης.
…Θα πρέπει όλοι, πολιτικοί και πολίτες, να αναλογιστούμε ποιος είναι ο στόχος μας. Η ευημερία όλης της ανθρωπότητας ή του 1%; …
• Τι μπορούμε να περιμένουμε από την πρόοδο που συντελείται στο πεδίο της τεχνητής νοημοσύνης;
Το πού πάει η τεχνητή νοημοσύνη έχει δύο συνιστώσες: Η πρώτη έχει να κάνει με το που την πάμε εμείς, δηλαδή τι κάνουμε με την τεχνητή νοημοσύνη. Η δεύτερη συνιστώσα έχει να κάνει με το τι μπορεί να προκύψει χωρίς τη συνειδητή συμμετοχή μας. Αυτά τα δύο ζητήματα δεν ξεχωρίζονται όμως.
• Αυτό που λέτε θέτει αυτομάτως και το ζήτημα της ελευθερίας της επιστήμης. Πώς δηλαδή αυτή προχωράει κι αν ελέγχεται από εξω-επιστημονικά κέντρα κλπ. Δεν είναι κρίσιμο αυτό;
Η επιστήμη είναι κοινωνική διαδικασία. Συνεπώς πρέπει να ελέγχεται από την κοινωνία. Το κυριότερο ως προς αυτό είναι οι προτάσεις που έχουν γίνει για τον έλεγχο της τεχνητής νοημοσύνης από υπερεθνικές οντότητες, όπως Ε.Ε. και ΟΟΣΑ, και μεγάλες δυνάμεις όπως ΗΠΑ και Κίνα. Όλες υπόκεινται σε επηρεασμό από μεγάλες εταιρείες τεχνολογίας κι εκεί υπάρχει μια μεγάλη διαμάχη.
• Έχουμε το θεσμικό οπλοστάσιο για να θωρακίσουμε μια τέτοια υπόθεση;
Όχι ακόμα. Η Κίνα πάντως έχει δημιουργήσει ήδη ένα τέτοιο πλαίσιο σε ορισμένους τομείς.
• Το γεγονός ότι ο πλανήτης δεν είναι μόνο ο δυτικός κόσμος που εμείς γνωρίζουμε καλύτερα, κάνει ακόμα πιο σύνθετο το πρόβλημα μια πλανητικής ρύθμισης του θέματος;
Ασφαλώς. Όπως είπα η τεχνητή νοημοσύνη είναι μια κοινωνική διαδικασία κι είναι ένα από τα κρίσιμα ζητήματα της ανθρωπότητας στην παρούσα φάση εξέλιξης του ανθρώπινου είδους. Υπάρχουν πολλά ακόμα θέματα που επηρεάζουν το ένα το άλλο: κλιματική αλλαγή, βιοποικιλότητα, μεταναστευτικό, οξύνιση των ωκεανών κ.λπ. Όλα αυτά τα ζητήματα παραπέμπουν στην ανάγκη να υπάρχει μια συνεννόηση σε πλανητικό επίπεδο. Κι εκεί έγκειται η δυσκολία. Ένα από τα θέματα που απαιτούν κάτι τέτοιο είναι και τα Τεχνητώς Νοήμονα Συστήματα (ΤεΝοΣ). Πληροφοριακά ας ξεκαθαρίσουμε ότι κάθε ΤεΝοΣ βασίζεται τελικά, στην υπολογιστική αναπαράσταση και επεξεργασία της ανθρώπινης γνώσης καθώς και στις τεχνολογίες αισθητήρων και μηχανισμών κίνησης (effectors). Τα ΤεΝοΣ εμείς τα φτιάχνουμε και συνεπώς το κρίσιμο ζήτημα είναι τι αξίες θα τους δώσουμε: Αριστερών, δεξιών, φιλελευθέρων, φανατικών, θρησκευόμενων, άθεων; Μεγάλο το πρόβλημα, καιρός να τα βρούμε μεταξύ μας.
• Υπάρχει το ενδεχόμενο να αυτονομηθούν τα Τε.Νο.Σ. από τους ανθρώπους;
Ναι υπάρχει το ενδεχόμενο αυτονόμησης. Η πιθανότητα είναι ελάχιστη αλλά αυξανόμενη.
• Τι εννοείτε;
Ως άνθρωποι έχουμε ορισμένους περιορισμούς στην κατασκευαστική μας ικανότητα. Για παράδειγμα στην τεχνητή νοημοσύνη δεν μπορούμε να κατασκευάσουμε ΤεΝοΣ με συνείδηση. Αυτό έχει λήξει. Όμως προσφέρουμε συνεχώς και με επιταχυνόμενο ρυθμό δεδομένα και ανθρώπινη γνώση στα ΤεΝοΣ. Στη βάση αυτή τα ΤεΝοΣ έχουν την ικανότητα να παράγουν σχεδόν μια απειρία συνδυασμών και συμπερασμάτων που δεν έχουμε εμείς οι άνθρωποι – κι αυτό οφείλεται κυρίως στην ταχύτητα και τον τεράστιο αριθμό δεδομένων που τους δίνουμε. Εάν στην συνεχώς αυξανόμενη γνώση που προσφέρουμε στα ΤεΝοΣ προστεθεί το στοιχείο της τυχαιότητας, τότε η σύνθεση αυτών των δύο στοιχείων ενδεχομένως να δημιουργήσει αυτόνομη τεχνητή νοημοσύνη.
• Τι σημαίνει αυτό;
ΤεΝοΣ που θα έχουν μια δική τους γλώσσα, ανεξάρτητη της ανθρώπινης. Εκεί είναι το κλειδί. Η γλώσσα είναι το βασικό στοιχείο. Αν καταφέρουν να αναπτύξουν μια ανεξάρτητη γλώσσα τότε θα αναπτύξουν και δική τους ανεξάρτητη νόηση. Αργότερα κατανόηση και στη συνέχεια συνείδηση κ.λπ. Συνείδηση δική τους, ιδιο-συνείδηση δηλαδή και συναισθήματα δικά τους, ιδιο-συναισθήματα. Επί του παρόντος, έχουμε συστήματα τεχνητής νοημοσύνης τα οποία αναγνωρίζουν ανθρώπινα συναισθήματα και μπορούν να παράγουν ανθρώπινα συναισθήματα. Όμως δεν κατανοούν/συνειδητοποιούν ούτε τι συναισθήματα αναγνωρίζουν, ούτε τι συναισθήματα παράγουν.
• Αυτό που περιγράφετε διαγράφει ένα μέλλον δυστοπικό. Μήπως θα πρέπει να ξανασκεφτούμε τα οφέλη γύρω από την τεχνητή νοημοσύνη ή πια είναι αργά; Κι ακόμα, για κάθε επιστήμονα όπως εσάς που ασχολείστε με το συγκεκριμένο θέμα δεν μπαίνει ένα ηθικό δίλημμα “μήπως δουλεύω για το τέλος της ανθρωπότητας”;
Δύσκολη ερώτηση. Το 1984 έδωσα την πρώτη μου ομιλία για την τεχνητή νοημοσύνη και παρουσίαζα ένα διάγραμμα που είχε από τη μία μεριά το ανθρώπινο είδος, από την άλλη ένα ενδεχόμενο ρομποτικό είδος, και ένα βέλος που ξεκίναγε από το είδος μας και κατέληγε σε ενδεχόμενο Ρομποτικό είδος που ανέγραφε: “Όραμα, εφιάλτης ή εξελικτική αναγκαιότητα;”. Να γυρίσουμε πίσω δεν το βλέπω εφικτό. Αν δημιουργηθεί ένα ρομποτικό είδος ασφαλώς θα υπερισχύσει του ανθρώπινου είδους. Δεν σημαίνει κατ’ ανάγκη ότι θα είμαστε υπηρέτες του. Το πιθανότερο είναι ότι θα αδιαφορήσουν για εμάς. Θα είναι πολύ ανώτερα…
• Πόσο κοντά ή μακριά είμαστε από ένα τέτοιο σενάριο;
Υπάρχουν όρια στην ανθρώπινη κατασκευασιμότητα. Εμείς δεν μπορούμε να κατασκευάσουμε κάτι τέτοιο. Αν κατασκευαστούν ΤεΝοΣ με δική τους συνείδηση, θα κατασκευαστούν από τον συνδυασμό όσων δεδομένων εμείς τους προσφέρουμε κι ένα στοιχείο τυχαιότητας. Η τυχαιότητα ας μην ξεχνάμε είναι ένα από τα βασικά στοιχεία της εξέλιξης της ζωής στον πλανήτη μας. Άρα δεν μπορούμε να κάνουμε καμία πρόβλεψη. Ωστόσο, όσο περισσότερο προσφέρουμε ανθρώπινη γνώση σε ΤεΝοΣ. τόσο αυξάνεται η πιθανότητα και το ενδεχόμενο να προκύψει ένας τέτοιος συνδυασμός. Ας σημειωθεί ότι όσο αυξάνεται η πολυπλοκότητα των ΤεΝοΣ τόσο περισσότερο αυξάνεται η αδυναμία κατανόησης μας των εσωτερικών λειτουργιών τους και η αδυναμία μας να προβλέψουμε οιανδήποτε συμπεριφορά τους.
• Θα πρέπει οι επιστήμονες που παράγουν αυτή τη γνώση να έχουν λόγο γι’ αυτές τις εξελίξεις ή τελικά αυτό εξαρτάται μόνο από εκείνον που χρηματοδοτεί την έρευνα;
Ασφαλώς υπάρχει ένα ζήτημα ως προς αυτό, γιατί η δυτική κοινωνία βασίζεται στο κέρδος κι αυτό κατά τη γνώμη μου δεν είναι ό,τι καλύτερο. Θα έπρεπε να είχαμε άλλες προτεραιότητες. Ως προς τους επιστήμονες ασφαλώς και θα πρέπει να έχουν άποψη και ήδη πολλοί από αυτούς έχουν εκφραστεί επί του θέματος. Μερικοί από εμάς είχαμε εκφραστεί ήδη από πολύ παλαιότερα και τότε μας κοροϊδευαν.
• Άρα η ηθική διάσταση είναι ένα καίριο ζήτημα που θα πρέπει να μπει στη συζήτηση, όπως και η θεσμική ρύθμιση κι έλεγχος αυτής της ερευνητικής πορείας…
Όπως είπαμε και νωρίτερα, η Ε.Ε. έχει ξεκινήσει μια τέτοια διαδικασία. Όμως η Ε.Ε. δεν είναι ένα πράγμα. Υπάρχει η Ευρωπαϊκή Επιτροπή που ξεκίνησε το νομοσχέδιο για την τεχνητή νοημοσύνη τον Απρίλιο του 2021. Το νομοσχέδιο αυτό υποτίθεται ότι θα γίνει νόμος μέσα στο 2024 ή 2025. Υπάρχει και το Ευρωπαϊκό Κοινοβούλιο το οποίο στις 14 Ιουνίου αποφάσισε τη διαπραγματευτική θέση του απέναντι στο Ευρωπαϊκό Συμβούλιο. Το Ευρωπαϊκό Συμβούλιο είναι το κύριο αποφασιστικό όργανο σχετικά με το επίμαχο νομοσχέδιο. Πέρα όμως από το τριμερές αυτό σχήμα (Ευρωπαϊκή Επιτροπή – Ευρωπαϊκό Κοινοβούλιο και Ευρωπαϊκό Συμβούλιο) υπάρχει κι ο επηρεασμός από τις ομάδες επιρροής (τα λεγόμενα λόμπι) μεγάλων τεχνολογικών εταιρειών, όπως για παράδειγμα η OpenAI, η οποία δημοσίως εκφράζεται υπέρ ενός ισχυρού ρυθμιστικού πλαισίου, ενώ υπογείως προσπαθεί να επηρεάσει την Ε.Ε. έτσι ώστε να αποδυναμώσει το νομοσχέδιο που βρίσκεται υπό συζήτηση.
• Μπορούμε να περιμένουμε κάτι καλό από την πρόοδο στην τεχνητή νοημοσύνη;
Τεράστια οφέλη. Σε όλους τους τομείς της ανθρώπινης δραστηριότητας ήδη η τεχνική νοημοσύνη έχει εισέλθει και τους επηρεάζει θετικά: Στην υγεία χρησιμοποιούνται συστήματα που βοηθούν τους γιατρούς να λύσουν προβλήματα που δεν μπορούσαν να λύσουν μέχρι σήμερα. Για παράδειγμα εμφυτεύματα εγκεφαλικά που επιτρέπουν σε παραπληγικούς ανθρώπους να περπατήσουν. Χρήση – αλλά σε μικρότερο βαθμό – γίνεται στο Δίκαιο, όπου βέβαια υπάρχουν αντιδράσεις στην Ελλάδα και σε άλλες χώρες για την εφαρμογή ΤεΝοΣ στο πεδίο αυτό. Στον τομέα της εξερεύνησης του διαστήματος χρησιμοποιείται ευρύτατα, σε επικίνδυνες αποστολές, στην εκπαίδευση ανοίγονται τεράστιες δυνατότητες αλλά βέβαια θα πρέπει να δούμε τι ΤεΝοΣ πρέπει να αξιοποιηθούν στην εκπαίδευση. Μπορούν επίσης να αξιοποιηθούν στον τομέα της βιοποικιλότητας και την κλιματική αλλαγή όπου ήδη γίνεται χρήση της λεγόμενης ευφυούς σκόνης, δηλαδή μικροσκοπικών συστημάτων τεχνητής νοημοσύνης τα οποία χρησιμοποιούνται για τη συλλογή στοιχείων για τη ροή παγετώνων. Συντελείται δηλαδή τεράστια πρόοδος σε όλους τους τομείς της ανθρώπινης δραστηριότητας.
• Όπως το περιγράφετε μιλάμε για σημαντικά βήματα…
Είναι στο χέρι μας να δημιουργήσουμε μια ευτυχισμένη ανθρωπότητα αλλά θα πρέπει να δράσουμε αναλόγως. Ο διάσημος οικονομολόγος Joseph Stiglitz είχε γράψει ένα βιβλίο το 2013 κάνοντας μια σκληρή κριτική απέναντι στις ελίτ, δηλαδή στο περίπου 1% του παγκόσμιου πληθυσμού. Έλεγε τότε ότι βλέπει δύο δρόμους: Ή οι ελίτ θα συνειδητοποιήσουν ότι οδεύουμε προς την καταστροφή και θα αλλάξουν ή το 99% θα ξεσηκωθεί. Προσωπικά πιστεύω ότι θα πρέπει και τα δύο να συμβούν ταυτόχρονα. Και το δεύτερο σημαίνει οργάνωση της μεγάλης πλειονότητας του παγκόσμιου πληθυσμού, μέσα από ουσιαστική ενημέρωση ώστε να πιέσει προς μια θετική κατεύθυνση. Είναι αρκετά υποσχόμενο ότι αυξάνεται ο αριθμός κορυφαίων οικονομολόγων που ζητούν ριζική αλλαγή των υπαρχόντων οικονομικών μοντέλων (π.χ., The Economics of Biodiversity: The Dasgupta Review, 2021).
• Αισιοδοξείτε;
Από εμάς εξαρτάται τι θα κάνουμε. Η τεχνητή νοημοσύνη δεν είναι έξω από εμάς. Εμείς τη φτιάχνουμε. Το ανθρώπινο είδος. Θα πρέπει όλοι, πολιτικοί και πολίτες, να αναλογιστούμε ποιος είναι ο στόχος μας. Η ευημερία όλης της ανθρωπότητας ή του 1%;
