Σε προηγούµενο σηµείωµα αναφερθήκαµε στο «κινούν» την τέταρτη Βιοµηχανική Επανάσταση-της οποίας ήδη είµαστε µάρτυρες-δηλαδή την Τεχνητή Νοηµοσύνη. Είµαστε ίσως στα πρώιµα στάδια της τεχνολογίας αυτής, η οποία ωστόσο φαίνεται να έχει τεράστια περιθώρια εξέλιξης και ανάπτυξης. Όπως σε κάθε περίπτωση συµβαίνει, ανάλογα θα είναι τα ωφελήµατά µας και οι κίνδυνοι που θα διατρέξουµε από την Τεχνητή Νοηµοσύνη. Μόνο που τώρα, ιδίως η διακινδύνευση, θα είναι ίσως υπαρξιακής φύσεως για το είδος µας, αφού, οµολογηµένα ή ανοµολόγητα, προσπαθούµε να φτιάξουµε νοηµοσύνη µε δυνατότητες που σε πολλά θα υπερβαίνουν την ανθρώπινη νοηµοσύνη.
Ένας σοβαρός-αλλά όχι ο µόνος- κίνδυνος είναι η Τεχνητή Νοηµοσύνη να αποτελέσει εργαλείο ολοκληρωτισµού, προκειµένου να ελεγχθούν οµάδες ανθρώπων, λαοί ή και στην κυριολεξία, όλοι οι κάτοικοι αυτού του πλανήτη. Είναι γνωστό ότι οι πρόθυµοι πάντοτε υπάρχουν. Τώρα τους δίδεται µια λαµπρή ευκαιρία, αν δεν λάβουµε έγκαιρα τα µέτρα µας.
Το πολύ βασικό χαρακτηριστικό της Τεχνητής Νοηµοσύνης είναι η απόλυτη εξάρτησή της από τις βάσεις δεδοµένων· δηλαδή από συγκεντρωµένα, ταξινοµηµένα και καταχωρηµένα σύνολα πληροφοριών. Τα δεδοµένα είναι κυριολεκτικά η πρώτη ύλη της Τεχνητής Νοηµοσύνης. Τις πληροφορίες, ηθεληµένα ή αθέλητα, τις παρέχουµε αφειδώς εµείς µε την συνήθη καθηµερινή µας δραστηριότητα. Το βασικό ζητούµενο όµως, στο θέµα που εξετάζουµε, είναι το ποιος κατέχει τις βάσεις δεδοµένων, πώς τις χρησιµοποιεί και τι δυνατότητες άσκησης ελέγχου έχουν οι κοινωνίες και οι πολιτείες πάνω σε αυτά.
Η νέα τεχνολογία της Τεχνητής Νοηµοσύνης έχει τεράστια δύναµη χειραγώγησης, Είναι η πιο κατάλληλη για να αφαιρέσει κάποιος και το παραµικρό περιθώριο ελευθερίας από τον άνθρωπο και να επιβάλει καθολικό έλεγχο στους πολίτες. Αν δεν υπάρξουν οι κατάλληλοι µηχανισµοί ελέγχου της τεχνολογίας αυτής από την κοινωνία, µπορεί εύκολα να χρησιµοποιηθεί ως πολιτικό µέσον για την εγκαθίδρυση ψηφιακών τυραννιών.
Για να κάνω κατανοητό ότι οι παραπάνω κίνδυνοι είναι ήδη εδώ και είναι πολύ σηµαντικοί, θα δανειστώ δύο αναφορές από το εξαιρετικό βιβλίο του Γιώργου Χατζηβασιλείου «Φιλοσοφία της Τεχνητής Νοηµοσύνης», των εκδόσεων ∆ιόπτρα.
Στην Κίνα, από το 2010 λαµβάνει χώρα ένα πείραµα επιτήρησης πολιτών, θεσµών και επιχειρήσεων. Το κράτος µέσω της Τεχνητής Νοηµοσύνης και ενός «συστήµατος µονάδων αξιολόγησης» αξιολογεί και καταγράφει κάθε κίνησή τους στο διαδίκτυο. Αν ο πολίτης µιλάει επιθετικά, αν µιλάει ο ίδιος ή οι φίλοι του αντιπολιτευτικά, αν αγοράζει αλκοόλ, αν έχει απλήρωτους φόρους, αν έχει ανεξόφλητα δάνεια και άλλα πολλά, καθώς και τα αντίστροφά τους, καταγράφονται στο σύστηµα και µοριοδοτούνται θετικά ή αρνητικά ώστε στο τέλος να προκύπτει το λεγόµενο «Σκορ Κοινωνικής Αξιοπιστίας». Αυτό λειτουργεί περίπου όπως σ’ εµάς παλαιότερα το «Πιστοποιητικό Κοινωνικών Φρονηµάτων». Με χαµηλό σκορ δεν µπορεί ο πολίτης να εργαστεί σε οποιαδήποτε θέση, δεν µπορεί να επιλέξει πού θα σπουδάσει, δεν µπορεί εύκολα να βρει διαµέρισµα ή να πάρει τραπεζικό δάνειο και δεν µπορεί να ταξιδέψει στο εξωτερικό. Τόσο ωραία!
Η άλλη περίπτωση έρχεται από το 2016 και αφορά το τεράστιο σκάνδαλο «Cambridge Analytica», µιας εταιρείας πολιτικής επικοινωνίας µε πελάτες τότε, µεταξύ άλλων, τις οµάδες προεκλογικού αγώνα του Ντόναλντ Τραµπ και του Brexit. Η εταιρεία αυτή προµηθεύτηκε παράνοµα από το Facebook τα δεδοµένα που είχε συγκεντρώσει από τους χρήστες στις ΗΠΑ και τη Μ. Βρετανία. Μέσα από τα δεδοµένα αυτά η Cambridge Analytica είχε πλέον το ψυχογράφηµα των χρηστών που την ενδιέφεραν. Εντόπισε λοιπόν τους αναποφάσιστους ψηφοφόρους που έτειναν εκλογικά προς Τραµπ και Brexit στις δύο χώρες και τους πληµµύρισε πάλι µέσω Facebook µε κύµατα ψευδών ειδήσεων· ειδήσεων που έβλεπαν µόνον αυτοί. Τους παρουσίασε ως αληθινά γεγονότα ανύπαρκτα εγκλήµατα µεταναστών, έδειξε ειδήσεις που ανέφεραν ψευδώς ότι η Τουρκία είναι µέλος της ΕΕ, εµφάνισε εισροές τροµοκρατών από τη Μέση Ανατολή στη ∆ύση κ.ά. Αυτοί λοιπόν οι ψηφοφόροι συσπειρώθηκαν και πήγαν στις κάλπες τάχα «ελευθέρα βουλήσει» και θεωρώντας ότι έχουν έγκυρη γνώση της πραγµατικότητας. Στην πραγµατικότητα όµως η Τεχνητή Νοηµοσύνη είχε «χακάρει» τον νου, τα συναισθήµατα, τους φόβους και βέβαια την πολιτική τους ψήφο. Τόσο απλά!
*Ο Μανώλης Κουφάκης είναι δρ µηχανικός τ. ∆/ντής ∆Ε∆∆ΗΕ Α.Ε.
