» Μια Ιδιάζουσα Μορφή Τεχνολογίας
Σε άρθρα µας, συχνά αναφερόµαστε σε θετικές πτυχές αναδυόµενων ψηφιακών τεχνολογιών και σε τρόπους µε τους οποίους επιχειρήσεις και οργανισµοί µπορούν να τις χρησιµοποιήσουν για να δηµιουργήσουν αξία και να καινοτοµήσουν.
Στο παρόν άρθρο εστιάζουµε σε µια ιδιαίτερα αρνητική πτυχή µιας αναδυόµενης τεχνολογίας που θα απασχολεί ολοένα και περισσότερο την κοινωνία µας. Λόγω της ταχύτητας και της ευκολίας µε τις οποίες µπορεί να δηµιουργηθεί και να διαδοθεί οπτικό και ηχητικό περιεχόµενο, όπως επίσης και των εξελιγµένων «Deepfake» τεχνολογιών, η παραγωγή και διάδοση ψευδών πληροφοριών θα αποτελέσει στο εγγύς µέλλον µια βασική πρόκληση για την ανθρωπότητα και την οµαλή ύπαρξη και ανάπτυξη της κοινωνίας µας.
Οι «Deepfake» τεχνολογίες αναφέρονται σε ένα σύνολο αλγορίθµων και µηχανικής µάθησης που µπορούν να δηµιουργούν ή να τροποποιούν ηχητικό και οπτικό περιεχόµενο µε τέτοιο τρόπο που να παράγονται αληθοφανείς, αλλά συνάµα συνθετικές, εικόνες και πραγµατικότητες. Η τεχνολογία αυτή έχει τη δυνατότητα να παράγει περιεχόµενο που δύσκολα διακρίνεται από το γνήσιο, προκαλώντας σηµαντικές προκλήσεις και ηθικά διλήµµατα. Παρά τις δυνατότητες και οφέλη που προσφέρει σε διάφορους τοµείς όπως η ψυχαγωγία, η εκπαίδευση και η υγεία, απαιτεί µια προσεκτική και προληπτική προσέγγιση για τη διαχείριση των πιθανών κινδύνων και της εκµετάλλευσής της για αθέµιτες πρακτικές. Για παράδειγµα, ενώ deepfakes µπορούν να αξιοποιηθούν για δηµιουργία προσοµοιώσεων για εκπαίδευση και προετοιµασία ενάντια σε φυσικές καταστροφές, να επιτρέψουν ρεαλιστικές ιστορικές αναπαραστάσεις ενισχύοντας τη διαδικασία µάθησης και να βοηθήσουν την επικοινωνία παρέχοντας σε πραγµατικό χρόνο ερµηνεία νοηµατικής γλώσσας, υπάρχουν εφαρµογές της που ελλοχεύουν σηµαντικούς κινδύνους για την κοινωνία µας ευρύτερα. Ενώ λοιπόν τα deepfakes µπορούν να χρησιµοποιηθούν υπεύθυνα µε κατάλληλα ηθικά κριτήρια και ρυθµιστική εποπτεία και να προσφέρουν καινοτόµες λύσεις και σηµαντικά οφέλη σε διάφορους τοµείς, µπορούν επίσης να αποτελέσουν µοχλό για τη διάδοση παραπληροφόρησης. Αυτό είναι ιδιαίτερα ανησυχητικό µιας και η ποιότητα της παραγόµενης εικόνας ή/και του ήχου καθιστούν οριακά ανέφικτο το διαχωρισµό του αυθεντικού από το αληθοφανές περιεχόµενο.
Τύποι deepfakes
Ένα deepfake, «βαθύ ψεύτικο περιεχόµενο», µπορεί να εµφανισθεί σε διάφορες µορφές, όπως η εναλλαγή προσώπων σε ένα βίντεο όπου το πρόσωπο ενός ατόµου έχει τοποθετηθεί στο σώµα κάποιου άλλου, η µίµηση της φωνής σε ένα ηχητικό µήνυµα, η αλλαγή του τρόπου µε τον οποίο κινούνται τα χείλη ενός ατόµου σε ένα βίντεο ώστε να φαίνεται ότι το άτοµο λέει κάτι διαφορετικό, η παρουσίαση εκφράσεων και κινήσεων του προσώπου και σώµατος ενός ατόµου µέσω µίµησης ενός άλλου χωρίς αυτές να έχουν συµβεί πραγµατικά, αλλά και η δηµιουργία προσώπων που δεν υπάρχουν µέσω σύνθεσης χαρακτηριστικών άλλων προσώπων.
Κίνδυνοι και προκλήσεις
Τα deepfakes µπορούν να χρησιµοποιηθούν µε επιβλαβείς τρόπους και είναι σηµαντικό να ξεκινήσει ένας διάλογος τόσο για τους κινδύνους και τις προκλήσεις που φέρνουν στο προσκήνιο τα deepfakes, όσο και των προτεραιοτήτων που θα πρέπει να υπάρξουν όσον αφορά την αντιµετώπιση αυτών. Συνοπτικά, θα θέλαµε να εστιάσουµε σε τέσσερις βασικές κατηγορίες. Πρώτον, όπως προαναφέραµε, ο βασικός κίνδυνος των deepfakes είναι η διασπορά ψευδών ειδήσεων µε έναν ιδιαίτερα πειστικό τρόπο, απειλώντας την ακεραιότητα της πληροφόρησης. ∆εύτερον, συχνά τα deepfakes χρησιµοποιούνται µε τρόπο που παραβιάζει το απόρρητο και την αξιοπρέπεια των ατόµων. Παραδείγµατα όπως revenge porn και αλλοιωµένες οµιλίες είναι η κορυφή του παγόβουνου. Τρίτον, η διάδοση ψευδών δηλώσεων δηµόσιων προσωπικοτήτων µπορεί να προκαλέσει αναστάτωση και να υπονοµεύσει την εθνική ασφάλεια. Εδώ, θα ήταν σηµαντικό να αναφερθούµε στη πολιτική παραπληροφόρηση µέσω της δηµιουργίας και διάδοσης βίντεο όπου ένας πολιτικός φαίνεται να κάνει ακραίες δηλώσεις ή να εκφράζει απόψεις που ποτέ δεν είχε, µε σκοπό να επηρεαστεί η δηµόσιας γνώµη. Τέταρτον, και ίσως ένας κίνδυνος που πηγάζει από όλα τα παραπάνω αναφέρεται στο ότι η διάδοση των deepfakes µπορεί να συµβάλλει στην ολοένα και εντονότερη διάβρωση της δηµόσιας εµπιστοσύνης προς θεµελιώδεις θεσµούς της κοινωνίας µας, µέσα ενηµέρωσης αλλά ακόµη και προς διαπροσωπικές σχέσεις.
Αντιµετώπιση των προκλήσεων
Η αντιµετώπιση των προκλήσεων που θέτουν τα deepfakes απαιτεί µια συντονισµένη προσπάθεια που περιλαµβάνει την ανάπτυξη τεχνολογιών ανίχνευσης, την ενηµέρωση του κοινού, καθώς και νοµικά και ρυθµιστικά πλαίσια. Συχνά, αναφέρονται λύσεις που στο επίκεντρο έχουν τεχνολογικές οντότητες και αλγοριθµικά φαινόµενα. Για παράδειγµα, έµφαση έχει δοθεί στην ανάπτυξη τεχνολογιών ανίχνευσης deepfakes, όπου αλγόριθµοι θα µπορούν να ανιχνεύουν deepfakes εντοπίζοντας ανωµαλίες σε βίντεο που διακινούνται. Επίσης, πρόσφατες ερευνητικές προσπάθειες εστιάζουν στο πώς µπορεί να γίνει έλεγχος της ταυτότητας διάφορων πολυµέσων µέσω τεχνολογιών blockchain ή µέσω watermarks όπου ενσωµατώνονται σήµατα και µεταδεδοµένα σε αρχεία πολυµέσων ώστε να είναι διαφανής η προέλευσή τους και να γίνεται δυνατή η επαλήθευση της αυθεντικότητας τους. Αν και τεχνολογικές λύσεις µπορούν να βοηθήσουν σηµαντικά, παρατηρούµε ένα παράδοξο που βάζει την ανθρωπότητα σε έναν φαύλο κύκλο µιας και τεχνολογίες που είναι στο επίκεντρο ενός προβλήµατος, είναι επίσης αυτές που λαµβάνουν την προσοχή του ανθρώπου για την επίλυση του ίδιου προβλήµατος. Τα deepfakes είναι λοιπόν µια ιδιάζουσα µορφή δεδοµενοκρατίας για την καταπολέµηση της οποίας απαιτείται µια πιο συντονισµένη και πολύπλευρη προσπάθεια όπου η εκπαίδευση και ευαισθητοποίηση του κοινού, η θέσπιση νοµικών πλαισίων και κανονισµών, η δηµιουργία συνεργατικών δικτύων επαλήθευσης της αυθεντικότητας του περιεχοµένου διάφορων πολυµέσων θα πρέπει να πλαισιώσουν τεχνολογικές λύσεις που αναφέραµε παραπάνω.
Συνοπτικά, υποστηρίζουµε ότι τα deepfakes είναι µια ιδιαίτερη µορφή δεδοµενοκρατίας που επιτάσσει την ανάπτυξη πρωτοβουλιών σε µια σειρά από µέτωπα που εκτείνονται πέραν των τεχνολογικών ορίων.
Καθώς οι διαδικασίες βαθιάς µάθησης γίνονται πιο περίπλοκες, ο εντοπισµός των deepfakes µπορεί να γίνει όλο και πιο δύσκολος. Ταυτόχρονα, η διανοµή τους είναι πιθανό να είναι ολοένα και πιο γρήγορη, ιδιαίτερα µέσω των κοινωνικών δικτύων. Οι συνέπειες αυτών των ψεύτικων βίντεο είναι πολλές και προκαλούν ανησυχία: χειραγώγηση του κοινού, παραπληροφόρηση, δυσφήµιση κ.λπ.
Ως απάντηση σε αυτό το φαινόµενο, η Google δηµοσίευσε το 2019 µια βάση δεδοµένων που περιέχει περισσότερα από 3.000 βαθιά ψεύτικα βίντεο και ενηµερώνεται συνεχώς, προκειµένου να βοηθήσει το λογισµικό να εντοπίζει ευκολότερα το παραποιηµένο περιεχόµενο.
Εποµένως, η χρήση deepfake βίντεο αντιπροσωπεύει µια αυξανόµενη απειλή στον Ιστό και απαιτεί τη µεγαλύτερη επαγρύπνηση. Ένας ακόµη λόγος για να µάθουµε περισσότερα για την ασφάλεια στον κυβερνοχώρο και να την λάβουµε σοβαρά υπόψη.
