Ακολουθήστε την «ΑΥΓΗ»
Ο επιλεγμένος κατάλογος δεν υπάρχει πλέον.

Οι πόλεμοι των αλγορίθμων

Το σύστημα των αυτόματων διορθώσεων (bots) στη Wikipedia είναι περιφραγμένο και ελεγχόμενο. Αλλά δεν συμβαίνει το ίδιο σε πολλούς άλλους τομείς του Διαδικτύου. Τα bots θα μπορούσαν να μιμούνται τους ανθρώπους στα κοινωνικά δίκτυα και να «διαδίδουν πολιτική προπαγάνδα ή να επηρεάζουν τη λαϊκή δυσαρέσκεια»

Του John Thornhill

 

Μια μέρα ο Τούντε Ολανεβάζου έκανε ένα πείραμα παίζοντας με την αναφορά στην ηλεκτρονική εγκυκλοπαίδεια Wikipedia για την εταιρεία συμβούλων στην οποία εργάζεται, τη McKinsey. Άλλαξε τα στοιχεία έτσι ώστε να φαίνεται ότι εκείνος είναι ο ιδρυτής της εταιρείας. Ένας φίλος του αντέγραψε και κράτησε στο αρχείο του το διορθωμένο κείμενο.

Μέσα σε λίγα λεπτά ο δράστης έλαβε ένα μήνυμα ηλεκτρονικού ταχυδρομείου από τη Wikipedia που έλεγε ότι η διόρθωσή του απορρίφθηκε και ότι το όνομα του αληθινού ιδρυτή της εταιρείας αποκαταστάθηκε. Με σχεδόν απόλυτη βεβαιότητα μπορεί να ειπωθεί ότι επενέβη ένα από τα αυτόματα συστήματα (bots) που αστυνομεύουν τα 40 εκατομμύρια άρθρα της ψηφιακής εγκυκλοπαίδειας, έλεγξε και διόρθωσε τα στοιχεία που είχε εισαγάγει ο κ. Ολανεβάζου.

Είναι καθησυχαστικό να γνωρίζεις ότι μια στρατιά τόσο έξυπνων αλγορίθμων περιπολεί στο μέτωπο της αλήθειας και ότι μπορεί να είναι πιο έξυπνοι από ένα ανώτερο στέλεχος της McKinsey στην ψηφιακή πρακτική. Το 2014 τα bots έκαναν γύρω στο 15% των διορθώσεων στη Wikipedia. Όμως, όπως συμβαίνει με όλα στον κόσμο μας, οι αλγόριθμοι μπορούν να χρησιμοποιηθούν όχι μόνο για αμυντικούς, αλλά και για επιθετικούς σκοπούς. Επίσης ορισμένες φορές μπορούν να αλληλεπιδρούν μεταξύ τους με απρόβλεπτους τρόπους.

Η ανάγκη για την κατανόηση αυτών των αλληλεπιδράσεων γίνεται ακόμα πιο επείγουσα, καθώς από τους αλγόριθμους εξαρτώνται τομείς όπως τα κοινωνικά δίκτυα, οι νομισματικές αγορές, η κυβερνοασφάλεια, τα αυτόνομα οπλικά συστήματα και τα δίκτυα των αυτοκινήτων χωρίς οδηγό.

Η “μονομαχία” των... bots

Μια έρευνα που δημοσιεύθηκε στο περιοδικό έρευνας “Plos One”, έπειτα από έρευνα για τη χρήση των bots στη Wikipedia επί μια δεκαετία, βρήκε ότι ακόμα και εκείνα που είχαν σχεδιαστεί για αγαθούς σκοπούς μονομαχούσαν μεταξύ τους επί χρόνια. Σε μια από αυτές τις “μονομαχίες”, το Xqbot και το Darknessbot συγκρούστηκαν για 3.269 εισαγωγές στοιχείων διορθώνοντας το ένα το άλλο για διάφορα θέματα, από τον Μέγα Αλέξανδρο μέχρι την ποδοσφαιρική ομάδα Άστον Βίλα.

Οι συγγραφείς της έρευνας, από το Oxford Internet Institute και το Alan Turing Institute ξαφνιάστηκαν από τα ευρήματα και κατέληξαν στο συμπέρασμα ότι απαιτείται μεγαλύτερη προσοχή σε αυτή την αλληλεπίδραση των bots εναντίον bots. «Γνωρίζουμε πολύ λίγα για τη ζωή και την εξέλιξη που έχουν τα ψηφιακά τσιράκια μας».

Το σύστημα των αυτόματων διορθώσεων στη Wikipedia είναι περιφραγμένο και ελεγχόμενο. Αλλά δεν συμβαίνει το ίδιο σε πολλούς άλλους τομείς του Διαδικτύου, όπου κακόβουλα συστήματα, τα οποία συχνά συνεργάζονται, μπορούν να ξεφύγουν από κάθε έλεγχο.

Οι συγγραφείς υπογράμμισαν τον κίνδυνο ότι αυτά τα bots θα μπορούσαν να μιμούνται τους ανθρώπους στα κοινωνικά δίκτυα και να «διαδίδουν πολιτική προπαγάνδα ή να επηρεάζουν τη λαϊκή δυσαρέσκεια». Είναι τόσο μεγάλη η απειλή της ψηφιακής χειραγώγησης, ώστε μια ομάδα Ευρωπαίων ειδικών έχει φτάσει στο σημείο να αμφιβάλλει για το κατά πόσο θα μπορούσε να επιβιώσει η δημοκρατία στην εποχή της πληροφορίας και της τεχνητής νοημοσύνης.

Δεν θα ήταν μεγάλη υπερβολή αν λέγαμε ότι φτάνουμε σε ένα κρίσιμο σταυροδρόμι. Μήπως, υπό ορισμένες έννοιες, η αλήθεια προκαθορίζεται με ηλεκτρονικό τρόπο; Μήπως, όπως φοβούνται οι Ευρωπαίοι ακαδημαϊκοί, γινόμαστε οι «ψηφιακοί σκλάβοι» των ψηφιακών τσιρακιών μας. Το μέγεθος, η ταχύτητα και αποτελεσματικότητα αυτού του είδους των αλγοριθμικών αλληλεπιδράσεων φτάνει σε τόσο σύνθετο επίπεδο, ώστε ξεπερνά την ανθρώπινη αντίληψη.

Το “χακάρισμα” της κοινωνίας

Αν θέλετε αληθινά να τρομάξετε τον εαυτό σας μια σκοτεινή νύχτα του χειμώνα, θα πρέπει να διαβάσετε αυτά που έχει γράψει η Σούζαν Μπλάκμορ για το θέμα. Η ψυχολόγος υποστηρίζει ότι με τη δημιουργία των αλγορίθμων για τους ηλεκτρονικούς υπολογιστές ίσως να έχουμε απελευθερώσει κατά λάθος έναν «τρίτο αναπαραγωγέα», τον οποίο αρχικά ονόμασε «teme» και αργότερα τροποποίησε σε «treme».

Οι πρώτοι αναπαραγωγείς ήταν γονίδια που καθόρισαν τη βιολογική εξέλιξή μας. Οι δεύτεροι ήταν ανθρώπινες δημιουργίες όπως η γλώσσα, η γραφή και τα χρήματα που επιτάχυναν την πολιτισμική εξέλιξη. Αλλά τώρα, όπως πιστεύει, οι δημιουργίες μας έχουν ξεπεραστεί από μη ανθρώπινα στοιχεία (tremes), από εκείνο που περιγράφει ως «πληροφορία που μπορεί να αντιγραφεί με ποικιλία και επιλογή». Εμείς οι άνθρωποι μεταμορφωνόμαστε από τις νέες τεχνολογίες, είπε σε μια πρόσφατη διάλεξή της. «Ξαμολήσαμε την πιο μεγάλη δύναμη».

Προς το παρόν η θεωρία της καθηγήτριας Μπλάκμορ παραμένει στο περιθώριο του ακαδημαϊκού διαλόγου. Τα tremes αποτελούν μια ενδιαφέρουσα ιδέα, λέει ο Στίβεν Ρόμπερτ, καθηγητής μηχανικής στο Πανεπιστήμιο της Οξφόρδης, αλλά δεν πιστεύει ότι έχουμε χάσει τον έλεγχο. Θα υπήρχαν πολλές αρνητικές επιπτώσεις εάν οι αλγόριθμοι έβγαιναν εκτός ελέγχου, λέει, αλλά τώρα απέχουμε πολύ από αυτό. Η πιο άμεση ανησυχία είναι ότι πολιτικά και επιχειρηματικά συμφέροντα έμαθαν πώς να «χακάρουν την κοινωνία», όπως τονίζει. «Τα ψευδή γεγονότα μπορούν να αναπαραχθούν εξίσου εύκολα με την αλήθεια. Χειραγωγούμαστε ως άτομα και ως ομάδες».

Ποια λύση προτείνει ο ίδιος; Να δημιουργήσουμε για τη γνώση το αντίστοιχο της Παγκόσμιας Τράπεζας Σπόρων, που έχει στόχο τη διάσωση του φυτικού βασιλείου από τον κίνδυνο της εξαφάνισης. «Καθώς καταστρέφουμε τα είδη του πλανήτη προσπαθούμε να διατηρήσουμε το DNA αυτών των ειδών. Καθώς η αλήθεια γίνεται είδος προς εξαφάνιση, έχουμε την ίδια υποχρέωση να διαφυλάξουμε τα γεγονότα» είπε.

Αλλά, όπως φάνηκε και στην περίπτωση της Wikipedia, αυτό δεν είναι πάντα μια εύκολη δουλειά.

 

Δείτε όλα τα σχόλια