Η εταιρεία τεχνητής νοημοσύνης που διεξήγαγε «κρατική επιτήρηση» των αναρτήσεών σας στα μέσα κοινωνικής δικτύωσης

 Η Logically κέρδισε κρατικά συμβόλαια αξίας εκατομμυρίων λιρών για να παρακολουθεί και να επισημαίνει στοιχεία που κρίνονται ψευδή.

Μια βιομηχανική περιοχή στο Γιορκσάιρ είναι μια απίθανη τοποθεσία για μια επιχείρηση κρατικής επιτήρησης. Όμως, αυτές οι φαινομενικά άδειες αποθήκες φιλοξενούν μια εταιρεία τεχνητής νοημοσύνης (ΤΝ) που χρησιμοποιείται από την κυβέρνηση για να παρακολουθεί τις αναρτήσεις των πολιτών στα μέσα κοινωνικής δικτύωσης.

Η Logically έχει πληρωθεί περισσότερα από 1,2 εκατομμύρια λίρες από τα χρήματα των φορολογουμένων για να αναλύσει αυτό που η κυβέρνηση ονομάζει «παραπληροφόρηση» -ψευδείς πληροφορίες εκούσια ή ακούσια διεσπαρμένες στο Διαδίκτυο.

Αυτό το κάνει «καταπίνοντας» υλικό από περισσότερες από εκατοντάδες χιλιάδες πηγές μέσων ενημέρωσης και «όλες τις δημόσιες αναρτήσεις στις μεγάλες πλατφόρμες μέσων κοινωνικής δικτύωσης», χρησιμοποιώντας την ΤΝ για να εντοπίσει εκείνες που είναι πιθανώς προβληματικές.

Η εταιρεία ξεκίνησε πριν από έξι χρόνια από τον Lyric Jain, έναν 27χρονο μηχανικό απόφοιτο του Κέιμπριτζ που δοκίμασε για πρώτη φορά την τεχνολογία κατά τη διάρκεια των εκλογών στην πατρίδα του, την Ινδία.

Την αναπτύσσει παράλληλα με αυτό που η Logically ισχυρίζεται ότι είναι, «μία από τις μεγαλύτερες ομάδες ελέγχου δεδομένων στον κόσμο», που απλώνεται μεταξύ του Ηνωμένου Βασιλείου, της Ευρώπης και της Ινδίας.

Είναι ένα μοντέλο που βοήθησε την εταιρεία να εξασφαλίσει μια σειρά από συμβόλαια.

Η εταιρεία έχει μια συμφωνία 1,2 εκατομμυρίων λιρών με το Υπουργείο Πολιτισμού, Μέσων Ενημέρωσης και Αθλητισμού (DCMS), καθώς και μια άλλη αξίας έως και 1,4 εκατομμυρίων λιρών με το Υπουργείο Υγείας και Κοινωνικής Φροντίδας για την παρακολούθηση απειλών προς άτομα υψηλού προφίλ εντός της υπηρεσίας εμβολίων.

Άλλοι «blue-chip» πελάτες είναι οι ομοσπονδιακές υπηρεσίες των ΗΠΑ, η ινδική εκλογική επιτροπή και το TikTok.

«Συνεργασία» με το Facebook

Η εταιρεία έχει επίσης μια «συνεργασία» με το Facebook, η οποία φαίνεται να παρέχει στους ελεγκτές δεδομένων της Logically τεράστια επιρροή στο περιεχόμενο που βλέπουν οι άλλοι άνθρωποι.

Ένα κοινό δελτίο τύπου που εκδόθηκε τον Ιούλιο του 2021 δήλωνε ότι το Facebook θα περιορίσει την εμβέλεια ορισμένων αναρτήσεων εάν η Logically πει ότι είναι αναληθή.

«Όταν η Logically αξιολογεί ένα κομμάτι περιεχομένου ως ψευδές, το Facebook θα μειώσει σημαντικά τη διανομή του, ώστε να το βλέπουν λιγότεροι άνθρωποι, θα εμφανίζει μια προειδοποιητική ετικέτα για να ενημερώνει τους χρήστες ότι το περιεχόμενο έχει βαθμολογηθεί ως ψευδές και θα ειδοποιεί τους ανθρώπους που προσπαθούν να το μοιραστούν», αναφέρει το δελτίο τύπου.

Η Logically λέει ότι δεν μεταβιβάζει τα στοιχεία που συλλέγει για την κυβέρνηση του Ηνωμένου Βασιλείου στο Facebook – αλλά η συνεργασία της Logically με την εταιρεία μέσων κοινωνικής δικτύωσης έχει πυροδοτήσει ανησυχίες στους υποστηρικτές της ελευθερίας του λόγου.

Η εταιρεία ΤΝ έκλεισε συμφωνία για πρώτη φορά με το DCMS τον Ιανουάριο του 2021, πολλούς μήνες μετά την πανδημία, όταν της ανατέθηκε η παροχή «αναλυτικής υποστήριξης».     

Με την πάροδο του χρόνου, οι ευθύνες της φαίνεται να έχουν αυξηθεί, έτσι ώστε να υποστηρίζει «διακυβερνητικές προσπάθειες για τη δημιουργία μιας συνολικής εικόνας της πιθανής επιβλαβούς εκούσιας και ακούσιας παραπληροφόρησης».

Έγγραφα που έλαβε η The Telegraph δείχνουν ότι παρήγαγε τακτικά “Αναφορές για Παραπληροφόρηση σχετικά με τον Covid-19 με βάση τους Όρους Παροχής Υπηρεσιών των Πλατφορμών ” για τη Μονάδα Αντιπαραπληροφόρησης – μια μυστική επιχείρηση του DCMS.

Αυτός ο τίτλος δηλώνει ότι ο σκοπός ήταν η στοχοποίηση αναρτήσεων που παραβιάζουν τους όρους χρήσης των πλατφορμών, όπως το Twitter και το Facebook.

Ωστόσο, οι λεπτομέρειες των αναφορών, που φανερώθηκαν βάσει της νομοθεσίας για τα δεδομένα, αποκάλυψαν ότι περιελάμβαναν επίσης αρχεία καταγραφής νόμιμων αναρτήσεων από αξιοσέβαστα πρόσωπα, συμπεριλαμβανομένου του Δρ Alex De Figueirido, που ηγούνταν των στατιστικολόγων στο Vaccines Confidence Project.

Ο Nadhim Zahawi, ο πρώην υπουργός, είπε στην The Telegraph ότι πιστεύει πως η συμπερίληψη του tweet ήταν λάθος. Ωστόσο, η Logically ανέφερε ότι μερικές φορές συμπεριλαμβάνει νόμιμες αναρτήσεις στις αναφορές της, εάν μπορούσαν να «χρησιμοποιηθούν ως όπλο».

«Έχει σημασία το πλαίσιο», είπε ένας εκπρόσωπος.

«Είναι πιθανό ένα περιεχόμενο που δεν αποτελεί συγκεκριμένα παραπληροφόρηση να συμπεριληφθεί σε μια αναφορά, εάν υπάρχουν αποδεικτικά στοιχεία ή η πιθανότητα να χρησιμοποιηθεί ως όπλο για μια αφήγηση».

Ο εκπρόσωπος πρόσθεσε ότι οι λεπτομέρειες που λαμβάνονται βάσει της νομοθεσίας περί δεδομένων «συχνά αφαιρούν τον λόγο για τον οποίο το περιεχόμενο έχει επισημανθεί και ως εκ τούτου μπορεί να είναι πολύ παραπλανητικό».

Ωστόσο, ένα δημόσιο έγγραφο που δημιούργησε η Logically φαίνεται να ρίχνει τουλάχιστον λίγο φως στη σκέψη της εταιρείας.

Η έκθεση 21 σελίδων για την «Παραπληροφόρηση για τον Covid-19 στο Ηνωμένο Βασίλειο» αναφερόταν επανειλημμένα στους όρους «κατά του εγκλεισμού» και «αίσθημα κατά του εμβολίου για τον Covid-19».

Επεσήμανε επίσης τα hashtags «#sackvallance» και «#sackwhitty» ως απόδειξη «μιας έντονης περιφρόνησης για τις συμβουλές των ειδικών», αντί για περιφρόνηση συγκεκριμένα των συστάσεων του κυρίου Patrick Vallance, πρώην επικεφαλής επιστημονικού συμβούλου της κυβέρνησης, ή του κυρίου Chris Whitty, του επικεφαλής ιατρικού συμβούλου της Αγγλίας.

Στόχος να «αποτρέψουμε τις βλάβες στον πραγματικό κόσμο»

Ένας εκπρόσωπος της Logically είπε ότι η εταιρεία πιστεύει «ακράδαντα» στην ελευθερία του λόγου και ότι «οποιοσδήποτε υπαινιγμός ότι την περιορίζουμε, είναι ανακριβής και εσφαλμένος».

Ο εκπρόσωπος πρόσθεσε: «Δεν παρακολουθούμε συγκεκριμένα άτομα και τη συμπεριφορά τους, ούτε κάνουμε συστάσεις που περιορίζουν το δικαίωμά τους στην ελευθερία του λόγου.

«Όταν εξυπηρετούμε πελάτες παρακολουθούμε το περιεχόμενο, συμπεριλαμβανομένων ρητορικών και τάσεων σε περιβάλλοντα δημόσιας πληροφόρησης στο διαδίκτυο, για να βοηθήσουμε στην αντιμετώπιση της ταχείας αναπαραγωγής των επιζήμιων πληροφοριών στο διαδίκτυο, της παραπληροφόρησης εκούσιας ή ακούσιας  και την πρόληψη της ζημιάς στον πραγματικό κόσμο».

πηγη: telegraph