Μήπως το TikTok «διαβάζει» το μυαλό μας;

Πώς το δημοφιλές κοινωνικό δίκτυο παρακολουθεί τι συμβαίνει μέσα στο κεφάλι μας και τι κίνδυνοι ελλοχεύουν όσο ο αλγόριθμός του λειτουργεί ανεξέλεγκτα

Προσωπικά, όταν μπαίνω στο TikTok βλέπω χιουμοριστικά βίντεο με μιλένιαλς που συγκρίνουν τον τρόπο που αντιμετωπίζουν τα εργασιακά θέματα με αυτόν της νεότερης γενιάς. Η αδελφή μου από την άλλη, που πρόσφατα άρχισε να ασχολείται ενεργά με τη βίγκαν μαγειρική, βλέπει έναν εξωφρενικό αριθμό συνταγών με τόφου. Μια φίλη, πάλι, που γέννησε πριν μερικούς μήνες, δεν μπορεί να ξεφύγει από οικολογικές πάνες και παιχνίδια Μοντεσόρι. Το χειρότερο; Και οι τρεις μας παρακολουθούμε με τρομερό ενδιαφέρον το περιεχόμενο που μας σπρώχνει το TikTok χωρίς να το αμφισβητούμε και τόσο. Και κάπως έτσι χτίζουμε τον μικρόκοσμό μας.

Τα παραπάνω, βέβαια, είναι εντελώς ανώδυνα. Γιατί το χειρότερο που μπορεί να μας συμβεί είναι, να γίνω αγενής με κάποιον εκπρόσωπο της Gen Z όταν δε θέλει να ακολουθήσει το μέμο που στάλθηκε σε όλη την εταιρία, ή η αδελφή μου να εξαφανίσει δια παντός το τόφου από τη μαγειρική της.

Για τη φίλη που έγινε μαμά, λίγη Μοντεσόρι εκπαίδευση δεν έβλαψε ποτέ κανέναν. Τι συμβαίνει όμως όταν τα βίντεο που βλέπεις -και αυτά που σου προτείνει ο αλγόριθμος εν συνεχεία- αφορούν πολύ πιο σοβαρά αλλά και πιθανώς επικίνδυνα ζητήματα; Όπως, για παράδειγμα, όταν ένας έφηβος μπαίνει στη λαγουδότρυπα και αρχίζει να βλέπει βίντεο που εξετάζουν την αυτοκτονία σαν λύση απέναντι στον εκφοβισμό;

Ανθρώπινα μελίσσια

To TikTok, που σήμερα μετράει παραπάνω από 1 δισ. χρήστες στις ΗΠΑ και παραπάνω από 3 εκατμ. χρήστες στην Ελλάδα (Money Review, Οκτώβρης 2023) παρέσυρε το κοινό του εκμεταλλευόμενο μια μοναδική πρωτοτυπία: αν όλα τα υπόλοιπα σόσιαλ μίντια προάγουν και διαφημίζουν ότι είναι εκεί για να προωθήσουν τη σύνδεση μεταξύ των μελών τους, το TikTok προτάσσει αγνή και αδιαμεσολάβητη διασκέδαση.

Η βασική διαφορά μεταξύ αυτού και των άλλων κοινωνικών δικτύων είναι το FYP (For You Page). Ανοίγοντας την εφαρμογή, το interface που εμφανίζεται είναι το FYP. Ο αλγόριθμος απορροφάει οποιαδήποτε πληροφορία μπορεί από τους χρήστες του, σε τι πατούν «μ’αρέσει», τι μοιράζονται με άλλους χρήστες, τι προσπερνούν μετά από ένα δύο δευτερόλεπτα.

Μεταξύ των χρηστών, ακούγονται ψίθυροι ότι ο αλγόριθμος ξέρει καλύτερα από τους ίδιους τι τους αρέσει και τι τους εκνευρίζει. Το πρόβλημα προκύπτει από το confirmation bias: οι άνθρωποι έχουμε την τάση να συμφωνούμε με αυτό που επιβεβαιώνει την οπτική μας. Έτσι, δημιουργούνται μελίσσια ανθρώπων με παρεμφερείς απόψεις που δεν επικοινωνούν καθόλου με άτομα που διαφωνούν με τη δική τους θέαση του κόσμου.

Η οικονομία της ντοπαμίνης

Ο τρόπος που επιτυγχάνεται το παραπάνω και εκεί που βασίζεται η οικονομία της προσοχής είναι μέσω της ντοπαμίνης. Η ορμόνη της χαράς, η ντοπαμίνη, λειτουργεί εθιστικά. «Όταν σκρολάρεις και πέφτεις πάνω σε κάτι που σε κάνει να γελάσεις, το μυαλό σου δέχεται μια ένεση ντοπαμίνης», λέει η νευροψυχολόγος Δρ. Σάναμ Χαφέζ, και συμπληρώνει πως «έτσι και στο TikTok: όταν βλέπεις κάτι που δε σ’αρέσει, επειδή η εναλλαγή των βίντεο είναι τόσο εύληπτη, μπορείς να περάσεις σε κάτι που παράγει περισσότερη ντοπαμίνη». Η επανάληψη αυτής της κυκλικής συμπεριφοράς μπορεί να εκπαιδεύσει το μυαλό σου να αποζητά την ανταμοιβή που λαχταρά, μέσα από όλο και μικρότερης διάρκειας περιεχόμενο.

Αν σκεφτεί κανείς ότι ο μέσος χρήστης του TikTok είναι 16-24 ετών, με πολλούς χρήστες να είναι ακόμη μικρότεροι, είναι σχετικά τρομακτικός ο αντίκτυπος που μπορεί να έχει για το μυαλό τους. «Είναι επικίνδυνο το πόσες επιπτώσεις μπορεί ο αλγόριθμος να έχει για τη ζωή των παιδιών μας», λέει ο Γκιγιόμ Σαλό, ιδρυτής της Algo Transparency, μια ομάδας ερευνητών που εξετάζει τα σόσιαλ μίντια. «Με κάθε βίντεο που βλέπει ένα παιδί, το TikTok αποκτά ένα ακόμη κομμάτι πληροφορίας πάνω σ’αυτό. Σε μερικές μόλις ώρες, ο αλγόριθμος μπορεί να γνωρίσει ποιες μουσικές του αρέσουν, ποιες είναι οι ερωτικές του προτιμήσεις, αν έχει κατάθλιψη, αν παίρνει ναρκωτικά και πολλές άλλες ευαίσθητες πληροφορίες. Υπάρχει το πολύ πιθανό ρίσκο ότι κάποιες απ’αυτές τις πληροφορίες θα χρησιμοποιηθούν εναντίον του. Θα τον στοχοποιήσουν και θα προσπαθήσουν να τον εθίσουν ακόμη περισσότερο στην πλατφόρμα», λέει.

«Σκοτεινές» πρακτικές

Σύμφωνα με ένα έγγραφο που διέρρευσε το 2021 και έφτασε στους Νew York Times, ο όγκος πληροφορίας που συλλέγει η εφαρμογή θα έπρεπε να μας κάνει να διαδηλώνουμε στους δρόμους για την προστασία των δεδομένων μας. Οι moderators του έχουν πρόσβαση όχι μόνο στα βίντεο που ποστάρουν δημόσια οι χρήστες, αλλά και στο περιεχόμενο το οποίο μοιράζονται με τους φίλους τους, ή ακόμα και σε βίντεο που αποθηκεύουν αλλά δε μοιράζονται ποτέ δημόσια, διαφοροποιώντας το έτσι από όλα social media, όπως για παράδειγμα το WhatsApp, το οποίο προσφέρει κρυπτογραφημένη επικοινωνία μεταξύ των χρηστών.

Σύμφωνα με τη Νίτα Φαραχανί, καθηγήτρια νομικής και φιλοσοφίας στο Duke των ΗΠΑ και συγγραφέα του βιβλίου «The Battle For Your Brain» (Η μάχη για το μυαλό σας), η εξέλιξη της τεχνολογίας όπως και οι απειλές για χειραγώγηση του μυαλού του χρήστη πολλαπλασιάζονται, πέρα από τα fake news και την παραπληροφόρηση: ο αλγόριθμος θα επιτεθεί στο μυαλό μας.

«Η εμπορευματοποίηση της πληροφορίας του μυαλού έχει ήδη αρχίσει», λέει η Φαραχανί, εξηγώντας πως οι σένσορες στα «έξυπνα» ακουστικά μας και τα ρολόγια μας έχουν τη δυνατότητα να αποκρυπτογραφούν τη δραστηριότητα του μυαλού. Στα σκαριά, σημειώνει η Φαραχανί, βρίσκεται τεχνολογία για παρακολούθηση της συναισθηματικής κατάστασης υπαλλήλων που οδηγούν τρένα, ώστε να αποφεύγονται ατυχήματα. Ναι, η τεχνολογία εξελίσσεται για να κάνει πιο απλή και πιο ασφαλή -θεωρητικά πάντα μιλώντας- τη ζωή μας. Την ίδια όμως στιγμή, υπάρχει άραγε πιο δυστοπικό σενάριο από το να χάσουμε τον έλεγχο του μυαλού μας;