Το κινεζικό µοντέλο κρατικού καπιταλισµού και αυταρχικής δηµοκρατίας, συν τη ροµποτική τεχνολογία, τείνει να καθορίσει το µέλλον του πλανήτη. Αφοµοιώνοντας σιγά-σιγά όλους τους παραγωγικούς κλάδους και τις τεχνολογικές καινοτοµίες που έφυγαν από τη ∆ύση, χάρη στο φθηνό εργατικό της δυναµικό, η Κίνα πρωταγωνιστεί σήµερα στα δελτία ειδήσεων των διεθνών ΜΜΕ εξαιτίας ενός άλλου σεναρίου, όχι όµως απελευθερωτικού, για το µέλλον, που κάνει εκεί τα πρώτα του βήµατα. Πρόκειται για το σύστηµα κοινωνικής αξιολόγησης της Κίνας, ιδιαίτερα ανατριχιαστικό για όσους έχουν διαβάσει το δυστοπικό, κλασικό έργο «1984» του Τζορτζ Οργουελ. Το σύστηµα παρουσιάζεται από ορισµένα µέσα ενηµέρωσης ως ένα σύστηµα παρακολούθησης µεγάλων δεδοµένων (big data), που σκοπό έχει να καταγράφει, να αποτιµά και να επιβάλλει την πειθαρχία στην κοινωνική, πολιτική και οικονοµική συµπεριφορά των πολιτών.

Οι περισσότεροι ειδικοί προβλέπουν ότι αυτός που θα οδηγήσει τον κόσµο προς την Τεχνητή Νοηµοσύνη θα κυριαρχήσει πιθανότατα στην υφήλιο και θα απειλήσει ουσιαστικά τις φιλελεύθερες δηµοκρατικές αρχές παγκοσµίως. O µεγαλύτερος κίνδυνος που αντιµετωπίζει τώρα η όποια δηµοκρατία έχει αποµείνει είναι ότι η επανάσταση στην τεχνολογία των πληροφοριών θα ενισχύσει περισσότερο τις δικτατορίες και το βασικό µειονέκτηµα που είχαν τα απολυταρχικά καθεστώτα τον 20ό αιώνα -την προσπάθειά τους να συγκεντρώσουν όλες τις πληροφορίες τους σε ένα µέρος- σήµερα, µε την Τεχνητή Νοηµοσύνη, γίνεται το µεγαλύτερο πλεονέκτηµά τους. Η απειλή για τη δηµοκρατία αυξάνεται όσο αυξάνεται και η ικανότητα των µηχανών να επεξεργάζονται όλο και περισσότερες πληροφορίες.

Οι αλγόριθµοι χειρίζονται πλέον τα πάντα: από τις αιτήσεις για εργασία, τις διαδικασίες αποδοχής φοιτητών στα κολλέγια, σε ποιο κολλέγιο να πάνε και τι να σπουδάσουν οι ενδιαφερόµενοι µέχρι το ποια είναι η καλύτερη πόλη για να ξεκινήσει κάποιος την καριέρα του και να µεγαλώσει παιδιά, σε ποιο µέρος της πόλης να ζήσει, ακόµα και ποιον να παντρευτεί. Η ηγεσία της Κίνας φαίνεται να έχει παγιώσει αυτή την αντίληψη της ευρύτατης χρήσης των αλγορίθµων, καθώς τα τελευταία τρία χρόνια έχει εξαγγείλει ένα βασικό σχέδιο «αξιολόγησης» των πολιτών, το οποίο, σύµφωνα µε την επίσηµη ρητορική, θα επιτρέπει στον «αξιόπιστο» να πηγαίνει παντού, ενώ o «ανυπόληπτος» δεν θα µπορεί να κάνει εύκολα ούτε ένα βήµα.

Το βασικό σχέδιο, που αρχικά θα εφαρµοσθεί στις επιχειρήσεις και τους αξιωµατούχους, ώστε να χτυπηθεί η διαφθορά, υπολογίζεται ότι είναι έτοιµο. Σύντοµα, όµως, η εφαρµογή του θα επικεντρωθεί στον µέσο πολίτη µε τη χρησιµοποίηση τεράστιας ποσότητας δεδοµένων, ώστε να δηµιουργείται πλήθος εκτιµήσεων, µε τις οποίες θα αποφασίζεται η πρόσβαση -ή όχι- των πολιτών στα πάντα: από το να σπουδάζουν και να βρίσκουν δουλειά µέχρι το να µπορούν να ταξιδεύουν. Θα ελέγχονται όλες οι συµπεριφορές, όπως η αποφυγή πληρωµής, η οικογενειακή κατάσταση, το αν νοιάζεται ένας γονέας για τα παιδιά του ή τα παιδιά για τους ηλικιωµένους συγγενείς, η οδική συµπεριφορά κ.λπ., προκειµένου να υπάρχουν αναλόγως ποινές και πρόστιµα ή µπόνους για τον καθένα. Και, βέβαια, η online συµπεριφορά του καθενός (Facebook, X κ.ά.) θα αποτελεί αναπόφευκτα το µεγαλύτερο µέρος της παρακολούθησης, ενώ οι αλγόριθµοι θα είναι το κλειδί για τα πάντα, αν και υπάρχουν σοβαρές αµφιβολίες για το αν ένα τόσο φιλόδοξο σχέδιο µπορεί τελικά να πραγµατωθεί σωστά και να µην αποτύχει ή εκτραπεί.

Πολλοί είναι αυτοί που πιστεύουν ότι η Κίνα έχει επιλεχθεί ειδικά για να γίνει εκεί αυτό το πείραµα του «συστήµατος κοινωνικού ελέγχου», επειδή στην πολιτισµική παράδοση αυτής της χώρας είναι βαθιά ριζωµένη η αντίληψη της «επιβράβευσης» (στα κινεζικά xinyong), η οποία σχετίζεται µε τις ηθικές αξίες της εντιµότητας και της εµπιστοσύνης. Ηδη υπάρχουν µέχρι και 30 τοπικοί «πιλότοι» κοινωνικής αξιολόγησης που χρησιµοποιούν οι τοπικές Αρχές σε τεράστιες πόλεις, όπως η Σανγκάη και το Χαν-Τζου, αλλά και σε πολλές µικρότερες πόλεις της επαρχίας. Μπορεί η επέκταση των συστηµάτων κοινωνικού ελέγχου να ταιριάζει απολύτως στο ηθικό και οικονοµικό αφήγηµα που εντείνεται τώρα στην Κίνα, όµως τα συστήµατα αυτά, συγκεντρωτικής παρακολούθησης και αξιολόγησης, δεν περιορίζονται στην ασιατική αυτή χώρα. Οι περισσότερες βιοµηχανοποιηµένες χώρες βασίζονται σε τέτοιου είδους αξιολογήσεις εδώ και δεκαετίες, προκειµένου να προσδιορίσουν ποσοτικά τους χρηµατοπιστωτικούς κινδύνους που συνδέονται µε χώρες, εταιρείες και µεµονωµένα άτοµα.

Στην Κίνα, η Alibaba Sesame Credit, του κινεζικού γιγαντιαίου online πολυκαταστήµατος Alibaba, λαµβάνει υπ’ όψιν της το προφίλ ενός οφειλέτη στα µέσα κοινωνικής δικτύωσης για να τον αξιολογήσει. Αυτό σηµαίνει ότι, για όσους έχουν «φίλους» στο Facebook χαµηλής αξιολόγησης, θα υπάρξει αρνητική συνέπεια στις δικές τους αξιολογήσεις. Στις ΗΠΑ, η Affi rm, µια πιστωτική εταιρεία µε βάση το Σαν Φρανσίσκο, επικεφαλής της οποίας είναι o συνιδρυτής του PayPal, Μax Levchin, «χτενίζει» ένα ευρύ φάσµα πηγών δεδοµένων, όπως τα µέσα κοινωνικής δικτύωσης, για να εκτιµήσει τον κίνδυνο αθέτησης πληρωµών ενός οφειλέτη. Μάλιστα, η Lenddo, µια εταιρεία µε έδρα το Χονγκ Κονγκ, το τράβηξε περισσότερο και πληροφόρησε τους «φίλους» ενός οφειλέτη στο Facebook, όταν αυτός άρχισε να µην πληρώνει εγκαίρως τις δόσεις του δανείου του! Οι τραπεζίτες δεν διστάζουν να καταφύγουν στη χρήση της ψυχοµετρικής και άλλων ψηφιακών δεδοµένων για να καθορίσουν αν κάποιος είναι κατάλληλος να πάρει δάνειο ή όχι.

Οπως φαίνεται, το µοντέλο κοινωνικού ελέγχου που πρωτοεµφανίζεται στην Κίνα είναι προάγγελος της δυστοπικής παγκόσµιας εποχής των αλγορίθµων. Στο βιβλίο της «Weapons of Math Destruction» (Οπλα Μαθηµατικής Καταστροφής - WMD), η Αµερικανίδα µαθηµατικός Cathy Ο’Neil προειδοποιεί ότι χρειαζόµαστε µεθόδους ελέγχου των αλγορίθµων. Η κοινωνική αξιολόγηση έχει τη δυνατότητα να παγιώνει και να διογκώνει τις υπάρχουσες ανισορροπίες στις κοινωνίες, ενώ ταυτόχρονα εξουδετερώνει κάθε δυνατότητα αντίστασης. Το σύστηµα κοινωνικής αξιολόγησης που αναπτύσσεται στην Κίνα είναι ένα φαινόµενο το οποίο ανήκει σε µια παγκόσµια τάση µε έµφαση στις «µεταρρυθµίσεις» και είναι εξίσου απειλητικό για τις δυτικές δηµοκρατίες. Είναι ακόµα ένας προάγγελος ενός µάλλον κοινού ψηφιακού µέλλοντος, στο οποίο η κοινωνία θα αποµακρύνεται από το δηµόσιο δίκαιο και θα υποτάσσεται στο δίκαιο των αλγορίθµων.

Τα big data είναι πλέον απειλή για τη δηµοκρατία. Αν οι αλγόριθµοι και τα big data (µεγάλα δεδοµένα) είναι αυτά που θα κάνουν αποτελεσµατικότερες τις κυβερνήσεις τον 21ο αιώνα, τότε προκύπτει το ερώτηµα: Τι θα γίνει µε τις έννοιες της ελευθερίας, του αυτοπροσδιορισµού, της αυτονοµίας, των ανθρωπίνων δικαιωµάτων και των βασικών πολιτικών ελευθεριών; Στις µεγάλες χρηµατοπιστωτικές εταιρείες, τα µαθηµατικά από αφηρηµένη θεωρία µετατρέπονται σε πρακτική. Η παγκόσµια οικονοµία έχει µεταβληθεί σε νέο εργαστήριο για τα µαθηµατικά. Για πολλούς µαθηµατικούς, τα µαθηµατικά -που κάποτε ήταν το καταφύγιό τους- όχι µόνο περιπλέκουν σε µεγάλο τα προβλήµατα του κόσµου, αλλά προκαλούν και πολλά από αυτά. Η στεγαστική κρίση, η κατάρρευση µεγάλων χρηµατοπιστωτικών οργανισµών, η αύξηση της ανεργίας, όλα αυτά έχουν ενθαρρυνθεί και υποβοηθηθεί από µαθηµατικούς που χρησιµοποιούν κάποιους «µαγικούς» τύπους. Χάρη στις εξωπραγµατικές δυνάµεις τους, τα µαθηµατικά µπόρεσαν να συνδυαστούν µε την τεχνολογία, πολλαπλασιάζοντας το χάος και την καταστροφή, αυξάνοντας την ικανότητα και το µέγεθος συστηµάτων επεξεργασίας δεδοµένων, που τώρα αναγνωρίζονται ως ελαττωµατικά. Στην αρχή της οικονοµικής κρίσης, νέες µαθηµατικές τεχνικές εµφανίστηκαν, πιο «καυτές» από ποτέ, και επεκτάθηκαν σε ακόµα περισσότερα πεδία εφαρµογής. Ολο το 24ωρο συγκεντρώνονταν petabytes (δηλ. 1 εκατοµµύριο gigabytes) πληροφοριών, πολλές από τις οποίες µέσα από τα µέσα κοινωνικής δικτύωσης ή από ιστοσελίδες ηλεκτρονικού εµπορίου, και γινόταν επεξεργασία τους, µε στόχο όχι τις κινήσεις των παγκόσµιων χρηµατοπιστωτικών αγορών, αλλά τα ανθρώπινα όντα, εµάς. Μαθηµατικοί και στατιστικολόγοι µελετούν τις επιθυµίες, τις κινήσεις και την καταναλωτική µας δύναµη, προβλέπουν την αξιοπιστία µας και υπολογίζουν τις δυνατότητές µας ως σπουδαστών, εργατών, εραστών ή εγκληµατιών.