Τις τελευταίες ημέρες παρατηρείται μια συντονισμένη αναβίωση του απόλυτου τεχνολογικού τρόμου. Από καλοπληρωμένους αρθρογράφους μέχρι γραφειοκρατικούς κύκλους που αναζητούν ρόλο ύπαρξης, ανασύρονται παλιά χολιγουντιανά κλισέ περί «Μέρας της Κρίσης», HAL 9000 και «εξαφάνισης του ανθρώπινου είδους μέσα στην επόμενη δεκαετία».
Το αφήγημα είναι γνώριμο, δραματικό και βαθιά χειριστικό.
«Ο κίνδυνος είναι τόσο τεράστιος, που πρέπει άμεσα να παραδώσετε τον έλεγχο στους ειδικούς και να παγώσετε την καινοτομία».
Πίσω όμως από την καλοστημένη υστερία, το πραγματικό διακύβευμα δεν είναι αν ένας αλγόριθμος θα «αποκτήσει συνείδηση και θα μας… σκοτώσει όλους».
Το πραγματικό διακύβευμα είναι ποιος θα ελέγχει τα εργαλεία του μέλλοντος.
Δεν είναι η πρώτη φορά στην ιστορία που μια επαναστατική τεχνολογία δαιμονοποιείται για να ελεγχθεί. Από την τυπογραφία και τη βιομηχανική επανάσταση μέχρι την πυρηνική ενέργεια και το πρώιμο διαδίκτυο, κάθε άλμα της ανθρώπινης ευφυΐας αντιμετωπίστηκε ως αρχή του τέλους.
Όπως εύστοχα έχει επισημάνει ο συνιδρυτής της Palantir και της PayPal, Peter Thiel, η μεγαλύτερη απειλή της εποχής μας δεν είναι ένα ανεξέλεγκτο ρομπότ, αλλά ένας συγκεντρωτικός τεχνοκρατικός μηχανισμός που εκμεταλλεύεται τον φόβο.
Η μέθοδος είναι πανομοιότυπη και επιζεί διαμέσου του χρόνου.
Επινόηση υπαρξιακών κινδύνων που δεν επιδέχονται άμεση αντίκρουση (κλιματικός όλεθρος, βιολογικός πόλεμος, υπερνοημοσύνη εκτός ελέγχου).
Καλλιέργεια μόνιμου κοινωνικού άγχους, ώστε οι πολίτες να εκλιπαρούν για προστασία.
Προσφορά της «λύσης» υπό το κλασικό σύνθημα «Ειρήνη και Ασφάλεια»: καθολική επιτήρηση, αυστηρές άδειες μόνο σε εκλεκτούς κολοσσούς και ποινικοποίηση της ανοιχτής έρευνας.
Όταν απαιτείς «ρυθμίσεις και απαγορεύσεις» σε παγκόσμια κλίμακα για να μην «επαναστατήσουν οι μηχανές», στην πραγματικότητα ζητάς τη δημιουργία ενός υπερεθνικού μηχανισμού αστυνόμευσης της σκέψης, της επιστήμης και του κώδικα.
Το επιχείρημα ότι πρέπει να «φρενάρουμε» την ανάπτυξη των γλωσσικών μοντέλων και των νευρωνικών δικτύων παραβλέπει —σκοπίμως ή από αφέλεια— την παγκόσμια πραγματικότητα.
Σε έναν πολυπολικό πλανήτη, κανένα μορατόριουμ δεν εφαρμόζεται καθολικά. Εάν οι δυτικές κοινωνίες επιλέξουν τον δρόμο των ασφυκτικών απαγορεύσεων, των επιτροπών λογοκρισίας και του τεχνολογικού μαρασμού, το μόνο που θα καταφέρουν είναι να εκχωρήσουν την πρωτοκαθεδρία σε αυταρχικά καθεστώτα, όπως η Κίνα, που αναπτύσσουν ασταμάτητα τα δικά τους μοντέλα χωρίς καμία δυτική «ευαισθησία».
Επιπλέον, η σύγχυση ανάμεσα στις ατέλειες λογισμικού (τα λεγόμενα hallucinations ή τις ανοησίες που μπορεί να απαντήσει ένα chatbot) και σε μια υποτιθέμενη «αυτόνομη δολοφονική συνείδηση» αποτελεί επιστημονικό άλμα λογικής.
Τα συστήματα αυτά δεν έχουν ούτε βούληση, ούτε μίσος, ούτε ένστικτο επιβίωσης. Είναι πανίσχυροι στατιστικοί επεξεργαστές πληροφορίας. Το να τους αποδίδονται μεταφυσικές ιδιότητες εξυπηρετεί μόνο όσους θέλουν να πουλήσουν προστασία απέναντι σε ανύπαρκτα φαντάσματα.
Η απάντηση στις προκλήσεις της Τεχνητής Νοημοσύνης, που είναι υπαρκτές σε επίπεδο κυβερνοασφάλειας, παραπληροφόρησης και οικονομικής προσαρμογής, δεν είναι το πισωγύρισμα στον σκοταδισμό ούτε η ανάθεση της ζωής μας σε επιτροπές σοφών που θα αποφασίζουν τι επιτρέπεται να υπολογιστεί και τι όχι.
Η λύση απέναντι σε ένα ισχυρό εργαλείο είναι η περαιτέρω διάχυσή του, η αποκέντρωση, ο ανταγωνισμός και η ανοιχτή τεχνολογία, ώστε η δύναμη να παραμείνει στα χέρια των πολλών και όχι μιας κάστας γραφειοκρατών που χρησιμοποιούν τον τρόμο ως εργαλείο απόλυτης καθυπόταξης.
