NewsEdit Στις 22 Ιούνη, ολοκληρώθηκαν οι “Δελφικοί Διάλογοι” με ομιλητές όπως ο L. Floridi και η K. Hayles, υπό την αιγίδα της Προέδρου της Δημοκρατίας και τίτλο: “Δημοκρατία και Πολιτισμός στην Εποχή του Μέτα-ανθρώπινου” Βρισκόμαστε στην εποχή του Μετά-Ανθρώπινου; Είναι το Μετά-Ανθρώπινο το πεδίο μέριμνας της δημοκρατίας και του πολιτισμού; Και τι σημαίνει Μετα-Ανθρώπινο;
Του Αλέξανδρου Σχισμένου*
Παρακολουθώντας τον δημόσιο διάλογο καταλαβαίνουμε πως το “Μετα-Ανθρώπινο” εντάσσεται στο πλαίσιο της έκπληξης για τις εφαρμογές Τεχνητής Νοημοσύνης. Δυστοπικές προβλέψεις και ουτοπικά οράματα γεμίζουν αίθουσες και οθόνες. Μα φαίνεται πως η δημόσια συζήτηση διεξάγεται ως μία οξεία αντιπαράθεση μεταξύ τεχνοφοβίας και τεχνολαγνείας με εκατέρωθεν υπερβολές, όπως η υποδούλωση του ανθρώπου από τις μηχανές ή η πλήρη απελευθέρωση του ανθρώπου μέσω των μηχανών. Εκτιμώ ότι η άποψη του Κ. Καστοριάδη για την κοινωνικο-ιστορική δημιουργία και φαντασιακή θέσμιση της τεχνολογίας μπορεί να βοηθήσει στη διαύγαση της κατάστασης.
Στην κοινωνικο-ιστορική προοπτική, οι δυστοπίες και οι ουτοπίες σχετικά με την τεχνολογία δεν είναι τόσο καινοφανείς όσο οι εφαρμογές των ψηφιακών μεγάλων γλωσσικών μοντέλων μέσω νευρωνικών δικτύων που συνιστούν την ΤΝ.
Η ευχή ότι η αυτόματη μηχανή θα απελευθερώσει τον άνθρωπο διατυπώθηκε ήδη από τον Αριστοτέλη τον 4ο π.Χ. αιώνα:
“Γιατί, αν κάθε όργανο είχε την ικανότητα να αποτελειώνει την ορισμένη του δουλειά, είτε ύστερα από διαταγή που του δίνεται, είτε από κάποια δική του αυθόρμητη διάθεση […] , τότε οι αρχιτεχνίτες δεν θα χρειάζονταν εργάτες ούτε και τα αφεντικά θα χρειάζονταν δούλους.” [Πολιτικά 1253b53]
Ο φόβος ότι η αυτόματη μηχανή θα υποδουλώσει τον άνθρωπο εκφράστηκε από τον Samuel Butler το 1863:
“εμείς δημιουργούμε τους διαδόχους μας- καθημερινά προσθέτουμε στην ομορφιά και τη λεπτότητα της φυσικής τους οργάνωσης- καθημερινά τους δίνουμε μεγαλύτερη δύναμη και τους παρέχουμε με κάθε είδους έξυπνες επινοήσεις αυτή την αυτορρυθμιζόμενη, αυτενεργή δύναμη που θα είναι γι’ αυτούς ό,τι ήταν η διάνοια για τον άνθρωπο […] Θα έρθει η ώρα που οι μηχανές θα έχουν την πραγματική κυριαρχία πάνω στον κόσμο.”
Και οι δύο εκτιμήσεις φαίνονται να διαψεύδονται, και όμως κυριαρχούν σαν κοινωνικές τάσεις. Ο Καστοριάδης τονίζει πως το κοινωνικό φαντασιακό αποτελεί ένα μείγμα θεσμισμένων σημασιών που δίνουν νόημα στην πραγματικότητα στη βάση συμβολικών συστημάτων και παραστάσεων που προκαλούν αίσθημα και κινητοποιούν πρόθεση.
Η εμφάνιση μίας νέας τεχνολογίας αποτελεί ένα κοινωνικο-ιστορικό γεγονός που “κινητοποιεί την ολότητα της κοινωνικής ύπαρξης της συλλογικότητας που το γεννά: όχι μόνο τις «πνευματικές δυνατότητες ικανότητάς» της, αλλά και τη δική της οργάνωση του κόσμου και την ειδική προσέγγιση που τη χαρακτηρίζει.”
Και έτσι κάθε νέα τεχνολογία συνεπιφέρει μια νέα διαίρεση της πραγματικότητας, συστήνοντας νέα πεδία του εφικτού και του ανέφικτου. Έναν τέτοιο διαχωρισμό έφερε η ψηφιακή επανάσταση, ανάμεσα στον αναλογικό και τον ψηφιακό κόσμο. Η ΤΝ φαίνεται σαν μία ακόμη επέκταση του ψηφιακού κόσμου εντός του αναλογικού. Όμως ο διαχωρισμός είναι φαντασιακός, δηλαδή κοινωνικο-ιστορικός, δηλαδή αφορά μόνο τα ανθρώπινα υποκείμενα ως κοινωνικά και πολιτικά υποκείμενα.
Και εδώ, συναντούμε τα πραγματικά προβλήματα που εγείρει η ΤΝ. Όχι την κυριαρχία των μηχανών πάνω στον άνθρωπο. Αλλά την κυριαρχία των πολιτικών και οικονομικών μηχανισμών πάνω στην κοινωνία. Όπως θυμίζει ο Καστοριάδης “ο πιο ισχυρός μηχανισμός που δημιούργησε ποτέ ο άνθρωπος είναι το ρυθμισμένο δίκτυο των κοινωνικών σχέσεων” και προϊόντα αυτού του μηχανισμού είναι και η ψηφιακή και η αναλογική πραγματικότητα.
Στην αρχή και το τέλος του συστήματος της ΤΝ υπάρχει το ανθρώπινο υποκείμενο, τόσο ως κατασκευαστής όσο και ως χρήστης με διττό τρόπο: ως χρήστης που ελέγχει το σύστημα και ως χρήστης που τροφοδοτεί το σύστημα, σύμφωνα με το καπιταλιστικό πρότυπο διαμερισμού: πάροχος – πελάτης. Αλλά και που ελέγχει τη ροή πληροφορίας σύμφωνα με το συγκεντρωτικό μοντέλο εξουσίας: κυβερνήτης – υπήκοος.
H ΤΝ ως μηχανικό σύστημα δεν έχει εσωτερικότητα, δηλαδή ούτε υποκειμενικότητα, βούληση και αίσθημα, άρα ούτε προθετικότητα, ούτε αυτονομία σκοπών. Υπάρχει ένα πρόβλημα με την ΤΝ που λέγεται “πρόβλημα του μαύρου κουτιού”: Τροφοδοτούμε τον αλγόριθμό με δεδομένα και μας δίνει επιλεγμένες απαντήσεις, αλλά δεν εξηγεί το σκεπτικό. Δεν υπάρχει λογική, αιτιακή σύνδεση αλλά παραγωγή απαντήσεων με τυχαία δειγματοληψία λέξεων που βασίζεται εν μέρει σε πιθανότητες. Η “γλώσσα” τους αποτελείται από αριθμούς που αντιστοιχούν σε tokens και άγνωστα είναι τα ενδιάμεσα βήματα αντιστοιχήσεων. Στην αρχή και στο τέλος, στο ερώτημα και στην απάντηση εξυπηρετεί σκοπούς που τίθενται από ανθρώπινα υποκείμενα και έχουν κοινωνικό νόημα.
Ποιος αποφασίζει όμως για τους έσχατους σκοπούς του συστήματος;
Ελάχιστα μιλούμε για την απίστευτη κατανάλωση ηλεκτρικής ενέργειας και φρέσκου νερού και τη συνεπακόλουθη περιβαλλοντική επιβάρυνση. Το 2023, μια αγωγή που κατέθεσαν οι κάτοικοι της περιοχής West Des Moines, Iowa, αποκάλυψε ότι το κέντρο δεδομένων της OpenAI που λειτουργεί το ChatGPT-4 κατανάλωνε περίπου το 6% του νερού της περιοχής. O Sam Altman, διευθύνων σύμβουλος της OpenAI παραδέχτηκε ότι θα χρειαστούν τεχνολογίες πυρηνικής σύντηξης προκειμένου να ικανοποιηθεί η ενεργειακή ανάγκη για την περαιτέρω ανάπτυξη της ΤΝ.
Ποιος αποφασίζει όμως για την παραγωγή και χρήση της ενέργειας;
Το πρόβλημα της ΤΝ είναι πρόβλημα δημοκρατίας, επειδή είναι καταρχάς ένα εργαλείο επέκτασης του Καπιταλισμού της Επιτήρησης [Surveillance Capitalism]. Η δική μας ψηφιακή επικοινωνία τροφοδοτεί και εκπαιδεύει την ΤΝ. Το πρόβλημα της ΤΝ είναι μέρος του δημοκρατικού ζητήματος της ροής της πληροφορίας.
Ο Καστοριάδης ήταν αρκετά οξυδερκής, ώστε να γράψει το 1956:
“Η μέγιστη πληροφόρηση δεν ισοδυναμεί καθόλου με την υλική συσσώρευση των δεδομένων. Σε καμία περίπτωση το πρόβλημα δεν είναι να εφοδιαστεί ο κάθε κάτοικος με μια φορητή εθνική βιβλιοθήκη […] Σε μια κοινωνία όπου ο πληθυσμός είναι απαλλοτριωμένος από την πολιτική εξουσία προς όφελος μιας συγκεντρωτικής αρχής, η βασική σχέση αυτής της αρχής με τις κατώτερες αρχές που ελέγχει και τελικά με τον πληθυσμό, μπορεί να συνοψιστεί ως εξής: οι επικοινωνίες που πάνε από τη βάση στην κορυφή μεταδίδουν αποκλειστικά πληροφορίες, οι επικοινωνίες που πάνε από την κορυφή προς τη βάση μεταδίδουν βασικά αποφάσεις.”
Τον καιρό της ΤΝ, το πρόβλημα είναι η ένταση και επέκταση αυτής της κυριαρχικής αρχής σε όλα τα πεδία της κοινωνικής ζωής. Δημοκρατικό ζητούμενο είναι η ανατροπή του πληροφοριακού καθεστώτος ώστε να τεθούν στη διάθεση των ανθρώπων τα αναγκαία στοιχεία για τη λήψη πολιτικών αποφάσεων με πλήρη επίγνωση.
*δρ. Φιλοσοφίας, συγγραφέας