#31 - 10/2024

τα (ρομποτικά) δικαιώματα του κεφάλαιου

Τον Οκτώβρη του 2017 η Sophia έγινε επίσημα πολίτης της σαουδικής αραβίας, γεγονός που μάλλον δεν θα άξιζε κάποια αναφορά αν η Sophia δεν ήταν ρομπότ. Λίγες ημέρες πριν, είχε παρουσιαστεί επίσης και στα ηνωμένα έθνη, τα οποία της δώσανε τον τίτλο της “πρώτης καινοτομίας” του αναπτυξιακού προγράμματος των η.ε, κάνοντάς την τον πρώτο μη-άνθρωπο που έχει τίτλο των η.ε. Οι κινήσεις αυτές ήταν περισσότερο δημόσιες σχέσεις και προβολή, παρά είχαν κάποιο πρακτικό αποτέλεσμα, συμβάλλοντας στην διεύρυνση των συζητήσεων της ηθικής της τεχνητής νοημοσύνης, τόσο στο “επίσημο” ακαδημαϊκό όσο και στο “ανεπίσημο” “λαϊκο-θεαματικό” επίπεδο.

Η συζήτηση της ηθικής της ΑΙ και των ρομπότ είναι μεγάλη, τόσο στα ζητήματα που θίγει αλλά και στο εύρος στο οποίο γίνεται, ακόμα και αν δεν έχουμε ακούσει πολλά για αυτήν, στο “επίσημο” επίπεδο τουλάχιστον. Ανεπίσημα οι προβληματισμοί έχουν μπει σε διάφορες συζητήσεις, μέσω του θεάματος εδώ και χρόνια, από τα βιβλία και τις ταινίες, μέχρι τα τηλεοπτικά show που φιλοξενούν ρομπότ όπως η Sophia. H “επίσημη” συζήτηση, αυτή των θεωρητικών, ακαδημαϊκών και νομικών, είναι επίσης σχετικά παλιά, αλλά έχει πάρει μεγαλύτερες διαστάσεις και βάρος τα τελευταία λίγα χρόνια που η τεχνολογία έχει φτάσει στο σημείο να φτιάχνει Σοφίες και γλωσσικά μοντέλα ΑΙ, τύπου ChatGPT.

Έτσι, μέσα σε όλη αυτή τη συζήτηση προκύπτει και το ζήτημα του αν θα έπρεπε τα ρομπότ να έχουν δικαιώματα σαν τους ανθρώπους και σε ποιά βάση. Ίσως ακούγεται γελοίο - σίγουρα είναι και αυτό - αλλά μάλλον είναι πιο σοβαρό απ’ ότι φαίνεται. Τα επιχειρήματα υπέρ και κατά ποικίλουν και περιστρέφονται κυρίως γύρω από την έννοια της “ανθρωπινότητας”, τί κάνει έναν άνθρωπο “άνθρωπο” που να αξίζει δικαιώματα. Από την αρχή λοιπόν είναι εμφανές το πόσο ναρκοθετημένο είναι αυτό το πλαίσιο. Ποιός ορίζει τον άνθρωπο και τις ιδιότητές του και ποιοί ορίζουν τί είναι δικαίωμα και ποιός το αξίζει; Σε επίπεδο ατομικής άποψης μπορεί ο καθένας να το ορίζει όπως θέλει, όμως αυτό που έχει σημασία είναι το πώς το ορίζει τελικά αυτός που έχει την δυνατότητα να δώσει ή να αφαιρέσει δικαιώματα.

Επίσης, δεδομένου του ότι αυτή η συζήτηση γίνεται μεταξύ ανθρώπων, οι οποίοι έχουν δημιουργήσει και την έννοια/πρακτική του δικαιώματος, πώς θα ωφελούσε οτιδήποτε μη-ανθρώπινο το να έχει δικαιώματα; Αν είναι να το προστατέψει από τις κακές πρακτικές των ανθρώπων, γιατί η συζήτηση αφορά τα δικαιώματα στα μη-ανθρώπινα όντα και όχι τους περιορισμούς στους ανθρώπους; Αφού έτσι κι αλλιώς η συζήτηση είναι ανθρωποκεντρική και δεν θα μπορούσε να είναι αλλιώς.

Τι επιπτώσεις έχουν αυτές οι τρέχουσες συζητήσεις στα υπάρχοντα ανθρώπινα δικαιώματα, τα αναβαθμίζουν ή τα υποβαθμίζουν; Τί επιπτώσεις έχουν στην ίδια την έννοια του “δικαιώματος”; Και ακόμη πιο σημαντικό, τί ρόλο παίζουν στην έννοια και την απόδοση της “ευθύνης”; Μιας και ένα από τα βασικά επιχειρήματα “υπέρ” είναι ότι «όταν θα μπορούμε να πούμε ότι φταίει η μηχανή για τις πράξεις της, τότε θα είναι καιρός να της δώσουμε και δικαιώματα». Πότε και πώς θα απαλλαχτεί το “ρομπότ” από την ανθρώπινη εργασία/σχεδιασμό/καθοδήγηση, αν είναι ποτέ δυνατό αυτό;

Αν - λέμε αν - τα δικαιώματα δεν είναι πράγματα που αποδίδονται και αφαιρούνται, αλλά ζήτημα διεκδικήσεων και ανταγωνισμού, τί ρόλο παίζει μια συζήτηση για ένα μελλοντικό σενάριο που οι μηχανές θα είναι “αυτόνομες”, στους τωρινούς συσχετισμούς; Υπάρχουν συμφέροντα που επωφελούνται από την θέση που θέλει να κάνει τις μηχανές “υπεύθυνες για τις πράξεις τους” και τους ανθρώπους συμμορφωμένους με έναν γενικότερο δικαιωματισμό που έχει αποδοθεί “εξίσου” σε ανθρώπους και μηχανές;

Το άρθρο που έχουμε μεταφράσει παρακάτω, με σκοπό να παρουσιάσουμε ένα μέρος αυτής της συζήτησης, επιχειρηματολογεί “κατά” και δεν αναφέρεται σε όλα τα ερωτήματα που θέσαμε επιγραμματικά πριν. Είναι γραμμένο από ακαδημαϊκούς στην γλώσσα τους και σε κάποια σημεία περισσότερο τεχνικό - από την άποψη της στριφνής ακαδημαϊκής γλώσσας - από όσο αντέχουμε. Επίσης σε κάποια σημεία μας βρίσκει αντίθετους. Παρόλα αυτά παρουσιάζει ένα χρήσιμο στιγμιότυπο του επιπέδου στο οποίο γίνεται η “επίσημη συζήτηση” για τα δικαιώματα των ρομπότ και για την ηθική της τεχνητής νοημοσύνης, η οποία - ελλείψει “ανεπίσημης” - είναι αυτή που θα στρώσει το έδαφος στο οποίο θα πατήσουν (εν μέρει) εκείνοι που έχουν την δυνατότητα να δώσουν ή να αφαιρέσουν δικαιώματα, σε ανθρώπους και μη.

η απομυθοποίηση των δικαιωμάτων των ρομπότ [1Debunking robot rights metaphysically, ethically, and legally, First Monday - 1 April 2024]

Για ορισμένους θεωρητικούς της τεχνολογίας, το ηθικό ζήτημα της τεχνητής νοημοσύνης πρέπει να επεκταθεί πέρα από την εξέταση του τί μπορούν ή δεν μπορούν να κάνουν τα ρομπότ και οι υπολογιστές στους ανθρώπους. Αντίθετα και οι άνθρωποι ίσως να πρέπει να έχουν κάποια ηθικά και νομικά καθήκοντα προς τα ρομπότ, μέχρι και την αναγνώριση των δικαιωμάτων τους. Ο David Gunkel αναφέρεται σε αυτή την αντιστροφή της συζήτησης για την ηθική των ρομπότ ως «το άλλο ερώτημα: μπορεί και πρέπει τα ρομπότ να έχουν δικαιώματα;» Ή, προσαρμόζοντάς την στην κλασική ρήση του John F. Kennedy: «Μην ρωτάτε τί μπορούν να κάνουν τα ρομπότ για σας, αλλά μάλλον, τί μπορείτε ή τί θα έπρεπε να κάνετε εσείς για τα ρομπότ».

Σε αυτό το άρθρο αμφισβητούμε τα επιχειρήματα για τα δικαιώματα των ρομπότ στις μεταφυσικές, ηθικές και νομικές βάσεις τους. Στην μεταφυσική βάση, υποστηρίζουμε ότι οι μηχανές δεν είναι τα είδη των πραγμάτων που θα μπορούσαν να τους παραχωρηθούν ή όχι δικαιώματα. Στην ηθική βάση, υποστηρίζουμε ότι, δεδομένης της αρνητικής επίπτωσης των μηχανών στους πιο περιθωριοποιημένους της κοινωνίας, είναι τα όρια, αντί των δικαιωμάτων των μηχανών που θα πρέπει να βρίσκονται στο επίκεντρο της τρέχουσας συζήτησης για την ηθική της τεχνητής νοημοσύνης. Από νομική άποψη, η καλύτερη αναλογία των δικαιωμάτων των ρομπότ δεν είναι τα ανθρώπινα δικαιώματα αλλά τα εταιρικά δικαιώματα - τα οποία συχνά υπονομεύουν τη δημοκρατική εκλογική διαδικασία, καθώς και τα δικαιώματα των εργαζομένων και των καταναλωτών. Η συζήτηση περί δικαιωμάτων των ρομπότ λειτουργεί ως προπέτασμα καπνού, επιτρέποντας στους θεωρητικούς να φαντασιώνονται μηχανές που αισθάνονται, ενώ το μεγαλύτερο μέρος της τρέχουσας τεχνητής νοημοσύνης και της ρομποτικής τροφοδοτεί τον καπιταλισμό επιτήρησης, επιταχύνει την περιβαλλοντική καταστροφή και θεμελιώνει την αδικία και τα ανθρώπινα δεινά.

Βασιζόμενοι στις θεωρίες της φαινομενολογίας και των μετα-Καρτεσιακών προσεγγίσεων στη γνωστική επιστήμη, θεμελιώνουμε τη θέση μας στη ζωντανή πραγματικότητα των πραγματικών ανθρώπων σε μια ολοένα και περισσότερο πανταχού συνδεδεμένη, αυτοματοποιημένη και επιτηρούμενη κοινωνία. Αυτό που βρίσκουμε είναι η απρόσκοπτη ενσωμάτωση των μηχανικών συστημάτων στην καθημερινή ζωή στο όνομα της ευκολίας και της αποδοτικότητας. Το τελευταίο πράγμα που χρειάζονται αυτά τα συστήματα είναι “δικαιώματα” ώστε να εξασφαλίσουν την αποδοχή τους από τους ανθρώπους. Τα δικαιώματα είναι εξαιρετικά ισχυρά νομικά οικοδομήματα τα οποία, όταν παραχωρούνται αδικαιολόγητα, στην ουσία βραχυκυκλώνουν το είδος του δημοκρατικού διαλόγου και της εμπειρικής έρευνας σχετικά με τους ισχυρισμούς για αυτονομία που είναι απαραίτητοι στον ολοένα και περισσότερο τεχνολογημένο κόσμο μας. Αντιστρόφως, η “πλήρως αυτόνομη ευφυής μηχανή” είναι, για το προσεχές μέλλον, μια φαντασίωση επιστημονικής φαντασίας, που λειτουργεί κυρίως τώρα ως μιμίδιο που συγκαλύπτει το περιβαλλοντικό κόστος και την ανθρώπινη εργασία που αποτελούν τη ραχοκοκαλιά της τεχνητής νοημοσύνης. Η συζήτηση για τα δικαιώματα των ρομπότ μυστικοποιεί και επισκιάζει περαιτέρω αυτά τα προβλήματα. Και ανοίγει το δρόμο για μια κανονιστική λογική που θα επιτρέψει στις εταιρείες που αναπτύσσουν και πουλάνε τεχνητή νοημοσύνη να απαλλαχθούν από τις ευθύνες.

Τα υπάρχοντα ρομποτικά και AI συστήματα (από τα μεγάλα γλωσσικά μοντέλα / LLMs, την τεχνητή νοημοσύνη γενικού σκοπού, τα chatbots, έως και τα ανθρωποειδή ρομπότ) συχνά απεικονίζονται ως πλήρως αυτόνομα συστήματα και αυτό είναι ένα μέρος της έκκλησης για τη χορήγηση δικαιωμάτων. Ωστόσο, αυτά τα συστήματα δεν είναι ποτέ πλήρως αυτόνομα, αλλά συστήματα ανθρώπων και μηχανών που λειτουργούν στη βάση της εκμετάλλευσης της ανθρώπινης εργασίας και των περιβαλλοντικών πόρων. Είναι κοινωνικο-τεχνικά συστήματα, με τον ανθρώπινο παράγοντα να είναι παρών σε όλη την διαδρομή: από την πηγή των δεδομένων, μέχρι την ανάπτυξη των μοντέλων και την χρήση τους, εξαρτώνται όλα από τους ανθρώπους. Πολύ συχνά, η συζήτηση για τα “δικαιώματα” ξεκινάει από την υπόθεση ότι οι ρομποτικές οντότητες θα είναι κάπως αυτόνομες, ή χειρότερα ότι δεν θα βασίζονται στην εκμετάλλευση της ανθρώπινης εργασίας και ότι δεν θα βλάπτουν την περιθωριοποιημένη κοινωνία. Στη σημερινή πραγματικότητα όμως απαιτείται αντ' αυτού μια συζήτηση για αυτές τις τεχνολογίες από την σκοπιά, τις ανάγκες και τα δικαιώματα των πιο περιθωριοποιημένων και αδικημένων. Αυτό σημαίνει ότι κάθε συζήτηση για τα δικαιώματα των ρομπότ που παραβλέπει τους ανεπαρκώς αμειβόμενους και εκμεταλλευόμενους πληθυσμούς που χρησιμεύουν ως η ραχοκοκαλιά για τα “ρομπότ” (καθώς και το περιβαλλοντικό κόστος που απαιτείται για την ανάπτυξή τους) είναι υποκριτική. Ως θέμα δημόσιας πολιτικής, το ερώτημα δεν πρέπει να είναι αν τα ρομποτικά συστήματα αξίζουν δικαιώματα, αλλά, αν χορηγήσουμε ή αρνηθούμε δικαιώματα σε ένα ρομποτικό σύστημα, ποιές επιπτώσεις προκύπτουν για τους ανθρώπους που κατέχουν, χρησιμοποιούν, ωφελούνται, αναπτύσσουν και επηρεάζονται από τα τρέχοντα ρομποτικά συστήματα και την τεχνητή νοημοσύνη;

Ήρθε η ώρα να αντιστρέψουμε την αφήγηση, από τα “δικαιώματα των ρομπότ” στα καθήκοντα και τις ευθύνες των εταιρειών και των ισχυρών ατόμων που πλέον ωφελούνται από τα κοινωνικοτεχνικά συστήματα (που δεν περιορίζονται στα ρομπότ). Οι ζημιές, οι βλάβες και τα δεινά έχουν τεκμηριωθεί επανειλημμένα ως αποτέλεσμα της ενσωμάτωσης των συστημάτων τεχνητής νοημοσύνης στην κοινωνική πραγματικότητα. Αντί για τις εικασίες των υποθετικών μηχανών, η πολύ πιο επείγουσα συζήτηση αφορά τα ρομπότ και την τεχνητή νοημοσύνη ως συγκεκριμένα τεχνουργήματα που κατασκευάστηκαν από ισχυρές εταιρείες, και εισβάλλουν περαιτέρω στον ιδιωτικό, δημόσιο και πολιτικό μας χώρο, διαιωνίζοντας την αδικία. Μια καθαρά διανοητική και θεωρητική συζήτηση επισκιάζει την πραγματική απειλή: ότι πολλά από τα πραγματικά συστήματα ρομποτικής και τεχνητής νοημοσύνης που κατασκευάζουν ισχυρές εταιρείες βλάπτουν τους ανθρώπους άμεσα και έμμεσα, και ότι ένας πρόωρος και κερδοσκοπικός λόγος για τα δικαιώματα των ρομπότ κινδυνεύει ακόμα περισσότερο να διαλύσει τα ήδη αδύναμα συστήματα λογοδοσίας για τις αρνητικές επιπτώσεις της τεχνολογίας.

Η άνοδος των “δικαιωμάτων οπλοφορίας” στις Η.Π.Α. δεν είναι παρά ένα από τα πολλά προδιαμορφωτικά φαινόμενα που θα πρέπει να οδηγήσουν σε βαθιά και διαρκή προσοχή σχετικά με τη φετιχοποίηση της τεχνολογίας μέσω αξιώσεων δικαιωμάτων. Οι συναισθηματικοί δεσμοί των ιδιοκτητών όπλων με τα όπλα τους είναι συχνά έντονοι. Στις ΗΠΑ η βία με όπλα είναι σε υψηλότερο ποσοστό από οποιαδήποτε άλλη αναπτυγμένη χώρα και οι μαζικές δολοφονίες είναι συχνές. Παρ’ όλα αυτά, το Ανώτατο Δικαστήριο των ΗΠΑ, με μια τραβηγμένη ερμηνεία της Δεύτερης Τροπολογίας του Συντάγματος των ΗΠΑ, προωθεί τα δικαιώματα των ιδιοκτητών όπλων εις βάρος της δημόσιας ασφάλειας. Πρέπει να είμαστε πολύ προσεκτικοί όσον αφορά τον διάλογο για τα δικαιώματα των ρομπότ, ώστε να μην υπάρξουν παρόμοιες εξελίξεις που θα αφήσουν τους δικαστικούς φορείς να προστατεύσουν τις εκμεταλλευτικές, επιβλαβείς και κοινωνικά καταστροφικές τεχνολογίες από τους απαραίτητους κανονισμούς και τη λογοδοσία.

Το βιβλίο του David Gunkel, ο οποίος χαρακτηρίζει το 2020 ως την χρονιά των δικαιωμάτων των ρομπότ, αποτελεί ένα από τα βασικά εγχειρίδια για την υπεράσπισή τους.

Δικαιώματα των ρομπότ: Η συζήτηση

Για πολλούς εκτός του μικρού κύκλου συζητήσεων για τα δικαιώματα των ρομπότ, η ίδια η ιδέα αυτής της συζήτησης μπορεί να φαίνεται παράξενη, αστεία, ή ακόμη και αδιάφορη. Ωστόσο, μέσα στις στενές γωνιές της ηθικής των μηχανών/ρομπότ/ΤΝ, η έννοια των δικαιωμάτων των ρομπότ έχει προκαλέσει θυελλώδεις συζητήσεις.

Η ιδέα μιας ρομποτικής προσωπικότητας και των σχετικών ιδεών για τα δικαιώματα των ρομπότ, έχουν μια μακροχρόνια, αν και περιθωριακή, θέση. Την υποστήριξε άμεσα ο Inayatullah (2001), και την συζήτησε ο Solum (1992). Πολυάριθμοι μελετητές έχουν συζητήσει τη δυνατότητα και την σκοπιμότητα της παραχώρησης κάποιας μορφής νομικών δικαιωμάτων στα ρομπότ. Τα επιχειρήματα υπέρ των δικαιωμάτων των ρομπότ τείνουν να εμφανίζονται σε δύο ευρείες μορφές. Ένα σύνολο επιχειρημάτων οικοδομείται γύρω από την ιδέα ότι οι άνθρωποι θα είναι πιο ενάρετοι και σεβαστοί ο ένας προς τον άλλον, αν είναι υποχρεωμένοι να σέβονται ορισμένες μηχανές. Αυτό το σύνολο των επιχειρημάτων, που επικεντρώνεται στον τρόπο με τον οποίο η παραχώρηση δικαιωμάτων σε άψυχα αντικείμενα μπορεί να καλλιεργήσει ορισμένες διαθέσεις, δεξιότητες και ικανότητες στον άνθρωπο, αντιμετωπίστηκε άμεσα σε προγενέστερες εργασίες από τους Birhane και van Dijk (2020).

Ένα άλλο σύνολο επιχειρημάτων επικεντρώνεται στα ίδια τα ρομπότ, και όχι στις επιπτώσεις τους στα άτομα. Ορισμένοι μελετητές υποστηρίζουν ότι υπάρχει ένα μείγμα ιδιοτήτων των παρόντων ή/και των μελλοντικών ρομπότ που θα μπορούσαν να αξίζουν το είδος του σεβασμού που τα νομικά συστήματα συνήθως προσφέρουν με τη μορφή δικαιωμάτων ώστε να μπορούν να κάνουν ορισμένες ενέργειες ή να αποτρέψουν άλλους να κάνουν ορισμένες ενέργειες. Αυτό και παρόμοια επιχειρήματα αποτελούν το κύριο μέλημα του παρόντος άρθρου. Για να το αντιμετωπίσουμε σωστά, θα πρέπει να εξετάσουμε πρώτα προσεκτικά τι συνεπάγεται η έννοια “ρομπότ”.

Τα εν λόγω ρομπότ

Τόσο οι προσεγγίσεις για τις εν λόγω οντότητες ”τεχνητής νοημοσύνης” όσο και οι συλλογιστικές για τη χορήγηση/άρνηση δικαιωμάτων ποικίλλουν. Η διευκρίνιση των εν λόγω “ρομπότ” είναι κρίσιμη. Στην πραγματικότητα τα υπάρχοντα ρομπότ περιλαμβάνουν μηχανές που κατασκευάζουν αυτοκίνητα σε γραμμές συναρμολόγησης, ρομπότ που προορίζονται να προσομοιώσουν ζώα (για παράδειγμα, τα “σκυλιά ρομπότ” που κατασκευάζονται από εταιρείες όπως η Boston Dynamics, για πόλεμο και επιχειρήσεις ή αυτά που κατασκευάζονται από τη Sony, για οικιακή ψυχαγωγία), ανθρωποειδή ρομπότ (όπως το Pepper), ρομπότ υπηρεσιών (όπως το Starship και άλλα drones), και μια πιο γενική κατηγορία μηχανών με αισθητήρες, επεξεργαστές πληροφοριών και τεράστια συστήματα μηχανικής εκπαίδευσης, όπως τα “μεγάλα γλωσσικά μοντέλα” (LLM).

Ως πρακτικό και άμεσο ζήτημα, το ζήτημα της παραχώρησης δικαιωμάτων στις υπάρχουσες μηχανές (όχι στις δήθεν συνειδητές και υπερέξυπνες φουτουριστικές τέτοιες, αλλά στα πανταχού παρόντα ολοκληρωμένα αλγοριθμικά συστήματα) σηματοδοτεί έναν σοβαρό κίνδυνο. Η παραχώρηση δικαιωμάτων σε αυτά τα μηχανήματα φαίνεται να εξαρτάται από ένα επιχείρημα σχετικό με την πολυπλοκότητα: στα συστήματα τεχνητής νοημοσύνης μεγάλης κλίμακας, δεν είναι πλέον σαφές εάν οι άνθρωποι που τα σχεδιάζουν και τα λειτουργούν μπορούν ακόμη να θεωρηθούν υπεύθυνοι για τις πράξεις των “αυτόνομων” συστημάτων. Σκεφτείτε, για παράδειγμα, ένα σύνολο αστυνομικών ρομπότ με τεχνητή νοημοσύνη, τα οποία μπορεί να “δραστηριοποιηθούν” με απρόβλεπτους τρόπους μόλις αλληλεπιδράσουν με ανθρώπους. Αν συμβεί ένα ιδιαίτερα κακό αποτέλεσμα, οι κατασκευαστές των ρομπότ μπορεί να επικαλεστούν ότι οι ενέργειες των ρομπότ ήταν απρόβλεπτες. Αυτό χρησιμεύει ως τρόπος αποφυγής της ευθύνης, που δεν αφήνει κανέναν υπεύθυνο για τις επιβλαβείς “ενέργειες”.

Μια τέτοια στρατηγική εκτρέπει την ευθύνη από τους ιδιοκτήτες, τους δημιουργούς, τους χειριστές, τους πωλητές και όσους επωφελούνται αυτών των συστημάτων. Επιπλέον, τί σημαίνει η παραχώρηση δικαιωμάτων σε “γλωσσικά μοντέλα” που αναπαράγουν θεωρίες συνωμοσίας, ψέματα και κοινωνικά στερεότυπα· σε συστήματα που συλλέγουν μαζικά δεδομένα χωρίς την επίγνωση ή την συγκατάθεση των υποκειμένων των δεδομένων και αναπαράγουν μοντέλα που διαιωνίζουν επιβλαβή στερεότυπα· σε ρομπότ που θα μπορούσαν να αναλάβουν όλους τους ρόλους των drones και άλλων τεχνολογιών που τώρα υπερ-επιτηρούν περιθωριοποιημένες κοινότητες· σε αλγοριθμικά συστήματα που απειλούν την ιδιωτική ζωή· σε bots που διαδίδουν παραπληροφόρηση· και γενικότερα σε συστήματα AI που δημιουργούνται με ένα τεράστιο περιβαλλοντικό και εργατικό κόστος, τα οποία επηρεάζουν δυσανάλογα τα άτομα και τις περιθωριοποιημένες κοινότητες;

Μια κάπως διαφορετική μορφή υπεράσπισης για τα δικαιώματα των ρομπότ είναι ριζωμένη σε μια εκδοχή προβλεπτικών φιλοσοφιών και φουτουριστικών υποθέσεων. Το επιχείρημα είναι ότι η επιστήμη και η τεχνολογία προχωρούν αρκετά γρήγορα ώστε είναι σίγουρο πως, στη διάρκεια της ζωής μας, κάποιες μηχανές θα μιμηθούν τόσο πειστικά την ανθρώπινη δράση, την έκφραση και τα συμφέροντα ώστε οι άνθρωποι θα αισθάνονται υποχρεωμένοι να τις σέβονται σε κάποιο βαθμό. Αν τα ρομπότ παρουσιάζουν ένα σύνολο ανθρώπινων ιδιοτήτων, τότε δεν υπάρχει λόγος να τους αρνηθούμε δικαιώματα.

Η υπόθεση ότι οι μελλοντικοί δικαιούχοι των “δικαιωμάτων των ρομπότ” θα είναι πολύ πιο προηγμένες μηχανές από τις υπάρχουσες είναι η βασική επιχειρηματολογική μετακίνηση που υποτίθεται ότι καθιστά την συζήτηση για τα δικαιώματα των ρομπότ εύλογη. Ωστόσο, αυτή η υπόθεση κρύβει περισσότερα από όσα αποκαλύπτει, δεδομένου ότι προϋποθέτει ένα επίπεδο αυτονομίας και διακριτότητας της μηχανής που δεν έχει υπάρξει ποτέ στην ιστορία της αλληλεπίδρασης ανθρώπου-μηχανής και η οποία το πιθανότερο είναι να συμβεί στο πολύ μακρινό μέλλον (αν συμβεί ποτέ). Με αυτό εννοούμε ότι οι μηχανές δεν είναι ποτέ πλήρως αυτόνομες, αλλά είναι σε κάθε περίπτωση συστήματα ανθρώπου-μηχανής, που βασίζονται στην ανθρώπινη δύναμη και τους πόρους προκειμένου να λειτουργήσουν. Η αυτοματοποίηση και η ιδέα των αυτόματων, από την πρώιμη σύλληψή τους, βασίζονταν σε ένα έξυπνο τέχνασμα που έριχνε τους εργάτες στο παρασκήνιο και όσους εκτελούσαν κρίσιμες εργασίες για να λειτουργήσει μια μηχανή. Ερευνώντας την ιστορική γενεαλογία των μηχανικών υπολογισμών, η Daston (2017) τόνισε ότι η αυτοματοποίηση δεν ανακουφίζει από το διανοητικό βάρος, αλλά μετατοπίζει αυτό το βάρος σε άλλους ώμους (συχνά σε κακοπληρωμένες γυναίκες), ώστε να διατηρηθεί το φάντασμα της μηχανής. Επιπλέον, όπως αποδεικνύεται από τη σημαντική εργασία της Bainbridge (1983) για την αυτοματοποίηση αεροσκαφών, «όσο πιο προηγμένο είναι ένα σύστημα ελέγχου, τόσο πιο σημαντική είναι η συμβολή του ανθρώπου χειριστή». Η ιδέα της Bainbridge για τις “ειρωνείες της αυτοματοποίησης”, μπαίνει στην καρδιά της σκόπιμα κρυμμένης ανθρώπινης εργασίας σε μια προσπάθεια να απεικονίσει τις μηχανές ως αυτόνομες. Στην πραγματικότητα, όπως υποστηρίζει ο Baxter (2012) που έχει στηριχτεί στην Bainbridge, «όσο περισσότερο εξαρτώμαστε από την τεχνολογία και την ωθούμε στα όριά της, τόσο περισσότερο χρειαζόμαστε υψηλής εξειδίκευσης, καλά εκπαιδευμένους ανθρώπους για να κάνουν τα συστήματα ανθεκτικά, ενεργώντας ως η τελευταία γραμμή άμυνας ενάντια στις αστοχίες που αναπόφευκτα θα συμβούν». Σαράντα χρόνια αργότερα, το σημείο της Bainbridge παραμένει. Τα τρέχοντα υπερσύγχρονα συστήματα AI λειτουργούν στη ραχοκοκαλιά της εκμεταλλευόμενης και μη αμειβόμενης εργασίας που συχνά ανατίθεται σε χώρες χαμηλού προς μεσαίου εισοδήματος όπως η Κένυα (Perrigo, 2023). Η αποτελεσματική αυτοματοποίηση των διαδικασιών ελέγχου απαιτεί ανθρώπους σε διάφορα στάδια, καθώς τα σημερινά “αυτόνομα” συστήματα, όπως τα “αυτόνομα οχήματα”, εξακολουθούν να εξαρτώνται από την ανθρώπινη παρέμβαση και από την ενίσχυση της εκπαίδευσής τους από την ανθρώπινη ανατροφοδότηση. Η ανάγκη της ανθρώπινης παρέμβασης είναι απίθανο να εξαφανιστεί εντελώς αν και μπορεί να αλλάξει μορφή. Έτσι, η προσπάθεια εδραίωσης δικαιωμάτων σε μια συγκεκριμένη μηχανή, μέσα σε αυτό το σύστημα ανθρώπου-μηχανής-κοινωνίας, επισκιάζει τα πιο επείγοντα ζητήματα ηθικής, όπως το ποιοί κάνουν το κρίσιμο έργο, αν ο μισθός και οι συνθήκες εργασίας είναι δίκαιες και ασφαλείς γι' αυτούς και αν αυτή η κοινωνικο-τεχνική διαμόρφωση συνολικά συμβάλλει στην ανθρώπινη ευημερία.

Η φαινομενικά αυτόνομη τεχνητή νοημοσύνη δεν βασίζεται μόνο σε υψηλά αμειβόμενους, υψηλής ειδίκευσης μηχανικούς και επιστήμονες, αλλά βασίζεται επίσης σε κρίσιμο βαθμό και σε ένα χαμηλόμισθο, υποτιμημένο και λιγότερο ορατό εργατικό δυναμικό, που αναφέρεται με διάφορα ονόματα όπως “εργασία φάντασμα”, “μικροεργασία” ή “εργασία του πλήθους”. Από την επισήμανση εικόνων, τον εντοπισμό αντικειμένων σε εικόνες, τον σχολιασμό δεδομένων, μέχρι και την επεξεργασία περιεχομένου, τέτοιου είδους ανθρώπινο εργατικό δυναμικό βοηθάει την τεχνητή νοημοσύνη να ξεπεράσει τις εργασίες και δραστηριότητες που δεν μπορεί η ίδια να λύσει. Το έργο αυτό αποτελεί τη ραχοκοκαλιά της τρέχουσας ΑΙ, χωρίς την οποία θα σταματούσε να λειτουργεί. Ωστόσο, η εργασία σε πλατφόρμες όπως η Amazon MTurk, η Clickworker, η AppJobber και η CrowdTap είναι υποτιμημένη και συχνά δεν αναγνωρίζεται καν στην γραμμή εργασιών για την τεχνητή νοημοσύνη. Οι άνθρωποι που κάνουν τέτοιες εργασίες, στις περισσότερες περιπτώσεις δεν θεωρούνται επίσημα ως εργαζόμενοι, αλλά ως “ανεξάρτητοι συνεργάτες”, το οποίο προσθέτει περαιτέρω στις επισφαλείς συνθήκες εργασίας και διαβίωσης τους. Πράγματι, μια προσεκτική ματιά στις πραγματικές υλικές συνθήκες της AI αποκαλύπτει ότι η υπεράσπιση των δικαιωμάτων των ρομπότ είναι πολύ πιο κοντά στην υπεράσπιση των εταιρικών δικαιωμάτων ή των δικαιωμάτων του κεφάλαιου, ώστε να υποταχθούν περαιτέρω οι πλέον εκμεταλλευόμενοι, παρά πιο κοντά στα εργασιακά ή τα ανθρώπινα δικαιώματα, τα οποία στην πραγματικότητα κινδυνεύουν περισσότερο από ποτέ στον σημερινό καπιταλιστικό και εταιρικό κόσμο που καθοδηγείται από τη μεγιστοποίηση του κέρδους.

Η τελευταία στήλη δείχνει πόσες από τις φωτογραφίες που συλλέχθηκαν για την εκπαίδευση των μοντέλων συλλέχθηκαν με την συναίνεση του “ιδιοκτήτη”.

Επιπλέον, πέρα από την εκμεταλλευτική δομή της μικροεργασίας, τα δεδομένα εκπαίδευσης, τα οποία είναι θεμελιώδους σημασίας για τα συστήματα AI, συχνά πηγάζουν με αμφισβητήσιμους τρόπους, χωρίς αποζημίωση και χωρίς έλεγχο. Τα μοντέλα AI που βασίζονται σε τέτοια δεδομένα κληρονομούν κατ' ανάγκη τα προβλήματα των δεδομένων, κωδικοποιώντας και επιδεινώνοντας τα κοινωνικά και ιστορικά στερεότυπα. Η “επανάσταση της μηχανικής μάθησης” που άλλαξε ριζικά την ανίχνευση, την αναγνώριση, την ταυτοποίηση και την παραγωγή εικόνων για παράδειγμα, έγινε δυνατή μόνο μέσω της κλοπής δεδομένων, μέσω της συνεχούς συλλογής εικόνων από χρήστες που τις είχαν ανεβάσει σε διάφορες πλατφόρμες, και που όλες χρησιμοποιούνται χωρίς την συγκατάθεση ή την ενημέρωσή τους. Από τα μεγαλύτερα σύνολα δεδομένων που χρησιμοποιούνται σήμερα για την εκπαίδευση των μοντέλων μηχανικής όρασης, σχεδόν κανένα δεν προήλθε από δεδομένα μέσω συναίνεσης, όπως φαίνεται στον πίνακα 1 στην προηγούμενη σελίδα που έχει στοιχεία μέχρι και το 2021.

Παρά τους καλά τεκμηριωμένους προβληματισμούς των σημερινών και μελλοντικών ερευνητικών προγραμμάτων της ΑΙ, ορισμένοι υποστηρικτές των δικαιωμάτων των ρομπότ υποστηρίζουν ότι μια κοινωνική αναγνώριση των εξουσιών και της αξίας των μηχανών θα ήταν σκόπιμο για καθαρά ανθρωπιστικούς λόγους. Ένα άτομο που απαγορεύεται να κλωτσήσει ένα ρομπότ που μοιάζει με σκύλο, μας βεβαιώνουν, θα αποκτήσει αυτόματα και μια ηθική υποχρέωση να σεβαστεί οτιδήποτε άλλο, κι ας μην είναι φτιαγμένο από πυρίτιο. Αλλά το ηθικό δίδαγμα θα μπορούσε να είναι το ακριβώς αντίθετο: ότι αυτοί που βρίσκονται στην εξουσία είναι τόσο αφοσιωμένοι σε ορισμένα άψυχα αντικείμενα που τους έχουν παράσχει ένα διαφορετικό καθεστώς από αυτό στο οποίο βρίσκονται πολλά άτομα που δεν προστατεύονται επαρκώς από τις υπάρχουσες νομικές δομές.

Πράγματι, είναι μια σκληρή παρωδία της δικαιοσύνης να υποθέσουμε ότι μια πιθανή χορήγηση άδειας οδήγησης στο ρομπότ “Sophia” της Σαουδικής Αραβίας, θα προωθήσει κάποια μεταγενέστερη δράση για ισχυρότερα δικαιώματα σε όλες τις γυναίκες. Όπως επίσης και ότι τα “δικαιώματα” σε ρομπότ καθαρισμού στις ΗΠΑ θα βοηθούσαν τους εκατοντάδες χιλιάδες εργάτες-καθαριστές που υποφέρουν τώρα σε εκμεταλλευτικές συνθήκες εργασίας. Στην πραγματικότητα, μερικοί από αυτούς πιθανόν ήδη, χωρίς αποζημίωση και χωρίς καν να είναι ενήμεροι, παρέχουν δεδομένα εκπαίδευσης σε τέτοια ρομπότ. Δίνοντας σε ένα ρομπότ το “δικαίωμα να παρατηρεί” τα άτομα που προγραμματίζεται να αντικαταστήσει δεν έχει σχέση με την κοινωνική δικαιοσύνη· στην πραγματικότητα είναι το αντίθετο, ένα βραχυκύκλωμα των συζητήσεων σχετικά με τον έλεγχο και τον περιορισμό των δεδομένων.

Κατά συνέπεια, μια “σχολή σκέψης” τόσο εξαρτημένη από τη ρητορική της χειραφέτησης, όπως είναι η κοινότητα των δικαιωματιστών των ρομπότ, καταλήγει να επικεντρώνεται και να αναβαθμίζει την εξουσία και τα προνόμια του κεφαλαίου και των εταιρειών. Ωστόσο, αυτό το αποτέλεσμα δεν είναι αναπάντεχο. Οι πολυεθνικές εταιρείες έχουν μάθει καλά τον “κώδικα του κεφαλαίου”, ώστε να προωθήσουν τα συμφέροντά τους με πολλούς τρόπους. Οι διατάξεις για την επίλυση διαφορών μεταξύ επενδυτών και κράτους στις διμερείς επενδυτικές συμφωνίες για παράδειγμα, μπορούν να εγγυηθούν ότι οι πολυεθνικές θα έχουν επιστροφές χρημάτων με τρόπους που ακυρώνουν τις πολύ σημαντικές ρυθμίσεις για περιβαλλοντική και επαγγελματική ασφάλεια, όλα στη βάση του “δικαιώματός” τους να απολαμβάνουν τις αναμενόμενες αποδόσεις από τις επενδύσεις τους.

Η απόφαση Citizens United v. Federal Election Commission (2010) έδωσε στις εταιρείες “λευκή επιταγή” ώστε να προωθήσουν τις απόψεις τους και τους δικούς τους υποψήφιους στις εκλογές, παγιώνοντας περαιτέρω τις υπάρχουσες ανισότητες στην εξουσία. Ομοίως, η ρητορική των “δικαιωμάτων των ρομπότ” είναι ένα ακόμη μέσο για μια επιδέξια προώθηση των συμφερόντων του κεφαλαίου. Πράγματι, αφού τα ρομπότ τα ίδια είναι κεφάλαια, τα “δικαιώματα των ρομπότ” αντιστοιχούν στο είδος των “δικαιωμάτων του κεφαλαίου” που ονειρεύονται μόνο οι πιο φιλόδοξοι φιλελεύθεροι.

Το επιχείρημα “μηχανές σαν και εμάς”: Μπερδεύοντας τον χάρτη με το έδαφος

Αφού ασχοληθήκαμε με τα ζητήματα ορισμού και κάποιες σχετικές ακαδημαϊκές συζητήσεις, ας δούμε τον ισχυρισμό ότι τα μελλοντικά νοήμονα ρομπότ θα πρέπει να έχουν δικαιώματα. Το επιχείρημα είναι ότι εάν μπορούμε να κατασκευάσουμε μια μηχανή που να μοιάζει με άνθρωπο, δεν υπάρχει λόγος να μην της χορηγήσουμε δικαιώματα. Στη βάση αυτού του επιχειρήματος είναι ο οραματισμός ενός μέλλοντος όπου οι μηχανές μπορεί να είναι ενσυνείδητες, να αισθάνονται πόνο, και να έχουν επιθυμίες με συγκρίσιμο τρόπο με τον οποίο αντιλαμβανόμαστε εμείς τον εαυτό μας και τους άλλους. Αφού αναγνωρίζουμε βασικά δικαιώματα για τους νοήμονες και ενσυναίσθητους συνανθρώπους μας, πώς θα μπορούσαμε να αρνηθούμε τα ίδια δικαιώματα σε άλλα, νοήμοντα και ενσυναίσθητα, μη ανθρώπινα όντα; Μια τέτοια άρνηση θα ήταν ανήθικη, μια περίπτωση “σπισισμού”.

Τέτοια επιχειρήματα προωθούνται εξίσου από φιλοσόφους, επιστήμονες και τεχνολόγους. Στην ουσία του, το επιχείρημα βασίζεται στο να κάνουμε αναλογίες, ή ακόμα και να εξισώσουμε, τη φύση των ανθρώπων με τις ιδιότητες των ευφυών μηχανών, έτσι ώστε να μην έχει πλέον νόημα να κάνουμε μια ηθική διάκριση μεταξύ τους. Ο Richard Dawkins, για παράδειγμα, δικαιολογεί την ανάγκη να αναγνωρίσουμε την ηθική κατάσταση της τεχνητής νοημοσύνης ως εξής: «δεν υπάρχει τίποτα στον εγκέφαλό μας που δεν θα μπορούσε να αναπαραχθεί με την τεχνολογία. Δεν βλέπω κανένα λόγο γιατί στο μέλλον να μην φτάσουμε στο σημείο όπου ένα ρομπότ θα είναι ικανό να έχει συνείδηση και να αισθάνεται πόνο».

Αν και το επιχείρημα φαίνεται λογικό, πιστεύουμε ότι είναι σοβαρά ελαττωματικό με πολλούς τρόπους, όπου η βάση του επιχειρήματος (θα υπάρξουν ενσυνείδητες μηχανές) βασίζεται σε πολλές αμφισβητήσιμες υποθέσεις. Καταρχάς, η ιδέα ότι, αφού οι εγκέφαλοι είναι “φυσικά συστήματα” τότε είναι δυνατή η αναδημιουργία τους, είναι προβληματική στο ότι δανείζεται χρόνο, πόρους και τεχνολογικές εφευρέσεις από το μέλλον, οι οποίες δεν είναι καθόλου εγγυημένες. Στην πραγματικότητα θα μπορούσαμε να ισχυριστούμε ότι, δεδομένης της πολυπλοκότητας του εγκεφάλου, μπορεί να χρειαστεί τόσος χρόνος όσος η ίδια η εξέλιξη του ανθρώπινου είδους (ή και ακόμα περισσότερο) για να τον αναδημιουργήσουμε τεχνητά. Ή σε κάθε περίπτωση, δεν υπάρχει καμία ένδειξη ότι θα γίνει νωρίτερα. Αυτό καθιστά το αρχικό επιχείρημα, ακόμη και αν είναι έγκυρο, ανούσιο για κάθε λογικό ρεαλιστικό μελλοντικό σενάριο. Η συζήτηση για τα δικαιώματα των πλασμάτων που θα χρειαστούν μερικά δισεκατομμύρια χρόνια για να γίνουν πραγματικότητα, είναι τουλάχιστον πρόωρη. Δεν υπάρχει επίσης κανένας λόγος γιατί ολόκληρη η Γη δεν θα μπορούσε να αναπαραχθεί χρησιμοποιώντας στοιχεία που θα συγκεντρωθούν από το διάστημα· ωστόσο, λίγοι, αν υπάρχουν καν κάποιοι, σοβαροί στοχαστές υποστηρίζουν ότι μπορούμε να συζητήσουμε τις νομικές ή ηθικές επιπτώσεις μιας δεύτερης Γης, δεδομένων των αιώνων που θα χρειαζόταν για να την οικοδομήσουμε. Ωστόσο, για κάποιο λόγο η προοπτική της αντιγραφής του δικού μας εγκεφάλου φαίνεται τόσο ελκυστική ώστε τεράστιες χρηματοδοτήσεις έχουν επενδυθεί σε αυτές τις έρευνες. Αυτές οι μαζικές επενδύσεις σε τέτοιου είδους έρευνες, είναι ένα ηθικό πρόβλημα από μόνο του, ενώ οι αποτυχίες του Human Brain Project ήδη προειδοποιούν ενάντια σε απλοϊκές υποθέσεις σχετικά με τη μελλοντική αναπαραγωγή των ανθρώπων σε πυρίτιο.

Ο Ray Kurzweil θέτει μια φαινομενικά πιο λογική πρόκληση από τον Dawkins. Υποστηρίζει ότι «αν μια τεχνητή νοημοσύνη μπορεί να μας πείσει ότι βρίσκεται σε ανθρώπινο επίπεδο στις απαντήσεις της, και αν είμαστε πεπεισμένοι ότι βιώνει τις υποκειμενικές καταστάσεις που ισχυρίζεται, τότε θα δεχτούμε ότι είναι ικανή να βιώσει πόνο και χαρά. Σε αυτό το σημείο οι μηχανές θα απαιτήσουν δικαιώματα, και λόγω της ικανότητάς μας να συμπάσχουμε, θα έχουμε την τάση να τα χορηγούμε».

Ακριβώς όπως ο Turing χρησιμοποίησε αρχικά αυτό το επιχείρημα για να αποδείξει την ευφυΐα μιας οντότητας, έτσι και εδώ υποστηρίζεται ότι πρέπει να χορηγήσουμε δικαιώματα σε μια οντότητα, βάσει της ιδέας ότι έχουμε παραχωρήσει στους συνανθρώπους μας δικαιώματα επειδή δείχνουν το σωστό είδος συμπεριφοράς που τους κάνει να αξίζουν αυτά τα δικαιώματα. Πολλές από τις επικρίσεις στο αρχικό επιχείρημα του Turing θα μπορούσαν να εφαρμοστούν και εδώ. Το πιο σημαντικό όμως είναι ότι τα ανθρώπινα δικαιώματα δεν έχουν χορηγηθεί στους ανθρώπους επειδή μπορούν να αποδείξουν ότι είναι άνθρωποι. Έτσι, ακόμα και αν το επιχείρημα του Kurzweil μπορούσε να χρησιμοποιηθεί για τα ρομπότ, θα δημιουργούσε μια κατάσταση στην οποία οι άνθρωποι θα είχαν τα δικαιώματά τους για διαφορετικούς λόγους από τα ρομπότ, το οποίο από μόνο του θα ήταν ηθικά προβληματικό. Οι άνθρωποι έχουν δικαιώματα επειδή διαφορετικά θα καταπιέζονταν από άλλους ανθρώπους και το γεγονός ότι όλοι οι παράγοντες σε αυτήν την συνθήκη είναι άνθρωποι, είναι δεδομένο, όχι θέμα συζήτησης. Για κάθε ομάδα ανθρώπων που στο παρελθόν είχαν στερηθεί δικαιώματα (γυναίκες, υποδουλωμένοι άνθρωποι), θα ήταν προβληματικό να έπρεπε να ανταποκριθούν σε μια συγκεκριμένη συμπεριφορά προκειμένου να “μπουν στο κλαμπ”. Οι ομάδες ανθρώπων που έχουν κάποια στιγμή αποκτήσει δικαιώματα, τα έχουν αποκτήσει επειδή ήταν “άνθρωποι εξ’ αρχής”, και το γεγονός ότι δεν αναγνωρίζονταν ως τέτοιοι ήταν το πρόβλημα που έπρεπε να λυθεί. Για τα ρομπότ, το ζήτημα δεν είναι αν κάποια στιγμή θα ανακαλύψουμε ότι είναι άνθρωποι, αλλά ότι θα έπρεπε “να σχεδιαστούν σκόπιμα έτσι” ώστε να ανταποκρίνονται σε κάποια κριτήρια που θα είναι προϋποθέσεις για την απόκτηση δικαιωμάτων.

Σε τελική ανάλυση, αντί να συζητάει για την ανθρώπινη καταπίεση και πώς να την λύσει, το επιχείρημα του Kurtzweil μετακινεί όλη τη συζήτηση σε αυτόν τον αφηρημένο φιλοσοφικό χώρο όπου “η εξερεύνηση του τί είναι πραγματικά ένα ρομπότ” γίνεται η κεντρική προσέγγιση για την ανάλυση των ζητημάτων που διακυβεύονται. Εν τω μεταξύ, στο πρακτικό καθημερινό επίπεδο της ανθρώπινης αλληλεπίδρασης, γνωρίζουμε ότι απλά δεν υπάρχει κανένα ηθικό πρόβλημα αυτού του είδους όσον αφορά τα ρομπότ. Τα ρομπότ δεν είναι ότι καταπιέζονται ή στερούνται δικαιώματα, επειδή οι άνθρωποι δεν αναγνωρίζουν την “ανθρωπινότητά” τους. Αν συνέβαινε αυτό, δεν θα χορηγούσαμε δικαιώματα στα ρομπότ ως ρομπότ, αλλά θα αναγνωρίζαμε ότι είναι “άνθρωποι εξ’ αρχής”. Όλα αυτά όμως δεν έχουν νόημα, δεδομένου ότι, στον πραγματικό κόσμο (όχι στους αφηρημένους, μελλοντικούς οραματισμούς), τα ρομπότ δεν είναι τα είδη των όντων που είμαστε: είναι κομμάτια εξοπλισμού κατασκευασμένα από ανθρώπους.

Αυτό που συμβαίνει τόσο στα μηχανικά όσο και στα συμπεριφορικά επιχειρήματα είναι ότι οι θεωρητικοί αρχικά αφαιρούν στοιχεία του πραγματικού κόσμου προκειμένου να μπορούν μετά να εξισώσουν τα ανθρώπινα φαινόμενα της νοημοσύνης, του συναισθήματος και της κοινωνικότητας με ορισμένες λειτουργίες των μηχανών. Αυτή η θεωρητική μετακίνηση είναι στον πυρήνα της παραδοσιακής γνωστικής επιστήμης, η οποία στηρίζεται στην ιδέα ότι για να επιτύχουμε την επιστημονική κατανόηση της ανθρώπινης νοημοσύνης, μπορούμε να μοντελοποιήσουμε το φαινόμενο που μας ενδιαφέρει μέσω μιας μηχανής, και χρησιμοποιώντας αυτό το μοντέλο να επιτύχουμε την κατανόηση του φυσικού φαινομένου. Αλλά το να πιστέψουμε ότι το μοντέλο είναι μια πραγματική πτυχή του αρχικού φαινομένου, είναι επικίνδυνο.

Αυτή η μετακίνηση μπερδεύει τον χάρτη με το έδαφος. Σε όλη την ιστορία έχουμε συγκρίνει μεταφορικά τους εαυτούς μας με την πιο προηγμένη τεχνολογία της εποχής, όχι μόνο ως επιστημολογικό εργαλείο, αλλά και κάνοντας το λάθος να εισάγουμε τη μηχανική της τεχνολογίας σε οντολογικούς ισχυρισμούς. Ο Δανός ανατομιστής Nicolas Steno στα μέσα του 17ου αιώνα είδε τον εγκέφαλο ως μια συλλογή από κοιλότητες μέσω των οποίων τα πνεύματα των ζώων ρέουν. Έναν αιώνα αργότερα, όταν ο ηλεκτρισμός ήταν στη μόδα, ο εγκέφαλος θεωρήθηκε ως μια μπαταρία. (Και πάλι, ίσως η αναλογία της μπαταρίας να μπορούσε να βοηθήσει την διαδικασία του επιστήμονα, αλλά το να ισχυριστεί κανείς ότι, κατά κάποιο αφηρημένο τρόπο, ο εγκέφαλος είναι μια μπαταρία, θα παρανοούσε τον χάρτη με το έδαφος). Μέχρι τα μέσα του 19ου αιώνα, τα νεύρα συγκρίθηκαν με τα τηλεγραφικά καλώδια. Μετά τα μέσα του 20ου αιώνα, έχουμε φτάσει στο σημείο να σκεφτόμαστε τον εγκέφαλο ως υπολογιστή, ως μηχανή επεξεργασίας πληροφοριών. Κάνοντας αυτή την μετακίνηση, το ανθρώπινο μυαλό παρουσιάζεται πολύ πιο απλό από ό,τι είναι πραγματικά, και στον υπολογιστή αποδίδεται μεγαλύτερη ουσία από ό,τι πραγματικά αξίζει. Ή όπως το έθεσαν οι Baria και Cross: «στην ανθρώπινη διάνοια αποδίδεται λιγότερη πολυπλοκότητα από ό,τι έχει, και στον υπολογιστή περισσότερη σοφία από ό,τι πρέπει».

Οι μεταφορές είναι διάχυτες και δεν φαίνεται ότι θα τις καταργήσουμε γενικά, καθώς μπορούν να φωτίσουν την κατανόηση ενός πράγματος με τους όρους ενός άλλου. Αλλά οι μεταφορές μπορούν επίσης να κάνουν περισσότερο κακό παρά καλό όταν οι υποστηρικτές τους ξεχνούν ότι είναι, στην πραγματικότητα, μόνο μεταφορές. Συχνά το ξεχνάμε, μερικές φορές σκόπιμα, ειδικά όταν αυτή η λήθη βοηθάει στην προώθηση μιας μεγαλύτερης ιδεολογικής ατζέντας. Έτσι, ενώ μερικές φορές έχει νόημα οι επιστήμονες να χρησιμοποιούν τα φυσικά φαινόμενα ως καθοδηγητικές μεταφορές για το σχεδιασμό τεχνολογιών, δεν προκύπτει ότι οι τεχνολογίες που προκύπτουν αποτελούν έγκυρα επιστημονικά μοντέλα του αρχικού φυσικού φαινομένου.

Η παρανόηση του χάρτη με το έδαφος είναι ένα από τα πιο επίμονα προβλήματα στις συζητήσεις για την τεχνητή νοημοσύνη. Η περιορισμένη κατανόηση της πολύπλοκης φύσης της νοημοσύνης καθώς και οι υπεραισιόδοξες και υπερβολικά σίγουρες προβλέψεις για την AI, τόσο παλιές όσο και το ίδιο το πεδίο, υπονομεύουν την πραγματική πρόοδο της AI. Μερικές από τις παρανοήσεις που γίνονται είναι ότι “η ευφυΐα βρίσκεται όλη στον εγκέφαλο”, καθώς και η λανθασμένη χρήση των λέξεων σχετικά με τις λειτουργίες της τεχνητής νοημοσύνης και των ρομπότ, όπως “μάθηση”, “όραση”, “αίσθηση” και άλλες που περιγράφουν ανθρώπινες ιδιότητες.

Για το ηθικό ερώτημα ωστόσο, εδώ διακυβεύεται κάτι πιο λεπτό. Εάν τα μοντέλα υπολογιστών χρησιμοποιηθούν, όπως θα έπρεπε, ως οχήματα γνώσης, δηλαδή εργαλεία, για την κατανόηση του εγκεφάλου, δεν θα υπήρχε καν ηθικό θέμα, γιατί δεν θα εξετάζαμε ποτέ αν οι επιστημονικές μας μέθοδοι θα πρέπει να “έχουν δικαιώματα”. Είναι εργαλεία του μυαλού μας, όχι μυαλά από μόνα τους. Αλλά αν κάνουμε το λάθος εννοιολογικά (από οντολογική σκοπιά) να εξισώσουμε εμάς τους ίδιους με τα μηχανήματα που χρησιμοποιούμε για να κατανοήσουμε τον εαυτό μας, τότε μπορούμε να δούμε το ηθικό πρόβλημα που προκύπτει: επειδή θα έχουμε ορίσει τον εαυτό μας ως μια μηχανή, ξαφνικά θα πρέπει να συζητήσουμε αν πρέπει ή όχι να χορηγήσουμε δικαιώματα σε άλλες “μη-ανθρώπινες μηχανές”.

Με άλλα λόγια, η αντίληψη των ρομπότ ως “μηχανές σαν και εμάς” σημαίνει σιωπηρά ότι πρέπει να αντιληφθούμε πρώτα τον άνθρωπο με μηχανικούς όρους: ως περίπλοκες μηχανές βιολογικής επεξεργασίας πληροφοριών. Αν δούμε τους εαυτούς μας ως μηχανές, τότε αυτό σημαίνει ότι και οι μηχανές είναι κατά κάποιο τρόπο “σαν εμάς”. Αυτό το επιχείρημα, λέμε, ότι έρχεται από την παρανόηση του χάρτη με το έδαφος. Για παράδειγμα, επειδή δεν επιτρέπεται να περπατήσει κάποιος στο γρασίδι ενός πάρκου, αυτό δεν σημαίνει ότι πρέπει να εξετάσουμε αν επιτρέπεται να περπατήσει στο γρασίδι στο χάρτη του πάρκου, ακόμη και αν ο χάρτης αυτός είναι ένα υλικό πράγμα μέσα στο πάρκο. Μπορεί να αποφασίσουμε ότι δεν επιτρέπεται να περπατήσουμε στο χάρτη, αλλά οι λόγοι για αυτή την απόφαση δεν έχουν τίποτα κοινό με αυτούς για τους οποίους απαγορεύεται να περπατάμε στο πραγματικό γρασίδι. Ανάλογα, μπορούμε να συζητήσουμε για το αν επιτρέπεται σε κάποιον να προκαλέσει ζημιά σε ρομπότ (ίσως λόγω της απώλειας αξίας ή απλώς επειδή είναι ιδιοκτησία κάποιου άλλου), αλλά μια τέτοια συζήτηση δεν έχει τίποτα κοινό με τις συζητήσεις για το αν επιτρέπεται σε κάποιον να βλάψει άλλους ανθρώπους ή όχι. Δεν πρέπει να παρανοούμε τον χάρτη με το έδαφος, ακόμα και αν οι χάρτες είναι επίσης συγκεκριμένα αντικείμενα που υπάρχουν στο έδαφος. Η σαφήνεια στη γλώσσα είναι ένα σημαντικό βήμα προς την απομυθοποίηση του hype για την τεχνητή νοημοσύνη. Η Emily Tucker για παράδειγμα, προτείνει ότι η αντικατάσταση των παραπλανητικών όρων με μια ακριβή γλώσσα (πίνακας 2) θα επαναφέρει την εστίαση στον τρόπο με τον οποίο χρησιμοποιείται στην πράξη η AI.

Με αυτή την υπεράσπιση ενάντια της παρανόησης του χάρτη με το έδαφος, θέλαμε να κάνουμε την αυστηρή διάκριση μεταξύ των ανθρώπων (τα είδη των όντων που είμαστε) και των μηχανών τεχνητής νοημοσύνης (που είναι γνωσιακά μοντέλα, τα οποία εφαρμόζονται ως υλικά τεχνουργήματα και έχουν πραγματικές επιπτώσεις στις ανθρώπινες πρακτικές). Με αυτή την διάκριση, δεν θέλουμε να ορίσουμε το τί είναι ένας άνθρωπος, κάτω από ένα αντικειμενικό, υλιστικό και αφαιρετικό σχήμα, ώστε στη συνέχεια να ισχυριστούμε ότι οι μηχανές απλά δεν το “φτάνουν” ως μηχανικά ισοδύναμα. Σίγουρα πιστεύουμε ότι σήμερα οποιαδήποτε μηχανή δεν το “φτάνει”, αλλά το σημαντικότερο σημείο είναι ότι ισχυριζόμαστε ότι μια τέτοια σύγκριση δεν έχει νόημα για το ζήτημα των δικαιωμάτων των ρομπότ.

Μια εν-σωματωμένη ενακτιβιστική (μετα-Καρτεσιανή) οπτική για τη νόηση [2Στμ: “Embodied enactive (post-Cartesian) perspectives on cognition” στο πρωτότυπο. Ο “ενακτιβισμός” (enactivism) είναι μια φιλοσοφική θέση στις γνωσιακές επιστήμες που υποστηρίζει ότι «η νόηση προκύπτει μέσω μιας ενεργητικής αλληλεπίδρασης μεταξύ ενός δρώντος οργανισμού και του περιβάλλοντός του», η οποία αμφισβητεί (και) την θέση του δυϊσμού (και πιο συγκεκριμένα στο παρόν άρθρο της καρτεσιανής εκδοχής του δυϊσμού) η οποία κάνει διαχωρισμό μεταξύ νου και σώματος. Ο “εν-σωματωμένος ενακτιβισμός” (embodied enactivism) είναι μια υποκατηγορία, βάσει της οποίας ολόκληρο το σώμα, όχι μόνο ο εγκέφαλος, συμμετέχει στην εν λόγω αλληλεπίδραση.]

Συμπεράναμε προηγουμένως ότι δεν πρέπει να εξισώνουμε τα εργαλεία που κατασκευάζουμε για να κατανοήσουμε τον άνθρωπο με τον ίδιο τον άνθρωπο, ένα λάθος το οποίο πηγάζει από την έμμεση εξίσωση των ανθρώπινων χαρακτηριστικών με τις μηχανιστικές λειτουργίες των μοντέλων και στη συνέχεια την σύγκρισή τους σχετικά με τις συμπεριφορές τους. Πώς ορίζουμε εμείς λοιπόν το ανθρώπινο ον, αν αρνούμαστε να το ορίσουμε με μηχανιστικό τρόπο; Τα βασικά μας φιλοσοφικά σημεία εκκίνησης είναι η φαινομενολογία και ο ενακτιβισμός, που αντιλαμβάνονται τον άνθρωπο ως ον θεμελιωδώς “χωροθετημένο” και “συσχετιστικό” και που διέπεται από πολύπλοκες, ανοιχτές, αυτο-οργανωτικές, διαδραστικές διαδικασίες. Αυτές οι διαδικασίες δεν είναι άυλες, αλλά ταυτόχρονα ούτε μπορούν να περιοριστούν μόνο στην υλική κατάσταση των πραγμάτων που θα μπορούσαν να μηχανοποιηθούν. Στην εν-σωματωμένη ενακτιβιστική άποψη, οι άνθρωποι είναι πρώτα και κύρια έμβια όντα. Το ανθρώπινο ον βρίσκεται συνεχώς σε μια διαδικασία διατήρησης του εαυτού του, ενεργώντας στο περιβάλλον του, με τρόπο που έχει νόημα. Η νοημοσύνη δίνει το νόημα: συσχετιζόμαστε ενεργά με τον κόσμο γύρω μας και προσπαθούμε να διαμορφώσουμε ένα πάτημα στον κόσμο μέσω των πράξεών μας, όπως θεμελιώνεται στην αυτοσυντήρηση της ίδιας της ζωής. Μέσα από τη διαδικασία της αυτο-διάκρισης, τα ζωντανά σώματα δημιουργούν μια διάκριση μεταξύ των ίδιων και του περιβάλλοντός τους, όπου κανένα δεν υπήρχε πριν εμφανιστούν και κανένα δεν θα παραμείνει μετά την εξαφάνιση τους. Τα ζωντανά σώματα δεν είναι στατικοί οργανισμοί που παθητικά περιμένουν να επηρεαστούν από το περιβάλλον τους, όπως θεωρεί ένα μεγάλο μέρος της γνωσιακής παράδοσης. Τα ζωντανά σώματα είναι δυναμικά, δικτυωμένα και συσχετιστικά, με αξίες, ανησυχίες, διαθέσεις και ευαισθησίες. «Tα ζωντανά σώματα έχουν περισσότερα κοινά με τους τυφώνες παρά με τα αγάλματα» (Di Paolo, 2018). Αυτό ισχύει στο βιολογικό επίπεδο, αλλά επεκτείνεται και στα ψυχολογικά, διυποκειμενικά και κοινωνικο-πολιτιστικά επίπεδα. Τα ζωντανά σώματα γελούν, δαγκώνουν, τρώνε, χειρονομούν, αναπνέουν, γεννούν και αισθάνονται πόνο, θυμό, απογοήτευση και ευτυχία. Έχουν φυλετικά, πολιτικά και εμφανισιακά στοιχεία, καθώς και ποικίλες ικανότητες, θέσεις, προνόμια και εξουσίες. Αντιμετωπίζουν προκλήσεις, εντάσεις, προβλήματα και ευκαιρίες που περιορίζουν ή προωθούν τις πράξεις και συμπεριφορές τους. Δεν είναι σταθερά, κλειστά συστήματα. Είναι διαδικασίες με ένα συγκεκριμένο είδος αυτονομίας, η οποία δεν είναι πάντα σταθερή και δεν έχει σαφή όρια. «Η απόδοση νοήματος είναι πάντα σε εξέλιξη» (Di Paolo). Αυτό μας δίνει μια βάση για τα ανθρώπινα δικαιώματα: κάθε ανθρώπινο ον έχει το δικαίωμα να μπορεί να διατηρεί την αυτονομία του σε σχέση με το περιβάλλον του.

Και από αυτό προκύπτουν τα υπόλοιπα σχετικά ερωτήματα, όπως το πώς το δικαίωμα ενός ατόμου μπορεί να παρεμβαίνει στα δικαιώματα ενός άλλου κ.α. Περιγράφοντας την επισφαλή, κοινωνικά ενσωματωμένη και χωροθετημένη θέση του ανθρώπου, ο Weizenbaum (1976) έγραψε ότι «κανένας άλλος οργανισμός, και σίγουρα κανένας υπολογιστής, δεν μπορεί να αντιμετωπίσει τα ανθρώπινα προβλήματα με ανθρώπινους όρους». Δεν υπάρχει ούτε μια αναπαράσταση ή μοντέλο της νοημοσύνης ή του συναισθήματος που να είναι ακριβής, καθώς κάτι τέτοιο θα απαιτούσε τη σύλληψη της νοημοσύνης και των συναισθημάτων στο σύνολό τους. Το μεταφορικό τέχνασμα που αναφέρθηκε στο προηγούμενο μέρος μειώνει το σύνθετο, συσχετιστικό, διυποκειμενικό, ενσαρκωμένο, μη οριζόμενο, μη ολοκληρωμένο, ρευστό, ενεργό, και δυναμικό ον σε ένα σύνολο χαρακτηριστικών ή μια διαδικασία που θα μπορούσε να γίνει data και να μηχανοποιηθεί. Αλλά μια μηχανή είναι ένα τεχνούργημα που μπορεί να επιτευχθεί μόνο μόλις ολοκληρωθεί μια δεδομένη, πλήρως καθορισμένη διαδικασία και η ύπαρξή της στηρίζεται αποκλειστικά σε αυτό τον κλειστό και πλήρη ορισμό της, ενώ το ανθρώπινο ον στηρίζεται σε μια δυναμική, προσωρινά σταθερή αυτονομία και ταυτόχρονα δεν είναι ποτέ πλήρως προσδιορισμένο και πάντα ανοικτό. Αυτό που είναι ενδιαφέρον με τις μηχανές, είναι το πώς μεσολαβούν την ανθρώπινη αυτονομία, δεδομένου ότι οι τεχνολογίες μπορούν να ενσωματωθούν στις διαδραστικές, ενσώματες, αυτο-οργανωμένες διαδικασίες. Οι μηχανές θα μπορούσαν να χρησιμοποιηθούν από τους ανθρώπους για να ενισχύσουν τον εαυτό τους ή θα μπορούσαν να χρησιμοποιηθούν για να καταπιέζουν τους άλλους. Αυτό που είναι πολύ λιγότερο ενδιαφέρον για τις μηχανές, και στην πραγματικότητα αποσπά την προσοχή στις σχετικές συζητήσεις ηθικής για την τεχνητή νοημοσύνη, είναι εάν οι μηχανές θα γίνουν τόσο ίδιες με εμάς που θα πρέπει να έχουν δικαιώματα.

Μετανθρωπισμός [3Στμ: Θεωρούμε ότι ο οικολογικός μετανθρωπισμός του Latour, που φέρνουν οι συγγραφείς σε αντιδιαστολή με τον μετα-ανθρωπισμό του cyborg, είναι το ίδιο επικίνδυνος. Η άποψη ότι είμαστε μέρος ενός πολύπλοκου δικτύου αλληλοσυσχετίσεων και αλληλοεξαρτήσεων, αποτελούμενο από ανθρώπους και μη-ανθρώπους, μέσα στο οποίο όλα έχουν την ίδια αξία, δεν απέχει και πολύ από την εξίσωση των μηχανών με τους ανθρώπους - από πολιτική άποψη. Αυτή η θέση αποτελεί βάση της απόδοσης δικαιωμάτων σε βουνά και ποτάμια και, ενώ στις "ριζοσπαστικές" της μορφές θέλει να καταστρέψει την "μηχανή όπως έχει κατασκευαστεί σήμερα", στην ουσία προσπαθεί και αυτή να βρει μια "αρμονία" μαζί της. Τελικά στην πράξη, λειτουργεί το ίδιο αποπροσανατολιστικά με τον cyborg μετα-ανθρωπισμό, αναβαθμίζει έναν "δικαιωματισμό" ως το υπέρτατο ζητούμενο (από τους θεσμούς που δίνουν και αφαιρούν δικαιώματα) και θάβει το πραγματικό πεδίο ανταγωνισμού. Οι συγγραφείς, αν και δεν τον εστερνίζονται πλήρως, φαίνεται ότι τον βρίσκουν σε «αρμονία» με την εν-σωματωμένη ενακτιβιστική θέση τους, της οποίας η βασική διαφορά, όπως το αντιλαμβανόμαστε, είναι ότι αναγνωρίζουν στον άνθρωπο την ελευθερία βούλησης και την κεντρικότητα των ενέργειών του, άρα και των ευθύνων του, στο περιβάλλον.]

Εάν η ανθρώπινη ύπαρξη χαρακτηρίζεται ως ένα βαθιά χωροθετημένο και πολύπλοκο διαδραστικό φαινόμενο, και αν τα ανθρώπινα όντα ενσωματώνουν τμήματα του (τεχνολογικού) περιβάλλοντος στη ροή των αυτοσυντηρούμενων αλληλεπιδράσεών τους, αυτό μπορεί να θεωρηθεί ως επιχείρημα στη γραμμή του μετανθρωπισμού. Για να κάνουμε αυτή τη συζήτηση πρέπει να αναφέρουμε τις δύο εκδοχές του μετανθρωπισμού που διακρίνουμε. Ορίζουμε τον μετανθρωπισμό (posthumanism), χωρίς παύλα, ως την φιλοσοφική θέση, που βασίζεται σε στοχαστές όπως ο Bruno Latour, που προσπαθεί να εμπλουτίσει την κατανόηση της οντολογικής κατάστασης των ανθρώπων και των μη-ανθρώπων. O μετα-ανθρωπισμός (post-humanism) ή διανθρωπισμός (transhumanism), από την άλλη μεριά, υποστηρίζει ότι ο βιολογικός άνθρωπος είναι ανεπαρκής για να λύσει τα προβλήματά του. Ως εκ τούτου, θα πρέπει (ή αναπόφευκτα θα γίνει) να επαυξηθούμε μέσω της τεχνολογίας. Αυτή η επιταχυντιστική (accelerationist), διανθρωπιστική και αντι-ανθρωπιστική στάση θεωρεί τους ανθρώπους ασήμαντους και ξεπερασμένους. Συζητάμε αυτή τη θέση πρώτα.

Ο μετα-ανθρωπισμός ή διανθρωπισμός είναι πολύ συχνά στο κέντρο των επιχειρημάτων για τα δικαιώματα των ρομπότ. Για παράδειγμα, ο Nick Bostrom, ένας μεγάλος υποστηρικτής του τελεολογικού μετα-ανθρωπισμού, έχει υποστηρίξει ότι το να γίνει κάποιος μετα-άνθρωπος - ένα ον που θα ξεπεράσει τις ανθρώπινες ικανότητες μέσω της τεχνολογικής ενίσχυσης - θα πρέπει να είναι ο κεντρικός στόχος για ένα τεχνο-ουτοπικό μέλλον, πιο σημαντικός από την διάσωση ανθρώπινων ζωών σήμερα. Ο μετα-ανθρωπισμός διασταυρώνεται με άλλες παρόμοιες ιδεολογίες, όπως ο διανθρωπισμός και η ευγονική, προωθώντας ένα τεχνο-ουτοπικό μέλλον στο οποίο η ανθρώπινη αδυναμία, η ασθένεια και άλλοι περιορισμοί θα μπορούσαν να εξαλειφθούν μέσω της τεχνολογικής βελτίωσης, απηχώντας τους στόχους των ευγονικών κινημάτων του παρελθόντος. Μερικοί διανθρωπιστές πιστεύουν ότι δεν είναι μόνο η ανθρώπινη αλαζονεία, αλλά οι άνθρωποι ως τέτοιοι, που καταδικάζουν τον πλανήτη σε οικολογική κρίση. Από αυτή την άποψη, οι άνθρωποι, από την ίδια τους τη φύση, είναι πολύ εγωιστές, κοντόφθαλμοι ή εύθραυστοι για να αντιμετωπίσουν κρίσεις όπως η κλιματική αλλαγή, ή να υπομείνουν τις δυσκολίες, ας πούμε, των διαπλανητικών ταξιδιών. Και έτσι στο μέλλον θα προκύψει η τεχνητή αντικατάσταση των βιολογικών ανθρώπων από κάτι “καλύτερο”, πέρα από το “απλώς ανθρώπινο”. Αν το μυαλό μπορούσε να εισαχθεί σε μια ηλεκτρονική πλακέτα, για παράδειγμα, και στη συνέχεια να λειτουργήσει με ρομποτική, αυτό θα ήταν μια πολύ πιο ανθεκτική μορφή “εν-σωμάτωσης” για αυτούς τους μετα-ανθρωπιστές. Και αν θα μπορούσε να γίνει, τότε αυτά τα ηλεκτρονικά αντίγραφα ανθρώπων θα άξιζαν κάποια “δικαιώματα” κατά της καταστροφής τους, όπως αναφερόταν και στο cyberpunk μυθιστόρημα “Διαμορφωμένος άνθρακας” (Morgan, 2003). Αυτός ο συλλογισμός πιστεύουμε ότι είναι προβληματικός με πολλούς τρόπους. Παρουσιάζει μια παρανόηση της πραγματικής φύσης της μνήμης, του μυαλού και της ενσάρκωσης καθώς και των πραγματικών φυσικών πόρων (χρόνος, ενέργεια) που απαιτούνται για τη συντήρησή τους, όπως ήδη συζητήθηκε στα προηγούμενα μέρη.

Ενώ παρουσιάζεται ως μετα-ανθρώπινος, ο διανθρωπισμός στην πραγματικότητα επιδεικνύει την αλαζονεία του “μπεϊκονικού ανθρωπισμού” (στμ: “Baconian humanism”, από τον Francis Bacon) αναβαθμίζοντάς τον. Η φαντασία ενός τεχνολογικού αντιγράφου του ανθρώπου χρησιμοποιείται για να αποσπάσει πρώτα την προσοχή από την πραγματική αιτία της οικολογικής κρίσης: τις καταστροφικές επιπτώσεις της μηχανιστικής τεχνοκαπιταλιστικής επέκτασης, και στη συνέχεια καταλήγει με τον οραματισμό ενός φουτουριστικού τεχνολογικού Γκόλεμ που θα λύσει όλα τα προβλήματα. Ενώ αυτός ο υπεράνθρωπος είναι, φυσικά, μόνο μια μεταφορά για το επεκτεινόμενο τεχνολογικό κεφάλαιο που προκαλεί όλα τα προβλήματα εξ αρχής, η εικόνα του υπερανθρώπου χρησιμεύει ως αντιπερισπασμός από τις πραγματικές προκλήσεις για την ανθρώπινη πρόοδο, που προκαλούνται σε μεγάλο βαθμό από τον επιθετικό τεχνο-καπιταλισμό. Μια πραγματική ανθρώπινη μεταμόρφωση προς ένα καλύτερο μέλλον ίσως να περιλαμβάνει νέες τεχνολογίες, ωστόσο όχι ως αντικατάσταση (υπέρβαση) των ανθρώπων, αλλά μάλλον ως μέρος μιας πιο βιώσιμης, δίκαιης και οικολογικής ανθρώπινης πρακτικής.

Περιπτώσεις που έχουν δοθεί νομικά δικαιώματα σε στοιχεία της φύσης.

Πρέπει να είναι σαφές ότι δεν πιστεύουμε ότι ο μετα-ανθρωπισμός ως διανθρωπισμός είναι η απάντηση. Αν μη τι άλλο, αντιπροσωπεύει έναν τρόπο σκέψης που αποτελεί μέρος του προβλήματος. Μια άποψη που θα μπορούσε να προσφέρει μια πιο στοχαστική προοπτική είναι ένας μετανθρωπισμός που θέτει υπό αμφισβήτηση την αλαζονεία του “μπεϊκονικού ανθρωπισμού” και προωθεί πιο αρμονικές και δίκαιες σχέσεις μεταξύ των ανθρώπων και του κόσμου γενικότερα. Πιο πολύ σε μια αρμονία με την εν-σωματωμένη ενακτιβιστική προοπτική μας, τέτοιες οικολογικές μορφές μετανθρωπισμού συνηγορούν υπέρ μιας σεμνής, αξιοσέβαστης αυτο-εικόνας, στην οποία οι άνθρωποι δεν στέκονται έξω, πάνω ή ενάντια στον κόσμο, και η βασική κίνηση της ανθρώπινης δράσης δεν είναι να κυριαρχήσει στο περιβάλλον, πόσο μάλλον να “δαμάσει τη φύση στη θέλησή μας”, όπως ορίζουν οι αρχές του Διαφωτισμού. Αντιθέτως, οι ενέργειές μας θα πρέπει να σέβονται το γεγονός ότι μπορούμε να “είμαστε” μόνο επειδή είμαστε βαθιά ενσωματωμένοι σε περίπλοκα οικολογικά δίκτυα, και αν θέλουμε να διατηρήσουμε τη δική μας ύπαρξη, πρέπει να είμαστε σεβαστοί και διακριτικοί προς τα άλλα στοιχεία αυτών των δικτύων, και ευαίσθητοι στις περίπλοκες διακλαδώσεις μεταξύ τους. Από αυτή την άποψη, η ηθική και πολιτική θεωρία πρέπει να προχωρήσει πέρα από την αντίληψη της γης ως μια απλή “αποθήκη αποθεμάτων” που προορίζονται να εκπληρώσουν τις ανθρώπινες ανάγκες, ή μάλλον, θα πρέπει να αναγνωρίσουμε το γεγονός ότι οι ανάγκες άλλων όντων είναι έμμεσα ενσωματωμένες στις δικές μας: οι ανάγκες μου, είναι συνυφασμένες με τις ανάγκες σας, επειδή εξαρτώμαι από εσάς και αντίστροφα. Αν αυτά μεταφραστούν σε λόγο για τα δικαιώματα, αυτό θα εξισορροπούσε, για παράδειγμα, τα δικαιώματα των κυνηγών ενάντια στα δικαιώματα των ζώων· ή τα δικαιώματα των οδηγών εκτός δρόμου να κινούνται μέσω ενός εθνικού πάρκου ενάντια στα δικαιώματα των βράχων, του εδάφους, των φυτών και των ζώων του πάρκου. Στη βάση αυτών των γραμμών έχουν διαμορφωθεί νόμοι που δίνουν δικαιώματα σε ποταμούς, βουνά, νησιά.

Ορισμένοι από τους υπέρμαχους των δικαιωμάτων των ρομπότ όμως στηρίζονται σε αυτό το είδος του οικολογικού μετανθρωπισμού για να υποστηρίξουν τα δικαιώματα των ρομπότ. Περιλαμβάνουν τα ρομπότ στον κατάλογο των “μη-ανθρώπων” με τα οποία εμείς, οι άνθρωποι, διασυνδεόμαστε και πρέπει να λάβουμε υπόψη. Το επιχείρημα είναι: αν τα ζώα, τα ποτάμια και τα δέντρα είναι “μη άνθρωποι” που αξίζουν δικαιώματα, γιατί όχι ρομπότ; Δεν θα πρέπει να αποφύγουμε τον βιολογικό σωβινισμό με το να δώσουμε προνόμια στις “οντότητες από άνθρακα” και όχι σε εκείνες από πυρίτιο, πλαστικό και τσιμέντο;

Ωστόσο, αυτή η επιχειρηματολογία δεν στέκει. Δεν μπορεί κάποιος, αφενός, να στηρίζει τη μετα-ανθρώπινη γλώσσα σχετικά με μια “μη-ανθρώπινη” οντότητα και ταυτόχρονα να φέρνει, από την πίσω πόρτα, μια αντι-λατουριανή, καρτεσιανή εικόνα ενός ανθρώπινου μυαλού (δηλαδή ένα πρόσωπο με συναισθήματα, εμπειρίες, καθημερινή ζωή, ιστορία κλπ), να προβάλει αυτή την εικόνα σε ένα ρομπότ και στη συνέχεια να συζητάει για τα δικαιώματα αυτού του “τεχνητού ανθρώπου” στη βάση των συναισθημάτων, που στον πυρήνα τους είναι ανθρώπινα.

Θα μπορούσαμε να προχωρήσουμε με μια μετανθρώπινη σκέψη αν κατευθύνεται στην επανατοποθέτηση των ανθρώπων στο ευρύτερο πλαίσιο του πλανήτη Γη, δηλαδή, αναγνωρίζοντας τη θέση μας ως μια από τις πολλές μορφές ζωής που εξαρτώνται από την λεπτή ισορροπία του πολύπλοκου οικοσυστήματος. Από αυτή την μετριοπαθή άποψη, μπορεί πράγματι να είναι εύλογη η δημιουργία νόμων για την προστασία των ζώων, των ποταμών και των δέντρων ενάντια στις καταπιεστικές τάσεις των ανθρώπων, επειδή, στο τέλος, ακόμη και μόνο οι εγωκεντρικές τάσεις και η καπιταλιστική απληστία μας μπορεί τελικά να καταστρέψουν το ίδιο το οικοσύστημα που μας συντηρεί.

Το να αναγνωρίζουμε τις περίπλοκες και αλληλοεξαρτώμενες σχέσεις μεταξύ της ανθρώπινης ζωής και του περιβάλλοντος κόσμου, που αποτελείται από κάθε άλλη ζωή και τον πλανήτη συνολικά, δεν οδηγεί σε ένα επιχείρημα υπέρ των δικαιωμάτων των ρομπότ· το αντίθετο. Οι υποστηρικτές των δικαιωμάτων των ρομπότ δεν μπορούν να έχουν και τα δύο: είτε τα ρομπότ αξίζουν δικαιώματα επειδή είναι ιδιαίτερα σε αντίθεση με άλλες μορφές ύλης, όπως οι πέτρες και τα τραπέζια ή στη βάση ενός δικτυωμένου μετανθρώπινου οικολογικού οράματος, τα ρομπότ δεν είναι ιδιαίτερα, αλλά απλά ένα στοιχείο του μεγαλύτερου διασυνδεδεμένου οικοσυστήματος στα οποία τα ζωντανά και μη ζωντανά πράγματα αλληλοσχετίζονται και συντηρούνται μεταξύ τους. Στην πρώτη περίπτωση, οι υπερασπιστές των δικαιωμάτων των ρομπότ βασίζονται στην “ανθρωπινότητα” των ρομπότ, ότι δηλαδή τα ρομπότ αξίζουν δικαιώματα λόγω κάποιων ιδιαίτερων χαρακτηριστικών που έχουν ή πρόκειται να έχουν στο εγγύς μέλλον, αλλά αυτό το επιχείρημα δεν μπορεί να σταθεί στην μετανθρώπινη κοσμοθεωρία της δεύτερης περίπτωσης. Και στην δεύτερη περίπτωση το επιχείρημα δεν μπορεί να είναι ότι τα ρομπότ είναι “μη-άνθρωποι” που θα πρέπει να έχουν τα δικαιώματα που τους αρνήθηκαν στην πρώτη, “ουμανιστική”, περίπτωση, αφού και εδώ αντιλαμβάνονται τα ρομπότ έμμεσα ως “όντα με αισθήσεις”, “σαν τους ανθρώπους”, και επιθυμούν να τους παραχωρήσουν δικαιώματα σε αυτή την, ουμανιστική στην ουσία, βάση.

Εναλλακτικά, κάποιος μπορεί να υποστηρίξει πλήρως τη μετανθρώπινη θέση, πράγμα που σημαίνει την πλήρη απόρριψη όλων των κλασικών σύγχρονων, ουμανιστικών διακρίσεων μεταξύ υποκειμένου και αντικειμένου, και μεταξύ της υλιστικής επιστήμης και της κοινωνικοπολιτικής θεωρίας, όπως υποστηρίζει ο Latour (2007). Αλλά πριν ξεκινήσουμε καν να συζητάμε για το ηθικό ζήτημα των ρομπότ μέσα σε ένα τόσο ακραίο μετανθρώπινο παράδειγμα, θα πρέπει πρώτα να αναγνωρίσουμε ότι τα ρομπότ, όπως τα έχουμε επινοήσει, σχεδιάσει και κατασκευάσει μέχρι τώρα, είναι η ίδια η αντίθεση αυτής της κίνησης. Μέχρι τώρα, τα ρομπότ ήταν το προϊόν της ανθρώπινης τεχνολογικής κυριαρχίας πάνω στη γη, βασισμένα σε μια αποκομμένη ανθρώπινη νόηση που μας τοποθετεί έξω από τη “φύση” την οποία προσπαθεί να ελέγξει. Κατά τη μετανθρώπινη εικόνα, το ρομπότ, όπως το έχουμε σχεδιάσει, δεν είναι “άλλος ένας μη άνθρωπος” όπως τα ζώα, τα ποτάμια και τα δέντρα, που πρέπει να το αναγνωρίσουμε και ίσως να του χορηγήσουμε δικαιώματα. Δεν είναι “αυτοσκοπός” αλλά μόνο ένα “μέσο" [4Ο Latour (2007) εξετάζει τα σχεδόν-αντικείμενα και τους μη-ανθρώπους, όπου είναι σαφές ότι με τον όρο μη-άνθρωπος δεν εννοεί τη “φύση” (σε αντίθεση με τον άνθρωπο), αλλά επιθυμεί μάλλον να υπερβεί τη διχοτόμηση. Αναφέρει ότι όλα τα πράγματα, όχι μόνο οι άνθρωποι, δεν είναι ποτέ απλώς “μέσα” αλλά έχουν τους “δικούς τους σκοπούς” (αναφορικά με τον Καντ). Για παράδειγμα, για τον Latour, το ποτάμι είναι “αυτοσκοπός” με την έννοια ότι το ποτάμι “έχει τον δικό του δρόμο”. Κάποιος μπορεί να προσπαθήσει να φτιάξει ένα κανάλι από αυτό, αλλά οι μηχανικοί θα ανακαλύψουν ότι ο ποταμός θα δημιουργήσει διάβρωση, πλημμύρες ή άλλα προβλήματα, επειδή ο δρόμος του έχει εμποδιστεί. Δεν έχουμε αντίρρηση σε τίποτα από αυτά. Ωστόσο, είναι σημαντικό να τονιστεί ότι ο Latour δεν κάνει διάκριση μεταξύ των “ανθρώπινων τεχνολογιών” και άλλων πραγμάτων. Ο Latour, για παράδειγμα, δεν συζητά “τον δρόμο του καναλιού”. Είναι το κανάλι, αφού δημιουργηθεί από ανθρώπους μηχανικούς, επίσης ένα πράγμα που έχει έναν σκοπό από μόνο του, ακριβώς όπως το ποτάμι; Εμείς υποστηρίζουμε ότι δεν είναι. Πώς θα μπορούσε να είναι, από την στιγμή που είναι προϊόν ανθρώπινης μηχανικής και που αρνείται στον ποταμό την ίδια του την ύπαρξη; Πρέπει τώρα να συζητήσουμε για το ποτάμι και το κανάλι και αν θα πρέπει να δώσουμε και στα δύο “τον χώρο τους”; Αυτή είναι η αναλογία με τα δικαιώματα των ρομπότ, όταν κάποιος ακολουθεί αυτή τη γραμμή επιχειρημάτων. Τα ρομπότ δεν είναι ποτάμια, είναι κανάλια. Και ενώ θα μπορούσαμε να συζητήσουμε τις περίπλοκες οικολογικές μας σχέσεις με τα ποτάμια, είναι προβληματικό να αντιμετωπίζουμε τα κανάλια ή τα ρομπότ με τον ίδιο τρόπο, ακριβώς επειδή τα κανάλια και τα ρομπότ αντιπροσωπεύουν τη μοντερνιστική προοπτική εναντίον της οποία επιχειρηματολογεί ο Latour.]. Αντιτίθεται στην ιδέα μιας μετανθρώπινης κατάστασης στην οποία οι μη-άνθρωποι έχουν εγγενή αξία. Άρα, αυτό που πρέπει να κάνουμε είναι να το περιορίσουμε αυστηρά προκειμένου να απελευθερωθούμε από τον παραδοσιακό ανθρωπισμό και τον εξουσιασμό, αναζητώντας έναν καλύτερο τρόπο να συσχετιστούμε με τον πλανήτη γενικότερα. Έτσι, το ρομπότ είναι ο φυσικός εκπρόσωπος, το απόλυτο παράδειγμα, της αντι-μετανθρωπικής, μοντερνιστικής σκέψης και άρα, αν θέλαμε πραγματικά να ενστερνιστούμε πλήρως τον μετανθρωπισμό με μια λατουριανή έννοια, θα πρέπει πρώτα να απαλλαγούμε από αυτό. Αν ενστερνιστούμε τον μετανθρωπισμό, το ρομπότ θα εξαφανιστεί εντελώς και το ανθρώπινο ον στην παραδοσιακή ουμανιστική του εικόνα θα διαλυθεί μαζί του. Αυτό που θα προκύψει αντ' αυτού είναι σύνθετοι συσχετισμοί διασυνδεδεμένων βιο-σοσιολογικο-τεχνικών εξαρτήσεων, οι οποίοι δεν θα μπορούν να κατανοηθούν πλήρως και επομένως ούτε να κατασκευαστούν με μια πεπερασμένη έννοια (Latour, 2007).

Ενώ η μετανθρώπινη σκέψη μπορεί να βοηθήσει στην ανάπτυξη νέων πρακτικών για τη σχέση μας με τον κόσμο και για την κατανόηση του εαυτού μας ως άνθρωπο που είναι “μπλεγμένος” στον κόσμο, σε καμία περίπτωση δεν συνεπάγεται δικαιώματα για τα ρομπότ. Στην καλύτερη περίπτωση, τα ρομπότ μπορεί να συμπεριληφθούν στη συζήτηση για τα δικαιώματα που έχουν να κάνουν με τις αλληλεξαρτώμενες σχέσεις. Ο Coeckelbergh είχε δηλώσει σχετικά ότι: «θα μπορούσαμε να φτάσουμε σε μορφές ηθικής εκτίμησης που θα είναι λιγότερο ισχυρές από τα δικαιώματα, αλλά θα εξακολουθούσαν να συνεπάγονται κάποιες υποχρεώσεις απέναντι στα ρομπότ στο πλαίσιο συγκεκριμένων σχέσεων ανθρώπου-ρομπότ». Αυτός ο ισχυρισμός όμως κρύβει περισσότερα από όσα αποκαλύπτει. Οι ηθικές υποχρεώσεις απέναντι στα ρομπότ, σε οποιοδήποτε πρακτικό σενάριο θα μπορούσαμε να θεωρήσουμε ουσιαστικό, δεν αφορούν το ρομπότ, αλλά μάλλον την διατήρηση των σχεσιακών δικτύων μεταξύ ανθρώπων και περιβάλλοντος. Για παράδειγμα, αν ένα άτομο εξαρτάται για τη διατήρηση της δικής του ύπαρξης από ένα ρομπότ, μπορεί να είναι μια περίπτωση ηθικής αδικίας να καταστραφεί αυτό το ρομπότ. Αλλά αυτή η ηθική εξέταση αφορά τη διατήρηση της ακεραιότητας των σχεσιακών δικτύων στα οποία το ρομπότ είναι μόνο ένα στοιχείο (μέσο). Το μεγαλύτερο τέτοιο δίκτυο θα αφορούσε την ακεραιότητα του πλανήτη γενικότερα. Αλλά αυτή ήταν η αντίληψή μας για την ανθρώπινη ύπαρξη εξ’ αρχής: η ανθρώπινη ύπαρξη είναι μια βαθιά χωροθετημένη και δια-σχεσιακή δραστηριότητα, η οποία συντηρεί τον εαυτό της εν κινήσει. Υπό αυτή την προοπτική τα ίδια ηθικά ζητήματα ισχύουν για όλα πράγματα. Κάποιος μπορεί να εξαρτάται από ένα ρομπότ, αλλά και από ένα προσθετικό πόδι, ένα αναπηρικό καροτσάκι, έναν βηματοδότη, ένα εργονομικό τραπέζι, ρούχα, βιβλία ή γυαλιά. Στην μετανθρώπινη άποψη δεν υπάρχει τίποτα ιδιαίτερο στην “ρομποτοσύνη” των ρομπότ που θα αποτελούσε επιχείρημα για τα δικαιώματά τους. Αντίθετα, ο μετανθρωπισμός, κατά την άποψή μας, επεκτείνει κυρίως τις τρέχουσες συζητήσεις για τα ανθρώπινα δικαιώματα, αναγνωρίζοντας ότι η ανθρώπινη ύπαρξη είναι εξαρτημένη από τα περίπλοκα περιβαλλοντικά δίκτυα των οποίων είμαστε μέρος.

Επίσης, κάτι πιο χειροπιαστό, οι υποστηρικτές των δικαιωμάτων των ρομπότ δεν έχουν ακόμη αντιμετωπίσει τις τεράστιες περιβαλλοντικές ζημιές που προκαλούνται από τα σημερινά ρομπότ και την τεχνητή νοημοσύνη. Η AI δεν είναι απλώς αφηρημένοι αλγόριθμοι αλλά περιλαμβάνει μια ευρύτερη κοινωνική, πολιτική, πολιτιστική και περιβαλλοντική υποδομή. Όπως υποστήριξε η Crawford (2021), από τους “έξυπνους” προσωπικούς βοηθούς όπως η Siri μέχρι τα κινητά, τους υπολογιστές και τα “αυτο-οδηγούμενα” αυτοκίνητα, η AI δεν μπορεί να λειτουργήσει χωρίς υλικά που εξάγονται από τη γη. «Το σύστημα AI, από τα καλώδια και τις κεραίες δικτύου μέχρι τις μπαταρίες και τα datacenter, κατασκευάζεται χρησιμοποιώντας στοιχεία που απαιτούν δισεκατομμύρια χρόνια για να σχηματιστούν μέσα στη γη». Η Crawford απαριθμεί 17 σπάνιες γαίες, συμπεριλαμβανομένων του λανθανίου, του δημητρίου και του πρασεοδύμιου, τα οποία κάνουν τις συσκευές μας μικρότερες, ελαφρύτερες και πιο αποτελεσματικές. Αλλά η εξόρυξη, η επεξεργασία, η ανάμειξη, η τήξη και η μεταφορά αυτών των στοιχείων και ορυκτών επιφέρει τεράστιο κόστος, περιβαλλοντική καταστροφή, τοπική και γεωπολιτική βία και ανθρώπινο πόνο. Για παράδειγμα, το μισό της συνολικής κατανάλωσης ιόντων λιθίου του πλανήτη, ένα κρίσιμο στοιχείο για τις μπαταρίες των ηλεκτρικών αυτοκινήτων, καταναλώνεται μόνο από την Tesla. Επιπλέον, μεταξύ του 2010 και του 2018 μόνο, ο υπολογιστικός φόρτος εργασίας που απαιτείται για τα datacenter αυξήθηκε σχεδόν κατά 550%. Το 2014, χρησιμοποιήθηκαν συνολικά 626 δισεκατομμύρια λίτρα νερού για την παραγωγή ενέργειας και για την ψύξη των datacenter στις ΗΠΑ.

Έτσι, η υπεράσπιση για τα δικαιώματα των ρομπότ που παρουσιάζεται ως μια προέκταση της περιβαλλοντικής σκέψης είναι τουλάχιστον ενοχλητική, δεδομένου ότι «αν επισκεφτούμε τις τοποθεσίες εξόρυξης ορυκτών για τα υπολογιστικά συστήματα, θα βρούμε τις καταπιεσμένες ιστορίες των μολυσμένων ποταμών, των ξεριζωμένων τοπίων και την εξαφάνιση των φυτικών και ζωικών ειδών που κάποτε ήταν ζωτικής σημασίας για την τοπική οικολογία. Η τεχνητή νοημοσύνη μπορεί να γίνει αισθητή στην ατμόσφαιρα, τους ωκεανούς, τον φλοιό της γης, τον βαθύ χρόνο του πλανήτη» (Crawford, 2021). Αν και το μέγεθος της κατανάλωσης ενέργειας από μοντέλα AI είναι ένα στενά φυλασσόμενο μυστικό, οι Belkhir και Elmeligi (2018) εκτιμούν ότι ο τομέας της τεχνολογίας θα συνεισφέρει το 14% των παγκόσμιων εκπομπών αερίων του θερμοκηπίου μέχρι το 2040. H Emily Bender τόνισε περαιτέρω το πόσο ενεργοβόρα είναι η AI: «Η εκπαίδευση ενός γλωσσικού μοντέλου τύπου BERT (χωρίς προχωρημένες ρυθμίσεις) εκτιμάται ότι απαιτεί τόση ενέργεια όσο μια δια-αμερικανική πτήση». Παρομοίως, o Jesse Dodge διαπίστωσε ότι η εκπαίδευση ενός γλωσσικού μοντέλου «εκπέμπει περισσότερο CO2 από όλες μαζί τις εκπομπές ενός μέσου αμερικάνικου νοικοκυριού για ένα έτος (που περιλαμβάνει εκπομπές από την παραγωγή ηλεκτρικής ενέργειας, το φυσικό αέριο, το πετρέλαιο, συνολικά 8,3 μετρικούς τόνους CO2 ετησίως)». Δεδομένης αυτής της αυξανόμενης υλικής και περιβαλλοντικής επιβάρυνσης που επηρεάζει το κλίμα και το οικοσύστημα, υποστηρίζουμε ότι η τοποθέτηση της AI στην ίδια κατηγορία με το περιβάλλον υπό τον ορισμό των “μη ανθρώπινων” οντοτήτων, είναι ένα σοβαρό λάθος, παρόμοιο με την τοποθέτηση του Donald Trump στην ίδια κατηγορία με έναν ελευθεριακό αγωνιστή, επειδή και οι δύο “πολέμησαν την λογοκρισία”...

Μετάφραση, απόδοση
Wintermute

Σημειώσεις

1 - Debunking robot rights metaphysically, ethically, and legally, First Monday - 1 April 2024
[ επιστροφή ]

2 - Στμ: “Embodied enactive (post-Cartesian) perspectives on cognition” στο πρωτότυπο. Ο “ενακτιβισμός” (enactivism) είναι μια φιλοσοφική θέση στις γνωσιακές επιστήμες που υποστηρίζει ότι «η νόηση προκύπτει μέσω μιας ενεργητικής αλληλεπίδρασης μεταξύ ενός δρώντος οργανισμού και του περιβάλλοντός του», η οποία αμφισβητεί (και) την θέση του δυϊσμού (και πιο συγκεκριμένα στο παρόν άρθρο της καρτεσιανής εκδοχής του δυϊσμού) η οποία κάνει διαχωρισμό μεταξύ νου και σώματος. Ο “εν-σωματωμένος ενακτιβισμός” (embodied enactivism) είναι μια υποκατηγορία, βάσει της οποίας ολόκληρο το σώμα, όχι μόνο ο εγκέφαλος, συμμετέχει στην εν λόγω αλληλεπίδραση.
[ επιστροφή ]

3 - Στμ: Θεωρούμε ότι ο οικολογικός μετανθρωπισμός του Latour, που φέρνουν οι συγγραφείς σε αντιδιαστολή με τον μετα-ανθρωπισμό του cyborg, είναι το ίδιο επικίνδυνος. Η άποψη ότι είμαστε μέρος ενός πολύπλοκου δικτύου αλληλοσυσχετίσεων και αλληλοεξαρτήσεων, αποτελούμενο από ανθρώπους και μη-ανθρώπους, μέσα στο οποίο όλα έχουν την ίδια αξία, δεν απέχει και πολύ από την εξίσωση των μηχανών με τους ανθρώπους - από πολιτική άποψη. Αυτή η θέση αποτελεί βάση της απόδοσης δικαιωμάτων σε βουνά και ποτάμια και, ενώ στις "ριζοσπαστικές" της μορφές θέλει να καταστρέψει την "μηχανή όπως έχει κατασκευαστεί σήμερα", στην ουσία προσπαθεί και αυτή να βρει μια "αρμονία" μαζί της. Τελικά στην πράξη, λειτουργεί το ίδιο αποπροσανατολιστικά με τον cyborg μετα-ανθρωπισμό, αναβαθμίζει έναν "δικαιωματισμό" ως το υπέρτατο ζητούμενο (από τους θεσμούς που δίνουν και αφαιρούν δικαιώματα) και θάβει το πραγματικό πεδίο ανταγωνισμού. Οι συγγραφείς, αν και δεν τον εστερνίζονται πλήρως, φαίνεται ότι τον βρίσκουν σε «αρμονία» με την εν-σωματωμένη ενακτιβιστική θέση τους, της οποίας η βασική διαφορά, όπως το αντιλαμβανόμαστε, είναι ότι αναγνωρίζουν στον άνθρωπο την ελευθερία βούλησης και την κεντρικότητα των ενέργειών του, άρα και των ευθύνων του, στο περιβάλλον.
[ επιστροφή ]

4 - Ο Latour (2007) εξετάζει τα σχεδόν-αντικείμενα και τους μη-ανθρώπους, όπου είναι σαφές ότι με τον όρο μη-άνθρωπος δεν εννοεί τη “φύση” (σε αντίθεση με τον άνθρωπο), αλλά επιθυμεί μάλλον να υπερβεί τη διχοτόμηση. Αναφέρει ότι όλα τα πράγματα, όχι μόνο οι άνθρωποι, δεν είναι ποτέ απλώς “μέσα” αλλά έχουν τους “δικούς τους σκοπούς” (αναφορικά με τον Καντ). Για παράδειγμα, για τον Latour, το ποτάμι είναι “αυτοσκοπός” με την έννοια ότι το ποτάμι “έχει τον δικό του δρόμο”. Κάποιος μπορεί να προσπαθήσει να φτιάξει ένα κανάλι από αυτό, αλλά οι μηχανικοί θα ανακαλύψουν ότι ο ποταμός θα δημιουργήσει διάβρωση, πλημμύρες ή άλλα προβλήματα, επειδή ο δρόμος του έχει εμποδιστεί. Δεν έχουμε αντίρρηση σε τίποτα από αυτά. Ωστόσο, είναι σημαντικό να τονιστεί ότι ο Latour δεν κάνει διάκριση μεταξύ των “ανθρώπινων τεχνολογιών” και άλλων πραγμάτων. Ο Latour, για παράδειγμα, δεν συζητά “τον δρόμο του καναλιού”. Είναι το κανάλι, αφού δημιουργηθεί από ανθρώπους μηχανικούς, επίσης ένα πράγμα που έχει έναν σκοπό από μόνο του, ακριβώς όπως το ποτάμι; Εμείς υποστηρίζουμε ότι δεν είναι. Πώς θα μπορούσε να είναι, από την στιγμή που είναι προϊόν ανθρώπινης μηχανικής και που αρνείται στον ποταμό την ίδια του την ύπαρξη; Πρέπει τώρα να συζητήσουμε για το ποτάμι και το κανάλι και αν θα πρέπει να δώσουμε και στα δύο “τον χώρο τους”; Αυτή είναι η αναλογία με τα δικαιώματα των ρομπότ, όταν κάποιος ακολουθεί αυτή τη γραμμή επιχειρημάτων. Τα ρομπότ δεν είναι ποτάμια, είναι κανάλια. Και ενώ θα μπορούσαμε να συζητήσουμε τις περίπλοκες οικολογικές μας σχέσεις με τα ποτάμια, είναι προβληματικό να αντιμετωπίζουμε τα κανάλια ή τα ρομπότ με τον ίδιο τρόπο, ακριβώς επειδή τα κανάλια και τα ρομπότ αντιπροσωπεύουν τη μοντερνιστική προοπτική εναντίον της οποία επιχειρηματολογεί ο Latour.
[ επιστροφή ]