#27 - 06/2023

μια συζήτηση περί τεχνητής νοημοσύνης
(κάπου μακριά...)

Το κείμενο που ακολουθεί αποτελεί μεταγραφή μιας συζήτησης που έγινε μεταξύ ορισμένων ακαδημαϊκών σε κάποια μακρινή χώρα με αφορμή την εμφάνιση του ChatGPT πριν μερικούς μήνες. Ακολουθεί πρώτα το κείμενο, χωρίς άλλα δικά μας σχόλια. Στο τέλος, παραθέτουμε έναν μικρό σχολιασμό από την πλευρά μας και κάνουμε και τα αποκαλυπτήρια – προτείνουμε, ωστόσο, να μην κρυφοκοιτάξετε στο τέλος για να μάθετε λεπτομέρειες· καλύτερα να διαβάσετε πρώτα το κείμενο της συζήτησης.

X.J.: Σήμερα θα μιλήσουμε για το ChatGPT και την τεχνητή νοημοσύνη από την οπτική της τεχνολογίας, της ανθρώπινης φύσης και της ηθικής. Βλέπουμε τις τελευταίες εβδομάδες να μιλάνε διάφοροι ειδικοί από τη δική τους τεχνική οπτική για το ChatGPT, όμως νομίζω ότι η ανακάλυψη του ChatGPT δεν συνιστά απλώς ένα τεχνολογικό φαινόμενο, αλλά και ένα πολιτισμικό και συνδέεται στενά τόσο με την κοινωνία και την οικονομία όσο και με την πολιτική. Για αυτόν τον λόγο ίσως θα έπρεπε να σκεφτούμε τις επιπτώσεις που θα έχει αυτή η επαναστατική τομή στην τεχνητή νοημοσύνη πάνω στην ανθρωπότητα και στα άτομα από μια ευρύτερη οπτική. Θα ήθελα να ξεκινήσω ζητώντας από τον X. να μας πει τι είναι αυτή η τεχνολογία.

Z.X.: Το OpenAI έθεσε πρόσφατα σε κυκλοφορία μια σειρά παρόμοιων προϊόντων, μεταξύ των οποίων και το ChatGPT. Κάποια από αυτά έχουν καλύτερη απόδοση ακόμα και από το ChatGPT από κάποιες απόψεις. Θα ήθελα να χρησιμοποιήσω το ChatGPT ως αφορμή για να μιλήσω λίγο για το νόημα αυτών των πρόσφατων τεχνολογιών ΤΝ (τεχνητής νοημοσύνης) και για τον ρόλο που πρόκειται ίσως να παίξουν.

Όπως ίσως θυμούνται πολλοί, πριν μερικά χρόνια το AlphaGo κέρδισε τους κορυφαίους παίκτες στο Go τον έναν μετά τον άλλο. Το AlphaGo είχε ήδη ξεπεράσει εκείνη την εποχή διάφορα άλλα προγράμματα που μπορούσαν να παράγουν αποτελέσματα μόνο με βάση τους αλγορίθμους των προγραμματιστών τους. Αντίθετα, το AlphGo είχε τη δυνατότητα να μαθαίνει και να εξελίσσεται αφού πρώτα είχε κατανοήσει τους βασικούς κανόνες του Go. Η βαθιά μάθηση σήμερα βασίζεται γενικά στην αναγνώριση εικόνων, η οποία χρησιμοποιείται σε διάφορες εργασίες. Δεν έχει απλά την ικανότητα να αναγνωρίζει και να μαθαίνει μοτίβα, αλλά μπορεί επιπλέον να παράγει νέο περιεχόμενο, δίνοντάς μας έτσι την εντύπωση ότι έχει τη δυνατότητα δημιουργίας.

Όσον αφορά στην ικανότητά του να διεξάγει μια συνομιλία, το ChatGPT συνιστά ένα ποιοτικό άλμα σε σχέση με τα chatbot του παρελθόντος. Παρόλο που δεν έχει γίνει γνωστός ο βασικός του αλγόριθμος, μπορούμε να κάνουμε κάποιες υποθέσεις. Για παράδειγμα, το αρκτικόλεξο GPT περιέχει το G για το generative (παραγωγικό) και το P για το pre-trained (προ-εκπαιδευμένο). Το ChatGPT δεν είναι σχεδιασμένο όπως τα chatbot με σκοπό να παράγει απαντήσεις σε πραγματικό χρόνο, αλλά διαθέτει ένα τεράστιο μοντέλο, με βάση το οποίο προσπαθεί επανειλημμένως να λύσει το όποιο πρόβλημα τού τίθεται. Τέλος, το T σημαίνει transformer (μετασχηματιστής) ο οποίος παράγει γλώσσα σχεδόν ανθρώπινου επιπέδου μέσα από πολλαπλά επίπεδα μετασχηματισμών.

Μια κατά προσέγγιση επεξήγηση της πρώιμης εκδοχής του αλγορίθμου είναι η εξής: ξεκινάει με ένα γράμμα, με βάση αυτό προβλέπει το επόμενο, μετά προβλέπει μια ολόκληρη λέξη και μετά μια πρόταση. Βλέπουμε επομένως ότι το ChatGPT δεν μαθαίνει να μιλάει με τον τρόπο των ανθρώπων, αλλά προσπαθεί να τους μιμηθεί όσο το δυνατό καλύτερα. Ακόμα κι αν μιλάει σαν ένας άνθρωπος, δεν σκέφτεται όπως ένας άνθρωπος.

Datafarm - ότι κι αν σημαίνει αυτό...

X.J.: Ευχαριστούμε, Χ., για την εισαγωγή. Τώρα ας δούμε το θέμα των αισθημάτων και ας μιλήσουμε για την εμπειρία των χρηστών.

J.W.: Ο Χ. είπε κάτι πολύ σημαντικό πριν λίγο. Το ChatGPT φαίνεται να μιλάει όπως ένας άνθρωπος, αλλά σκέφτεται με έναν εντελώς διαφορετικό τρόπο. Αν, επομένως, οι άνθρωποι και το ChatGPT σκέφτονται τόσο διαφορετικά, είναι δυνατό να μιλάνε στο ίδιο μήκος κύματος;

Η φυσική ανθρώπινη γλώσσα είναι ένα είδος συμβολικού συστήματος που έχει εξελιχτεί κατά τη διάρκεια μιας μακράς περιόδου, μέσω των ανθρώπινων ανταλλαγών και της αλληλοκατανόησης, διαθέτοντας μια κάποια αυθαίρετη ποιότητα. Ακόμα και όταν μιλάνε οι άνθρωποι, τα αισθήματα και οι ιδέες που θέλουν να εκφράσουν ποτέ δεν βρίσκονται σε μια άμεση σύνδεση με τη γλώσσα. Ούτε είναι η ανθρώπινη γλώσσα τελείως φυσική και αυθόρμητη· πάντα υπάρχει μια διαδικασία εσωτερικής μετάφρασης και μεταγραφής. Μάλιστα, οι άνθρωποι συχνά εκπλήσσονται από την αδυναμία της γλώσσας να εκφράσει τις εσώτερες σκέψεις και αισθήματά τους. Για παράδειγμα, στις περισσότερες γλώσσες είναι σπάνιες οι άμεσες εκφράσεις πόνου, περιοριζόμενες κατά βάση στα «πόνος, οξύς πόνος, ελαφρύς πόνος», παρόλο που αυτές οι εκφράσεις δεν επαρκούν για να μεταδώσουν το αίσθημα του πόνου που αισθάνονται τα άτομα.

Αν κοιτάξουμε ολόκληρο το φάσμα των συναισθημάτων, η ανθρώπινη γλώσσα είναι ακόμα πιο ρευστή. Για να εκφράσουν ένα μεμονωμένο αίσθημα, οι άνθρωποι συχνά χρησιμοποιούν περιφραστικές μεταφορές. Επομένως, όσοι χρησιμοποιούν την ανθρώπινη γλώσσα με δημιουργικό τρόπο μοιραία βρίσκουν και ενδιαφέροντες και μοναδικούς τρόπους να εκφράσουν ένα συγκεκριμένο συναίσθημα.
Για αυτόν τον λόγο, σκέφτηκα να κάνω ένα τεστ με το ChatGPT για να δω αν μπορεί να κατανοήσει τις μεταφορές. Χρησιμοποίησα το τραγούδι Treaty του Leonard Cohen, στο οποίο λέει κάτι σαν «Όλοι φαίνεται σαν να έχουν αμαρτήσει, σαν να έχουν ζήσει τις ζωές τους χωρίς να μπορούν να απαλλαγούν από τις ενοχές τους. Ακόμα κι αν απαλλάσσονται από αυτές, τελικά παραμένουν άνθρωποι ατελείς, με σφάλματα.» Όμως δεν εξέφρασε αυτές τις σκέψεις ευθέως. Αντίθετα, χρησιμοποίησε μια μεταφορά, μιλώντας για ένα φίδι που νιώθει άβολα λόγω των αμαρτιών του κι έτσι ρίχνει το δέρμα του, ελπίζοντας έτσι ότι θα αφήσει πίσω του τις αμαρτίες του. Όμως ακόμα και αφού έχει ρίξει το δέρμα του, το φίδι παραμένει αδύναμο και το δηλητήριο διατρέχει ακόμα το σώμα του. Με άλλα λόγια, ο Cohen λέει ότι, ακόμα κι αν απαλλαγείς από τον Θεό και από το αίσθημα της ενοχής, παραμένεις ένας σακατεμένος άνθρωπος και η ζωή εξακολουθεί να είναι επώδυνη.

Τι κατάλαβε, λοιπόν, το ChatGPT από αυτή τη μεταφορά; Δεν κατανόησε ότι το φίδι ρίχνει το δέρμα του λόγω των αμαρτιών του, αλλά επειδή χρειαζόταν να μεταμορφώσει τη ζωή του κατά τρόπο που θα το έκανε δυνατότερο και πιο ανθεκτικό. Παρόλο που δεν πρόκειται για μια ευχάριστη διαδικασία, το φίδι θα μάθει από αυτή και θα βγει δυνατότερο.

Εδώ μπορούμε να δούμε διάφορα χαρακτηριστικά του ChatGPT. Πρώτον, δεν ξέρει και πολλά για την ανθρώπινη γλώσσα των νύξεων, δεν γνωρίζει για τη μεταφορά του φιδιού από τη Βίβλο και για τη στενή του σχέση με το προπατορικό αμάρτημα στον κήπο της Εδέμ. Ως αποτέλεσμα, το μόνο που μπορεί να κάνει είναι να δώσει μια επεξήγηση με βάση μόνο τα δεδομένα που του έχουν δοθεί. Δεύτερον, μου έκανε εντύπωση το γεγονός ότι το ChatGPT είναι έτσι φτιαγμένο ώστε να δίνει «θετικές» απαντήσεις. Ακόμα και αν του μιλήσεις σε πιο απαισιόδοξους τόνους, αυτό θα δώσει μια θετική ερμηνεία και θα επιχειρήσει να σε ενθαρρύνει και να σε «ανεβάσει». Ξεκινάει επομένως αρνούμενο τις ενοχές του φιδιού και μετά δίνει έμφαση στο γεγονός ότι η αλλαγή δέρματος θα το κάνει καλύτερο. Τρίτον, από τη στιγμή που το ChatGPT δεν μπορεί να κατανοήσει το μεταφορικό περιεχόμενο της πρότασης, δεν ξέρει ότι το ερπετό είναι μια μεταφορά για τον άνθρωπο. Ένας λόγος είναι ότι το ChatGPT δεν αντιμετωπίζει αυτό το ανθρώπινο δίλημμα. Ένας άλλος είναι ότι η μηχανή αυτή δεν έχει εμπειρίες και βιώματα, δεν έχει σώμα, δεν έχει κοινωνικές αλληλεπιδράσεις. Έτσι δυσκολεύεται να κατανοήσει την έννοια της μεταφοράς και γιατί οι άνθρωποι μπορεί να χρησιμοποιούν ένα πράγμα για να μιλήσουν για κάτι άλλο.

Κατά τη γνώμη μου, όλοι μας βρίσκουμε συνεχώς δημιουργικούς τρόπους για να χρησιμοποιούμε την καθημερινή γλώσσα. Επειδή η γλώσσα είναι τόσο «τυποποιημένη», οι άνθρωποι πάντα έχουν μια αδυναμία να εκφραστούν χωρίς αυτή τη δημιουργική ικανότητα. Επομένως, η χρήση της φυσικής γλώσσας απαιτεί περισσότερη δημιουργικότητα απ’ όσο νομίζουμε, ενώ το ChatGPT, καθώς δεν έχει μια τέτοια δημιουργικότητα, είναι βαρετό. Έχω σοβαρές επιφυλάξεις για το κατά πόσο θα γίνει ένας ενδιαφέρων συνομιλητής στο μέλλον και αυτό ίσως να είναι ένα σοβαρό εμπόδιο για τα μεγάλα γλωσσικά μοντέλα.

[...]

...η συνέχεια στο έντυπο τεύχος του Cyborg.
[ σημεία διακίνησης ]

μετάφραση, σχολιασμός
Separatrix

μια συζήτηση περί τεχνητής νοημοσύνης(κάπου μακριά...)

μια συζήτηση περί τεχνητής νοημοσύνης
(κάπου μακριά...)