«Σε συνέντευξή του στο CBS, ο Sundar Pichai, CEO των Google και Alphabet ζητά ένα παγκόσμιο ρυθμιστικό πλαίσιο για την τεχνητή νοημοσύνη, παρόμοιο με τις συνθήκες για τη ρύθμιση της χρήσης πυρηνικών όπλων και προειδοποιεί ότι ο ανταγωνισμός για την παραγωγή προόδου στη συγκεκριμένη τεχνολογία θα μπορούσε να οδηγήσει σε παραμερισμό ανησυχιών για την ασφάλεια».
«Την επιβολή εξάμηνης παύσης στην εκπαίδευση συστημάτων τεχνητής νοημοσύνης ζήτησαν 1000 εμπειρογνώμονες στο πεδίο επικαλούμενοι κινδύνους για την ανθρωπότητα. Η επιστολή τους εκδόθηκε από το Future of life Institute και συνυπογράφεται από τον ίδιο τον Ήλον Μασκ, τον Στιβ Βόζνιακ της Apple κ.ά».
Ι.
Στη σφαίρα των γενικών σχολίων για τις εντυπωσιακές χρήσεις της Τεχνητής Νοημοσύνης και για την ίδια τη δυναμική των νευρωνικών δικτύων και ιδίως τη σειρά των chatbots (chatgpt3 κ.ο.κ) επικρατεί η συζήτηση για την ανασφάλεια ως προς το μέλλον επαγγελμάτων και εργασιακών χώρων. Τα σχετικά δημοσιεύματα είναι άπειρα και εμπλουτίζονται με μια δόση διεστραμμένης χαράς. Παραδόξως, οι θιασώτες και προπαγανδιστές των συγκεκριμένων εφαρμογών της ΤΝ στρέφουν τη δημόσια προσοχή προς τα εκεί, μιλώντας συχνά για την εργασία και την εκπαίδευση και τις κατακλυσμιαίες αλλαγές που θα συμβούν. Πρώτα, ωστόσο, έχουν φροντίσει να υπονομεύσουν κάθε κριτικό λόγο έχοντας διαγνώσει άρνηση των τεχνολογικών προόδων ή καταστροφολογικό «λουδιτισμό» σε κάθε μομφή που απευθύνεται σε συγκεκριμένα προϊόντα της ΤΝ. Η ατζέντα επικεντρώνεται έτσι σε θέματα κυβερνοασφάλειας (από απάτες, διακρατική κατασκοπεία ή deep fakes), είτε στις ‘κατανοητές’ πλην ‘υπερβολικές’ φοβίες κάποιων ανθρώπων για την εργασιακή τους μοίρα. Μηχανικοί, διευθυντικά στελέχη και ακαδημαϊκοί ή δημοσιογράφοι υπέρμαχοι του ολικού μετασχηματισμού θεωρούν πως και για τα δυο αυτά προβλήματα, την ασφάλεια των εφαρμογών αφενός και τις επιπτώσεις στην εργασία, μπορεί να ελεγχθούν οι ανησυχίες με διαρκώς βελτιούμενες εκδόσεις προγραμμάτων ή με σχεδιασμούς για μορφές εκπαίδευσης και απασχόλησης πιο συμβατές με τα δεδομένα της Τεχνητής Νοημοσύνης. Με άλλα λόγια, το πεδίο των μέινστριμ προσεγγίσεων σε μια γνωσεακή και ανθρωπολογική αλλαγή που προχωρά αχαρακτήριστα βιαστικά και δίχως σοβαρά φρένα, είναι οι τεχνολογικές αναβαθμίσεις ή μια σφαίρα ηθικής συμβουλευτικής γύρω από τις πιο εμφανώς κακόβουλες χρήσεις προϊόντων της ΤΝ.
Ειδικά για τις εφαρμογές τύπου chatgpt, υπερπροβλήθηκε και η ‘αγωνία των καθηγητών’, δηλαδή οι αντιδράσεις σε εκπαιδευτικά ιδρύματα κάποιων χωρών και οι σχετικές διαμαρτυρίες. Σε αυτήν τη παγίδα πέσαμε και κάποιοι άνθρωποι της μέσης εκπαίδευσης και των πανεπιστημίων, δίνοντας προς τα έξω την εντύπωση πως απλώς φοβόμαστε σαν παλιομοδίτες βιοτέχνες πως θα μας πάρουν τη θέση ‘τα ρομπότ΄. Έτσι, ο ναρκισσιστικός μεσσιανισμός των γκουρού της Τεχνητής Νοημοσύνης εμφανίστηκε (στην αρχή τουλάχιστον) και ως πρόταση υπέρ της δημοκρατίας της γνώσης, ως άλλη μια επαναστατική ρήξη κατά των παλαιών ιεραρχιών της γνώσης, της κουλτούρας και της αυθεντίας. Όπως στις απαρχές του www έτσι και τώρα, μια φιλελεύθερη-ελευθεριακή ιδεολογία αποτελεί το υπόβαθρο του κόσμου των εταιρειών του Big Tech, αν και μπορεί κανείς να βρει έναν διχασμό ανάμεσα σε τραμπικούς-δεξιούς ελευθεριακούς και προοδευτικούς ή woke ελευθεριακούς. Εφαρμογές πάντως που αδυνατούν να δικαιολογήσουν την ύπαρξή τους (γιατί, ας πούμε, να παραγγέλνει κανείς ένα ποίημα ή ένα άρθρο, αν όχι για να κάνει χάζι ή για να εξαπατήσει κάνοντας τον έξυπνο;), εμφανίζονται αυτόματα σαν προσαρμογές σε μια επιταγή της ανθρώπινης προόδου. Εκατομμύρια χρήστες, καθημερινοί πολίτες ή και επαγγελματίες, άρχισαν αμέσως να χρησιμοποιούν τo chatgpt ή αντίστοιχες εφαρμογές για να «κάνουν τη δουλειά τους» ή συχνά για να δουν τι απαντάει «το μηχάνημα» στο ένα ή άλλο ερώτημα (έχει σωστές πληροφορίες για τον τάδε; Το γεγονός πως για ένα διάστημα το ελληνόφωνο chatgpt απαντούσε ανοησίες για γνωστά δημόσια πρόσωπα, προβλήθηκε ως αφορμή αστεϊσμών και σχολίων πως δεν δικαιολογείται κανένας πανικός, αφού ο «άνθρωπος» θα είναι πάντα απαραίτητος και τελικός κριτής της αλήθειας).
Υπήρξαν φυσικά και θα υπάρξουν ακόμα περισσότερα προβλήματα στην εκπαίδευση από τη γενίκευση της χρήσης τέτοιων bots. Ο πειρασμός και οι ευκαιρίες απάτης σε εργασίες, papers ή ομιλίες είναι τεράστιες. Οι δε άνετες συστάσεις ορισμένων εκτός νυμφώνος για προφορικές εξετάσεις ή άλλες μεθόδους επιβεβαίωσης της ‘αυθεντικότητας του/της φοιτητή/τριας’ ξεχνούν φυσικά πως σε μαθήματα μεγάλων ακροατηρίων θα χρειάζονταν εξωπραγματικοί χρόνοι για να εξεταστεί ο κάθε φοιτητής/τρια έστω για ένα πεντάλεπτο. Στην πανδημία, εξάλλου, είχαμε ήδη την πικρή πρόγευση μιας τέτοιας τραγελαφικής κατάστασης με προφορικές εξετάσεις εξπρές.
Το βαθύτερο ζήτημα ωστόσο με τα chatgpt και τις ανάλογες εφαρμογές δεν είναι οι σχολικές εξετάσεις, ούτε καν η βαθμολογική αξιολόγηση και oι δυνατότητες εξαπάτησης. Εγώ λέω ότι δεν είναι και η επαγγελματική τύχη κάποιων δασκάλων και καθηγητών. Ας υποθέσουμε πως κάποια στιγμή κάνουμε την επιλογή και προχωρούμε σε μια δημοκρατία των κοινών και δεν μας ενδιαφέρει πλέον η αξιολόγηση της ατομικής επίδοσης ή η αυθεντικότητα (ή πλαστότητα) των απαντήσεων που μάς δίνουν οι φοιτητές/τριες. Ας υποθέσουμε επίσης πως τελικά δεν μας ενδιαφέρει ποιος τελικά έφτιαξε ένα έργο, ένα τραγούδι, ένα επιστημονικό κείμενο παρά μόνο το ίδιο το ‘τελικό προϊόν’ και αν έχει τις προδιαγραφές ενός σωστού ή αξιοπρεπούς κειμένου, έργου κ.λπ. Ας πούμε πως το δημιουργούν υποκείμενο μπορεί να είναι ανθρώπινο ον ή μηχανή και πως αυτό έχει λίγη σημασία.
Έχω την αίσθηση πως το αληθινά επίφοβο με τις όλο και πιο βελτιωμένες μηχανές Τεχνητής Νοημοσύνης δεν είναι κάτι από όλα τα παραπάνω. Προφανώς θα υπάρξουν επώδυνα πλήγματα σε κάποιες κοινωνικο-επαγγελματικές κατηγορίες, στο κύρος, την ταυτότητά τους. Το πιο σοβαρό πρόβλημα είναι όμως η εδραίωση μιας λογικής γενικευμένου delivery: η εντύπωση ότι με «με το πάτημα ενός κουμπιού» (δηλαδή λίγων αρχικών ερωτήσεων-παραμέτρων) κάποιος-α απαλλάσσεται από την όποια δυσκολία σύνθεσης, κρίσης, αναζήτησης των πηγών, μάθησης μιας τεχνικής ή μιας τέχνης. Όσο για τη γραφή, λόγου χάρη τη σύνθεση μιας γραπτής εργασίας, αυτή έχει ήδη εν μέρει αποδιοργανωθεί από τις επί πληρωμή παραγγελίες πτυχιακών και διατριβών ή από τα γνωστά, συμβατικά κόλπα λογοκλοπής και αντιγραφής μέσα από διάφορες τεχνικές. Με το πέρασμα στην εποχή των ρομπότ παραγωγής περιεχομένου (και προσφοράς οποιουδήποτε είδους κειμένου, εικόνας ή μουσικής κ.λπ.) συντελείται ένα τεράστιο ποιοτικό άλμα από την υποβοήθηση της προσπάθειας στην υποκατάστασή της. Δεν έχουμε πια βοηθούς ή προγράμματα περιήγησης τύπου google chrome (που κι αυτό στην Τεχνητή Νοημοσύνη στηρίζεται), αλλά λειτουργίες που αντικαθιστούν την ανθρώπινη προσπάθεια. Αυτό είναι μια μεταβολή με απρόβλεπτες συνέπειες.
ΙΙ.
Γιατί να είναι όμως κακό ή επικίνδυνο; Μήπως τελικά μέσω αυτών των προγραμμάτων και της εκτεταμένης τους διάχυσης περάσουμε ένα κατώφλι εκδημοκρατισμένης απόλαυσης και απεριόριστης κοινωνικής δημιουργικότητας με την απαλλαγή του πλήθους των ανθρώπων από την έννοια του ειδήμονα ή και του ατομικού δημιουργού; Μήπως τελικά η Open AI και όλες οι άλλες θύρες του μεγάλου μετασχηματισμού των ορίων της γνώσης και της σχέσης υποκειμένου και πληροφορίας, φέρνουν πιο κοντά ένα είδος άπειρης δημοκρατίας των επιλογών; Και όσοι-ες λέμε ότι εδώ έχουμε μια επίθεση στον πολιτισμό των υπεύθυνων προσώπων και των κανόνων της δημιουργίας, μήπως είμαστε δέσμιοι μιας παλιάς, ανθρωπιστικής προκατάληψης; Και τελικά μήπως μέσα από το Big Tech έρχεται πλέον πιο κοντά η άρση της έννοιας μιας ατομικής υποκειμενικότητας-«κυρίου» των ιδιοτήτων του;
Θα ήταν βέβαια ελαφρώς αστείο ο πιο υπερφίαλος ψηφιακός καπιταλισμός των start-ups να υπόσχεται το πέρασμα σε έναν μεταμοντέρνο κομμουνισμό όπου το ‘ανθρωπιστικό υποκείμενο’ θα αναληφθεί στους ουρανούς. Ακόμα όμως και αν η εκτεταμένη κατάργηση εκατομμυρίων θέσεων εργασίας συνοδευόταν από ισχυρά κοινωνικά αντίμετρα (όπως τη θέσπιση του καθολικού και άνευ όρων βασικού εισοδήματος, μέτρο το οποίο, κανονικά, θα έπρεπε να είναι προμετωπίδα όλων των δημοκρατικών δυνάμεων), πάλι θα έπρεπε να μπορούσαμε να θέσουμε ένα ακριβό ερώτημα περί ελευθερίας. Τι είναι εδώ ελευθερία; Η δυνατότητα και τώρα πια το καθήκον των δημόσιων εξουσιών, είτε εθνικών, είτε ευρύτερων, να παρέμβουν αποφασιστικά και όσο υπάρχει ακόμα χρόνος σε ένα πεδίο όπου η εκάστοτε ‘καινοτομία’ ακολουθεί απλώς μια ξέφρενη λογική ανταγωνισμού και δεν λαμβάνει υπόψη βαθύτερα ηθικά όρια και το μεγάλο πολιτισμικό ρίσκο από την ασυλλόγιστη απελευθέρωση όλο και πιο τέλειων και έξυπνων μηχανών. Αν σκεφτούμε καλύτερα, μόνο οι αποτυχίες, οι ατέλειες και οι όποιες λάθος απαντήσεις των chatbots θυμίζουν πως ακόμα έχουμε τη κύρια ευθύνη να προσανατολιστούμε διαφορετικά μέσα στην τεχνολογία και στις κοινωνικές της χρήσεις. Όσο μειώνονται οι αποτυχίες και τα σφάλματα, όσο πιο πειστικές και ανεπίληπτες είναι οι προσφερόμενες απαντήσεις, όσο πιο βελτιωμένοι αν είναι οι παραγόμενοι κώδικες, τόσο το χειρότερο για τη συλλογική μας ελευθερία.
ΙΙΙ. Ολοκληρωτισμός, ψηφιακός υπερκαπιταλισμός
Όπως ξέρουμε οι πιο ακραίες δυνατότητες της Τεχνητής Νοημοσύνης δοκιμάζονται στα κινεζικά εργαστήρια και εν γένει σχετίζονται με τη θωράκιση αυταρχικών καθεστώτων και τη συγκρότηση συμμαχιών εναντίον της «παρακμιακής» Δύσης. Η έρευνα για ανατριχιαστικά οπλικά συστήματα ή για μορφές ολοκληρωτικής επιτήρησης δεν έχει νομικούς ή ηθικούς φραγμούς σε πολλά καθεστώτα που δεν αναγνωρίζουν καν το νομικό πλαίσιο των συνταγματικών δημοκρατιών.
Αλλά και ο κόσμος των φιλελεύθερων δημοκρατιών πάει να επιβεβαιώσει την παράλυσή του σπεύδοντας να παραδοθεί στη μοιρολατρική αποδοχή των τετελεσμένων του κάθε Μασκ, Σαμ Όλτμαν ή Βόζνιακ. Ασκούνται μάλιστα τεράστιες πιέσεις εναντίον των ρυθμιστικών κανόνων και υπέρ της απελευθέρωσης των καινοτομιών. Παρά το παιχνίδι καθυστερήσεων και τους φόβους που εκφράζουν ακόμα και ιθύνοντες των εταιρειών (θέλοντας, προφανώς, να κερδίσουν χρόνο από τους ανταγωνιστές τους), η ιδεολογία τής με κάθε κόστος επιτάχυνσης νομιμοποιείται και από την ελαφρότητα που δείχνει μεγάλο μέρος του ακαδημαϊκού κόσμου. Οι πολιτικοί δεν έχουν ιδέα για τα πρωτόκολλα αυτής της νέας πραγματικότητας και αφήνουν τους συμβούλους τους να γράφουν τα συνηθισμένα λόγια περί προκλήσεων/ευκαιριών (έτσι κι αλλιώς δεν πουλάνε αυτά), τα λαϊκά στρώματα δεν θέλουν να βάλουν στο κεφάλι τους ακόμα μία έγνοια, μεγάλα πλήθη νέων ανθρώπων (αλλά και αργόσχολοι γέροντες boomers που θέλουν να το παίζουν μοντέρνοι) ρωτούν το chatgpt για το ένα ή άλλο πικάντικο ή σοβαρό θέμα. Κάθε εφαρμογή, όποια «τρελή» και ανήθικη ιδέα και αν υλοποιεί, φαίνεται να δικαιώνεται ακριβώς επειδή θα βρεθούν κάποιοι χιλιάδες και εκατομμύρια που την χρησιμοποιούν. Η ιδέα πως μια αγοραστική προτίμηση ή μια κοινωνική επιθυμία καθιστά έγκυρη την κυκλοφορία προϊόντων και υπηρεσιών γίνεται ένας μηχανισμός παγίδευσης και παράλυσης απέναντι στον πανικό της «προσαρμογής». Είδαμε πρόσφατα τον τρόπο που μέσω της πλατφόρμας Τelegram διακινήθηκαν χιλιάδες φωτογραφίες γυμνών γυναικών δίχως τη συναίνεσή τους. Θα πρέπει όμως να αναρωτηθούμε τι σημαίνει γενικά συναίνεση ή επιλογή αποχώρησης (exit option) ή ρήτρα συμβολαίου μέσα στο χάος των εφαρμογών και του downloading.
Ας μην έχουμε αυταπάτες. Εκτός από την κουλτούρα του γενικευμένου delivery, ο κίνδυνος προέρχεται από νέες μορφές αλγοριθμικής κυριαρχίας. Απέναντι στο ακραίο, ο δημοκρατικός-αστικός και κοινωνικός πολιτισμός οφείλει να αμυνθεί με διάφορα μέσα, και φυσικά με το όπλο της κρατικής ισχύος. Λέμε συχνά ότι οι πολιτικές εξουσίες είναι αδύναμες, είδαμε όμως ότι και μόνο με την υποψία κατασκοπείας από την Κίνα, πολλές δημοκρατικές κυβερνήσεις εύκολα απενεργοποίησαν το δημοφιλέστατο ΤikΤok αρχικά για αξιωματούχους και δυνητικά και για ευρύτερο πληθυσμό. Θα μπορούσαμε να σκεφτούμε το εξής: οι βλαπτικές συνέπειες της κουλτούρας του γενικευμένου delivery στην εκπαίδευση, στην παραγωγή ‘καλλιτεχνικών προϊόντων’ ή στη διακίνηση παραπλανητικά πειστικών πληροφοριών νομιμοποιεί τη δυνατότητα του όχι, δηλαδή την αμφισβήτηση συγκεκριμένων εφαρμογών και εργαλείων της ΤΝ. Η αναστοχαστική νεωτερικότητα στηρίχτηκε εξάλλου στη ικανότητα της επιλογής και της απόρριψης, στην αποδοχή, τη διαπραγμάτευση αλλά και την άρνηση. Υπάρχουν πλείστες εφαρμογές της ΤΝ που μας φαίνονται πολύτιμες και ευπρόσδεκτες, στη διαγνωστική και στην κλινική πράξη, στην αντικατάσταση βαριών και ανθυγιεινών εργασιών, σε σύνθετες κατασκευαστικές και μηχανικές χρήσεις. Από εκεί και πέρα όμως κανένας δεν πρέπει να υποχρεώνεται να δεχτεί το συνολικό αφήγημα του κ. Μασκ ή των ανταγωνιστών του. Οι επίγειοι ψευτο-θεοί έχουν εκπέσει και δεν επιθυμούμε τη νεκρανάστασή τους, ακόμα και όταν κάποια εργαλεία που μας προσφέρονται «μάς βολεύουν» προσωπικά ή επαγγελματικά. Το γεγονός πως υπάρχει πια η τεχνική δυνατότητα να γίνει αυτό ή το άλλο, δεν σημαίνει πως είμαστε υποχρεωμένοι να το δοκιμάσουμε στην πράξη, πόσο μάλλον να το θεωρήσουμε απαραίτητο στον κοινωνικό μας κόσμο και στην καθημερινότητά μας. Χρειαζόμαστε πάντα τη δυσκολία της βαθμιαίας και γεμάτης ατέλειας ανακάλυψης μιας γνώσης, μιας εμπειρίας, μιας μορφής ζωής πέρα από τη βία της επιτάχυνσης και το απερίσκεπτο παιχνίδι με τα λεπτά όρια της ανθρώπινης συνθήκης.