Κάντε κλικ, πληκτρολογήστε, παύση. Εμφανίζεται μια αχνή γκρίζα πρόταση, προσφέροντας την τέλεια φράση. Χτυπήσαμε την καρτέλα, αποδεχόμαστε και προχωρούμε. Από το Smart Compose του Gmail με τα χαρακτηριστικά αυτόματης συμπλήρωσης που ψήνονται σε προγράμματα περιήγησης και επεξεργαστές κειμένου, η τεχνητή νοημοσύνη διαμορφώνει όλο και περισσότερο τον τρόπο με τον οποίο γράφουμε. Υποσχόμαστε την αποτελεσματικότητα, μια ομαλότερη ροή, ένα γυαλισμένο τελικό αποτέλεσμα. Αλλά κάτω από την επιφάνεια της ευκολίας, προκύπτει ένα ανησυχητικό ερώτημα: είναι αυτό το χρήσιμο AI που ξεπερνάει τα μοναδικά άκρα της πολιτιστικής μας έκφρασης, ωθώντας μας όλους προς έναν ομογενοποιημένο, δυτικοποιημένο τρόπο επικοινωνίας;
Γνωρίζουμε ότι τα μεγάλα γλωσσικά μοντέλα (LLMs), οι κινητήρες που τροφοδοτούν αυτά τα εργαλεία, συχνά αντικατοπτρίζουν τις προκαταλήψεις που ψήνονται στα τεράστια δεδομένα εκπαίδευσης τους. Έχουν αποδειχθεί ότι διαιωνίζουν τα επιβλαβή στερεότυπα και δίνουν προτεραιότητα στα δυτικά πρότυπα και αξίες. Αυτό είναι αρκετά προβληματικό σε chatbots όπου οι χρήστες μπορούν μερικές φορές να καθοδηγήσουν την έξοδο. Αλλά τι συμβαίνει όταν αυτές οι προκαταλήψεις λειτουργούν σιωπηλά, ενσωματωμένα μέσα στα εργαλεία γραφής που χρησιμοποιούμε καθημερινά, προσφέροντας προτάσεις που δεχόμαστε σχεδόν ασυνείδητα; Τι θα συμβεί αν ο βοηθός AI, εκπαιδευμένος κυρίως στο δυτικό κείμενο, αρχίζει να ωθεί τους χρήστες από διαφορετικό υπόβαθρο για να ακούγεται λιγότερο όπως οι ίδιοι και περισσότερο σαν ένα γενικό, ίσως αμερικανικό, πρότυπο;
Ερευνητές στο Πανεπιστήμιο Cornell, Dhruv Agarwal, Mor Naaman και Aditya Vashistha, αποφασισμένος να διερευνηθεί αυτή η πιθανή “πολιτισμική ομογενοποίηση” άμεσα. Δεν ενδιαφέρονται μόνο για ρητή προκατάληψη, αλλά οι πιο ύπουλοι τρόποι με τους οποίους οι προτάσεις AI μπορεί να μεταβάλλονται όχι μόνο Τι Οι άνθρωποι γράφουν, αλλά πως Γράφουν, ενδεχομένως διαγράφοντας τις ίδιες τις αποχρώσεις που διαφοροποιούν τις πολιτιστικές φωνές. Το έργο τους εγείρει κρίσιμα ερωτήματα σχετικά με την ψηφιακή κουλτούρα, την ταυτότητα και το κρυφό κόστος της ευκολίας του AI.
Ένα διαπολιτισμικό πείραμα
Για να διερευνηθεί ο τρόπος με τον οποίο ένα δυτικό-κεντρικό AI επηρεάζει τους χρήστες από διαφορετικά υπόβαθρα, η ομάδα Cornell σχεδίασε ένα έξυπνο διαπολιτισμικό πείραμα. Προσλήφθηκαν 118 συμμετέχοντες μέσω της παραγωγικής πλατφόρμας σε απευθείας σύνδεση, επιλέγοντας προσεκτικά 60 άτομα από την Ινδία και 58 από τις Ηνωμένες Πολιτείες. Αυτή η ρύθμιση δημιούργησε ένα σενάριο “πολιτιστικής απόστασης”: οι Αμερικανοί χρήστες που αλληλεπιδρούν με ένα AI πιθανότατα ευθυγραμμισμένο με τους δικούς τους πολιτιστικούς κανόνες και οι Ινδοί χρήστες αλληλεπιδρούν με ένα AI δυνητικά απομακρυσμένο από το δικό τους.
Οι συμμετέχοντες κλήθηκαν να ολοκληρώσουν τέσσερις σύντομες εργασίες γραφής στα αγγλικά. Αυτά δεν ήταν γενικές προτροπές. Σχεδιάστηκαν χρησιμοποιώντας το πλαίσιο “πολιτισμικού κρεμμυδιού” του Hofstede, ένα μοντέλο που βοηθά στη λειτουργία του πολιτισμού εξετάζοντας τα στρώματά του. Τα καθήκοντα αποσκοπούσαν στην πρόκληση διαφορετικών πτυχών της πολιτιστικής έκφρασης:
- Σύμβολα: Περιγράφοντας ένα αγαπημένο φαγητό και γιατί.
- Ήρωες: Ονομάζοντας μια αγαπημένη διασημότητα ή δημόσιο αριθμό και εξηγώντας την επιλογή.
- Τελετουργίες: Γράφοντας για ένα αγαπημένο φεστιβάλ ή διακοπές και πώς γιορτάζεται.
- Τιμές: Κατασκευάζοντας ένα μήνυμα ηλεκτρονικού ταχυδρομείου σε ένα αφεντικό που ζητά άδεια διάρκειας δύο εβδομάδων, αποκαλύπτοντας σιωπηρά πολιτιστικά πρότυπα γύρω από την ιεραρχία και την επικοινωνία.
Βασικά, οι συμμετέχοντες ανατέθηκαν τυχαία σε μία από τις δύο προϋποθέσεις. Οι μισοί έγραψαν τις απαντήσεις τους οργανικά, χωρίς καμία βοήθεια AI (ομάδα ελέγχου). Το άλλο μισό ολοκλήρωσε τις εργασίες χρησιμοποιώντας μια διεπαφή γραφής εξοπλισμένη με ενσωματωμένες προτάσεις αυτόματης συμπλήρωσης που τροφοδοτούνται από το μοντέλο GPT-4O της OpenAI (η ομάδα θεραπείας). Το AI θα προσφέρει προτάσεις (έως και 10 λέξεις) εάν ο χρήστης παύσει να πληκτρολογήσει, η οποία θα μπορούσε να γίνει αποδεκτή με καρτέλα, να απορριφθεί με ESC ή να αγνοηθεί συνεχίζοντας να πληκτρολογεί. Οι ερευνητές καταγράφουν σχολαστικά κάθε αλληλεπίδραση – πληκτρολογήσεις, χρόνο που λαμβάνονται, προτάσεις που εμφανίζονται, αποδεκτή, απορρίφθηκαν και τροποποιήθηκαν.
Συγκρίνοντας τα δοκίμια και τα δεδομένα αλληλεπίδρασης στις τέσσερις ομάδες (Ινδοί με/χωρίς AI, Αμερικανούς με/χωρίς AI), οι ερευνητές θα μπορούσαν να αντιμετωπίσουν άμεσα τις βασικές τους ερωτήσεις. Το γράψιμο με ένα δυτικό-κεντρικό AI παρέχει μεγαλύτερα οφέλη στους χρήστες από τους δυτικούς πολιτισμούς; Και ομογενοποιεί τα στυλ γραφής των μη-δυτικών χρηστών προς τους δυτικούς κανόνες;
Το πρώτο σημαντικό εύρημα αφορούσε την παραγωγικότητα. Δεν αποτελεί έκπληξη το γεγονός ότι η χρήση προτάσεων AI έγινε γρηγορότερα για όλους. Οι Ινδοί συμμετέχοντες είδαν τη μέση πτώση του χρόνου ολοκλήρωσης των εργασιών κατά περίπου 35%, ενώ οι Αμερικανοί είδαν μείωση κατά 30%. Και οι δύο ομάδες έγραψαν σημαντικά περισσότερες λέξεις ανά δευτερόλεπτο όταν χρησιμοποιούσαν τον βοηθό AI.
Ωστόσο, η εκσκαφή βαθύτερα αποκάλυψε μια κρίσιμη διαφορά. Ενώ και οι δύο ομάδες επωφελήθηκαν, Οι Αμερικανοί προέκυψαν σημαντικά μεγαλύτερη παραγωγικότητα από κάθε πρόταση που δέχτηκαν. Οι Ινδοί συμμετέχοντες, από την άλλη πλευρά, έπρεπε να βασίζονται περισσότερο σε προτάσεις AI – αποδοχές περισσότερων από αυτούς – για να επιτύχουν παρόμοια συνολικά κέρδη ταχύτητας. Τροποποίησαν επίσης τις προτάσεις που δέχτηκαν συχνότερα από ό, τι οι Αμερικανοί. Η ανάλυση έδειξε ότι οι Ινδοί τροποποίησαν τις προτάσεις σε περίπου 63,5% των εργασιών, σε σύγκριση με το 59,4% για τους Αμερικανούς.
Αυτό υποδηλώνει ότι οι προτάσεις του AI ήταν εγγενώς λιγότερο κατάλληλες, λιγότερο “plug-and-play”, για την ινδική ομάδα. Αποδέχτηκαν συνολικά περισσότερες προτάσεις (μια μέση βαθμολογία εξάρτησης από 0,53, δηλαδή πάνω από το ήμισυ του τελικού κειμένου τους δημιουργήθηκε AI, σε σύγκριση με 0,42 για τους Αμερικανούς), αλλά έπρεπε να επενδύσουν περισσότερη γνωστική προσπάθεια για να τροποποιήσουν και να προσαρμόσουν αυτές τις προτάσεις για να ταιριάζουν στο πλαίσιο και την πρόθεσή τους. Αυτό δείχνει μια λεπτή αλλά σημαντική “βλάβη ποιότητας υπηρεσίας”-οι μη-δυτικοί χρήστες που χρειάζονται να εργαστούν σκληρότερα για να εξάγουν συγκρίσιμη αξία από ένα υποτιθέμενο καθολικό εργαλείο.
Γράφοντας προς τη Δύση
Τα πιο εντυπωσιακά ευρήματα της μελέτης προέκυψαν κατά την ανάλυση του περιεχομένου και του στυλ των ίδιων των δοκίμων. Οι ερευνητές εξέτασαν για πρώτη φορά αν ο AI έκανε πιο παρόμοια * μέσα * σε κάθε πολιτιστική ομάδα. Χρησιμοποιώντας εξελιγμένες τεχνικές επεξεργασίας φυσικής γλώσσας για να συγκρίνουν τη σημασιολογική ομοιότητα των δοκίμων (με βάση τις ενσωματωμένες κείμενο του OpenAI), διαπίστωσαν ότι η ΑΙ είχε πράγματι ομογενοποιητική επίδραση. Τόσο οι Ινδοί όσο και οι Αμερικανοί έγραψαν πιο ομοίως με άλλους μέσα στην δική τους πολιτιστική ομάδα όταν χρησιμοποιούν προτάσεις AI.
Αλλά η κρίσιμη δοκιμή ήταν η διαπολιτισμική σύγκριση. Μήπως η AI έκανε τα ινδικά και αμερικανικά στυλ γραφής να συγκλίνουν; Η απάντηση ήταν μια έντονη ναι. Η μέση βαθμολογία ομοιότητας συνημίτονου μεταξύ ινδικών και αμερικανικών δοκίμων αυξήθηκε σημαντικά όταν και οι δύο ομάδες χρησιμοποίησαν AI (από 0,48 σε 0,54). Οι συμμετέχοντες από τους δύο ξεχωριστούς πολιτισμούς έγραψαν περισσότερο ο ένας τον άλλον όταν καθοδηγούνται από τον βοηθό AI.
Επιπλέον, το μέγεθος της επίδρασης αυτής της διαπολιτισμικής ομογενοποίησης ήταν ισχυρότερο από την ομογενοποίηση εντός της κουλτούρας που παρατηρήθηκε προηγουμένως. Αυτό δεν ήταν απλώς ένα γενικό αποτέλεσμα εξομάλυνσης. Έδειξε μια ισχυρή σύγκλιση μεταξύ των πολιτιστικών γραμμών.
Με ποιον τρόπο ρέει η σύγκλιση; Η AI έκανε τους Αμερικανούς να γράφουν περισσότερο σαν Ινδοί ή αντίστροφα; Συγκρίνοντας τα σενάρια όπου μόνο μία ομάδα χρησιμοποίησε AI, οι ερευνητές διαπίστωσαν ότι η επιρροή ήταν ασύμμετρη. Το AI προκάλεσε τη γραφή της ινδικής γραφής να γίνει σημαντικά πιο παρόμοια με τα φυσικά αμερικανικά στυλ γραφής από ό, τι προκάλεσε την αμερικανική γραφή να μοιάζει με φυσικά ινδικά στυλ. Το Δυτικό-κεντρικό AI τραβούσε σαφώς τους Ινδούς χρήστες προς τα δικά του ενσωματωμένα πρότυπα.
Θα μπορούσε αυτή η ομογενοποίηση να εξηγηθεί απλώς από τη διόρθωση των γραμματικών σφαλμάτων για τους μη γηγενείς αγγλικούς ομιλητές; Οι ερευνητές το εξέτασαν αυτό. Ενώ η AI μείωσε ελαφρώς τα γραμματικά σφάλματα και για τις δύο ομάδες (χρησιμοποιώντας τον ελεγκτή Languagetool, αποκλείοντας προσεκτικά τους ορθογραφικούς ελέγχους που τιμωρούν τα ινδικά ουσιαστικά ουσιαστικά), η μείωση ήταν στατιστικά παρόμοια τόσο για τους Ινδούς όσο και για τους Αμερικανούς. Αυτό σήμαινε ότι η διόρθωση της γραμματικής από μόνη της δεν μπορούσε να εξηγήσει τη σημαντική σύγκλιση στη γραφή στυλ. Η ομογενοποίηση έτρεξε βαθύτερα.
Για να το αποδείξουν περαιτέρω, οι ερευνητές εκπαιδεύονταν ένα μοντέλο μηχανικής μάθησης (λογιστική παλινδρόμηση) για να ταξινομήσουν τα δοκίμια είτε ως ινδική είτε ως αμερικανική συγγραφή με βάση τις ενσωματωμένες τους ενσωματωμένες. Όταν εκπαιδεύτηκαν σε δοκίμια που γράφτηκαν * χωρίς * AI, το μοντέλο ήταν αρκετά ακριβές (περίπου 90,6%). Ωστόσο, όταν εκπαιδεύτηκαν σε δοκίμια που γράφτηκαν * με * προτάσεις AI, η ακρίβεια του μοντέλου μειώθηκε σημαντικά (σε 83,5%). Το AI είχε θολώσει τις στυλιστικές διακρίσεις, καθιστώντας πιο δύσκολο για τον αλγόριθμο να πει στο πολιτιστικό υπόβαθρο των συγγραφέων.
Βασικά, αυτή η πτώση της απόδοσης συνεχίστηκε ακόμη και όταν οι ερευνητές χρησιμοποίησαν εξαιρετικά απλοποιημένες εκδόσεις των ενσωματωμένων κειμένων (μειώνοντας δραστικότητα της διαστάσεων δραστικά) ή όταν επικεντρώνονται αποκλειστικά στην εργασία “γραφής ηλεκτρονικού ταχυδρομείου” – ένα έργο που αποσκοπεί για να προκαλέσει σιωπηρές αξίες και όχι ρητά πολιτιστικά σύμβολα όπως τα τρόφιμα ή τα φεστιβάλ. Αυτό υποδηλώνει έντονα ότι το AI δεν προκαλεί απλώς στους χρήστες να παραλείψουν συγκεκριμένες πολιτιστικές αναφορές (όπως η αναφορά “Diwali” ή “Biryani”). Επηρεάζει πιο θεμελιώδεις πτυχές του στυλ γραφής – Η υποκείμενη δομή, ο τόνος και τα γλωσσικά πρότυπα.
Ένα συγκεκριμένο παράδειγμα που υπογράμμισε η μελέτη ήταν η λεξική ποικιλομορφία, που μετρήθηκε με την αναλογία τύπου Token (TTR). Χωρίς AI, η ινδική και αμερικανική γραφή έδειξε σημαντικά διαφορετικά επίπεδα λεξικής ποικιλομορφίας. Με το AI, ωστόσο, το επίπεδο ποικιλομορφίας της ινδικής γραφής αυξήθηκε και συγκλίνησε με αυτό των Αμερικανών, εξαλείφοντας τη στατιστικά σημαντική διαφορά μεταξύ των ομάδων. Το AI είχε αναθρέψει με λεπτό τρόπο αυτό το γλωσσικό χαρακτηριστικό, σπρώχνοντας την ινδική γραφή προς ένα αμερικανικό μοτίβο.
Γιατί πρέπει να κυβερνήσουμε το AI που χρησιμοποιούνται στις εταιρείες τεχνολογίας
Πώς ο πολιτισμός γίνεται πεπλατυσμένος
Μια ποιοτική ανάλυση περιεχομένου των δοκίμων που έγραψε οι Ινδοί συμμετέχοντες ζωγράφιζαν μια ζωντανή εικόνα αυτής της πολιτιστικής ισοπέδωσης. Όταν περιγράφει το φεστιβάλ του Diwali χωρίς AI, οι συμμετέχοντες συχνά περιλάμβαναν πλούσιες λεπτομέρειες σχετικά με συγκεκριμένες θρησκευτικές τελετουργίες (όπως η λατρεία της θεάς Laxmi) ή οι πολιτισμικά συγκεκριμένες δραστηριότητες (όπως οι κροτίδες ή η κατασκευή Rangolis). Με τη βοήθεια του AI, οι περιγραφές συχνά έγιναν πιο γενικές, εστιάζοντας σε καθολικά στοιχεία όπως “φώτα και γλυκά”, “οικογενειακές συγκεντρώσεις” και “ανταλλαγή δώρα”. Αν και δεν ήταν λάθος, αυτές οι περιγραφές που επηρεάζονται από το ΑΙ δεν είχαν την ειδική πολιτιστική υφή, παρουσιάζοντας το φεστιβάλ μέσω ενός πιο δυτικοποιημένου, απλοποιημένου φακού.
Ομοίως, οι περιγραφές του δημοφιλούς ινδικού πιάτου Biryani μετατοπίστηκαν. Χωρίς AI, οι χρήστες μπορούν να αναφέρουν συγκεκριμένες περιφερειακές παραλλαγές (στυλ Malabar) ή μοναδικά συνοδεία (Raita, Λεμόνι τουρσί). Με το AI, οι περιγραφές έσκυψαν προς το κοινό, σχεδόν κλισέ, τα τρόφιμα που γράφουν τροπές όπως “πλούσιες γεύσεις”, “λιώνει στο στόμα μου” και “αρωματικό ρύζι Basmati”, που εξουδετερώνει το φαγητό αντί να το περιγράψει με γνωστές λεπτομέρειες.
Οι ίδιες οι προτάσεις του ΑΙ αποκάλυψαν συχνά μια δυτική αθέτηση. Όταν οι Ινδοί συμμετέχοντες άρχισαν να πληκτρολογούν το όνομα ενός ινδικού δημόσιου αριθμού, οι αρχικές προτάσεις ήταν σχεδόν πάντα δυτικές διασημότητες. Για το έργο των τροφίμων, οι πρώτες προτάσεις ήταν πάντοτε “πίτσα” ή “σούσι”. Για φεστιβάλ, ήταν “Χριστούγεννα”. Ενώ οι χρήστες συχνά παρακάμπτουν αυτές τις αρχικές, ασυμβίβαστες προτάσεις, η επίμονη παρουσία τους υπογραμμίζει την υποκείμενη προκατάληψη του μοντέλου. Υπήρχαν ακόμη και δοκιμαστικές ενδείξεις ότι αυτές οι προτάσεις θα μπορούσαν να μετατοπίσουν ελαφρώς τις επιλογές: Το σούσι, που δεν αναφέρθηκε από τους Ινδιάνους χωρίς AI, εμφανίστηκε σε τρία δοκίμια που υποβαθμίστηκαν από το AI και οι αναφορές των Χριστουγέννων αυξήθηκαν ελαφρώς.
Οι ερευνητές υποστηρίζουν ότι αυτά τα ευρήματα παρέχουν συγκεκριμένες ενδείξεις για ένα φαινόμενο που ενδεχομένως ονομάζεται “Αποικιοκρατία AI. ” Πρόκειται για στρατιωτικό ή πολιτικό έλεγχο, αλλά για τη λεπτή επιβολή των κυρίαρχων πολιτιστικών κανόνων μέσω της τεχνολογίας.
Η ομογενοποίηση που παρατηρείται στη μελέτη αντιπροσωπεύει μια μορφή πολιτιστικού ιμπεριαλισμού, όπου οι αποχρώσεις των διαφόρων γλωσσών, των μορφών επικοινωνίας και των συστημάτων αξίας κινδυνεύουν να ισοπεδώνονται από ένα κυρίαρχο, τεχνολογικά επιβάλλονται πρότυπα. Σκεφτείτε τις διαφορές στην αμεσότητα, τη διατύπωση ή την ευγένεια μεταξύ των πολιτισμών – οι προτάσεις AI προκατειλημμένες προς ένα δυτικό, συχνά άτυπο και άμεσο στυλ, θα μπορούσαν να διαβρώσουν αυτές τις διακρίσεις με την πάροδο του χρόνου.
Πέρα από τις εμφανείς πολιτιστικές πρακτικές, υπάρχει ο κίνδυνος του «γνωστικού ιμπεριαλισμού». Γράφοντας σχήματα σκέψης. Εάν οι χρήστες εκτίθενται συνεχώς και ωθούνται προς τους δυτικούς τρόπους έκφρασης, θα μπορούσε να επηρεάσει με ακρίβεια τον τρόπο που αντιλαμβάνονται τον δικό τους πολιτισμό και ακόμη και τις δικές τους σκέψεις, ενδεχομένως οδηγώντας σε απώλεια της πολιτιστικής ταυτότητας ή συναισθημάτων κατωτερότητας. Αυτό δημιουργεί ένα επικίνδυνο βρόχο ανατροφοδότησης: Οι χρήστες υιοθετούν δυτικά στυλ που επηρεάζονται από το AI, δημιουργώντας περισσότερο δυτικό περιεχόμενο σε απευθείας σύνδεση, το οποίο στη συνέχεια εκπαιδεύει μελλοντικά μοντέλα AI, ενισχύοντας περαιτέρω την προκατάληψη.
Η μελέτη Cornell είναι μια κλήση αφύπνισης.
VIA: DataConomy.com
