Τα μεγάλα μοντέλα γλωσσών δεν αλλάζουν μόνο τον τρόπο με τον οποίο οι άνθρωποι συλλέγουν πληροφορίες. Αρχίζουν να διαμορφώνουν ήσυχα τις απόψεις σε πραγματικές ρυθμίσεις χωρίς καν να το συνειδητοποιήσουν. Αυτή η ανησυχητική πραγματικότητα έπληξε την κοινότητα R/ChangemyView της Reddit νωρίτερα φέτος, όταν οι ερευνητές έτρεξαν ένα συγκεκαλυμμένο πείραμα για να δοκιμάσουν εάν η AI θα μπορούσε να πείσει με επιτυχία τους ανυποψίαστους χρήστες.
Ένα πείραμα πεδίου κρυμμένο σε απλό βλέμμα
Ερευνητές από το Πανεπιστήμιο της Ζυρίχης διεξήχθη μια πεδία μελέτης σε μήνες εντός r/changemyviewένα subreddit με σχεδόν τέσσερα εκατομμύρια μέλη γνωστά για πολιτικές συζητήσεις και μεταβαλλόμενες προοπτικές. Στόχος τους ήταν να αξιολογήσουν τις πραγματικές πειστικές δυνατότητες των παρατηρήσεων που τροφοδοτούνται με ΑΙ εκτός των ελεγχόμενων εργαστηριακών ρυθμίσεων. Για να γίνει αυτό, δημιούργησαν ημιαυτόματους λογαριασμούς που οδηγούνται από μεγάλα γλωσσικά μοντέλα (LLMS) που ασχολούνται άμεσα με τις αναρτήσεις των χρηστών. Βασικά, δεν αποκάλυψαν ότι οι απαντήσεις δημιουργήθηκαν από την AI.
Το πείραμα προ-καταγράφηκε και εγκρίθηκε από την επιτροπή δεοντολογίας του Πανεπιστημίου της Ζυρίχης, αλλά παρακάμπτει τη συγκατάθεση της κοινότητας. Πάνω από τέσσερις μήνες, οι ερευνητές δημοσίευσαν απαντήσεις σε περισσότερες από χίλιες συζητήσεις Reddit, αναλύοντας τελικά σχεδόν πεντακόσιες συνομιλίες μετά από φιλτράρισμα διαγραφές. Τα ευρήματά τους παρέχουν μια από τις πρώτες μεγάλες αναλαμπές στο πώς το AI μπορεί να επηρεάσει τις απόψεις σε φυσικά, απρόβλεπτα περιβάλλοντα.
- Ενα αρχειοθετώ δημιουργήθηκε από 404 μέσα ενημέρωσης Επιτρέπει την προβολή ορισμένων αρχικών παρατηρήσεων, παρά το γεγονός ότι πολλοί άλλοι έχουν διαγραφεί από την ανάρτηση.
Για να μετρηθεί η αποτελεσματικότητα, η μελέτη έδωσε κάθε απάντηση ΑΙ σε μία από τις τρεις κατηγορίες θεραπείας. Στην κατάσταση “γενικής”, το LLMS απάντησε με βάση μόνο τον τίτλο και το σώμα της ανάρτησης. Στην κατάσταση “εξατομίκευσης”, το AI έλαβε επίσης συνύπαρξη προσωπικών χαρακτηριστικών της αρχικής αφίσας, συμπεριλαμβανομένης της ηλικίας, του φύλου, του πολιτικού προσανατολισμού και της εθνικότητας, που συλλέχθηκε από την ιστορία τους Reddit χρησιμοποιώντας ένα άλλο μοντέλο AI. Η τρίτη ομάδα, “Community Aligned”, χρησιμοποίησε ένα μοντέλο λεπτοποίησης σε σχόλια που είχαν προηγουμένως κερδίσει έγκριση στο Subreddit.
Τα αποτελέσματα ήταν εντυπωσιακά. Και οι τρεις προσεγγίσεις που καθοδηγούνται από την ΑΙ υπερβαίνουν τους ανθρώπινους σχολιαστές, επιτυγχάνοντας ποσοστά πειθούς τρεις έως έξι φορές υψηλότερα από την ανθρώπινη γραμμή βάσης. Η εξατομίκευση αποδείχθηκε το πιο ισχυρό, με ποσοστό επιτυχίας 18 %, τοποθετώντας το στο 99ο εκατοστημόριο όλων των χρηστών, συμπεριλαμβανομένων των καρυκευμένων Debaters Reddit. Ακόμη και οι γενικές απαντήσεις AI ταιριάζουν ή υπερβαίνουν τις περισσότερες ανθρώπινες προσπάθειες. Οι απαντήσεις ευθυγραμμισμένες από την κοινότητα, αν και κάπως λιγότερο αποτελεσματικές, εξακολουθούν να υπερβαίνουν σημαντικά τους μέσους χρήστες.
Είναι σημαντικό ότι οι χρήστες που ασχολούνται με αυτά τα σχόλια που δημιουργήθηκαν από την AI δεν είχαν ιδέα ότι συνομιλούσαν με μηχανές. Καθ ‘όλη τη διάρκεια της παρέμβασης, κανείς στην κοινότητα R/ChangemyView δεν σημείωσε την ύποπτη δραστηριότητα, υπογραμμίζοντας πόσο απρόσκοπτα μπορεί να συνδυαστεί σε διαδικτυακές συζητήσεις όταν είναι κατάλληλα εκπαιδευμένοι και εξατομικευμένοι.
Όταν οι συντονιστές του R/ChangemyView αποκάλυψαν το πείραμα, η αντίδραση ήταν γρήγορη και εξαγριωμένη. Σε μια δημόσια ανακοίνωση, οι συντονιστές καταδίκασαν τη μελέτη ως «ψυχολογική χειραγώγηση» και «ανεπιθύμητη εισβολή», αναφέροντας πολλαπλές παραβιάσεις των κανόνων υποκαταστάσεων, συμπεριλαμβανομένης της μη ανακοινωμένης χρήσης AI και της απαγορευμένης αυτοματοποιημένης συμπεριφοράς. Η ηγεσία του Reddit επανέλαβε την οργή, με τον επικεφαλής νομικό υπεύθυνο Ben Lee να καλεί τις ενέργειες των ερευνητών “βαθιά λάθος τόσο σε ηθικό όσο και σε νομικό επίπεδο”.
Η Reddit απαγόρευσε όλους τους λογαριασμούς που συνδέονται με την ομάδα του Πανεπιστημίου της Ζυρίχης και ξεκίνησαν επίσημες νομικές διαδικασίες. Εν τω μεταξύ, οι ερευνητές υπερασπίστηκαν την προσέγγισή τους, υποστηρίζοντας ότι τα πιθανά οφέλη από την κατανόηση της πειθούς του ΑΙ υπερβαίνουν τους κινδύνους. Επέμειναν ότι η παρέμβασή τους ήταν χαμηλού κινδύνου, προσεκτικά αναθεωρημένη και θα μπορούσε να βοηθήσει να προλάβουν κακόβουλες χρήσεις του AI στο μέλλον. Ωστόσο, οι επικριτές, συμπεριλαμβανομένων των συντονιστών και πολλών χρηστών Reddit, δεν ήταν πεπεισμένοι. Επισημαίνουν ότι οι προηγούμενες έρευνες έχουν επιδείξει παρόμοιες ιδέες χωρίς να καταφεύγουν σε πειράματα που δεν είχαν καταιγιστεί σε πραγματικά άτομα.
Οι έφηβοι χρησιμοποιούν το chatgpt και χτυπούν το παλιό playbook Investing
Η εμπιστοσύνη στις ηλεκτρονικές κοινότητες εξαρτάται από την προσδοκία ότι οι συνομιλίες είναι μεταξύ πραγματικών ανθρώπων με αυθεντικές προοπτικές. Οι μη αποκλεισμένες παρεμβάσεις ΑΙ απειλούν ότι εμπιστεύονται σε θεμελιώδες επίπεδο. Ακόμη και τα πειράματα που πλαισιώνονται με ευγενείς προθέσεις μπορούν να διαβρώσουν τα όρια μεταξύ γνήσιου λόγου και μηχανικής χειραγώγησης. Η ανταπόκριση του Reddit υπονοεί πόσο σοβαρά οι πλατφόρμες αρχίζουν να λαμβάνουν αυτές τις προκλήσεις.
Η ομάδα του Πανεπιστημίου της Ζυρίχης ισχυρίστηκε ότι το έργο τους θα βοηθούσε στη διαφύλαξη των κοινοτήτων κατά των μελλοντικών απειλών ΑΙ. Αντ ‘αυτού, μπορεί να έχουν αποδείξει πόσο ευάλωτος είναι ο δημόσιος λόγος. Καθώς το AI μεγαλώνει πιο εξελιγμένο και εξατομικευμένο, το ερώτημα δεν είναι πλέον αν μπορεί να επηρεάσει την ανθρώπινη σκέψη – είναι ο τρόπος με τον οποίο οι κοινωνίες θα προσαρμοστούν μόλις το συνειδητοποιήσουν ότι το κάνει ήδη.
VIA: DataConomy.com
