Όλοι πίστευαν ότι μιλούσαν με πραγματικούς ανθρώπους, αντίθετα όμως λάμβαναν μέρος χωρίς να το θέλουν σε μια μυστική AI έρευνα. Πιο συγκεκριμένα ερευνητές από το Πανεπιστήμιο της Ζυρίχης έτρεξαν ένα AI πείρασμα στο r/changemyview, μια από τις πιο δημοφιλείς κοινότητες της πλατφόρμας.
Ειδικότερα χρησιμοποίησαν large language models για να μπορέσουν να δημιουργήσουν προσωποποιημένα σχόλια τα οποία θα μπορούσαν να αλλάξουν την άποψη των χρηστών, χωρίς κανείς να τους πει τίποτα. Το ακόμη χειρότερο είναι ότι δημιούργησαν και fake AI ταυτότητες, δηλαδή πόζαραν σαν πολιτικοί ακτιβιστές, ψυχολόγοι κτλπ.
Καρτοκινητό με 200GB και απεριόριστη ομιλία ΚΑΘΕ ΜΗΝΑ σε τιμή έκπληξη
Μόλις η έρευνα ολοκληρώθηκε ήρθαν σε επικοινωνία με το Reddit ενημερώνοντάς τους για αυτή, αν και οι moderators όπως λέγεται ήταν εξαγριωμένοι για την παραβίαση πλήθος κανόνων της κοινότητας και για την χρήση AI και αυτοματοποιημένων λογαριασμών. Μάλιστα συνέταξαν και επίσημη διαμαρτυρία προς το Πανεπιστήμιο της Ζυρίχης και απαίτησαν να μην δημοσιευθούν ποτέ τα αποτελέσματα της έρευνας.
Ούτε το ίδιο το Reddit μπόρεσε να συγκρατηθεί, με τον επικεφαλής νομικό σύμβουλο της εταιρείας να αποκαλεί το πείραμα λάθος τόσο σε ηθικό όσο και σε νομικό επίπεδο. Όλοι οι λογαριασμοί που συνδέονταν έχουν γίνει banned και εξετάζει και νομικές κινήσεις.
Οι ερευνητές προσπάθησαν να υπερασπιστούν τις ενέργειές τους σε μια μακροσκελή ανάρτηση αν και όπως τονίζουν δεικτικά οι moderators, άλλο η μελέτη των δεδομένων του Reddit και άλλο η κρυφή χειραγώγηση πραγματικών συνομιλιών.
Comment
byu/AutoModerator from discussion
inchangemyview
Ακολουθήστε το Techmaniacs.gr στο Google News για να διαβάζετε πρώτοι όλα τα τεχνολογικά νέα. Ένας ακόμα τρόπος να μαθαίνετε τα πάντα πρώτοι είναι να προσθέσετε το Techmaniacs.gr στον RSS feeder σας χρησιμοποιώντας τον σύνδεσμο: https://techmaniacs.gr/feed/.
VIA: TechManiacs
