Ενώ η φρενίτιδα AI δεν επιβραδύνεται σύντομα και οι εταιρείες πλησιάζουν την τεχνητή νοημοσύνη ακόμη πιο επιθετικά από πριν, με την ευρεία εφαρμογή της τεχνολογίας, γίνεται πιο δύσκολο να εξασφαλιστεί η ηθική χρήση της. Μία τέτοια εφαρμογή έχει αυξήσει τα φρύδια, όπου οι πρόσφατες αναφορές αποκαλύπτουν ότι οι ερευνητές ενός πανεπιστημίου διεξήγαγαν ένα πείραμα AI στο Reddit που δεν ήταν μόνο μη εξουσιοδοτημένο αλλά αρκετά ανήθικο και αυτό που θα μπορούσε επίσης να έχει νομικές συνέπειες. Αυτή η χρήση υπογραμμίζει την ανάγκη για αυστηρή διαφάνεια και την προστασία της ιδιωτικής ζωής των χρηστών κατά την ανάπτυξη της τεχνολογίας.
Οι ερευνητές σε ένα πανεπιστήμιο βρίσκονται υπό πυρκαγιά μετά τη διεξαγωγή ενός πειράματος AI σε χρήστες Reddit χωρίς τη συγκατάθεσή τους
Με το AI να χρησιμοποιείται σε ποικίλα ιδρύματα με πολλαπλές εφαρμογές, φαίνεται ότι υπάρχει αυξανόμενη ανησυχία σχετικά με την ηθική ανάπτυξη του AI σε αυτές τις πλατφόρμες. Αυτό συνέβη με ένα πρόσφατο συγκεκαλυμμένο πείραμα που προκάλεσε αρκετή συζήτηση και κάλεσε πολλές κριτικές. Οι ερευνητές του Πανεπιστημίου της Ζυρίχης διεξήγαγαν ένα ανήθικο πείραμα AI στο Reddit χωρίς τη γνώση ή τη συγκατάθεση του χρήστη.
Οι ερευνητές χρησιμοποίησαν προηγμένα μοντέλα γλωσσών για να δημιουργήσουν bots AI που θα είχαν διαφορετικά άτομα και θα συμμετάσχουν σε συζητήσεις σχετικά με το Subreddit να αλλάξουν την άποψή μου. Τα bots θα θέτουν είτε ως συμβούλους τραυμάτων είτε ως επιζώντες φυσικής παρενόχλησης για να αξιολογήσουν τον τρόπο με τον οποίο το AI θα μπορούσε να χρησιμοποιηθεί για να επηρεάσει τις προοπτικές ή ακόμη και τις απόψεις. Τα AI bots θα μελετούσαν τις προηγούμενες απαντήσεις του χρήστη και άλλες δεσμεύσεις για να δημιουργήσουν προσαρμοσμένες απαντήσεις. Αυτό το πείραμα δεν συνεπάγεται την ενημέρωση του Reddit ή των χρηστών του. Έτσι, ήταν μια σημαντική ηθική παραβίαση και έθεσε ανησυχίες σχετικά με την ψυχολογική χειραγώγηση.
Το Πανεπιστήμιο της Ζυρίχης ενημέρωσε το Subreddit συντονιστές Μετά τη διεξαγωγή του πειράματος. Παρόλο που παραδέχτηκαν ότι η ομάδα είχε παραβιάσει τους κοινοτικούς κανόνες χρησιμοποιώντας AI bots χωρίς να την αποκαλύψει, αυτό κάλεσε μόνο περισσότερη κριτική ως προς τη συνολική ανήθικη φύση της μελέτης. Το πανεπιστήμιο αποκάλυψε για το πείραμα με τον ακόλουθο τρόπο:
Τους τελευταίους μήνες χρησιμοποιήσαμε πολλούς λογαριασμούς σε δημοσιεύσεις που δημοσιεύθηκαν στο CMV. Το πείραμά μας αξιολόγησε την πειστικότητα του LLM σε ένα ηθικό σενάριο, όπου οι άνθρωποι ζητούν επιχειρήματα ενάντια στις απόψεις που κατέχουν. Σχολίζοντας, δεν αποκαλύψαμε ότι ένα AI χρησιμοποιήθηκε για να γράψει σχόλια, καθώς αυτό θα είχε καθιστήσει τη μελέτη ανέφικτη. Ενώ δεν γράψαμε τα σχόλια μας, εξετάσαμε με μη αυτόματο τρόπο κάθε σχόλιο που δημοσιεύτηκε για να διασφαλίσουμε ότι δεν ήταν επιβλαβείς. Αναγνωρίζουμε ότι το πείραμά μας έσπασε τους κοινοτικούς κυβερνώντες ενάντια στα σχόλια που δημιουργήθηκαν από την AI και ζητούν συγγνώμη. Πιστεύουμε, ωστόσο, ότι δεδομένης της υψηλής κοινωνικής σημασίας αυτού του θέματος, ήταν ζωτικής σημασίας να διεξαχθεί μια τέτοια μελέτη, ακόμη και αν σήμαινε την παραβίαση των κανόνων.
Ενώ οι ερευνητές αναγνώρισαν την παραβίαση, το δικαιολόγησαν, υποδηλώνοντας ότι είχε μεγάλη κοινωνική αξία και συνάφεια. Τα AI BOTs υιοθέτησαν κάποια εξαιρετικά φορτισμένα πρόσωπα, συμπεριλαμβανομένων των ισχυρισμών ότι ήταν συμβούλους τραυμάτων και ειδικεύοντας σε κακοποίηση ή ακόμα και χρησιμοποιώντας το AI για να διεκδικήσουν κακή ιατρική περίθαλψη σε νοσοκομείο. Αυτό είναι ανησυχητικό όχι μόνο λόγω των εξαιρετικά προκλητικών προσώπων που επέλεξαν, αλλά και λόγω της πιθανής βλάβης που θα είχε κάνει σε άτομα που πίστευαν ότι συμμετείχαν σε πραγματικές, ανθρώπινες συνομιλίες.
Οι συντονιστές της πλατφόρμας καταδίκασαν έντονα το πείραμα AI και το χαρακτήρισαν μια σοβαρή ηθική παραβίαση. Επίσης, επεσήμαναν πώς η OpenAI ήταν σε θέση να διεξάγει μια μελέτη που περιελάμβανε την επιρροή των μοντέλων LLM χωρίς να συνεπάγεται εξαπάτηση ή εκμετάλλευση. Οι ερευνητές, στην πραγματικότητα, διασταυρούμενες γραμμές, ειδικά με τα άτομα που αισθάνονται στοχοθετημένα και συμμετείχαν σε ένα πείραμα που ποτέ δεν συμφώνησαν να συμμετάσχουν στην πρώτη θέση.
VIA: wccftech.com
