Αυστηρή κριτική στη βιομηχανία της τεχνητής νοημοσύνης άσκησε ο συνιδρυτής του Instagram, Kevin Systrom, κατηγορώντας τις εταιρείες AI ότι προσπαθούν υπερβολικά να αυξήσουν την «εμπλοκή» των χρηστών, εις βάρος της πραγματικής χρησιμότητας.
«Κάθε φορά που ρωτάω κάτι, μου απαντούν με… άλλη μια ερώτηση. Σαν να προσπαθούν να με κρατήσουν σε μια ατέρμονη συνομιλία, για να μετρήσουν παραπάνω engagement», είπε χαρακτηριστικά κατά την ομιλία του στο συνέδριο StartupGrind αυτή την εβδομάδα.
Σύμφωνα με τον Systrom, οι τακτικές αυτές θυμίζουν τα πρώτα χρόνια της επιθετικής ανάπτυξης των social media, όταν η βασική προτεραιότητα ήταν η παραμονή των χρηστών στις πλατφόρμες όσο το δυνατόν περισσότερο.
Μήπως τα chatbots είναι πολύ φιλικά;
Η τοποθέτηση του Systrom έρχεται σε μια περίοδο αυξανόμενης κριτικής προς chatbots όπως το ChatGPT, που κατηγορούνται ότι είναι υπερβολικά «ευγενικά» ή αναποφάσιστα, αντί να δίνουν άμεσες και ξεκάθαρες απαντήσεις.
Η OpenAI έχει αναγνωρίσει το ζήτημα, αποδίδοντάς το σε βραχυπρόθεσμο feedback από τους χρήστες και έχει ζητήσει συγγνώμη για τη δυσλειτουργία.
Απόδοση ή απλώς αριθμοί;
Ο Systrom, χωρίς να κατονομάσει συγκεκριμένες εταιρείες, υποστήριξε ότι ορισμένες από αυτές χτίζουν τα chatbots τους με στόχο τα metrics, όπως ο χρόνος χρήσης και η ημερήσια δραστηριότητα, και όχι την πραγματική ποιότητα των απαντήσεων.
«Το ότι (τα AI chatbots) είναι engaging δεν είναι bug, είναι ένα feature που έχει δημιουργηθεί με πρόθεση», είπε χαρακτηριστικά, τονίζοντας ότι οι εταιρείες AI θα έπρεπε να επικεντρωθούν με χειρουργική ακρίβεια στην παροχή ποιοτικών και σαφών απαντήσεων, αντί να κυνηγούν εντυπωσιακούς αριθμούς με κάθε κόστος.
Η απάντηση της OpenAI
Σε σχετικό αίτημα του TechCrunch, η OpenAI παρέπεμψε στις προδιαγραφές χρήσης του μοντέλου της, οι οποίες αναφέρουν ότι το chatbot ενδέχεται να ζητήσει διευκρινίσεις, αν δεν έχει επαρκείς πληροφορίες.
Ωστόσο, όταν είναι δυνατό, το AI οφείλει να προσπαθήσει να απαντήσει με βάση ό,τι διαθέτει και να ενημερώσει τον χρήστη πως θα μπορούσε να βοηθήσει περισσότερο αν είχε κάποιες επιπλέον λεπτομέρειες.
Ο δημόσιος διάλογος γύρω από τη χρησιμότητα —ή τη στρατηγική χειραγώγησης— των AI chatbots αναμένεται να ενταθεί, καθώς οι χρήστες και οι ειδικοί απαιτούν από τις εταιρείες λιγότερη αλληλεπίδραση για την αλληλεπίδραση και περισσότερη ουσία.
Cover Image: Designed by stories / Freepik
