Τα λεγόμενα «AI Overviews» είναι τα χρωματιστά πλαίσια σύνοψης που εμφανίζονται πάνω από τους συνδέσμους προς νοσοκομεία ή ιατρικά περιοδικά και έχουν σχεδιαστεί για να δίνουν άμεσες απαντήσεις. Ωστόσο, διαπιστώθηκε ότι σε ορισμένες περιπτώσεις παρείχαν ελλιπή δεδομένα, δημιουργώντας μια αίσθηση βεβαιότητας χωρίς την απαραίτητη ιατρική ακρίβεια.
Χαρακτηριστικό παράδειγμα αφορούσε ερωτήματα σχετικά με «φυσιολογικά όρια» σε αιματολογικές εξετάσεις για το ήπαρ. Σε τέτοια αναζήτηση, το σύστημα φέρεται να παρήγαγε απλώς μια λίστα αριθμών, χωρίς να ζητά κρίσιμες πληροφορίες όπως το φύλο, η ηλικία, η εθνικότητα ή το ιατρικό ιστορικό του ατόμου. Ιατρικοί ειδικοί αντιμετώπισαν αυτή την πρακτική ως επικίνδυνη, καθώς παρουσίαζε ενιαίες τιμές ως γενικά «φυσιολογικές», χωρίς διαφοροποίηση ανά περίπτωση.
Το πρόβλημα δεν περιορίστηκε στο ενδεχόμενο σφάλμα. Περιγράφηκε ως παραπλανητικό με τρόπο που μπορεί να έχει πραγματικές συνέπειες. Ένα άτομο με πρώιμο στάδιο ηπατικής νόσου, για παράδειγμα, θα μπορούσε να αναζητήσει τα αποτελέσματά του και να δει ότι οι τιμές του ταιριάζουν με τα «φυσιολογικά» νούμερα που εμφανίζονται στη σύνοψη. Αυτό θα μπορούσε να το οδηγήσει στο συμπέρασμα ότι «είναι καλά» και να παραλείψει μια ιατρική επίσκεψη παρακολούθησης, παρότι το ίδιο αποτέλεσμα μπορεί να έχει διαφορετική σημασία ανάλογα με το προφίλ του ασθενούς.
Στο επίκεντρο βρίσκεται και το ζήτημα της εμπιστοσύνης. Επειδή οι περιλήψεις αυτές εμφανίζονται στην κορυφή της σελίδας, πριν από τους παραδοσιακούς συνδέσμους, μπορούν να εκληφθούν ως η πιο αξιόπιστη απάντηση. Η παρουσίαση σε «τακτοποιημένο» πλαίσιο ενισχύει την εντύπωση ορθότητας, ενώ η λειτουργία τους περιγράφηκε ως μηχανισμός πρόβλεψης που επιχειρεί να «μαντέψει» ποια λέξη ακολουθεί.
Η Google αφαίρεσε τα συγκεκριμένα ερωτήματα που είχαν επισημανθεί και υποστήριξε ότι το σύστημά της είναι συνήθως χρήσιμο. Παρ’ όλα αυτά, οργανισμοί υγείας όπως το British Liver Trust διαπίστωσαν ότι με ελαφρώς διαφορετική διατύπωση της ίδιας ερώτησης, η προβληματική πληροφορία μπορούσε να εμφανιστεί ξανά, γεγονός που περιγράφηκε ως ένα είδος «ψηφιακού whack-a-mole».
