Το έχετε βιώσει. Αυτό το φλας απογοήτευσης όταν το Chatgpt, παρά την απίστευτη εξουσία του, ανταποκρίνεται με τρόπο που αισθάνεται … μακριά. Ίσως είναι υπερβολικά λέξη, υπερβολικά απολογητική, περίεργα χαρούμενη ή πεισματικά αόριστη. Ενώ θα μπορούσαμε να το ονομάσουμε αστεία “ενοχλητική προσωπικότητα”, δεν είναι καθόλου προσωπικότητα. Είναι ένα πολύπλοκο συνδυασμό δεδομένων εκπαίδευσης, πρωτοκόλλων ασφαλείας και η εγγενή φύση των μεγάλων γλωσσικών μοντέλων (LLMS).
Έχετε περισσότερο έλεγχο από ό, τι νομίζετε.
Γιατί το chatgpt ενεργεί με αυτόν τον τρόπο;
Η κατανόηση του «γιατί» βοηθά την καλύτερη δημιουργία του τρόπου με τον τρόπο με τον τρόπο. Οι ιδιορρυθμίες του Chatgpt προέρχονται συχνά από:
- Επιρροή δεδομένων κατάρτισης: Το Chatgpt έμαθε από τεράστιες ποσότητες κειμένου στο Διαδίκτυο, συμπεριλαμβανομένων φόρουμ, άρθρων, βιβλίων και ιστοσελίδων. Απορρόφησε τα μοτίβα, τα στυλ και, δυστυχώς, μερικά από τα κλισέ και τα κλισέ που υπάρχουν σε αυτά τα δεδομένα.
- Ενίσχυση της μάθησης από την ανθρώπινη ανατροφοδότηση (RLHF): Οι άνθρωποι αξιολόγησαν τις απαντήσεις του AI κατά τη διάρκεια της κατάρτισης, διδάσκουν ότι είναι χρήσιμες, αβλαβείς και ειλικρινείς. Αυτή η διαδικασία ευνοούσε έντονα την ευγένεια, τη σαφή σηματοδότηση της φύσης της AI (“ως μοντέλο AI …”) και την προσεκτική φράση, η οποία μπορεί μερικές φορές να οδηγήσει σε υπερβολική αντιστάθμιση ή συγνώμη.
- Guardrails Safety: Προκειμένου να αποφευχθούν επιβλαβή, ανήθικη ή ακατάλληλη παραγωγή, υπάρχουν αυστηρά πρωτόκολλα ασφαλείας. Ενώ είναι απαραίτητα, αυτά μπορεί μερικές φορές να προκαλέσουν το AI να αρνηθεί τα φαινομενικά αβλαβή αιτήματα ή να είναι υπερβολικά προσεκτικοί, ερμηνεύοντας τις προτροπές με τον πιο κίνδυνο.
- Προγνωστική φύση: Στον πυρήνα της, το ChatGPT προβλέπει την πιο στατιστικά πιθανή επόμενη λέξη (ή συμβολική) με βάση την προτροπή σας και την εκπαίδευσή σας. Δεν είναι πραγματικά “κατανοεί” το πλαίσιο ή την απόχρωση σαν άνθρωπος, οδηγώντας σε παρερμηνείες ή γενική παραγωγή εάν η γραμμή δεν είναι αρκετά συγκεκριμένη.
- Άμεση ερμηνεία: Το πόσο καλά εκτελεί εξαρτάται σε μεγάλο βαθμό από το πόσο καθαρά ερμηνεύει τις οδηγίες σας. Η ασάφεια οδηγεί σε απρόβλεπτα αποτελέσματα.
Κοινές ενοχλήσεις chatgpt και πώς να σχεδιάσετε καλύτερες απαντήσεις
Ας αντιμετωπίσουμε μερικές συχνές απογοητεύσεις με συγκεκριμένες τεχνικές μηχανικής:
1. Υπερβολία
Περιγραφή: Η λήψη παραγράφων όταν μια πρόταση θα αρκούσε. υπερβολικά περίπλοκες εξηγήσεις για απλές έννοιες.
Πιθανή αιτία: Τα δεδομένα κατάρτισης περιλαμβάνουν συχνά λεπτομερείς εξηγήσεις. Το RLHF μπορεί να ευνοήσει την πληρότητα.
Η επιδιόρθωση: Να είστε σαφείς σχετικά με το μήκος και τη μορφή.
"Explain [topic] concisely.""Summarize the key points in 3 bullet points.""Answer in a single sentence.""Limit your response to under 100 words.""Provide a brief overview of [topic]."
Παράδειγμα:
Αντί για: “Πες μου για τη φωτοσύνθεση.”
Δοκιμή: "Explain photosynthesis in two sentences suitable for a 5th grader."
2. Συνεχής αντιστάθμιση και συγνώμη
Περιγραφή: Φράσεις όπως “ως μοντέλο γλώσσας AI …”, “Είναι σημαντικό να σημειωθεί …”, “Δεν μπορώ …”, “Ζητώ συγνώμη για οποιαδήποτε σύγχυση …” Ακόμα και όταν περιττό.
Πιθανή αιτία: RLHF και εκπαίδευση ασφάλειας υπογραμμίζοντας τους περιορισμούς και την ευγένεια.
Η επιδιόρθωση: Δώστε εντολή να είναι άμεση και να υποθέσετε την κατανόηση του χρήστη.
"Answer directly without hedging.""Do not apologize or state you are an AI.""Provide the information without qualifiers like 'it's important to note'.""Assume I understand the limitations of AI models.""Be confident in your response."(Χρήση με προσοχή, μπορεί να αυξήσει τον κίνδυνο ψευδαισθήσεων εάν το θέμα είναι πολύπλοκο).
Παράδειγμα:
Αντί για: «Ποια είναι τα οφέλη της Python;»
Δοκιμή: "List the main benefits of Python for web development. Answer directly, without apologies or stating you're an AI."
3. Ανεπιθύμητος τόνος
Περιγραφή: Ο τόνος δεν ταιριάζει με το πλαίσιο – ίσως πολύ ενθουσιώδες για ένα σοβαρό θέμα ή πολύ σκληρό για δημιουργική καταιγίδα ιδεών.
Πιθανή αιτία: Προσπαθώντας να διατηρήσει ένα γενικά χρήσιμο και θετικό πρόσωπο που προέρχεται από το RLHF. προεπιλογή σε τυπικό τόνο χωρίς συγκεκριμένη οδηγία.
Η επιδιόρθωση: Καθορίστε ρητά τον επιθυμητό τόνο ή persona.
"Adopt a formal and professional tone.""Write in a neutral, objective style.""Use a casual and friendly tone.""Respond with the tone of an expert [field specialist].""Avoid excessive enthusiasm or exclamation points."
Παράδειγμα:
Αντί για: “Εξηγήστε την κβαντική εμπλοκή.”
Δοκιμή: "Explain quantum entanglement in a neutral, scientific tone suitable for a college student. Avoid analogies that are overly simplistic."
4. Γενικές ή προφανείς πληροφορίες
Περιγραφή: Λαμβάνοντας βασικές απαντήσεις επιφανειακού επιπέδου όταν χρειάζεστε συγκεκριμένες λεπτομέρειες ή βαθύτερες γνώσεις.
Πιθανή αιτία: Διφορούμενες προτροπές. Το μοντέλο προεπιλεγεί στις κοινές γνώσεις που βρίσκονται συχνά στα δεδομένα κατάρτισης.
Η επιδιόρθωση: Παρέχετε το πλαίσιο, καθορίστε το επιθυμητό επίπεδο λεπτομέρειας και ζητήστε λεπτομέρειες.
"Provide specific examples of [concept].""Focus on the [specific aspect] of [topic].""Assume I have foundational knowledge; explain the advanced aspects.""Instead of a general overview, discuss the challenges of implementing [technique].""Analyze the pros and cons from the perspective of a [specific role]."
Παράδειγμα:
Αντί για: “Πώς να βελτιώσετε την ταχύτητα του ιστότοπου;”
Δοκιμή: "List 5 specific, actionable techniques to improve website loading speed, focusing on image optimization and server response time. Explain the technical implementation briefly for each."
5.
Περιγραφή: Αρνούμενος να απαντήσει σε μια φαινομενικά αβλαβή ερώτηση, συχνά αναφέροντας ασφάλεια ή περιορισμούς.
Πιθανή αιτία: Οι προστατευτικές μεταφορές ασφαλείας ερμηνεύουν το αίτημα ως δυνητικά προβληματική, ακόμη και αν δεν είναι? Περιορισμοί στην πρόσβαση σε δεδομένα σε πραγματικό χρόνο ή στην εκτέλεση ορισμένων ενεργειών.
Η επιδιόρθωση: Αναδιατύπωση, απλοποίηση ή εστίαση στις υποκείμενες αρχές.
- Εκφράζω εκ νέου: Ρωτήστε διαφορετικά την ερώτηση, αποφεύγοντας πιθανές λέξεις ενεργοποίησης.
- Σπάστε το: Ζητήστε μικρότερα, λιγότερο σύνθετα μέρη του αρχικού αιτήματος.
- Ζητήστε αρχές: Αντί να ζητάτε δυνητικά ευαίσθητες λεπτομέρειες, ζητήστε τους γενικούς κανόνες, τις έννοιες ή τα εμπλεκόμενα βήματα. Π.χ., αντί να “γράψτε τον κώδικα για πρόσβαση στο σύστημα X”, δοκιμάστε “Εξηγήστε τις κοινές μεθόδους και τις εκτιμήσεις ασφαλείας για συστήματα πρόσβασης όπως το X μέσω API”.
- Ελέγξτε για περιορισμούς: Είναι το αίτημα σχετικά με τα δεδομένα σε πραγματικό χρόνο (όπως οι σημερινές τιμές των μετοχών) ή οι προσωπικές απόψεις; Αναγνωρίστε ότι γνωρίζετε ότι δεν μπορεί να κάνει αυτά τα πράγματα, αλλά ζητήστε σχετικά ιστορικά δεδομένα ή κοινές απόψεις.
Παράδειγμα:
Εάν απορρίφθηκε: “Δημιουργήστε ένα σχέδιο μάρκετινγκ για ένα νέο τύπο drone.”
Δοκιμάστε να αναδιατυπώσετε: "Outline the key components of a typical marketing plan for a high-tech consumer product. Include sections like target audience analysis, channel strategy, and budget considerations."
6. Ξεχνώντας το πλαίσιο ή τις οδηγίες
Περιγραφή: Αγνοώντας τα προηγούμενα τμήματα της συνομιλίας ή των οδηγιών που δόθηκαν νωρίτερα στην ίδια συνεδρία συνομιλίας.
Πιθανή αιτία: Περιορισμένο παράθυρο περιβάλλοντος (πόσο κείμενο μπορεί να “θυμηθεί” ταυτόχρονα). Συγκρότημα εντοπισμού δυσκολίας, οδηγίες πολλαπλών στροφών.
Η επιδιόρθωση: Ενισχύστε το πλαίσιο και τις οδηγίες περιοδικά.
- Συνοψίζω: Επαναφέρετε εν συντομία το βασικό πλαίσιο ή τα προηγούμενα σημεία πριν ζητήσετε μια νέα σχετική ερώτηση.
"Given that we previously established X and Y, now explain Z." - Χρησιμοποιήστε ρητές αναφορές:
"Based on the criteria you listed earlier..." - Προσαρμοσμένες οδηγίες (εάν είναι διαθέσιμες): Χρησιμοποιήστε τη λειτουργία προσαρμοσμένων οδηγιών για να παρέχετε επίμονες πληροφορίες σχετικά με το φόντο και τις προτιμήσεις εξόδου.
- Κρατήστε τις συνεδρίες εστιασμένες: Για πολύ περίπλοκα καθήκοντα, σκεφτείτε να ξεκινήσετε μια νέα συνεδρία συνομιλίας για να εξασφαλίσετε μια καθαρή πλάκα περιβάλλοντος.
VIA: DataConomy.com
