Μην λέτε τα μυστικά σας στο ChatGPT, προειδοποιούν οι ειδικοί

Εμπειρογνώμονας τεχνητής νοημοσύνης προχώρησε σε μια πολύ σημαντική αποκάλυψη σχετικά με το ChatGPT. Το να εκφράζουμε τα παράπονα που έχουμε από τη δουλειά μας ή τις πολιτικές μας προτιμήσεις στο ιδιαίτερα δημοφιλές και προηγμένο μοντέλο τεχνητής νοημοσύνης, θα μπορούσε να μας γυρίσει μπούμερανγκ, τονίζει ο ίδιος.

Ο καθηγητής Τεχνητής Νοημοσύνης στο Πανεπιστήμιο της Οξφόρδης Μάικ Γούλντριτζ (Mike Wooldridge) λέει ότι το να μοιράζεσαι προσωπικές πληροφορίες ή να έχεις στενές επαφές με ένα chatbot θα ήταν «εξαιρετικά απερίσκεπτο», καθώς βοηθά στην εκπαίδευση μελλοντικών μοντέλων.

Οι χρήστες δεν θα πρέπει να περιμένουν ούτε μια ισορροπημένη απάντηση στα σχόλιά τους, καθώς η τεχνολογία «κυριολεκτικά λέει μόνο αυτό που θέλετε να ακούσετε».

Μάικ Γούλντριτζ: «Η τεχνητή νοημοσύνη δεν έχει καμία ενσυναίσθηση»

Σε μια σειρά διαλέξεων, όπως αναφέρει ο Guardian, ο καθηγητής θα εξηγήσει ότι, ενώ οι άνθρωποι προγραμματίστηκαν να αναζητήσουν συνείδηση στην τεχνητή νοημοσύνη, ήταν μια μάταιη προσπάθεια. Η τεχνητή νοημοσύνη, λέει ο ίδιος «δεν έχει καμία ενσυναίσθηση».

Οι χρήστες των μοντέλων όπως το ChatGPT θα πρέπει να υποθέτουν ότι «ο,τιδήποτε πληκτρολογείτε στο ChatGPT θα τροφοδοτεί μελλοντικές εκδόσεις του ChatGPT» και ότι η ανάκληση δεν είναι επιλογή.

Μάλιστα, χαρακτήρισε «εξαιρετικά παράλογο» το γεγονός οι χρήστες να μοιράζονται τόσο προσωπικές πληροφορίες με ένα τέτοιο σύστημα, αφού οτιδήποτε αποκαλυφθεί βοηθά στην εκπαίδευση μελλοντικών εκδόσεων.

«Αυτό δεν είναι απολύτως αυτό που κάνει η τεχνολογία και το σημαντικότερο, δεν έχει βιώσει ποτέ τίποτα», πρόσθεσε. «Η τεχνολογία είναι βασικά σχεδιασμένη για να προσπαθεί να σας πει αυτό που θέλετε να ακούσετε – αυτό είναι κυριολεκτικά το μόνο που κάνει».

Τι είναι το ChatGPT

Το Chat GPT είναι η συντομογραφία του “Generative Pre-trained Transformer” (Generative Pre-trained Transformer: Παραγωγικός Προεκπαιδευμένος Μετασχηματιστής). Όπως είναι ήδη ευρέως γνωστό από τον Νοέμβριο του 2022, είναι ένας τύπος γλωσσικού μοντέλου τεχνητής νοημοσύνης.

Ο όρος “Generative” αναφέρεται στην ικανότητα του μοντέλου να δημιουργεί κείμενο με βάση τα δεδομένα που λαμβάνει, ενώ το “Pre-trained” σημαίνει ότι το γλωσσικό μοντέλο έχει εκπαιδευτεί σε ένα μεγάλο όγκο δεδομένων προτού βελτιωθεί με τη χρήση ανθρώπινης αλληλεπίδρασης και ενισχυτικής μάθησης.

Το Chat GPT έχει εκπαιδευτεί να μιμείται όσο το δυνατόν πιο πιστά τον ανθρώπινο λόγο.