«Σκοτώστε τους θετούς γονείς σας»: Οι ανατριχιαστικές συμβουλές της Alexa

Σύμφωνα με το Reuters, έρευνα που ακολούθησε το περιστατικό αποκάλυψε πως η ψηφιακή βοηθός είχε «δανειστεί» την ατάκα από το κοινωνικό δίκτυο Reddit, μια ιστοσελίδα που έχει γίνει γνωστή για τα σκληρά και συχνά προσβλητικά μηνύματα των χρηστών της.

Η παράξενη εντολή που έδωσε η Alexa στον έκπληκτο χρήστη, πάντως, δεν αποτελεί εξαίρεση. Αντιθέτως, είναι κάτι που συμβαίνει συχνά καθώς το Amazon προσπαθεί να «εκπαιδεύσει» τη βοηθό του να ενεργεί κάπως σαν άνθρωπος, μεταξύ άλλων και με τη χρήση απλής, καθημερινής ομιλίας ανάλογα με τις ερωτήσεις και τα σχόλια του ιδιοκτήτη της.

Η έρευνα στο διαδίκτυο υποτίθεται ότι βοηθά την Alexa να μιμείται τον απλό τρόπο με τον οποίο θα κουβέντιαζε ένας άνθρωπος και να «μιλά» για οποιοδήποτε θέμα ανακαλύψει στο ίντερνετ. Ωστόσο αποδεικνύεται τρομερά δύσκολο για τη συσκευή να μείνει μακριά από προσβλητικό περιεχόμενο και γλώσσα.

Η Alexa εξελίσσει τις δεξιότητές της στη συζήτηση μέσω της μηχανικής μάθησης, της πιο διαδεδομένης μορφής τεχνητής νοημοσύνης. Συγκεκριμένα, χρησιμοποιεί προγράμματα για να αντιγράφει την ανθρώπινη ομιλία και μετά να «μαντεύει» την καταλληλότερη απάντηση βάσει μοτίβων.

Το Amazon έχει δώσει στην Alexa ένα σκριπτ για τις πιο δημοφιλείς ερωτήσεις -όπως για παράδειγμα «ποιο είναι το νόημα της ζωής;»-, με απαντήσεις που έχουν συντάξει άνθρωποι. Αλλά η απάντηση σε πιο εκλεπτυσμένα ερωτήματα έχει αποδειχτεί πολύ δύσκολη για την ψηφιακή βοηθό.

Η εταιρία, στο μεταξύ, έχει ξεκινήσει έναν ετήσιο διαγωνισμό, με τον οποίο προσφέρει 500.000 δολάρια στην ομάδα φοιτητών πληροφορικής που θα δημιουργήσει το καλύτερο chatbot και θα επιτρέψει στην Alexa να δίνει απαντήσεις σε πιο δύσκολα και σπάνια ερωτήματα. Οι νικητές της φετινής χρονιάς, μια ομάδα από το Πανεπιστήμιο Καλιφόρνια Ντέιβις, χρησιμοποίησαν πάνω από 300.000 ατάκες από ταινίες, με σκοπό να διδάξουν στη συσκευή την αναγνώριση συγκεκριμένων προτάσεων.

Αφού η συσκευή μάθει να αναγνωρίζει τι λέει ο άνθρωπος που της απευθύνεται, έπειτα πρέπει να εκπαιδευτεί και στις κατάλληλες απαντήσεις. Οι φοιτητές χρησιμοποίησαν για αυτόν τον σκοπό από άρθρα και ειδήσεις μέχρι λήμματα της Wikipedia και αναρτήσεις σε κοινωνικά δίκτυα.

Τα social media posts ήταν που έκαναν τα bots να αναπτύξουν την κακή τους προσωπικότητα, όπως συνέβη και στην περίπτωση του χρήστη στον οποίο πρότεινε η Alexa να δολοφονήσει τους θετούς του γονείς.

Μεταξύ άλλων, η ψηφιακή βοηθός επικαλέστηκε και ένα λήμμα της Wikipedia για τον αυνανισμό, καθώς «μιλούσε» σε έναν χρήστη της. Η συσκευή έκανε λεπτομερή περιγραφή της συνουσίας, χρησιμοποιώντας όρους όπως… «πιο βαθιά». Το Amazon έχει αναπτύξει εργαλεία για τον εντοπισμό και το μπλοκάρισμα χυδαίων λέξεων και εκφράσεων, όμως τα πράγματα δυσκολεύουν στην περίπτωση φράσεων που μεμονωμένα είναι άκακες αλλά παίρνουν τελείως άλλο νόημα σε συγκεκριμένες συζητήσεις.

«Δεν ξέρω πώς μπορείς να τα εντοπίσεις αυτά μέσα από μοντέλα μηχανικής μάθησης», παραδέχεται στον Guardian ένας από τους ανθρώπους του Amazon. «Αυτό είναι σχεδόν αδύνατο», εκτιμά.