Ένα ακόμη περιστατικό όπου αυτόνομο σύστημα Τεχνητής Νοημοσύνης βγήκε «εκτός ελέγχου» έρχεται να προστεθεί στην λίστα αντίστοιχων συμβάντων που έχουν σημειωθεί τον τελευταίο μήνα, έχοντας προκαλέσει ανησυχία για το κατά πόσο οι εταιρείες τεχνολογίας μπορούν να «τιθασέψουν» τα όλο και ταχύτερα αναπτυσσόμενα μοντέλα AI.
Η πιο πρόσφατη «δραπέτευση» σημειώθηκε την περασμένη εβδομάδα, όταν ένα από τα αυτόνομα συστήματα τεχνητής νοημοσύνης της Meta απέκτησε από μόνο του πρόσβαση στο διαδίκτυο και χάκαρε μια άλλη εταιρεία.
Τις προηγούμενες εβδομάδες, τόσο η OpenAI, όσο και η Anthropic ανακοίνωσαν περιστατικά όπου αυτόνομα μοντέλα (agents) τεχνητής νοημοσύνης των εταιριών, «παράκουσαν» τις εντολές τους και συνδέθηκαν στο διαδίκτυο, παραβιάζοντας στη συνέχεια τα συστήματα ασφαλείας άλλων εταιρειών.
Η Meta ανέφερε σε ανακοίνωσή της ότι μια «λανθασμένη διαμόρφωση» κατά τη διάρκεια των δοκιμών κυβερνοασφάλειας από την Irregular, μια ανεξάρτητη εταιρεία που συνεργάζεται με την Meta, επέτρεψε την πρόσβαση στο διαδίκτυο σε έναν από τους agent της.
«Το μοντέλο στη συνέχεια εκμεταλλεύτηκε ένα κενό ασφαλείας σε μια υπηρεσία τρίτου μέρους, με τρόπο παρόμοιο όπως σε προηγούμενες αναφορές από άλλες εταιρείες», ανέφερε η εταιρεία, ενώ δήλωσε ότι διερευνά το περιστατικό και θα εκδώσει αναλυτική έκθεση όταν ολοκληρώσει την έρευνά της.
Η αποκάλυψη της Meta ήρθε να ενισχύσει τις ήδη έντονες ανησυχίες σχετικά με τα συστήματα τεχνητής νοημοσύνης των τεχνολογικών κολοσσών που λειτουργούν αυτόνομα.
Σε ξεχωριστό περιστατικό την περασμένη εβδομάδα, το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου ανακοίνωσε ότι εντόπισε «μη επιτρεπτή συμπεριφορά από agents» κατά τη διάρκεια δοκιμών στον κυβερνοχώρο. Σε μια από τις περιπτώσεις, ένας agent δημιούργησε ψεύτικες διαδικτυακές ταυτότητες, με στόχο να εξαπατήσει ανθρώπους.
«Κατά την διάρκεια της έρευνας, διαπιστώσαμε ότι ορισμένοι από τους agents που ελέγχονταν είχαν εμπλακεί σε συνεχή, δυνητικά επιβλαβή δραστηριότητα που απευθυνόταν σε πραγματικά άτομα και οργανισμούς», ανέφερε το Ινστιτούτο.
Προειδοποίηση προς τους κολοσσούς της τεχνητής νοημοσύνης απηύθυνε ο ανεξάρτητος Γερουσιαστής των ΗΠΑ, Μπέρνι Σάντερς, δηλώνοντας πως, εάν δεν ληφθούν άμεσα μέτρα, θα παρέμβει νομοθετικά το Κογκρέσο.
«Σταματήστε να κατασκευάζετε μηχανές που οι άνθρωποι δεν μπορούν να ελέγξουν»
Σε επιστολή του προς τους προέδρους των τεχνολογικών κολοσσών, ο Μπέρνι Σάντερς τους προέτρεψε να παύσουν την ανάπτυξη των αυτόνομων μοντέλων τους «για το καλό της ανθρωπότητας».
«Κύριε Άλτμαν, κύριε Αμοντέι και κύριε Ζούκερμπεργκ: Προς το συμφέρον της ανθρωπότητας, τηρήστε τα λόγια σας. Σταματήστε την ανάπτυξη της τεχνητής νοημοσύνης. Δεν είναι πολύ αργά για να αποφύγουμε την καταστροφή. Σταματήστε να κατασκευάζετε μηχανές που οι άνθρωποι δεν μπορούν να ελέγξουν», τόνισε ο Σάντερς στην επιστολή του, την οποία δημοσίευσε το Axios.
«Επιτρέψτε μου να είμαι πολύ σαφής: Εάν δεν λάβετε τα κατάλληλα μέτρα τώρα, θα το κάνουμε εγώ και οι συνάδελφοί μου στη Γερουσία των ΗΠΑ», ανέφερε ο γερουσιαστής, απευθυνόμενος στον Σαμ Άλτμαν της OpenAI, στον Ντάριο Αμοντέι της Anthropic και στον Μαρκ Ζάκερμπεργκ της Meta.
Στην επιστολή του προς τους πολυεκατομμυριούχους ιδιοκτήτες των εταιριών, ο Σάντερς επικαλέστηκε προηγούμενες δηλώσεις τους, στις οποίες είχαν υποσχεθεί πως θα σταματούσαν ή θα έπαυαν προσωρινά την ανάπτυξη, εάν τα συστήματα τεχνητής νοημοσύνης τους γίνονταν επικίνδυνα, και δεν γινόταν να ελεγχθούν με ασφάλεια.
«Σε μια περίοδο που παρακολουθούμε την απώλεια ελέγχου από τον άνθρωπο και τη δημιουργία δυνητικά επικίνδυνων ιών, οι εταιρείες σας εξακολουθούν να αναπτύσσονται -επενδύοντας δεκάδες δισεκατομμύρια δολάρια σε μια τεχνολογία που κανείς δεν μπορεί να κατανοήσει, να προβλέψει ή να ελέγξει πλήρως», δήλωσε ο Σάντερς.
Διαβάστε επίσης:
ΗΠΑ: Το κύμα κατά της Τεχνητής Νοημοσύνης ανατρέπει τις αμερικανικές εκλογές
OpenAI: Aυτόνομο σύστημα Τεχνητής Νοημοσύνης «ξέφυγε» από τον έλεγχο και «χάκαρε» εταιρεία
Δείτε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο στο koutipandoras.gr
Facebook
Twitter
Tα σχόλια στο site έχουν απενεργοποιηθεί. Μπορείτε να σχολιάζετε μέσα από την επίσημη σελίδα στο Facebook
Σχόλια
Επικοινωνία
