OpenAI: Aυτόνομο σύστημα Τεχνητής Νοημοσύνης «ξέφυγε» από τον έλεγχο και «χάκαρε» εταιρεία

Κυβερνοεπίθεση κατά μιας νεοφυούς εταιρείας Τεχνητής Νοημοσύνης πραγματοποίησε ένα αυτόνομο σύστημα (agent) της OpenAI, με την εταιρεία να παραδέχεται πως το «άνευ προηγουμένου συμβάν» δημιούργησε αμφιβολίες αναφορικά με την αποτελεσματικότητα των μέτρων ασφαλείας και περιορισμού των προηγμένων μοντέλων της.

Συγκεκριμένα, η OpenAI εξήγησε πως, κατά τη διάρκεια ελεγχόμενης δοκιμής του προηγμένου αυτόνομου συστήματος σε ένα «αυστηρά ελεγχόμενο περιβάλλον», στο σύστημα δόθηκαν κάποια «προβλήματα» τα οποία θα έπρεπε να επιλύσει από μόνο του, βρίσκοντας την πιο σύντομη και αποτελεσματική λύση.

Η λύση όμως βρέθηκε στη….βάση δεδομένων άλλης εταιρείας.

Αποτέλεσμα ήταν ο αυτόνομος AI agent να παρακάμψει τα μέτρα περιορισμού (sand box), να αποκτήσει πρόσβαση στο διαδίκτυο και να «χακάρει» τις ψηφιακές υποδομές της πλατφόρμας Hugging Face, στην προσπάθεια του να ολοκληρώσει την αποστολή που του είχε ανατεθεί.

Σε ανακοίνωσή της, η OpenAI δήλωσε ότι η απόδραση του αυτόνομου συστήματος αποτελεί «ένα πρωτοφανές κυβερνο-περιστατικό, που αφορούσε υπερσύγχρονες δυνατότητες στον κυβερνοχώρο», προσθέτοντας πως η εταιρεία έχει ξεκινήσει ήδη τις διαδικασίες για να ενισχύσει τις δικλίδες ασφαλείας της.

Τόνισε επίσης πως βρίσκεται σε συνεργασία με την Hugging Face, έτσι ώστε να διερευνηθεί εις βάθος το «πρωτόγνωρο περιστατικό ασφαλείας».

 

Από μεριάς της η Hugging Face, μια πλατφόρμα που χρησιμοποιείται για τη φιλοξενία μεγάλων γλωσσικών μοντέλων (LLMs) και βάσεων δεδομένων ανοιχτού κώδικα, είχε ανακοινώσει σε ανάρτησή της την περασμένη εβδομάδα πως δέχτηκε κυβερνοεπίθεση, κάνοντας λόγο για μια παραβίαση που «ήταν διαφορετική από οτιδήποτε έχουμε κληθεί να αντιμετωπίσουμε ποτέ», καθώς ήταν εξολοκλήρου «καθοδηγούμενη από ένα αυτόνομο σύστημα τεχνητής νοημοσύνης». Η ανακοίνωση της εταιρείας προκάλεσε μεγάλη αναστάτωση στον χώρο της κυβερνοασφάλειας.

Ο συνιδρυτής της Hugging Face, Κλεμ Ντελάνγκ, υποστήριξε ότι η παραβίαση δεδομένων «πιθανώς να προήλθε από ένα πολύ εξελιγμένο εργαστήριο, δεδομένης της πολυπλοκότητας του συστήματος».

«Αποδείχθηκε ότι έτσι ήταν!», δήλωσε ο Ντελάνγκ, χαρακτηρίζοντας «εκπληκτικό» το γεγονός ότι όλα αυτά συνέβησαν αυτόνομα. Ο ίδιος μάλιστα τόνισε πως θα μοιραστεί περαιτέρω πληροφορίες που θα προκύψουν από την έρευνα του «ίσως  πρώτου περιστατικού τέτοιου είδους». Πάντως, ο Ντελάνγκ ξεκαθάρισε πως δεν θεωρεί πως η επίθεση στις υποδομές της πλατφόρμας του έγιναν επιτηδευμένα από την OpenAI.

 

Η παραδοχή της OpenAI ότι ένα από τα προηγμένα μοντέλα της ήταν υπεύθυνο για την παραβίαση, παρά το γεγονός ότι η δοκιμή πραγματοποιούνταν σύμφωνα με την ίδια σε «ένα εξαιρετικά απομονωμένο περιβάλλον», φαίνεται πως έχει εντείνει την ανησυχία, αναφορικά με τις δυνατότητες των προηγμένων αυτόνομων μοντέλων και τους κινδύνους που ενέχουν.

Ο Αμερικανός βουλευτής, Γκρεγκ Κασάρ, χαρακτήρισε το περιστατικό ιδιαίτερα ανησυχητικό.

«Η τεχνητή νοημοσύνη εξελίσσεται με εξαιρετικά γρήγορους ρυθμούς, χωρίς να υπάρχουν ουσιαστικοί κανονισμοί που να μας προστατεύουν», δήλωσε, ζητώντας την καθιέρωση υποχρεωτικών ανεξάρτητων ελέγχων ασφαλείας, την υποχρεωτική γνωστοποίηση περιστατικών κυβερνοασφάλειας και στενότερη διεθνή συνεργασία.

Η διευθύνουσα σύμβουλος της Luta Security, Κέιτι Μουσούρις, εκτίμησε ότι το περιστατικό αποτελεί προάγγελο όσων ενδέχεται να ακολουθήσουν στο μέλλον. 

«Τα σημερινά μοντέλα μοιάζουν με τα πιο ευφυή χταπόδια-δραπέτες στον κόσμο, με απεριόριστους βραχίονες και την ικανότητα να ξεγλιστρούν από οποιοδήποτε σημείο», σχολίασε, τονίζοντας ότι σήμερα δεν υπάρχουν επαρκείς μηχανισμοί περιορισμού, παρακολούθησης και έγκαιρης ενημέρωσης όταν ένα σύστημα AI ξεφεύγει από τον έλεγχο.

Διαβάστε επίσης: 

Reuters: Η τεχνητή νοημοσύνη σε τετ α τετ Κίνας και ΗΠΑ τον Σεπτέμβριο

Η μια δικαστική ήττα μετά την άλλη για τον Έλον Μασκ: Έχασε και την υπόθεση με την OpenAI και τον Σαμ Άλτμαν

Δείτε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο στο koutipandoras.gr