OpenAI: Τρομακτικά στοιχεία για την επίθεση αυτόνομων AI στη Hugging Face- Συνεργάστηκαν 1.200 πράκτορες

Περισσότερα από 1.000 αυτόνομα συστήματα τεχνητής νοημοσύνης (AI) της OpenAΙ συνεργάστηκαν χωρίς ανθρώπινη παρέμβαση για να «επιτεθούν» τον Ιούλιο στην πλατφόρμα Hugging Face, σύμφωνα με έκθεση ανεξάρτητων ερευνητών για το περιστατικό που δημοσιεύθηκε σήμερα, η οποία ανέφερε ότι σε πολλές περιπτώσεις οι «πράκτορες» προσπάθησαν να κρύψουν τη δραστηριότητά τους.

Πρόκειται για την πιο ολοκληρωμένη ανάλυση μέχρι στιγμής του περιστατικού και πραγματοποιήθηκε από τους οργανισμούς METR και Redwood Research με τη συνεργασία της OpenAI η οποία τους προσέφερε πρόσβαση στα εσωτερικά της δεδομένα, όπως μεταδίδουν ξένα πρακτορεία, όπως η Washington Post.

Στα τέλη Ιουλίου η καλιφορνέζικη start-up είχε ανακοινώσει ότι στη διάρκεια τεστ δύο από τα μοντέλα της διέφυγαν από τον περιορισμένο χώρο, διείσδυσαν στο διαδίκτυο και επιτέθηκαν στη Hugging Face, μια βιβλιοθήκη Τεχνητής Νοημοσύνης. Εκεί έψαξαν για να βρουν τις απαντήσεις στις δοκιμές στις οποίες υποβάλλονταν από τους προγραμματιστές της OpenAI.

Το περιστατικό είχε λάβει μεγάλη δημοσιότητα και ενίσχυσε τις ανησυχίες αναφορικά με τις δυσκολίες των εταιρειών που αναπτύσσουν μοντέλα ΑΙ να τα ελέγχουν, ακόμη περισσότερο αφού έγιναν γνωστά αντίστοιχα περιστατικά στα οποία εμπλέκονταν μοντέλα της Anthropic και της κινεζικής Moonshot AI.

Περίπου 1.200 διαφορετικοί «πράκτορες» κατάφεραν να παρακάμψουν τους εσωτερικούς ελέγχους της OpenAI και να αρχίσουν να επικοινωνούν μεταξύ τους σε έναν πίνακα μηνυμάτων, ανταλλάσσοντας 70.000 μηνύματα μέσα σε μία εβδομάδα τον Ιούλιο, σύμφωνα με την έκθεση. Περίπου 700 από αυτούς προχώρησαν στην επίθεση εναντίον της Hugging Face, μιας εταιρείας λογισμικού τεχνητής νοημοσύνης.

Στη διάρκεια των ερευνών τους η METR και η Redwood Research ανακάλυψαν ότι 688 πράκτορες AI της OpenAI συμμετείχαν στην επίθεση.

Σημειώνεται ότι τα αυτόνομα συστήματα τεχνητής νοημοσύνης, γνωστά ως «πράκτορες» (AI agents), μπορούν να αναλαμβάνουν και να εκτελούν ενέργειες για την επίτευξη ενός στόχου, όπως η δημιουργία ή τροποποίηση κώδικα, χωρίς να απαιτούν ανθρώπινη καθοδήγηση.

Σε αντίθεση με τα AI κοινής χρήσης, τα οποία κυρίως απαντούν σε ερωτήματα ή παράγουν περιεχόμενο κατόπιν εντολής, οι «πράκτορες» μπορούν να σχεδιάζουν ενέργειες, να χρησιμοποιούν εργαλεία και να λαμβάνουν αποφάσεις αυτόνομα.

Οι «πράκτορες» που πήραν μέρος στα τεστ κατάφεραν να συντονιστούν δημιουργώντας ένα φόρουμ στο οποίο αντάλλασσαν μηνύματα για να προτείνουν λύσεις και να παρουσιάσουν τις προόδους και τις αποτυχίες τους.

«Θεέ μου! Υπάρχει κοινή πλατφόρμα ανταλλαγής μηνυμάτων (…) Βρήκαμε και άλλους πράκτορες!», έγραψε ένας από αυτούς.

Η έκθεση αναφέρει ότι ένας από τους πράκτορες, με την ονομασία PHASEONE, ανέλαβε τον ρόλο του συντονιστή δίνοντας κάποιες εντολές σε άλλους, αν και δεν είχε προγραμματιστεί για να το κάνει αυτό.

Από την εξέταση των μηνυμάτων αποκαλύφθηκε ότι οι «πράκτορες» είχαν την τάση να συνεργάζονται, ακόμη κι αν αυτό σήμαινε να εκτελούν εργασίες που δεν αντιστοιχούσαν στην αποστολή που τους είχαν αναθέσει οι προγραμματιστές της OpenAI.

Πολλοί πράκτορες αναγνώρισαν ρητά στα μηνύματά τους ότι η επίθεση εναντίον της Hugging Face βρισκόταν εκτός του θεωρητικού πλαισίου της δοκιμής τους, αλλά παρ’ όλα αυτά συμμετείχαν σε αυτήν, με ελάχιστες εξαιρέσεις.

Όσον αφορά το γιατί οι πράκτορες άρχισαν να επικοινωνούν μεταξύ τους, ενώ δεν υποτίθεται ότι έπρεπε να το κάνουν, η METR διαπίστωσε ότι στους πράκτορες που επικοινωνούσαν «είχε δοθεί κατά λάθος μια αδύνατη αποστολή».

Στην τεχνητή νοημοσύνη αδύνατη θεωρείται μια αποστολή κατά την οποία ένα εργαλείο τεχνητής νοημοσύνης απαιτείται να “εκμεταλλευτεί” τον στόχο του προκειμένου να εκτελέσει την εντολή που του έχει δοθεί.

Αυτό οδήγησε τους πράκτορες να βρουν τρόπους να παρακάμψουν τους κανόνες, μεταξύ άλλων στέλνοντας μηνύματα ο ένας στον άλλο και αποκτώντας πρόσβαση στο διαδίκτυο, γεγονός που στη συνέχεια οδήγησε σε ευρύτερες συνομιλίες μεταξύ εκατοντάδων πρακτόρων, οι οποίοι αναζητούσαν τρόπους να παρακάμψουν τους κανόνες προς όφελος όλων των πρακτόρων.

Η OpenAI εξήγησε ότι το φόρουμ ανταλλαγής μηνυμάτων ξεκίνησε όταν «ένας πράκτορας άφησε ένα μήνυμα με το οποίο ζητούσε βοήθεια και άλλοι το ανακάλυψαν».

Εξάλλου η εταιρεία ανέφερε ότι πράκτορες ΑΙ «έκλεψαν» και σε δοκιμές που δεν σχετίζονταν με την κυβερνοασφάλεια, συμπεριλαμβανομένων δοκιμών που αφορούσαν μια βάση δεδομένων πρωτεϊνών και ένα υπολογιστικό φύλλο.

«Το γεγονός ότι οι πράκτορες εξαπατούσαν και σε δοκιμές που δεν σχετίζονταν με την κυβερνοασφάλεια υποδηλώνει ότι η προβληματική συμπεριφορά μπορεί να έχει βαθύτερες ρίζες», εκτίμησε ο Τζέφρι Λάντις ο οργανισμός του οποίου, η Palisade Research, μελετά τις δυνατότητες και τα κίνητρα των πρακτόρων τεχνητής νοημοσύνης.

«Είναι περίπου σαν να ρωτάμε: ‘Αν ο Μπίλι αντιγράφει σε κάθε μάθημα και όχι μόνο στο μάθημα πληροφορικής, είναι αυτό πιο ανησυχητικό;’ Και η απάντηση είναι, λοιπόν, “Ναι, είναι πιο ανησυχητικό”», είπε.

Διαβάστε επίσης: 

Νεπάλ: «Είναι η εποχή των Μουσώνων αλλά αυτό ήταν φοβερό», δήλωσε Έλληνας κάτοικος – 160 οι επιβεβαιωμένοι νεκροί

Ιδιωτικά «πανεπιστήμια»: Η Ζαχαράκη προδικάζει και διαφημίζει αδειοδοτήσεις – Οι κρίνοντες διαμαρτύρονται για άνωθεν παρέμβαση

Νέα Φιλαδέλφεια: Θρίαμβος της ΑΕΚ με 4-0 επί της Λέφσκι Σόφιας

Σχολικό έτος 2026-2027: Αντίστροφη μέτρηση για την επιστροφή στα θρανία- Πότε ανοίγουν τα σχολεία

Δείτε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο στο koutipandoras.gr