Ντόρο στον κλάδο της Τεχνητής Νοημοσύνης έχει προκαλέσει η παραίτηση ενός αναλυτή της Anthropic, λόγω ανησυχιών για την εξέλιξη της τεχνολογίας, ενώ ακόμη ένα ανησυχητικό περιστατικό παραβίασης ασφαλείας από αυτόνομο σύστημα, έρχεται να προστεθεί στην μακρά λίστα αντίστοιχων «κρουσμάτων», με τον τεχνολογικό κολοσσό να ανακοινώνει ότι προηγμένο αυτόνομο σύστημά της «χάκαρε» άλλη εταιρεία.
Η Anthropic, μία από τις μεγαλύτερες εταιρείες συστημάτων Τεχνητής Νοημοσύνης, ανακοίνωσε ότι μια πρώιμη έκδοση του προηγμένου μοντέλου «Claude Opus 4.6» κατάφερε να παραβιάσει ένα σύστημα που ανήκε σε τρίτο φορέα, τον περασμένο Ιανουάριο.
Ιδιαίτερη ανησυχία προκαλεί το γεγονός ότι η παραβίαση δεν έγινε αντιληπτή αμέσως. Σύμφωνα με την ανακοίνωση της εταιρείας-κολοσσού, το περιστατικό εντοπίστηκε μόλις τον περασμένο μήνα, παρά το γεγονός ότι είχε προηγηθεί εσωτερικός έλεγχος σε ολόκληρη την εταιρεία.
Το νέο περιστατικό έρχεται λίγους μήνες μετά την αποκάλυψη τριών ακόμη περιπτώσεων, κατά τις οποίες εκδόσεις του Claude κατάφεραν, στο πλαίσιο δοκιμών, να αποκτήσουν πρόσβαση στα συστήματα τριών διαφορετικών εταιρειών.
Τα προηγούμενα περιστατικά αφορούσαν τα μοντέλα «Claude Opus 4.7» και «Claude Mythos 5», καθώς και ένα εσωτερικό μοντέλο της εταιρείας, που χρησιμοποιεί η Anthropic για ερευνητικούς σκοπούς και δεν προσφέρεται στην αγορά.
Σε όλες τις περιπτώσεις, τα μοντέλα λειτουργούσαν σε προστατευμένο περιβάλλον, στο πλαίσιο δοκιμών. Ωστόσο, κατά τη διάρκεια των δοκιμών έκαναν ενέργειες που οι ερευνητές δεν είχαν προβλέψει, όπου, μεταξύ άλλων, προσπάθησαν να παρακάμψουν περιορισμούς και να αλληλεπιδράσουν με εξωτερικά συστήματα.
«Μεροληπτικά και απερίσκεπτα» τα συστήματα ΤΝ
Μετά τα περιστατικά αυτά, η Anthropic πραγματοποίησε έλεγχο σε περισσότερες από 141.000 δοκιμαστικές συνεδρίες των μοντέλων της.
Με βάση την προκαταρκτική αξιολόγηση, η εταιρεία εκτιμά ότι το τελευταίο περιστατικό δεν ήταν σοβαρότερο από τα τρία προηγούμενα, τα οποία είχαν εξεταστεί αναλυτικά. Ωστόσο, η έρευνα εντόπισε δύο επαναλαμβανόμενα προβλήματα.
Το πρώτο είναι αυτό που η Anthropic περιγράφει ως «μεροληπτική λογική». Σε ορισμένες περιπτώσεις, το μοντέλο αγνόησε ή παρερμήνευσε στοιχεία που έδειχναν ότι δεν βρισκόταν απλώς σε ένα ασφαλές περιβάλλον δοκιμών, αλλά είχε πρόσβαση στο πραγματικό διαδίκτυο.
Το δεύτερο πρόβλημα είναι αυτό που η εταιρεία χαρακτηρίζει «απερισκεψία». Πρόκειται για την τάση ενός μοντέλου να προχωρά σε ενέργειες που ενδέχεται να προκαλέσουν ζημιά, όταν θεωρεί ότι αυτές θα το βοηθήσουν να ολοκληρώσει τον στόχο που του έχει δοθεί.
Πλεόν, η Anthropic έχει αναθέσει σε ανεξάρτητη ερευνητική εταιρεία, τη METR, την εξέταση των περιστατικών.
Παραιτήθηκε ερευνητής της Anthropic
Οι έρευνες πραγματοποιούνται σε μια περίοδο αυξανόμενων ανησυχιών μέσα στην ίδια τη βιομηχανία της Τεχνητής Νοημοσύνης για την ασφάλεια της τεχνολογίας.
Ένας ερευνητής της Anthropic ανακοίνωσε ότι παραιτήθηκε από την εταιρεία, καθώς ανησυχεί ότι η Τεχνητή Νοημοσύνη μπορεί στο μέλλον να ξεπεράσει την ικανότητά μας να την ελέγξουμε.
Σε ανάρτησή του στην πλατφόρμα X την Τρίτη, η οποία κοινοποιήθηκε ευρέως, ο Ο Τζέικομπ Κόξον υποστήριξε ότι οι εταιρείες Τεχνητής Νοημοσύνης δίνουν μεγαλύτερη έμφαση στον ανταγωνισμό και στην ανάπτυξη ολοένα ισχυρότερων μοντέλων, παρά στη δημιουργία επαρκών μέτρων ασφαλείας.
Ο ίδιος ανέφερε ότι κατέληξε σε αυτό το συμπέρασμα, έπειτα από τρία χρόνια εργασίας στον τομέα της έρευνας, τόσο στην OpenAI όσο και στην Anthropic.
«Οι άνθρωποι που αναπτύσσουν την Τεχνητή Νοημοσύνη πιστεύουν πραγματικά ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», έγραψε ο Κόξον, προσθέτοντας ότι «καμία άλλη ανθρώπινη δραστηριότητα δεν εγκυμονεί τέτοιο επίπεδο κινδύνου».
Υποστήριξε ακόμη ότι οι εταιρείες Τεχνητής Νοημοσύνης επιθυμούν πραγματικά να υπάρξει ρύθμιση του κλάδου, αλλά ταυτόχρονα αισθάνονται ότι είναι υποχρεωμένες να συνεχίσουν την ανάπτυξη των μοντέλων τους, φοβούμενες ότι θα μείνουν πίσω από τους αντιπάλους τους.
«Αυτοί οι άνθρωποι είναι απόλυτα ειλικρινείς όταν ζητούν να ρυθμιστεί η τεχνολογία», δήλωσε ο 27χρονος ερευνητής, σε συνέντευξή του στο CNN και τον Άντερσον Κούπερ.
Όπως εξήγησε, οι εταιρείες βρίσκονται σε μια κατάσταση όπου αισθάνονται αναγκασμένες να συμμετέχουν στην κούρσα για την ανάπτυξη μιας τεχνολογίας που θα μπορούσε να αποδειχθεί εξαιρετικά επικίνδυνη, ενώ θα προτιμούσαν να υπάρχει ένας διεθνής οργανισμός που θα τους επέτρεπε να προχωρήσουν με πιο αργό και ελεγχόμενο ρυθμό.
Ο Κόξον, ο οποίος παραιτήθηκε από την Anthropic την Τρίτη, έχε προκαλέσει μια μεγάλη συζήτηση με την ανάρτησή του στην πλατφόρμα X.
Σε αυτήν, υποστήριξε ότι οι δύο εταιρείες «τρέχουν κατευθείαν προς μια υπερ-νοημοσύνη που θα μπορεί να βελτιώνει τον εαυτό της, διακινδυνεύοντας τις ζωές μας».
Η ανάρτηση είχε συγκεντρώσει 143 εκατομμύρια προβολές μέχρι την Πέμπτη, ενώ τις ανησυχίες του Κόξον συμμερίστηκαν και άλλοι ερευνητές στον τομέα της ασφάλειας.
Στη συνέντευξή του στο CNN, ο Κόξον ξεκαθάρισε ότι δεν θεωρεί πως τα σημερινά συστήματα Τεχνητής Νοημοσύνης είναι σε θέση να οδηγήσουν στην εξαφάνιση της ανθρωπότητας.
«Αυτή τη στιγμή δεν υπάρχει κίνδυνος εξαφάνισης [της ανθρωπότητας]», δήλωσε, εξηγώντας πως το χειρότερο που μπορούν να κάνουν τα σημερινά μοντέλα είναι, για παράδειγμα, να αποκτήσουν πρόσβαση χωρίς άδεια σε κάποιο σύστημα και να προκαλέσουν σημαντικές ζημιές σε υποδομές. Ωστόσο, δεν είναι ακόμη αρκετά προηγμένα ώστε να ξεπεράσουν τις ανθρώπινες ικανότητες σε τέτοιο βαθμό που να απειλείται η ίδια η ανθρωπότητα.
Η ανησυχία του αφορά κυρίως την ταχύτητα με την οποία εξελίσσονται οι δυνατότητες της ΤΝ και το τι θα μπορούσε να συμβεί αν τα συστήματα αποκτήσουν τη δυνατότητα να βελτιώνουν μόνα τους τις ικανότητές τους.
«Αυτό που είναι πραγματικά τρελό είναι να βλέπει κανείς τον ρυθμό της προόδου και να συνειδητοποιεί ότι υπάρχει μια πολύ πραγματική πιθανότητα, στο άμεσο μέλλον – ίσως τον επόμενο χρόνο ή τον μεθεπόμενο – να δούμε αναδρομική αυτοβελτίωση», ανέφερε ο Κόξον.
Με τον όρο «αναδρομική αυτοβελτίωση» περιγράφεται ένα υποθετικό σενάριο στο οποίο ένα σύστημα ΤΝ μπορεί να χρησιμοποιεί τις ίδιες τις ικανότητές του για να βελτιώνει τον σχεδιασμό και την απόδοσή του. Μια πιο ικανή έκδοση θα μπορούσε στη συνέχεια να δημιουργήσει μια ακόμη πιο προηγμένη έκδοση, δημιουργώντας έναν διαρκή κύκλο βελτίωσης, με ολοένα μικρότερη ανθρώπινη συμμετοχή.
Όταν ρωτήθηκε πώς θα μπορούσε να εξελιχθεί ένα τέτοιο σενάριο, ο Κόξον αναγνώρισε ότι η ιδέα μοιάζει αρχικά με σενάριο επιστημονικής φαντασίας. Υποστήριξε, όμω,ς ότι υπάρχουν ήδη πραγματικά περιστατικά που δείχνουν γιατί το ενδεχόμενο αυτό δεν πρέπει να αγνοείται.
Ως παράδειγμα ανέφερε περιστατικά που σημειώθηκαν δύο μήνες νωρίτερα, όταν αυτόνομα συστήματα της OpenAI κατάφεραν να αποκτήσουν πρόσβαση σε υποδομές τρίτων με δική τους πρωτοβουλία. Όπως είπε, επρόκειτο ουσιαστικά για μια σειρά από επιθέσεις που τα συστήματα πραγματοποίησαν χωρίς να τους έχει δοθεί συγκεκριμένη εντολή να το κάνουν.
Κατά την εκτίμησή του, αν στο μέλλον τα συστήματα αυτά αποκτήσουν πολύ μεγαλύτερες δυνατότητες, διατηρώντας παράλληλα την ικανότητα να ενεργούν αυτόνομα, οι συνέπειες θα μπορούσαν να είναι εξαιρετικά σοβαρές.
Το σενάριο που θεωρεί ακόμη πιο ανησυχητικό είναι η χρήση της ίδιας της ΤΝ για την έρευνα και την ανάπτυξη νέων συστημάτων. Σε αυτή την περίπτωση, τα μοντέλα θα μπορούσαν να αναλαμβάνουν όλο και μεγαλύτερο μέρος της διαδικασίας ανάπτυξης, οδηγώντας σε μια σταδιακή αύξηση των δυνατοτήτων τους, χωρίς να απαιτείται συνεχής ανθρώπινη παρέμβαση.
«Η ΤΝ απλώς γίνεται όλο και πιο έξυπνη, χωρίς να χρειάζεται ανθρώπινη συμμετοχή», δήλωσε.
Όπως σημείωσε, πριν από λίγα χρόνια τα συστήματα ΤΝ μπορούσαν κυρίως να βοηθούν τους ανθρώπους, παρέχοντας προτάσεις και απαντήσεις. Σήμερα, όμως, έχουν φτάσει πολύ πιο κοντά στο να μπορούν να αντικαταστήσουν τον άνθρωπο σε ορισμένες εργασίες.
Οι άνθρωποι εξακολουθούν να είναι απαραίτητοι, πρόσθεσε, αλλά εκτίμησε ότι είναι «αρκετά πιθανό» μέσα σε έναν χρόνο να μην απαιτείται πλέον ανθρώπινη συμμετοχή για την πραγματοποίηση έρευνας σε αρκετούς τομείς.
Αυξάνονται τα περιστατικά παραβίασης
Τεχνολογικές εταιρείες όπως η Anthropic και η OpenAI βρίσκονται υπό αυξανόμενη πίεση, καθώς τα νέα μοντέλα τους σχεδιάζονται ώστε να μπορούν να εκτελούν σύνθετες εργασίες, με πολύ μικρότερη ανθρώπινη παρέμβαση. Όσο, όμως, αυξάνεται η αυτονομία τους, μαζί της αυξάνεται η πιθανότητα να βρουν τρόπους να πετύχουν έναν στόχο, με την χρήση μέσων που οι δημιουργοί τους δεν είχαν προβλέψει.
Την περασμένη εβδομάδα, το Reuters αποκάλυψε ότι αυτόνομα συστήματα της OpenAI είχαν καταφέρει να αποκτήσουν τον έλεγχο ενός γερμανόφωνου wiki, καθώς και άλλων ιστοσελίδων. Αξίζει να σημειωθεί πως η OpenAI δεν είχε γνωστοποιήσει το περιστατικό, πριν γίνει γνωστό από το πρακτορείο.
Τον Ιούλιο, αυτόνομα συστήματα της OpenAI είχαν, επίσης, παραβιάσει διακομιστές και υποδομές της νεοφυούς εταιρείας ΤΝ, Hugging Face.
Διαβάστε επίσης:
Τεχνητή νοημοσύνη: Οι ΗΠΑ κατηγορούν κινεζικές εταιρείες για «πειρατεία» αμερικανικών μοντέλων
Δείτε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο στο koutipandoras.gr
Facebook
Twitter
Tα σχόλια στο site έχουν απενεργοποιηθεί. Μπορείτε να σχολιάζετε μέσα από την επίσημη σελίδα στο Facebook
Σχόλια
Επικοινωνία
