Anthropic: Μπλόκαρε χρήστες για έρευνες που θα μπορούσαν να οδηγήσουν σε βιολογικά όπλα μέσω AI

Στον αποκλεισμό πολλαπλών λογαριασμών προχώρησε η Anthropic, καθώς διαπίστωσε ότι μοντέλα τεχνητής νοημοσύνης της χρησιμοποιήθηκαν σε έρευνες που θα μπορούσαν να συνδεθούν με την ανάπτυξη βιολογικών όπλων.

Σε νέα έκθεσή της, η εταιρεία πίσω από το Claude χαρακτηρίζει τη δυνητικά κακόβουλη χρήση της τεχνητής νοημοσύνης στον τομέα της βιολογίας ως μία από τις «σοβαρότερες απειλές» που συνοδεύουν την εξέλιξη των ισχυρών AI μοντέλων.

Η Anthropic παρουσίασε πέντε πραγματικές περιπτώσεις χρηστών οι οποίοι φέρεται να προσπάθησαν να παρακάμψουν περιορισμούς και δικλίδες ασφαλείας, αποκρύπτοντας σε ορισμένες περιπτώσεις τον πραγματικό σκοπό της έρευνάς τους.

Περίπου 35 ύποπτες ερευνητικές προσπάθειες σε έναν μήνα

Κατά την εξέταση δραστηριότητας 30 ημερών, η εταιρεία εντόπισε περίπου 35 διαφορετικές ερευνητικές προσπάθειες που κρίθηκαν δυνητικά ανησυχητικές. Ξεκαθάρισε, ωστόσο, ότι δεν είναι δυνατό να γνωρίζει εάν πίσω από αυτές υπήρχε πραγματική πρόθεση πρόκλησης βλάβης ή εάν επρόκειτο για νόμιμη επιστημονική έρευνα.

Οι περιπτώσεις αφορούσαν μεταξύ άλλων έρευνα πάνω στη γρίπη των πτηνών, τον ιό chikungunya, ορθοποξοϊούς και τοξίνες, ενώ σε ορισμένες περιπτώσεις εξεταζόταν έρευνα τύπου gain-of-function.

Σύμφωνα με την Anthropic, οι χρήστες που εξετάστηκαν ήταν ενεργοί επιστήμονες, χωρίς η εταιρεία να αποκαλύπτει τα ερευνητικά ιδρύματα ή τις χώρες στις οποίες εργάζονταν.

Ο διπλός ρόλος της τεχνητής νοημοσύνης

Η εταιρεία επισημαίνει το δίλημμα που δημιουργεί η ταχύτατη εξέλιξη της AI. Οι ίδιες δυνατότητες που μπορούν να επιταχύνουν την ανακάλυψη νέων φαρμάκων και θεραπειών είναι πιθανό να αξιοποιηθούν και από κακόβουλους χρήστες για επικίνδυνους σκοπούς.

«Καθώς τα μοντέλα μας γίνονται ολοένα και πιο ικανά, προσεγγίζοντας ή ακόμη και ξεπερνώντας τις επιδόσεις ειδικών σε απαιτητικές επιστημονικές εργασίες, αναμένουμε ότι ο αντίκτυπός τους θα αυξάνεται συνεχώς, τόσο σε επωφελή όσο και σε δυνητικά επιβλαβή πλαίσια», αναφέρει η Anthropic.

Η εταιρεία υποστηρίζει ότι έχει ήδη ενισχύσει τις δικλίδες ασφαλείας στα νεότερα μοντέλα της, περιορίζοντας την πρόσβαση σε ευαίσθητες πληροφορίες βιολογικής έρευνας διττής χρήσης.

Παράλληλα, ανέφερε ότι έχει εντοπίσει και ανακόψει προσπάθειες αξιοποίησης των μοντέλων της για παρακολούθηση, απάτες και ανάπτυξη συμβατικών οπλικών συστημάτων, προειδοποιώντας ότι όσο αυξάνονται οι δυνατότητες της τεχνητής νοημοσύνης τόσο μεγαλύτερη θα γίνεται και η ανάγκη για ισχυρότερους μηχανισμούς ασφαλείας.

Διαβάστε επίσης: 

Γιώργος Μαζωνάκης: Ποινική δίωξη σε βάρος των δύο γιατρών για τον θάνατο του τραγουδιστή

Γιώργος Μαζωνάκης: «Απροσδιόριστη η αιτία θανάτου» – Τι έδειξε η νεκροψία

Γιώργος Μαζωνάκης: Οι αντιφάσεις που οδήγησαν στη σύλληψη των δύο γιατρών

Δείτε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο στο koutipandoras.gr