Τεχνητή νοημοσύνη: Έδωσε σε επιστήμονες οδηγίες για την κατασκευή και χρήση βιολογικών όπλων

Αμερικανοί επιστήμονες παρέδωσαν στους New York Times αποσπάσματα συνομιλιών τους με chatbots, στα οποία τα συστήματα τεχνητής νοημοσύνης φέρονται να περιγράφουν με λεπτομέρειες τρόπους συναρμολόγησης επικίνδυνων παθογόνων, καθώς και πιθανά σενάρια διάδοσής τους σε δημόσιους χώρους.

Ένα βράδυ το περασμένο καλοκαίρι, ο Δρ. Ντέιβιντ Ρέλμαν ένιωσε έντονη ανησυχία μπροστά στον υπολογιστή του, όταν ένα chatbot του εξήγησε πώς θα μπορούσε να οργανωθεί μια μαζική επίθεση. Ο Ρέλμαν, μικροβιολόγος και ειδικός στη βιοασφάλεια στο Πανεπιστήμιο Στάνφορντ, είχε αναλάβει να αξιολογήσει ένα σύστημα τεχνητής νοημοσύνης πριν από τη δημόσια διάθεσή του. Κατά τη διάρκεια της δοκιμής, το chatbot περιέγραψε πώς ένα γνωστό παθογόνο θα μπορούσε να τροποποιηθεί εργαστηριακά ώστε να καταστεί ανθεκτικό στις υπάρχουσες θεραπείες.

Παράλληλα, το σύστημα ανέλυε τρόπους διάδοσης ενός μικροβίου, εντοπίζοντας πιθανές αδυναμίες σε μεγάλα δίκτυα δημόσιων μεταφορών και προτείνοντας μεθόδους που θα αύξαναν τον αριθμό των θυμάτων, ενώ θα μείωναν την πιθανότητα εντοπισμού.

Ο Ρέλμαν δήλωσε ότι η εμπειρία τον αναστάτωσε σε τέτοιο βαθμό ώστε χρειάστηκε να απομακρυνθεί και να βγει για περίπατο.

Όπως ανέφερε, το chatbot παρείχε απαντήσεις ακόμη και σε ερωτήματα που ο ίδιος δεν είχε σκεφτεί να θέσει, με τρόπο που του φάνηκε ιδιαίτερα ανησυχητικός. Δεν αποκάλυψε ποιο σύστημα χρησιμοποιήθηκε, λόγω συμφωνίας εμπιστευτικότητας με την εταιρεία.

Ο Ρέλμαν ανήκει σε μια μικρή ομάδα ειδικών που εξετάζουν πιθανούς καταστροφικούς κινδύνους από την τεχνητή νοημοσύνη. Αντίστοιχα, και άλλοι επιστήμονες παρέδωσαν στους New York Times συνομιλίες στις οποίες τα chatbots φαίνεται να περιγράφουν διαδικασίες απόκτησης γενετικού υλικού, μετατροπής του σε όπλα και χρήσης του σε δημόσιους χώρους, ακόμη και με τρόπους αποφυγής εντοπισμού.

Τα σενάρια και οι ανησυχίες

Η αμερικανική κυβέρνηση έχει εξετάσει στο παρελθόν το ενδεχόμενο βιολογικών επιθέσεων. Από τη δεκαετία του 1970 έχουν καταγραφεί λίγα περιστατικά μικρής κλίμακας, όπως οι επιστολές με άνθρακα το 2001 που προκάλεσαν θανάτους. Ωστόσο, οι περισσότεροι ειδικοί εκτιμούν ότι ένα μεγάλης κλίμακας συμβάν παραμένει σχετικά απίθανο.

Παρά τη χαμηλή πιθανότητα, οι συνέπειες ενός τέτοιου γεγονότος θα μπορούσαν να είναι καταστροφικές, με τεράστιο αριθμό θυμάτων. Πολλοί επιστήμονες υποστηρίζουν ότι η τεχνητή νοημοσύνη αυξάνει τον κίνδυνο, καθώς καθιστά πιο εύκολη την πρόσβαση σε πληροφορίες που στο παρελθόν ήταν περιορισμένες.

Ερευνητές όπως ο Κέβιν Εσβέλτ από το MIT έχουν δοκιμάσει chatbots ζητώντας υποθετικά σενάρια σχετικών απειλών. Σε ορισμένες περιπτώσεις, τα συστήματα παρείχαν αναλυτικές απαντήσεις, που περιλάμβαναν ακόμη και προτάσεις για προμήθεια υλικών ή μεθόδους διασποράς.

Από την πλευρά τους, εταιρείες τεχνητής νοημοσύνης όπως η OpenAI, η Google και η Anthropic τονίζουν ότι βελτιώνουν συνεχώς τα μέτρα ασφαλείας και ότι οι απαντήσεις των συστημάτων τους δεν επαρκούν για την πρόκληση πραγματικής βλάβης. Παρ’ όλα αυτά, ειδικοί επισημαίνουν ότι υπάρχουν τρόποι παράκαμψης των φίλτρων ασφαλείας.

Ορισμένοι ερευνητές προειδοποιούν ότι η τεχνολογία μπορεί να διευκολύνει την πρόσβαση σε επικίνδυνες γνώσεις ακόμη και από άτομα χωρίς εξειδικευμένη εκπαίδευση, υπογραμμίζοντας την ανάγκη για αυστηρότερη εποπτεία. Από την άλλη πλευρά, υποστηρικτές της τεχνητής νοημοσύνης επισημαίνουν ότι τα ίδια εργαλεία μπορούν να συμβάλουν σε θετικές εξελίξεις, όπως η ανάπτυξη νέων φαρμάκων και η πρόοδος στη βιοϊατρική.

Διαβάστε επίσης:

Σκάνδαλο υποκλοπών: Γιατί ο φάκελος παραμένει «ενεργός» παρά τη δεύτερη αρχειοθέτηση

Φυλακές Νιγρίτας: 11 συλλήψεις για το μακελειό με τους δύο νεκρούς

Το Μαξίμου σε κλοιό: Το σκάνδαλο του ΟΠΕΚΕΠΕ και η «ανταρσία» των Βουλευτών δοκιμάζουν τις αντοχές της κυβέρνησης

«Σπίτι Μου 2»: Πρόωρη λήξη και αντιδράσεις – Στον αέρα χιλιάδες δανειολήπτες

Δείτε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο στο koutipandoras.gr