«Καμπανάκι» από την Anthropic: «Η AI αφήνει πίσω τον άνθρωπο» – Γιατί ζητά να μπει «φρένο»

Τον κώδωνα του κινδύνου κρούει η Anthropic, μία από τις ισχυρότερες εταιρείες στον χώρο της ΤΝ και δημιουργός του Claude, η οποία σε ανάρτησή της προειδοποιεί για τους ρυθμούς ανάπτυξης της AI.

Η εταιρεία αναφέρεται στην «αναδρομική αυτοβελτίωση», δηλαδή την διαδικασία κατά την οποία τα συστήματα τεχνητής νοημοσύνης σχεδιάζουν, δοκιμάζουν και βελτιώνουν τον εαυτό τους.

Σύμφωνα με την Anthropic η διαδικασία αυτή θα έρθει πολύ πιο σύντομα από ότι υπολόγιζαν οι επιστήμονες και η AI δεν θα μεταβάλλει μόνο τον τρόπο με τον οποίο εργάζονται οι άνθρωποι, αλλά αρχίζει να επηρεάζει και τον τρόπο με τον οποίο κατασκευάζεται η ίδια.

Πιο συγκεκριμένα νέα στοιχεία της εταιρείας δείχνουν ότι τα πιο προηγμένα μοντέλα έχουν επιταχύνει σημαντικά τον προγραμματισμό λογισμικού, τη διόρθωση σφαλμάτων και την επιστημονική έρευνα, γεγονός που ενδέχεται να δημιουργήσει έναν κύκλο ανατροφοδότησης, όπου τα συστήματα AI θα συμβάλλουν στην ανάπτυξη ακόμη πιο προηγμένων διαδόχων τους.

Από την μεριά του ο Jack Clark της Anthropic δήλωσε ότι η εταιρεία θεωρεί σημαντικό να ενημερώνει έγκαιρα το κοινό για τις εξελίξεις αυτές, καθώς ξεκαθάρισε πως υπάρχουν σαφείς ενδείξεις ότι η πρόοδος της τεχνητής νοημοσύνης θα επιταχυνθεί τα επόμενα χρόνια, αντί να επιβραδυνθεί ή να παραμείνει σταθερή.

Σύμφωνα με τον ίδιο κοινωνίες και οργανισμοί θα πρέπει να αναπτύξουν μηχανισμούς που θα διασφαλίζουν ότι οι ενέργειες των συστημάτων AI είναι σωστές, επαληθεύσιμες και ευθυγραμμισμένες με τις ανθρώπινες αξίες και τα συμφέροντα της κοινωνίας.

Σημειώνεται ότι παρόμοιες ανησυχίες έχει εκφράσει και η OpenAI, η οποία έχει τονίσει ότι η αναδρομική αυτοβελτίωση θα μπορούσε να αποτελέσει σημαντικό κίνδυνο εάν οι ερευνητές δεν μοιράζονται πληροφορίες και δεν συνεργάζονται για την κατανόηση και τον έλεγχο του φαινομένου.

Μάλιστα η Anthropic σχεδιάζει να συζητήσει το θέμα και με νομοθέτες τους επόμενους μήνες, καθώς το ενδεχόμενο η τεχνητή νοημοσύνη να μπορεί να βελτιώνει και να αναπαράγει μόνη της πιο προηγμένες εκδοχές του εαυτού της είναι πιο ορατό από ποτέ, ενώ δεν έχει καταστεί σαφές ποιες θα είναι οι μακροπρόθεσμες συνέπειες για την κοινωνία, την οικονομία και την ανθρωπότητα συνολικά.

Διαβάστε επίσης:

NASA: Πάνω από 100 νέοι εξωπλανήτες αποκαλύφθηκαν με τη βοήθεια τεχνητής νοημοσύνης

ChatGPT: Νέο μοντέλο δημιουργίας εικόνων AI εγείρει ανησυχίες για ρεαλιστικά deepfakes και απάτες

Ο «Μύθος» του τρόμου: Γιατί οι κολοσσοί της Τεχνητής Νοημοσύνης επενδύουν στον φόβο

Δείτε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο στο koutipandoras.gr