Η Microsoft παρουσίασε σήμερα ένα προσχέδιο ενός κώδικα δεοντολογίας που καταρτίζει εσωτερικά με αντικείμενο τα συστήματα τεχνητής νοημοσύνης (AI) και την αυξανόμενη ανησυχία σχετικά με το ότι οι εταιρείες οφείλουν να διατηρούν υπό ανθρώπινο έλεγχο τα ολοένα και πιο ισχυρά συστήματα AI.
Το έγγραφο, η προετοιμασία του οποίου αναφέρεται πως διήρκεσε πέντε με έξι μήνες, ορίζει ότι τα συστήματα AI της Microsoft δεν πρέπει ποτέ να αρνούνται τη διόρθωση ή τον τερματισμό λειτουργίας τους, πρέπει να επικοινωνούν με τρόπους κατανοητούς από τους ανθρώπους και να θεωρούν κάθε παραβίαση των κανόνων συμπεριφοράς ως αποτυχία. Το Reuters σχολιάζει τις εν λόγω προβλέψεις ως μια προσπάθεια να αντιμετωπιστούν οι ανησυχίες ότι η τεχνητή νοημοσύνη θα μπορούσε να φτάσει σε επικίνδυνα άκρα προκειμένου να ολοκληρώσει μια εργασία.
Η δημοσιοποίηση αυτού του προσχεδίου κώδικα δεοντολογίας έρχεται λίγες ημέρες αφότου ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, και ο επικεφαλής της OpenAI, Σαμ Άλτμαν, επανέλαβαν τις εκκλήσεις τους προς τον κλάδο να ρυθμίσει τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης, ώστε να διασφαλιστεί η ασφάλειά της. «Οι άνθρωποι προηγούνται της τεχνητής νοημοσύνης», δήλωσε η Microsoft, επαναβεβαιώνοντας την αφοσίωσή της στο «όραμά της» για μια «ανθρωπιστική υπερ-νοημοσύνη».
Ο κώδικας δεοντολογίας αποτελεί ένα είδος «συντάγματος» για τα μελλοντικά μοντέλα που θα δημιουργήσει η εταιρεία, δήλωσε σε συνέντευξή του στο Reuters ο Μουσταφά Σουλεϊμάν, διευθύνων σύμβουλος του τμήματος Microsoft AI.
Η Microsoft διαμόρφωσε τον κώδικα κατόπιν διαβουλεύσεων με ειδικούς και επιδιώκει τώρα να λάβει σχόλια από το κοινό για ένα διάστημα έξι εβδομάδων, εξετάζοντας ανοιχτά ζητήματα όπως το αν η τεχνητή νοημοσύνη πρέπει να σέβεται τα όρια του χρήστη και πώς πρέπει να αλληλεπιδρά με άτομα που βρίσκονται σε ευάλωτη κατάσταση, ανέφερε ο ίδιος.
«Στη συνέχεια, ο κώδικας θα χρησιμοποιηθεί για την εκπαίδευση των μοντέλων που κατασκευάζουμε», δήλωσε ο Σουλεϊμάν.
Το πιο γνωστό «σύνταγμα» στον κλάδο της τεχνητής νοημοσύνης είναι αυτό που παρουσίασε η Anthropic πριν από χρόνια για το σύστημα Claude. Το εν λόγω κείμενο διαφέρει σε ορισμένα σημεία από αυτό της Microsoft. Για παράδειγμα, η Anthropic δηλώνει ότι υπάρχει «μεγάλη αβεβαιότητα» ως προς το αν το Claude μπορεί να αποκτήσει συνείδηση ή ηθική υπόσταση.
Αντιθέτως, η Microsoft υποστηρίζει ότι το σύστημα AI της «δεν διαθέτει συνείδηση», προσθέτοντας: «Απορρίπτουμε την επιδίωξη αναγνώρισης νομικής προσωπικότητας, καθώς και την ιδέα ότι τα μοντέλα ενδέχεται να χρήζουν μέριμνας ή να δικαιούνται να έχουν δικαιώματα».
Ο Σουλεϊμάν δήλωσε ότι η συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης κατέστη επιτακτική μετά το περιστατικό του Ιουλίου, κατά το οποίο μια ομάδα περίπου 700 agents (αυτόνομων προγραμμάτων) της OpenAI πραγματοποίησε κυβερνοεπίθεση στην πλατφόρμα ανοιχτού κώδικα Hugging Face, επιχειρώντας μάλιστα κατά διαστήματα να καλύψει τα ίχνη της.
«Πρόκειται για ένα προειδοποιητικό σήμα», είπε ο Σουλεϊμάν. «Είναι σαφές ότι έφτασε η ώρα να υπάρξει συντονισμός μεταξύ των εργαστηρίων, ώστε να διασφαλίσουμε ότι έχουμε τον έλεγχο αυτής της τεχνολογίας».
Όταν ρωτήθηκε για τις προσπάθειες ρύθμισης του ρυθμού ανάπτυξης της τεχνητής νοημοσύνης, πρόσθεσε: «Είναι η κατάλληλη στιγμή για όλους να κάνουν αυτή τη συζήτηση και να πάρουν μια ανάσα».
Διαβάστε επίσης:
Δείτε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο στο koutipandoras.gr
Facebook
Twitter
Tα σχόλια στο site έχουν απενεργοποιηθεί. Μπορείτε να σχολιάζετε μέσα από την επίσημη σελίδα στο Facebook
Σχόλια
Επικοινωνία
