Το κρίσιμο ερώτημα για την επόμενη ημέρα της Τεχνητής Νοημοσύνης έθεσε στην Ευρωπαϊκή Επιτροπή ο ευρωβουλευτής του ΠΑΣΟΚ, Σάκης Αρναούτογλου, με αφορμή και τις πρόσφατες προειδοποιήσεις του ερευνητή Jacob Coxon.
Πρόσφατα, ο ερευνητής, ο οποίος έχει εργαστεί στην OpenAI και την Anthropic, προειδοποίησε για τους κινδύνους που θα μπορούσαν να προκύψουν εάν μελλοντικά συστήματα ΤΝ αποκτήσουν τη δυνατότητα να επιταχύνουν ουσιαστικά την ανάπτυξη ακόμη ισχυρότερων συστημάτων. Παρότι τέτοιες εκτιμήσεις δεν αποτελούν βεβαιότητα, εγείρουν σοβαρά ζητήματα εποπτείας και δυνατότητας ανθρώπινης παρέμβασης.
Ο AI Act προβλέπει υποχρεώσεις για μοντέλα ΤΝ γενικού σκοπού με συστημικό κίνδυνο. Ωστόσο, τίθεται το ερώτημα εάν η Ένωση είναι προετοιμασμένη για ενδεχόμενη απότομη επιτάχυνση των δυνατοτήτων της ΤΝ.
«Τα σημερινά προηγμένα συστήματα Τεχνητής Νοημοσύνης μπορούν ήδη να γράφουν κώδικα, να εντοπίζουν λάθη, να εκτελούν πειράματα και να συμμετέχουν στην ανάπτυξη νέων μοντέλων. Το επόμενο κρίσιμο όριο είναι η δυνατότητά τους να επιταχύνουν ουσιαστικά τη δημιουργία της επόμενης, ισχυρότερης γενιάς Τεχνητής Νοημοσύνης. Δεν ζητώ να σταματήσει η Τεχνητή Νοημοσύνη. Ζητώ να μη φτάσουμε στο σημείο να ψάχνουμε το φρένο αφού θα έχουμε χάσει τη δυνατότητα να το πατήσουμε» υπογράμμισε ο κ. Αρναούτογλου.
Παράλληλα ζήτησε να διευκρινιστεί αν η ΕΕ αξιολογεί τον κίνδυνο προηγμένα μοντέλα να αυτοματοποιούν και να επιταχύνουν την ανάπτυξη ισχυρότερων συστημάτων AI, αλλά και αν διαθέτει επαρκή τεχνική ικανότητα για την αξιολόγησή τους χωρίς αποκλειστική εξάρτηση από τις εταιρείες που τα αναπτύσσουν.
Τέλος διερωτήθηκε: «Εάν ένα προηγμένο σύστημα ΑΙ εμφανίσει σοβαρούς και μη ελεγχόμενους κινδύνους, ποιος στην Ευρώπη έχει την εξουσία αλλά και την πραγματική δυνατότητα να απαιτήσει την άμεση αναστολή ή διακοπή του;»
Ο ευρωβουλευτής τονίζει ότι η Ευρώπη πρέπει να συνδυάσει καινοτομία και ασφάλεια, ενισχύοντας την ανθρώπινη εποπτεία.
«Η λέξη Anthropic ξεκινά από την Ελληνική λέξη “άνθρωπος”. Ας φροντίσουμε η επόμενη μεγάλη εξέλιξη της Τεχνητής Νοημοσύνης να μη βρει τον άνθρωπο θεατή. Η τεχνολογία πρέπει να παραμένει στην υπηρεσία του ανθρώπου και η τελική απόφαση να παραμένει πάντα ανθρώπινη».
Ολόκληρη η ερώτηση του Σάκη Αρναούτογλου προς την Κομισιόν
«Η ταχεία εξέλιξη της τεχνητής νοημοσύνης επιτρέπει πλέον σε προηγμένα συστήματα να γράφουν κώδικα, να εκτελούν πειράματα, να εντοπίζουν σφάλματα και να συμβάλλουν στην ανάπτυξη νέων μοντέλων ΤΝ. Πρόσφατα, ο ερευνητής Jacob Coxon, ο οποίος έχει εργαστεί στην OpenAI και την Anthropic, προειδοποίησε για τους κινδύνους που θα μπορούσαν να προκύψουν εάν μελλοντικά συστήματα ΤΝ αποκτήσουν τη δυνατότητα να επιταχύνουν ουσιαστικά την ανάπτυξη ακόμη ισχυρότερων συστημάτων. Παρότι τέτοιες εκτιμήσεις δεν αποτελούν βεβαιότητα, εγείρουν σοβαρά ζητήματα εποπτείας και δυνατότητας ανθρώπινης παρέμβασης.
Ο AI Act προβλέπει υποχρεώσεις για μοντέλα ΤΝ γενικού σκοπού με συστημικό κίνδυνο. Ωστόσο, τίθεται το ερώτημα εάν η Ένωση είναι προετοιμασμένη για ενδεχόμενη απότομη επιτάχυνση των δυνατοτήτων της ΤΝ.
Ερωτάται η Επιτροπή:
«Αξιολογεί ειδικά τον κίνδυνο προηγμένα μοντέλα ΤΝ να αυτοματοποιούν και να επιταχύνουν την ανάπτυξη ισχυρότερων συστημάτων και ποια κριτήρια χρησιμοποιεί;
Διαθέτουν η Επιτροπή και το Ευρωπαϊκό Γραφείο ΤΝ επαρκή ανεξάρτητη τεχνική ικανότητα για την αξιολόγησή τους, χωρίς εξάρτηση από τις ίδιες τις εταιρείες ανάπτυξης;
Εάν ένα προηγμένο σύστημα εμφανίσει σοβαρούς και μη ελεγχόμενους συστημικούς κινδύνους, ποια ευρωπαϊκή αρχή μπορεί να απαιτήσει άμεσα τον περιορισμό, την αναστολή ή τη διακοπή του και θεωρεί η Επιτροπή ότι το ισχύον πλαίσιο διασφαλίζει ουσιαστικό ανθρώπινο έλεγχο;».
Διαβάστε επίσης:
Δείτε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο στο koutipandoras.gr
Facebook
Twitter
Tα σχόλια στο site έχουν απενεργοποιηθεί. Μπορείτε να σχολιάζετε μέσα από την επίσημη σελίδα στο Facebook
Σχόλια
Επικοινωνία
