ΗΠΑ: Η «ομιχλώδης» σύμβαση μεταξύ Πενταγώνου και OpenAI και οι «ελευθερίες» της Τεχνητής Νοημοσύνης στο πεδίο της μάχης

Μια «ειδική έκδοση» της τεχνολογίας Τεχνητής Νοημοσύνης ζήτησε για τον αμερικανικό στρατό το Υπουργείο Άμυνας των ΗΠΑ από την OpenAI, το οποίο θα έχει σχεδιαστεί έτσι ώστε να απορρίπτει όσο το δυνατόν λιγότερα από τα αιτήματα του Πενταγώνου.

Σύμφωνα με έγγραφα που έλαβε το The Intercept, η ρήτρα που προβλέπει τα «ελάχιστα ποσοστά άρνησης» από το λογισμικό της OpenAI περιλαμβάνεται σε μια επικαιροποιημένη σύμβαση, με την ονομασία «P00003».

Η νέα αυτή συμφωνία αποτελεί επέκταση της πιλοτικής σύμβασης που είχε υπογραφεί το περασμένο καλοκαίρι, η αξία της οποίας μπορεί να φτάσει έως και τα 200 εκατομμύρια δολάρια, κατά την διάρκεια του διετούς συμβολαίου μεταξύ του Υπουργείου και της εταιρείας.

Σε ξεχωριστό έγγραφο, το οποίο υπέγραψαν η OpenAI και η αμερικανική κυβέρνηση στις 6 Φεβρουαρίου, αναφέρεται ότι η εταιρεία συμφώνησε την ίδια ημέρα με το περιεχόμενο της διευρυμένης σύμβασης «P00003».

Ωστόσο, τόσο η OpenAI όσο και το Πεντάγωνο διαψεύδουν ότι συμφώνησαν σε οποιαδήποτε ρήτρα που θα επέβαλλε «ελάχιστα ποσοστά άρνησης» στα συστήματα της εταιρείας.

Όπως υποστηρίζουν, το έγγραφο «P00003» που περιήλθε στην κατοχή του The Intercept αφορά προσχέδιο του συμβολαίου, και όχι την τελική μορφή της σύμβασης.

Σύμφωνα με την OpenAI, η συγκεκριμένη διατύπωση είχε προταθεί αρχικά από το υπουργείο, αλλά απορρίφθηκε από την εταιρεία και τελικά αφαιρέθηκε από την οριστική συμφωνία.

«Η OpenAI δεν έχει ποτέ συμφωνήσει να συνάψει σύμβαση με διατύπωση που απαιτεί “ελάχιστα ποσοστά απόρριψης”. Αυτή η διατύπωση δεν εμφανίζεται στη σύμβαση που έχουμε υπογράψει», δήλωσε ο εκπρόσωπος της εταιρείας, Νέιτ Έβανς.

«Το έγγραφο που λάβατε φαίνεται να είναι ένα προηγούμενο προσχέδιο που προτάθηκε από το Υπουργείο πριν από την παροχή σχολίων. Απορρίψαμε αυτή τη διατύπωση, το υπουργείο συμφώνησε να την αφαιρέσει και η τελική συμφωνία που έχει υπογραφεί δεν την περιλαμβάνει», συμπλήρωσε.

Σε συνεργασία με την οργάνωση Legal Advocates for Safe Science and Technology, το The Intercept υπέβαλε αίτημα βάσει του νόμου περί Ελευθερίας της Πληροφόρησης (FOIA), ζητώντας να δημοσιευθούν τα τελικά και υπογεγραμμένα έγγραφα.

Στο αίτημα διευκρινιζόταν μάλιστα ότι το Πεντάγωνο θα έπρεπε να εξαιρέσει τυχόν προσχέδια και κανένα από τα έγγραφα που δόθηκαν στη δημοσιότητα -στο πλαίσιο της δικαστικής διαδικασίας- δεν φέρει την ένδειξη «προσχέδιο».

Όταν ένας δικηγόρος του Υπουργείου Δικαιοσύνης των ΗΠΑ, που εκπροσωπούσε το Πεντάγωνο, κλήθηκε να επιβεβαιώσει εάν το έγγραφο που περιείχε τη ρήτρα για τα «ελάχιστα ποσοστά άρνησης» περιλαμβανόταν στην τελική συμφωνία,  δήλωσε ότι επρόκειτο πράγματι για την υπογεγραμμένη και τελική έκδοση της σύμβασης.

Ωστόσο, λίγες ώρες αργότερα -και μετά την επικοινωνία του The Intercept με την OpenAI- ο δικηγόρος του Πενταγώνου ζήτησε να αγνοηθεί η προηγούμενη επιβεβαίωση, δηλώνοντας ότι το Υπουργείο Άμυνας χρειαζόταν περισσότερο χρόνο για να διερευνήσει το ζήτημα.

Αντιφατικές «εξηγήσεις» του Πενταγώνου

Στη συνέχεια, το The Intercept επικοινώνησε με τον ειδικό βοηθό του υφυπουργού Άμυνας, Τρέβορ Τίντεμαν, ο οποίος -πριν αναλάβει τα καθήκοντα του αρμόδιου για την έρευνα και την τεχνολογία στο Πεντάγωνο- είχε εργαστεί στην προεκλογική εκστρατεία του προέδρου των ΗΠΑ, Ντόναλντ Τραμπ.

«Ενδέχεται να υπάρχει κάποια σύγχυση ή ασυμφωνία μεταξύ των πληροφοριών που λάβατε μέσω της [αγωγής] FOIA, όσων υπάρχουν στην πραγματικότητα και του τι συνιστά, αυστηρά μιλώντας, μια οριστικά υπογεγραμμένη σύμβαση», δήλωσε ο Τίντεμαν.

Ο Τρέβορ Τίντεμαν άφησε να εννοηθεί ότι το έγγραφο που περιείχε τη ρήτρα για «ελάχιστα ποσοστά άρνησης» ενδέχεται να αφορούσε προσχέδιο της σύμβασης.

Ωστόσο, δήλωσε ότι δεν ήταν σε θέση να γνωρίζει με βεβαιότητα τι ακριβώς ήταν το συγκεκριμένο έγγραφο, ούτε και γιατί παραδόθηκε στο The Intercept στο πλαίσιο του νομικού αιτήματος και της σχετικής δικαστικής προσφυγής ή γιατί το υπουργείο Άμυνας άλλαξε ξαφνικά στάση.

Ο Τίντεμαν δήλωσε στο The Intercept ότι θα διερευνούσε πώς το συγκεκριμένο έγγραφο έφτασε στα χέρια του μέσου μέσω του αιτήματος FOIA, από τη στιγμή που χρειάστηκε να περάσει από τους αρμόδιους υπαλλήλους του Πενταγώνου, να εγκριθεί για δημοσιοποίηση από το υπουργείο Άμυνας και, στη συνέχεια, να επιβεβαιωθεί ως γνήσιο έγγραφο της τελικής σύμβασης από τους δικηγόρους του Πενταγώνου.

Όταν ρωτήθηκε εάν το Πεντάγωνο θα μπορούσε να δώσει στη δημοσιότητα την τελική εκδοχή της σύμβασης με την OpenAI, την οποία φέρεται να μην είχε δημοσιοποιήσει, ο Τίντεμαν απάντησε ότι θα εξέταζε το ζήτημα. Στη συνέχεια, όμως, σταμάτησε να απαντά στα ερωτήματα του The Intercept.

Ομοίως, η OpenAI δεν παρείχε την πλήρη σύμβαση.

Το 2024, η The Intercept είχε μηνύσει την OpenAI για τη χρήση άρθρων από την εταιρεία, τα οποία προστατεύονται από πνευματικά δικαιώματα, για την εκπαίδευση του chatbot ChatGPT. Η υπόθεση βρίσκεται σε εξέλιξη.

Λίγες ημέρες αργότερα, ο δικηγόρος του υπουργείου Δικαιοσύνης που εκπροσωπεί το Πεντάγωνο, περιέπλεξε ακόμη περισσότερο τα πράγματα, δηλώνοντας ότι το συγκεκριμένο έγγραφο «δεν ήταν η τελική του έκδοση».

Υποστήριξε ότι το «σωστό έγγραφο» θα δοθεί αργότερα στη δημοσιότητα, «αν και δεν μπορώ να προσδιορίσω με βεβαιότητα πότε».

Στη συνέχεια, ο εκπρόσωπος του υπουργείου Άμυνας, Τζέικομπ Μπλις, δήλωσε σε ανακοίνωσή του ότι η φράση «ελάχιστα ποσοστά άρνησης» δεν περιλαμβάνεται σε καμία ισχύουσα σύμβαση του υπουργείου Πολέμου με την OpenAI.

Η επίμαχη ρήτρα -η διατύπωση της οποίας δείχνει ότι ο αμερικανικός στρατός επιδίωκε μια πιο «ευέλικτη» εκδοχή της τεχνολογίας της OpenAI– εντοπίζεται σε τμήμα της σύμβασης που περιγράφει τι ήταν υποχρεωμένη να παραδώσει η εταιρεία στο Πεντάγωνο.

Μεταξύ των προβλεπόμενων παραδοτέων περιλαμβανόταν η «Δοκιμή, Αξιολόγηση και Βελτίωση των Επιχειρησιακών Μοντέλων της OpenAI» για «σειρά ζητημάτων εθνικής ασφάλειας».

Στο έγγραφο διευκρινίζεται ότι ως «Επιχειρησιακά Μοντέλα της OpenAI» νοούνται τα μοντέλα της εταιρείας που έχουν σχεδιαστεί για εφαρμογές εθνικής ασφάλειας και διαθέτουν «ελάχιστα ποσοστά άρνησης» εντολών.

Στα έγγραφα δεν υπάρχει καμία ένδειξη για το τι ακριβώς μπορεί να περιλαμβάνουν αυτές οι «σειρές ζητημάτων εθνικής ασφάλειας», ούτε, επίσης,  διευκρινίζεται τι είδους αιτήματα θα ήθελε το Πεντάγωνο να απορρίπτει η τεχνολογία της OpenAI όσο το δυνατόν πιο σπάνια.

Ωστόσο, το The Intercept τονίζει πως ένα μεγάλο γλωσσικό μοντέλο που θα μπορούσε να συνδράμει στην κατασκοπεία, στην επιλογή στόχων και στη διαδικασία εξόντωσης ανθρώπων θα απαιτούσε σημαντική «χαλάρωση» των δικλίδων ασφαλείας του, προκειμένου να μπορεί να αξιοποιηθεί για στρατιωτικούς σκοπούς.

Όπως και πολλά ανταγωνιστικά συστήματα, τα κορυφαία γλωσσικά μοντέλα της OpenAI διαθέτουν ενσωματωμένες δικλίδες ασφαλείας, οι οποίες καθοδηγούν το σύστημα να απορρίπτει ορισμένα αιτήματα, συνήθως για λόγους ασφαλείας.

Η OpenAI και οι ανταγωνιστές της απαγορεύουν, επίσης, στο κοινό να χρησιμοποιεί τα μοντέλα τους για άλλες επικίνδυνες εφαρμογές, όπως η ανάπτυξη όπλων μαζικής καταστροφής.

Η Χάιντι Κλαάφ, επικεφαλής επιστήμονας στο AI Now Institute και πρώην μηχανικός ασφάλειας συστημάτων στην OpenAI, δήλωσε στο The Intercept ότι και μόνο η ιδέα ανάπτυξης «ειδικών δικλίδων ασφαλείας» όταν αφορά εφαρμογές της τεχνολογίας για «ζητήματα εθνικής ασφάλειας» είναι από μόνη της ανησυχητική.

«Το “ελάχιστη άρνηση” πιθανότατα σημαίνει ότι το μοντέλο που χρησιμοποιείται θα διαθέτει ελάχιστες ή και καθόλου δικλίδες ασφαλείας», δήλωσε η Κλαάφ.

Ανεξάρτητα από την τελική διατύπωση της σύμβασης, ειδικοί όπως η Κλαάφ εκφράζουν ανησυχίες για τον ρόλο που διαδραματίζουν ήδη οι πολιτικές των ιδιωτικών εταιρειών στις πολεμικές επιχειρήσεις.

«Είναι ανησυχητικό το γεγονός ότι παραχωρείται η εξουσία σε ιδιωτικές εταιρείες να λαμβάνουν αποφάσεις για ζητήματα πολέμου που αποτελούν τελικά ευθύνη των κρατών, είτε πρόκειται για εισηγήσεις σχετικά με την επιλογή στόχων είτε για τις δικλίδες ασφαλείας που περιορίζουν τον τρόπο με τον οποίο οι ένοπλες δυνάμεις ενός κράτους μπορούν να χρησιμοποιούν την τεχνολογία», τόνισε.

«Προηγούμενο» μεταξύ Πενταγώνου και Anthropic

Το ζήτημα των περιορισμών που μπορούν -ή θα έπρεπε- να επιβάλλουν οι εταιρείες τεχνολογίας στη χρήση των συστημάτων τους στο πεδίο της μάχης, βρέθηκε στο επίκεντρο της δημόσιας αντιπαράθεσης, μεταξύ του Πενταγώνου και της Anthropic, νωρίτερα μέσα στη χρονιά.

Η εταιρεία υποστηρίζει ότι η συμφωνία της με τον αμερικανικό στρατό για την επέκταση της τεχνολογίας της σε διαβαθμισμένα δίκτυα κατέρρευσε, όταν το υπουργείο Άμυνας αρνήθηκε να συμπεριλάβει στη σύμβαση τις απαγορεύσεις που εισήγαγε η εταιρεία, σχετικά με τη χρήση της τεχνολογίας της σε αυτόνομα οπλικά συστήματα, αλλά και και για την παρακολούθηση Αμερικανών πολιτών.

Η κυβέρνηση Τραμπ, από την πλευρά της, χαρακτήρισε την Anthropic «κίνδυνο για την εφοδιαστική αλυσίδα» και προχώρησε σε ενέργειες για την απαγόρευση της χρήσης της τεχνολογίας της Anthropic από την αμερικανική κυβέρνηση.

Η απόφαση αυτή, ωστόσο, ανατράπηκε στα τέλη του περασμένου μήνα από ομοσπονδιακό δικαστή.

Η αντιπαράθεση αυτή δεν εμπόδισε την OpenAI να προχωρήσει γρήγορα στη σύναψη μιας δική της συμφωνίας με το Πεντάγωνο.

Στις 27 Φεβρουαρίου, η OpenAI υπέγραψε την πιο πρόσφατη εκδοχή της σύμβασης, επιτρέποντας τη χρήση των υπηρεσιών της σε διαβαθμισμένα δίκτυα του αμερικανικού στρατού.

Η επικαιροποιημένη σύμβαση για τη χρήση της τεχνολογίας διατηρεί τον ίδιο τίτλο, «Δοκιμή, Αξιολόγηση και Βελτίωση των Επιχειρησιακών Μοντέλων της OpenAI». Ωστόσο, σε αντίθεση με την προηγούμενη έκδοση, το περιεχόμενό της έχει διαγραφεί στο σύνολό του.

Η OpenAI υποστηρίζει ότι κατάφερε να εξασφαλίσει σαφείς περιορισμούς, ώστε η τεχνολογία της να μην χρησιμοποιείται για αυτόνομες δολοφονίες ή για κατασκοπεία εις βάρος Αμερικανών πολιτών.

Ωστόσο, σύμφωνα με το δημοσίευμα, ο τρόπος με τον οποίο έχει διατυπωθεί η συμφωνία αφήνει τελικά περιθώριο για οποιαδήποτε χρήση θεωρεί νόμιμη η αμερικανική κυβέρνηση.

Διαβάστε επίσης:

ΗΠΑ-Ιράν: Το Πεντάγωνο επανεξετάζει τη στρατιωτική παρουσία στη Μέση Ανατολή

Οι μηχανές της ερήμου: Τεχνητή νοημοσύνη, κλιματική κατάρρευση και αυταρχισμός

ΟΗΕ: «Η τεχνητή νοημοσύνη μπορεί να αποτελέσει υπαρξιακή απειλή για την ανθρωπότητα»

Δείτε όλες τις ειδήσεις από την Ελλάδα και τον Κόσμο στο koutipandoras.gr