Το ChatGPT δημιουργεί νέους κινδύνους για την εθνική ασφάλεια

Μεγάλα μοντέλα γλώσσας όπως το ChatGPT και το Claude προσφέρουν ένα ευρύ φάσμα ευεργετικών εφαρμογών. Ωστόσο, υπάρχουν σημαντικοί κίνδυνοι που συνδέονται με τη χρήση τους που απαιτούν συντονισμένη προσπάθεια μεταξύ των χωρών εταίρων για να σφυρηλατήσουν μια σταθερή, ολοκληρωμένη άμυνα έναντι της απειλής κακοήθων επιχειρήσεων πληροφόρησης.

Τα μεγάλα γλωσσικά μοντέλα μπορούν να βοηθήσουν στη δημιουργία δημιουργικών ιστοριών, στη δημιουργία εκστρατειών μάρκετινγκ και ακόμη και στη δημιουργία εξατομικευμένων προτάσεων εστιατορίων. Ωστόσο, συχνά παράγουν κείμενο που είναι σίγουρα λάθος. Αυτός ο σχεδιασμός έχει βαθιές επιπτώσεις, όχι μόνο για τη συνήθη χρήση της τεχνητής νοημοσύνης, αλλά και για την εθνική ασφάλεια των ΗΠΑ.

Το περιεχόμενο που δημιουργείται από AI μπορεί να εμφανίσει ένα φαινόμενο γνωστό ως “ειλικρίνεια” — μια φράση που επινοήθηκε από τον τηλεοπτικό παρουσιαστή Stephen Colbert στις αρχές της δεκαετίας του 2000 για να περιγράψει πώς η πληροφορία μπορεί να είναι σωστή. Αυτή η ιδέα τονίζει ότι, παρά την έλλειψη ακρίβειας των πραγματικών περιστατικών, το περιεχόμενο με μια εξαιρετικά συνεκτική λογική δομή μπορεί να επηρεάσει τον τρόπο με τον οποίο οι έξυπνοι, εξελιγμένοι άνθρωποι αποφασίζουν εάν κάτι είναι αλήθεια ή όχι.

Οι γνωστικές μας προκαταλήψεις σημαίνουν ότι το καλογραμμένο περιεχόμενο ή τα συναρπαστικά γραφικά έχουν τη δύναμη να κάνουν τους ισχυρισμούς να φαίνονται πιο αληθινοί από ό,τι είναι. Ως ένας μελετητής που έχει μελετήσει την «αλήθεια» το περιγράφει: «Όταν τα πράγματα είναι εύκολο να επεξεργαστούν, αισθάνονται αξιόπιστα».

Οι αντίπαλοι των ΗΠΑ μπορούν να χειραγωγήσουν τη δυνατότητα των μοντέλων τεχνητής νοημοσύνης να ακούγονται «αληθινά» — δημιουργώντας συνεκτικές, καλά δομημένες και πειστικές προτάσεις, που μπορούν να μιμούνται την ανθρώπινη γραφή — για να αποκτήσουν πλεονέκτημα. Το Διαδίκτυο, με την παγκόσμια εμβέλειά του, έχει δημιουργήσει ένα ισχυρό μέσο για ξένες παρεμβάσεις μέσω ανατρεπτικών εισβολών της αλήθειας.

Διαβάστε  Στρατός θα τοποθετήσει νέο τουφέκι, πολυβόλο και οπτικό το 2024

Οι κρατικοί φορείς αξιοποιούν τις ψηφιακές τεχνολογίες για να εκτελέσουν εχθρικές εκστρατείες πληροφόρησης, χρησιμοποιώντας διαδικτυακά εργαλεία και επιχειρήσεις πληροφόρησης για την προώθηση των συμφερόντων τους. Οι κρατικοί φορείς μπορούν να χειραγωγήσουν τη γνωστική ευφράδεια μεροληψία και την αλήθεια για να διαμορφώσουν την κοινωνικοπολιτική αρένα, επεκτείνοντας την πιθανή κακή χρήση γλωσσικών μοντέλων που βασίζονται στην τεχνητή νοημοσύνη για κακοήθεις επιχειρήσεις πληροφόρησης, εκστρατείες ψαρέματος με δόρυ και ολοένα και πιο πιστευτά deepfake μέσα.

Η εκμετάλλευση της προκατάληψης της γνωστικής ευχέρειας στις λειτουργίες πληροφόρησης μπορεί να δώσει στην παραπληροφόρηση ένα παραπλανητικό κάλυμμα αξιοπιστίας, συμβάλλοντας στην αποσταθεροποίηση των πολιτικών συστημάτων και της κοινωνικής συνοχής.

Ο Μπραντ Σμιθ, πρόεδρος της Microsoft, είπε κατά τη διάρκεια ομιλίας της 25ης Μαΐου οι ΗΠΑ «θα πρέπει να αντιμετωπίσουν ιδιαίτερα αυτό για το οποίο ανησυχούμε περισσότερο [from] ξένες επιχειρήσεις επιρροής στον κυβερνοχώρο, τα είδη δραστηριοτήτων που ήδη λαμβάνουν χώρα από τη ρωσική κυβέρνηση, τους Κινέζους, τους Ιρανούς».

Ρώσοι χάκερ χοντροκομμένη απόπειρα deepfake Η απεικόνιση του Ουκρανού προέδρου Volodymyr Zelenskyy να καλεί τους Ουκρανούς να καταθέσουν τα όπλα τους ήταν εύκολα αναγνωρίσιμο. Αλλά είναι πλέον προφανές ότι το ζήτημα δεν είναι πλέον ακαδημαϊκό. Η πραγματικότητα φαίνεται ότι κακόβουλα βίντεο, πλαστά έγγραφα και πλαστές λογαριασμοί μέσων κοινωνικής δικτύωσης θα μπορούσαν να μεταβούν από το να θεωρούνται χοντροκομμένα σε μια παραπλανητική εμφάνιση αυθεντικότητας.

Η αύξηση των εκστρατειών ανατροπής που εξαρτώνται από την παραπληροφόρηση και οι αυξημένες προσπάθειες κακοήθων παραγόντων υπογραμμίζουν την ανάγκη στρατηγικής απάντησης από τις ΗΠΑ και τους συμμάχους τους. Για την καταπολέμηση αυτών των τάσεων, οι υπεύθυνοι χάραξης πολιτικής των ΗΠΑ χρειάζονται μια ολοκληρωμένη στρατηγική, βασισμένη σε προσεκτική παρακολούθηση, προληπτικές προειδοποιήσεις και διεθνή συνεργασία.

Διαβάστε  Η Ουγγαρία απαντά αφού ο Αμερικανός γερουσιαστής είπε ότι μπλόκαρε την αγορά του HIMARS

Ο ακρογωνιαίος λίθος αυτής της στρατηγικής θα πρέπει να είναι η προσεκτική παρακολούθηση του περιβάλλοντος πληροφοριών. Ενισχυμένη από τις εξελίξεις στην τεχνητή νοημοσύνη και τη μηχανική μάθηση, η συνεχής παρακολούθηση είναι ζωτικής σημασίας για τον έγκαιρο εντοπισμό και την εξουδετέρωση των εκστρατειών παραπληροφόρησης.

Αυτή η στάση απηχεί την έκκληση του Υπουργείου Άμυνας των ΗΠΑ για βελτιωμένη ικανότητα «παρακολούθησης, ανάλυσης, χαρακτηρισμού, αξιολόγησης, πρόβλεψης και οπτικοποίησης» του περιβάλλοντος πληροφοριών, όπως λεπτομερής στη «Στρατηγική για Επιχειρήσεις στο Πληροφοριακό Περιβάλλον» του 2016. Για να το εφαρμόσουν αυτό, οι στρατιωτικές υπηρεσίες και οι υπηρεσίες πληροφοριών θα χρειαστούν εξειδικευμένες μονάδες αφιερωμένες στον πόλεμο πληροφοριών, οι οποίες μπορούν να παρέχουν την κρίσιμη τεχνογνωσία που απαιτείται για την ερμηνεία και την ενέργεια βάσει των συλλεγόμενων δεδομένων.

Η κυβέρνηση των ΗΠΑ χρειάζεται επίσης ένα ισχυρό σύστημα προειδοποίησης που προωθεί ταυτόχρονα την αλήθεια και αποκαλύπτει την παραπληροφόρηση. Οι έγκαιρες και αποτελεσματικές προειδοποιήσεις μπορούν να βοηθήσουν στην προστασία του κοινού από ψευδείς αφηγήσεις, περιορίζοντας σημαντικά τον αντίκτυπο των εκστρατειών παραπληροφόρησης. Η δύναμη της αλήθειας είναι ένα τρομερό εργαλείο σε αυτό το πλαίσιο. χρησιμεύει ως αποτελεσματικό αντίμετρο κατά των διαβρωτικών επιπτώσεων των ψευδών.

Τέλος, υπάρχει ανάγκη να ενισχυθούν οι στρατηγικές εταιρικές σχέσεις με διεθνείς συμμάχους. Ο παγκόσμιος χαρακτήρας των κακοήθων εκστρατειών παραπληροφόρησης επιβάλλει οι αντενέργειες να είναι εξίσου εκτεταμένες. Αυτές οι συνεργασίες παρέχουν ανεκτίμητη τοπική γνώση και ενισχύουν την εμπιστοσύνη, που και τα δύο μπορούν να ενισχύσουν σημαντικά την αξιοπιστία των προειδοποιήσεων και να ενισχύσουν την κοινωνική ανθεκτικότητα έναντι της παραπληροφόρησης.

Ο Christopher Mouton είναι ανώτερος μηχανικός στο think tank Rand και καθηγητής στο Pardee RAND Graduate School.

Διαβάστε  Οι ΗΠΑ εγκαινιάζουν πρωτοβουλία στρατιωτικής χρήσης τεχνητής νοημοσύνης

Αφήστε μια απάντηση

Η ηλ. διεύθυνση σας δεν δημοσιεύεται.