Καθώς το Υπουργείο Άμυνας συνεχίζει να επενδύει και να πειραματίζεται με την τεχνητή νοημοσύνη, οι μέρες χρήσης φυσικών τηλεχειριστηρίων και βασιζόμενης σε ανθρώπους για την ερμηνεία περίπλοκων γραπτών εντολών και συστάσεων τελειώνουν.
Οι τεχνολογίες συνθετικής φωνής που λειτουργούν με τεχνητή νοημοσύνη κερδίζουν την υιοθέτησή τους στους στρατιωτικούς κύκλους, όπως αποδεικνύεται από περιπτώσεις χρήσης όπως οι δοκιμές από το Πολεμικό Ναυτικό των ΗΠΑ σε τηλεκατευθυνόμενα drones, τα σχέδια του αμερικανικού στρατού να χρησιμοποιήσει «υπερ-ενεργοποιημένους χειριστές» που τροφοδοτούνται από φωνή σε φωνή φυσική γλώσσα επεξεργασία, και έξυπνες φωνητικές εντολές να κατευθύνει τις επιχειρήσεις στο πεδίο της μάχης.
Πράγματι, η συνθετική φωνή έχει τη δυνατότητα να φέρει επανάσταση σε κάθε πτυχή της δουλειάς ενός στρατιώτη, από την αποτελεσματικότερη συντήρηση του εξοπλισμού ρουτίνας έως τη δημιουργία ενός ασφαλέστερου και αποτελεσματικότερου πολεμικού περιβάλλοντος. Η επίτευξη αυτού του δυναμικού θα είναι ένα εξαιρετικά περίπλοκο εγχείρημα που απαιτεί διαφορετική προσέγγιση στη διαχείριση δεδομένων.
Εδώ είναι δύο παράγοντες που θα οδηγήσουν την επανάσταση της συνθετικής φωνής και θα επιτρέψουν στον στρατό να αξιοποιήσει αυτή την τεχνολογία με επιτυχία και ασφάλεια.
Μεγάλα γλωσσικά μοντέλα
Τα σημερινά μοντέλα μεγάλων γλωσσών (LLM) απαιτούν τεράστια ποσότητα επεξεργαστικής ισχύος και ενέργειας, με ορισμένα μοντέλα να έχουν δισεκατομμύρια παραμέτρους που τους βοηθούν να λαμβάνουν ακριβείς αποφάσεις.
Ωστόσο, για πολλές περιπτώσεις στρατιωτικής χρήσης – ειδικά εκείνες που βρίσκονται στο πεδίο – ο εξοπλισμός που απαιτείται για την επεξεργασία LLM αυτού του μεγέθους είναι αβάσιμος. Ο όγκος των δεδομένων που απαιτούνται για τη δημιουργία ενός ελαφρύτερου LLM που εξακολουθεί να λαμβάνει ακριβείς αποφάσεις και να τις διατυπώνει με φυσικό τρόπο θα εξακολουθεί να είναι σημαντικός.
Η πρόκληση είναι ότι οι στρατιώτες δεν θα έχουν την πολυτέλεια να έχουν αυτά τα μοντέλα επεξεργασίας σε μια ισχυρή κεντρική τοποθεσία. Θα χρειαστεί να υποβληθούν σε επεξεργασία κοντά στο σημείο όπου βρίσκονται οι στρατιώτες, έτσι ώστε οι πληροφορίες να μπορούν να μεταδοθούν σε σχεδόν πραγματικό χρόνο.
Αυτό θα απαιτήσει μικρότερα LLM που μπορούν εύκολα να υποβληθούν σε επεξεργασία και να αναλυθούν στην άκρη. Αντί να έχουν τρισεκατομμύρια παραμέτρους, αυτά τα μοντέλα μπορεί να είναι μόνο μερικά εκατομμύρια. Τα LLM θα εξακολουθούν να αντλούν από ένα μεγάλο σύνολο μη δομημένων δεδομένων, αλλά θα μπορούν να αποστάζουν αυτά τα δεδομένα και να παρέχουν συστάσεις που να μπορούν να εφαρμοστούν μόνο για ό,τι χρειάζεται για μια συγκεκριμένη περίπτωση χρήσης αιχμής. Οι στρατιώτες θα μπορούν να λαμβάνουν και να ανταλλάσσουν πληροφορίες μέσω φωνής και οι αλληλεπιδράσεις θα υποβάλλονται σε επεξεργασία σχεδόν σε πραγματικό χρόνο.
Οι συσκευές αιχμής για να το κάνουν αυτό δυνατό υπάρχουν ήδη και γίνονται όλο και πιο ισχυρές κάθε μέρα, και τα μοντέλα τεχνητής νοημοσύνης θα πρέπει να βελτιστοποιηθούν για να λειτουργούν σε αυτές τις μικρότερες συσκευές.
Δείτε κάτι, πείτε κάτι
Η ασφάλεια των δεδομένων που χρησιμοποιούνται για την ενημέρωση συνθετικών φωνητικών εντολών θα είναι εξαιρετικά σημαντική. Ο διευθυντής του DISA έχει ήδη εκδώσει προειδοποιήσεις σχετικά με την ευαισθησία της γενετικής τεχνητής νοημοσύνης σε hacking. Ακόμη και ένα απλό hack θα μπορούσε να αλλάξει σημαντικά την αποτελεσματικότητα και την ακρίβεια των απαντήσεων και των οδηγιών που παρέχει ένας βοηθός τεχνητής νοημοσύνης με δυνατότητα φωνής.
Επομένως, η ασφάλεια δεν μπορεί να βιδωθεί σε LLM που λειτουργούν στην άκρη. Αντίθετα, πρέπει να ενσωματωθεί σε ολόκληρο τον κύκλο ζωής της τεχνητής νοημοσύνης, από τη στιγμή που συλλέγονται τα δεδομένα, ενώ εκπαιδεύονται, μέχρι την τελική ανάπτυξή τους. Θα απαιτηθούν τεχνολογίες κρυπτογράφησης και ενσωμάτωση λογισμικού και υλικού για την απομόνωση κακών δεδομένων και κακών παραγόντων σε θύλακες για να διασφαλιστεί ότι δεν θα διαταραχθούν οι λειτουργίες.
Η συνθετική φωνή μπορεί επίσης να βοηθήσει στην προστασία των δεδομένων, δίνοντας μια νέα στροφή στο παλιό ρητό, «Δείτε κάτι, πείτε κάτι». Ένα άτομο θα μπορούσε να παρατηρήσει κάτι ύποπτο, όπως μια πιθανή άρνηση παροχής υπηρεσιών ή επίθεση ηλεκτρονικού ψαρέματος, να το αποκαλέσει και να ζητήσει από το σύστημα να απομονώσει την αμφισβητήσιμη δραστηριότητα.
Η ενσωμάτωση αυτού του επιπέδου προστασίας θα είναι μια εξαιρετικά περίπλοκη προσπάθεια που θα απαιτήσει από τους οργανισμούς, συμπεριλαμβανομένου του Υπουργείου Ανάπτυξης, να επανεξετάσουν τον τρόπο με τον οποίο προσεγγίζουν την ασφάλεια δεδομένων. Είναι καιρός να απομακρυνθούμε από την έννοια της δικτυοκεντρικής ασφάλειας και να στραφούμε σε μια πιο ολιστική προσέγγιση που περιλαμβάνει μια νοοτροπία «συστήματος συστημάτων». Κάθε τι πάνω στο οποίο βασίζεται η τεχνητή νοημοσύνη και η συνθετική φωνή — συμπεριλαμβανομένης της απορρόφησης δεδομένων, των μοντέλων, των διαδικασιών εκπαίδευσης και των ίδιων των δεδομένων — πρέπει να έχουν τις δικές τους διαδικασίες και πολιτικές ασφαλείας.
Η ασφάλεια στο σημείο της κατάποσης θα είναι ιδιαίτερα απαιτητική. Για παράδειγμα, θα προκύψουν αναπόφευκτα νέα ερωτήματα σχετικά με το πώς να αποφασίσετε τα κατάλληλα επίπεδα ταξινόμησης ασφάλειας για νέα δεδομένα. Αυτές οι αποφάσεις θα πρέπει να ληφθούν πριν τροφοδοτηθούν δεδομένα στα μοντέλα για να διασφαλιστεί ότι οι οδηγίες που παρέχουν τα φωνητικά συστήματα ακούγονται μόνο από τα κατάλληλα αυτιά.
Η ασφάλεια θα συνεχίσει να διαδραματίζει σημαντικό ρόλο ακόμη και αφού το σύστημα φωνής αναμεταδώσει τις συστάσεις του. Καθώς η τεχνολογία συνθετικής φωνής αλληλεπιδρά με έναν άνθρωπο, το AI θα συλλέγει πληροφορίες από τη συνομιλία για να βελτιώσει τις μελλοντικές συστάσεις. Τα δεδομένα που μεταδίδονται πίσω θα πρέπει να φυλάσσονται σφιχτά καθώς μετακινούνται πίσω μέσω του βρόχου ανάδρασης.
Το DoD βρίσκεται στην αρχή αυτού που πιθανότατα θα αποδειχθεί ένα μακρύ και γόνιμο ταξίδι στον κόσμο της συνθετικής φωνής και των εντολών που δημιουργούνται από AI. Αλλά αν η ξαφνική επιτάχυνση της γενετικής τεχνητής νοημοσύνης μας έχει διδάξει κάτι, είναι ότι το μέλλον είναι πολύ πιο κοντά από ό,τι φαίνεται.
Αυτό σημαίνει ότι τώρα είναι η ιδανική στιγμή για το Υπουργείο Άμυνας να αρχίσει να προετοιμάζεται για τις ανεκμετάλλευτες ακόμη δυνατότητες της συνθετικής φωνής. Η κατανόηση του τι θα απαιτηθεί για να γίνει πραγματικότητα είναι το πρώτο βήμα προς την πραγματοποίηση αλληλεπιδράσεων σε πραγματικό χρόνο, προφορικές και ευεργετικές μεταξύ ανθρώπου και μηχανής.
Η Gretchen Stewart είναι επικεφαλής επιστήμονας δεδομένων και ο Burnie Legette είναι τεχνολόγος AI στον δημόσιο τομέα της Intel.