Η Microsoft Corp. λαμβάνει μέτρα για να αποτρέψει τα chatbots τεχνητής νοημοσύνης από το να υιοθετούν ασυνήθιστες ή βλαβερές συμπεριφορές μέσω παραπλάνησης. Σε μια ανάρτηση ιστολογίου την Πέμπτη, η εταιρεία με έδρα στο Redmond, Washington, ανακοίνωσε καινούριες λειτουργίες ασφαλείας για το Azure AI Studio. Αυτό το εργαλείο επιτρέπει στους προγραμματιστές να δημιουργούν προσαρμοσμένους AI βοηθούς με τα δικά τους δεδομένα.

Στα νέα εργαλεία περιλαμβάνονται τα "Ασπίδες Εντολών", τα οποία σχεδιάστηκαν για να αναγνωρίζουν και να μπλοκάρουν σκόπιμες προσπάθειες - τις λεγόμενες επιθέσεις έγχυσης εντολών ή Jailbreaks - με στόχο να παρασύρουν ένα μοντέλο Τεχνητής Νοημοσύνης σε ακούσιες αντιδράσεις.

Η Microsoft αναλαμβάνει επίσης τις "έμμεσες ενέσεις εντολών", όπου οι χάκερ εισάγουν κακόβουλες οδηγίες στα δεδομένα που χρησιμοποιούνται για την εκπαίδευση ενός μοντέλου, προκαλώντας έτσι μη εξουσιοδοτημένες ενέργειες όπως την κλοπή πληροφοριών χρηστών ή την κατάληψη ενός συστήματος.

Σύμφωνα με την Σάρα Μπερντ, Επικεφαλής Αξιωματικός Προϊόντων της Microsoft για υπεύθυνη ΤΕ, τέτοιες επιθέσεις αποτελούν μια μοναδική πρόκληση και απειλή. Τα νέα μέτρα άμυνας είναι σχεδιασμένα να αναγνωρίζουν ύποπτες εισόδους και να τις μπλοκάρουν σε πραγματικό χρόνο.

Επιπλέον, η Microsoft εισάγει μια λειτουργία που προειδοποιεί τους χρήστες όταν ένα μοντέλο κάνει επινοήσεις ή δημιουργεί ελαττωματικές απαντήσεις. Η Microsoft είναι αποφασισμένη να ενισχύσει την εμπιστοσύνη στα γεννητικά εργαλεία τεχνητής νοημοσύνης της, τα οποία χρησιμοποιούνται τόσο από καταναλωτές όσο και από εταιρικούς πελάτες.

Τον Φεβρουάριο, η εταιρεία διερεύνησε περιστατικά με τον Chatbot-Συγκυβερνήτη της, που παρήγαγε από παράξενες μέχρι και βλαβερές απαντήσεις. Μετά την ανασκόπηση των περιστατικών, η Microsoft δήλωσε ότι οι χρήστες είχαν απόπειρα να προκαλέσουν εσκεμμένα τον Copilot σε αυτές τις απαντήσεις.

Η Microsoft είναι ο μεγαλύτερος επενδυτής της OpenAI και έχει μετατρέψει τη συνεργασία σε ένα κλειδί του στρατηγικού σχεδιασμού της για την τεχνητή νοημοσύνη. Η Bird τόνισε ότι η Microsoft και η OpenAI αφοσιώνονται στην ασφαλή χρήση της τεχνητής νοημοσύνης και ενσωματώνουν προστατευτικά μέτρα στα μεγάλα μοντέλα γλωσσικής διεπαφής που αποτελούν τη βάση της παραγωγικής τεχνητής νοημοσύνης. "Ωστόσο, δεν μπορείς να βασίζεσαι μόνο στο μοντέλο," είπε αυτή. "Για παράδειγμα, αυτές οι διαφυγές είναι μια εγγενής αδυναμία της τεχνολογίας του μοντέλου."