AI-smartphonegreeceΗ τεχνητή νοημοσύνη μπορεί να φέρει επανάσταση, αλλά μπορεί να σκορπίσει και τον όλεθρο, αν οι hackers ασχοληθούν με αυτή. Αυτή είναι η προειδοποίηση της Dawn Song, καθηγήτριας στο UC Berkeley, η οποία ειδικεύεται στη μελέτη των κινδύνων ασφάλειας που σχετίζονται με την AI και τη μηχανική εκμάθηση.

Μιλώντας στο EmTech Digital, σε εκδήλωση  στο San Francisco, η Song προειδοποίησε ότι:

  • οι νέες τεχνικές ανίχνευσης και χειρισμού συστημάτων μηχανικής μάθησης- γνωστές ως μεθόδους «adversarial machine learning» – θα μπορούσαν να προκαλέσουν μεγάλα προβλήματα.
  • η «adversarial machine learning» θα μπορούσε να χρησιμοποιηθεί για να επιτεθεί σχεδόν σε οποιοδήποτε σύστημα που βασίζεται στην τεχνολογία. «Είναι ένα μεγάλο πρόβλημα το οποίο πρέπει να διορθωθεί», είπε στο κοινό.
  • η μέθοδος «adversarial machine learning» περιλαμβάνει την πειραματική τροφοδοσία εισόδου σε έναν αλγόριθμο για να αποκαλύψει τις πληροφορίες που έχει εκπαιδευτεί ή να στρεβλώσει την είσοδο με τρόπο που να προκαλεί το σύστημα να μην συμπεριφέρεται σωστά.
  • με την εισαγωγή πολλών εικόνων σε έναν αλγόριθμο ηλεκτρονικής όρασης, για παράδειγμα, είναι δυνατό να αντιστραφεί η λειτουργία του και να εξασφαλιστούν ορισμένα είδη «output», συμπεριλαμβανομένων και λανθασμένων.Η Song παρουσίασε αρκετά παραδείγματα απάτης με αυτό τον τρόπο τα οποία διερευνά η ερευνητική της ομάδα.

AI-SmartphonegreeceΈνα σενάριο, σε συνεργασία με την Google, περιελάμβανε αλγόριθμους ανίχνευσης μηχανών ανίχνευσης, οι οποίοι παρήγαγαν αυτόματες απαντήσεις σε email. Η προσπάθεια έδειξε ότι με τη δημιουργία των σωστών μηνυμάτων, είναι πιθανό να δημιουργηθεί το μοντέλο της μηχανής που θα εντοπίζει και θα αφαιρεί ευαίσθητα δεδομένα, όπως αριθμούς πιστωτικών καρτών.

Ένα άλλο σενάριο, αφορούσε την τροποποίηση οδικών πινακίδων με μερικές αόρατες αυτοκόλλητες ετικέτες για να ξεγελάσουν τα συστήματα οράσεως υπολογιστών που χρησιμοποιούνται σε πολλά οχήματα. Στο βίντεο είδαμε ότι  ένα αυτοκίνητο θα μπορούσε να εξαπατηθεί και να «διαβάσει» ότι το όριο ταχύτητας είναι 45 μίλια ανά ώρα. Αυτό θα μπορούσε να είναι ένα τεράστιο πρόβλημα για ένα αυτοματοποιημένο σύστημα οδήγησης που βασίζεται σε τέτοιες πληροφορίες.

Η μέθοδος «adversarial machine learning» είναι ένας τομέας αυξανόμενου ενδιαφέροντος για τους ερευνητές μηχανικής μάθησης. Τα τελευταία δύο χρόνια, άλλες ερευνητικές ομάδες έχουν δείξει πώς μπορούν να ανιχνευθούν και να αξιοποιηθούν τα ηλεκτρονικά API μηχανικής μάθησης για να εξευρεθούν τρόποι για την εξαπάτηση τους ή για την αποκάλυψη ευαίσθητων πληροφοριών.

AI

 

 

 

 

via