algorithms Smartphonegreece

Μια διετής έρευνα για την ιδιωτική και δημόσια χρήση των συστημάτων τεχνητής νοημοσύνης δείχνει αυξημένη εποπτεία, ιδίως σε κυβερνητικές υπηρεσίες όπως η αστυνόμευση. Η ενδυνάμωση αλγορίθμων για τη λήψη δυνητικά μεταβαλλόμενων αποφάσεων σχετικά με τους πολίτες εξακολουθεί να παρουσιάζει σημαντικό κίνδυνο αθέμιτων διακρίσεων, σύμφωνα με νέα έκθεση που δημοσιεύθηκε από το Κέντρο Δεοντολογίας και Καινοτομίας Δεδομένων του Ηνωμένου Βασιλείου (CDEI).

Σε ορισμένους τομείς, η ανάγκη παροχής επαρκών πόρων για να διασφαλιστεί ότι τα συστήματα τεχνητής νοημοσύνης είναι αμερόληπτα γίνεται ιδιαίτερα πιεστική – δηλαδή, στον  δημόσιο τομέα και κυρίως την αστυνόμευση.

Το CDEI πέρασε δύο χρόνια διερευνώντας τη χρήση αλγορίθμων τόσο στον ιδιωτικό όσο και στο δημόσιο τομέα και αντιμετώπισε πολλά διαφορετικά επίπεδα ωριμότητας για την αντιμετώπιση των κινδύνων που θέτουν οι αλγόριθμοι. Στον χρηματοπιστωτικό τομέα, για παράδειγμα, φαίνεται να υπάρχει πολύ πιο στενή σχέση της χρήσης δεδομένων με τη λήψη αποφάσεων. ενώ η τοπική αυτοδιοίκηση βρίσκεται ακόμα στις πρώτες μέρες για τη διαχείριση του ζητήματος.

Αν και η συνειδητοποίηση των απειλών που μπορεί να θέσει η AI αυξάνεται σε όλους τους κλάδους, η έκθεση διαπίστωσε ότι δεν υπάρχει συγκεκριμένο παράδειγμα καλής πρακτικής όσον αφορά τη δημιουργία υπεύθυνων αλγορίθμων. Αυτό είναι ιδιαίτερα προβληματικό στην παροχή δημόσιων υπηρεσιών όπως η αστυνόμευση, σύμφωνα με το CDEI, από το οποίο οι πολίτες δεν μπορούν να επιλέξουν να εξαιρεθούν.

ai security Smartphonegreece

Η έρευνα που πραγματοποιήθηκε στο πλαίσιο της έκθεσης κατέληξε στο συμπέρασμα ότι υπάρχει ευρεία ανησυχία σε ολόκληρη την κοινότητα των βρετανικών αρχών επιβολής του νόμου σχετικά με την έλλειψη επίσημης καθοδήγησης σχετικά με τη χρήση αλγορίθμων στην αστυνόμευση. «Αυτό το κενό πρέπει να αντιμετωπιστεί επειγόντως», ανέφερε η έρευνα.

Οι αστυνομικές δυνάμεις αυξάνουν γρήγορα την υιοθέτηση ψηφιακών τεχνολογιών: στις αρχές του έτους, η κυβέρνηση ανακοίνωσε χρηματοδότηση 63,7 εκατομμυρίων λιρών (85 εκατομμύρια δολάρια) για να προωθήσει την ανάπτυξη προγραμμάτων αστυνομικών τεχνολογιών. Τα νέα εργαλεία κυμαίνονται από τεχνολογίες οπτικοποίησης δεδομένων έως αλγόριθμους που μπορούν να εντοπίσουν μοτίβα πιθανών εγκλημάτων και ακόμη και να προβλέψουν την πιθανότητα κάποιου να προσβληθεί εκ νέου.

Εάν όμως αναπτυχθούν χωρίς κατάλληλες διασφαλίσεις, τα εργαλεία ανάλυσης δεδομένων μπορεί να έχουν ακούσιες συνέπειες. Οι αναφορές έχουν δείξει επανειλημμένα ότι τα δεδομένα της αστυνομίας μπορεί να είναι μεροληπτικά και συχνά δεν αντιπροσωπεύουν τον τρόπο διανομής του εγκλήματος. Σύμφωνα με στοιχεία που κυκλοφόρησαν, πέρυσι, για παράδειγμα, όσοι ταυτίζονται ως Μαύροι ή Μαύροι Βρετανοί είναι σχεδόν δέκα φορές πιο πιθανό να σταματήσουν και να αναζητηθούν από έναν αξιωματικό παρά ένας λευκός.

Ένα σύστημα AI που βασίζεται σε αυτόν τον τύπο ιστορικών δεδομένων κινδυνεύει να διαιωνίσει πρακτικές που εισάγουν διακρίσεις. Η Met Police χρησιμοποίησε ένα εργαλείο που ονομάζεται Gangs Matrix για να εντοπίσει εκείνους που κινδυνεύουν να εμπλακούν σε βία συμμοριών στο Λονδίνο. Βασισμένο σε απαρχαιωμένα δεδομένα, η τεχνολογία εμφανίζει δυσανάλογα μαύρους νεαρούς άνδρες. Αφού οι ακτιβιστές εξέφρασαν ανησυχίες, η βάση δεδομένων της μήτρας αναθεωρήθηκε τελικά για να μειώσει την εκπροσώπηση ατόμων από υπόβαθρα Μαύρης Αφρικής.

Παραδείγματα όπως το Gangs Matrix οδήγησαν σε αυξανόμενη ανησυχία μεταξύ των αστυνομικών δυνάμεων, η οποία δεν έχει ακόμη δοθεί καθοδήγηση από την κυβέρνηση, υποστήριξε το CDEI. Αν και βρίσκεται σε εξέλιξη εργασία για την ανάπτυξη μιας εθνικής προσέγγισης για την ανάλυση δεδομένων στην αστυνόμευση, προς το παρόν οι αστυνομικές δυνάμεις πρέπει να καταφύγουν σε ανόθευτους τρόπους δημιουργίας επιτροπών δεοντολογίας και κατευθυντήριων γραμμών – και όχι πάντα με πειστικά αποτελέσματα.

Παρόμοια συμπεράσματα κατέληξαν σε μια έκθεση που δημοσιεύθηκε νωρίτερα φέτος από την επιτροπή του Ηνωμένου Βασιλείου για τα πρότυπα στη δημόσια ζωή,.

Τα ζητήματα που αντιμετωπίζουν οι αστυνομικές δυνάμεις κατά τη χρήση των δεδομένων τους είναι επίσης διαδεδομένα σε άλλες δημόσιες υπηρεσίες. Η επιστήμη των δεδομένων εφαρμόζεται σε όλες τις κυβερνητικές υπηρεσίες σε αποφάσεις που λαμβάνονται για την ευημερία των πολιτών, τη στέγαση, την εκπαίδευση ή τη μεταφορά. Και η εξάρτηση από ιστορικά δεδομένα που είναι εφοδιασμένα με προκατάληψη μπορεί εξίσου να οδηγήσει σε άδικα αποτελέσματα.

via