Πώς η τεχνητή νοημοσύνη τσάκωσε πρεζέμπορα

Τον Μάρτιο του 2022, ο David Zayas οδηγούσε κατά μήκους του ποταμού Hutchinson Parkway στο Scarsdale, μια μικρή πόλη στην πολιτεία της Νέας Υόρκης. Το αυτοκίνητό του, ένα γκρίζο Chevrolet, δεν ήταν καθόλου συνηθισμένο και δεν τραβούσε την προσοχή ούτε ως προς την όψη, ούτε ως προς την ταχύτητα.

Δεν είχαν την ίδια άποψη όμως στο αστυνομικό τμήμα της κομητείας του Westchester. Το αυτοκίνητο του θεωρήθηκε αιτία ανησυχίας και ο David Zayas ένας εν δυνάμει εγκληματίας – η συμπεριφορά του είχε αναγνωριστεί ως ύποπτη από ένα νέο ισχυρό εργαλείο τεχνητής νοημοσύνης που κάνει χρήση πλέον η τοπική Αστυνομία.

Πως το AI εντόπισε τον ύποπτο διακινητή ναρκωτικών

Σύμφωνα με το «Forbes», που φέρνει στο φως την ιστορία, το εργαλείο AI αναζητεί σε μια βάση δεδομένων που περιέχει 1,6 δισεκατομμύρια καταγραφές πινακίδων κυκλοφορίας που συλλέχθηκαν τα τελευταία δύο χρόνια από τοποθεσίες σε όλη την πολιτεία της Νέας Υόρκης.

Μέσα από αυτή τη διαδικασία, το σύστημα AI θεώρησε ότι το αυτοκίνητο του Zayas είχε την συμπεριφορά ενός τυπικού δρομολογίου που ακολουθεί κι ένας διακινητής ναρκωτικών.

Σύμφωνα με τον εισαγγελικό φάκελο, ο Zayas πραγματοποίησε 9 ταξίδια από τη Μασαχουσέτη σε διάφορα μέρη της Νέας Υόρκης μεταξύ Οκτωβρίου 2020 και Αυγούστου 2021 ακολουθώντας διαδρομές που είναι γνωστό ότι χρησιμοποιούνταν από διακινητές ναρκωτικών, όπου κι έμεναν για πολύ μικρό χρονικό διάστημα.

Έτσι, στις 10 Μαρτίου 2022, η Αστυνομία του Westchester ανέκοψε το όχημά και το ερεύνησε. Και, όντως, εντόπισε 112 γραμμάρια κρακ, ένα ημιαυτόματο πιστόλι και $34,000 σε μετρητά μέσα. Ένα χρόνο αργότερα, ο Zayas κατηγορήθηκε για διακίνηση ναρκωτικών και ομολόγησε την ενοχή του.

Συνταγματικά ζητήματα & “dragnet surveillance”

Η περίπτωση που φέρνει στο φως η «Forbes» ανοίγει ένα παράθυρο στην εξέλιξη της αστυνόμευσης που βασίζεται στην τεχνητή νοημοσύνη και είναι προάγγελος των συνταγματικών ζητημάτων που αναπόφευκτα συνοδεύουν αυτή την εξέλιξη.

Συνήθως, η τεχνολογία “Automatic License Plate Recognition” (ALPR), που χρησιμοποιούν οι αστυνομικές αρχές, χρησιμοποιείται για την αναζήτηση πινακίδων που συνδέονται με συγκεκριμένα εγκλήματα. Αλλά σε αυτήν την περίπτωση δεν έγινε αυτό. Αντιθέτως, η μάζα των δεδομένων χρησιμοποιήθηκε για να εξετάζει το οδηγικό μοτίβο οποιουδήποτε περνούσε από δρόμους τους οποίους κάλυπτε μια από τις 480 κάμερες της κομητείας Westchester, σε μια περίοδο 2 ετών.

Ο δικηγόρος του Zayas, Ben Gold, αμφισβήτησε τα αποδεικτικά στοιχεία που συγκεντρώθηκαν από την τεχνητή νοημοσύνη εναντίον του πελάτη του, αποδοκιμάζοντας τα ως “dragnet surveillance”, που σε ελεύθερη μετάφραση στα ελληνικά αποδίδεται ως «παρακολούθηση-δίχτυ», με την λογική όταν μαζεύει και αναλύει τα δεδομένα όλων, κι όχι μόνο των υπόπτων.

Μέσα από την διαδικασία FOIA (Freedom of Information Act), ο δικηγόρος εξασφάλισε στοιχεία που αποδεικνύουν πως το σύστημα ALPR της Αστυνομίας του Westchester σάρωνε πάνω από 16 εκατομμύρια πινακίδες κυκλοφορίας την εβδομάδα, σε 480 κάμερες ALPR. Από αυτά τα συστήματα, τα 434 ήταν ακίνητα, προσαρτημένα σε πυλώνες ή πινακίδες του δρόμου, ενώ τα υπόλοιπα 46 ήταν κινητά, προσαρτημένα σε αστυνομικά οχήματα. Το AI δεν κατέγραφε μόνο τις πινακίδες κυκλοφορίας. Σημείωνε επίσης τη μάρκα, το μοντέλο και το χρώμα των οχημάτων — χρήσιμο όταν ένας αριθμός πινακίδας για ένα ύποπτο όχημα δεν φαινόταν καθαρά ή καθόλου ή ήταν άγνωστος.

Ο δικηγόρος του Zayas αναφέρει πως αυτό αποτελεί απειλή για την Τέταρτη Τροπολογία (Fourth Amendment) του 1791 του Συντάγματος των ΗΠΑ, που προστατεύει το δικαίωμα των πολιτών στην ατομική ασφάλεια, στην ασφάλεια των οικιών τους, των εγγράφων τους και των αντικειμένων τους έναντι παράλογων ερευνών και κατασχέσεων.

Στην επιχειρηματολογία του, ο δικηγόρος ανάφερε πως «πρόκειται για τη συστηματική ανάπτυξη και παράταξη ενός τεράστιου δικτύου παρακολούθησης που καταπατεί τις εύλογες προσδοκίες της κοινωνίας για την ιδιωτική ζωή. Χωρίς δικαστική εποπτεία αυτού του τύπου το σύστημα λειτουργεί με βάση τα καπρίτσια του αστυνομικού που έχει πρόσβαση σε αυτό», ανέφερε.

Σύζευξη τεχνολογίας ALPR με τεχνητή νοημοσύνη

Το σύστημα της Αστυνομίας του Westchester δημιουργήθηκε από την εταιρεία Rekor. Στοιχεία που επικαλείται το «Forbes» αναφέρουν ότι η Rekor πώλησε το σύστημά της σε τουλάχιστον 23 αστυνομικές υπηρεσίες και τοπικές αρχές σε όλη την επικράτεια των ΗΠΑ, από την Φλώριδα μέχρι την Καλιφόρνια. Επιπλέον, 40 αστυνομικές υπηρεσίες από όλη την πολιτεία της Νέας Υόρκης επωφελούνται από το σύστημα της αστυνομίας του Westchester και το Κέντρο Εγκληματικότητας σε πραγματικό χρόνο (Real-Time Crime Centre).

Το προβάδισμα που είχε η Rekor είναι πως το λογισμικό τεχνητής νοημοσύνης δεν χρειάζεται νέες κάμερες, αλλά μπορεί να χρησιμοποιήσει τις υφιστάμενες που είναι ήδη εγκατεστημένες από την κυβέρνηση, επιχειρήσεις ή ιδιώτες. Η εταιρεία τρέχει επίσης το “Rekor Public Safety Network”, ένα πρόγραμμα το οποίο συγκεντρώνει δεδομένα τοποθεσίας οχημάτων (vehicle location data) από πελάτες του τα τελευταία 3 χρόνια, όταν και κυκλοφόρησε, και συλλέγει πληροφορίες από 30 πολιτείες.

Επιπλέον, όπως ανέφερε στο «Forbes» ο Matt Hill, δημιουργός της εταιρείας OpenALPR, που πώλησε την εταρεία του στην Rekor το 2019, πολλοί μη-κυβερνητικοί πελάτες συνεισφέρουν οπτικοακουστικό υλικό στην εταιρεία. Σε αυτούς περιλαμβάνονται ιδιοκτήτες χώρων στάθμευσης, καζίνο και αλυσίδες ταχυφαγείων.

Άλλες εταιρείες που ανταγωνίζονται την Rekor στην αγορά πληροφοριών των ALPR, που εκτιμάται στα $2,5 δισεκατομμύρια, είναι οι Flock, Motorola, Genetec, Jenoptik και άλλες. Και οι πελάτες τέτοιας τεχνολογίας δεν είναι μόνο Σώματα Ασφαλείας, αλλά επιχειρήσεις λιανικού εμπορίου και εστίασης. Αλυσίδες όπως τα McDonald’s και η White Castle χρησιμοποιούν ALPR για εξατομίκευση της καταναλωτικής εμπειρίας, η τελευταίοι μάλιστα μέσω μιας συνεργασίας με την Mastercard.

Με τόσους πολλούς οργανισμούς να συλλέγουν πλέον αρχεία πινακίδων κυκλοφορίας, σε συνδυασμό με την χρήση τεχνητής νοημοσύνης, που τώρα είναι η εποχή της, η παρακολούθηση της ιδιωτικής ζωής φτάνει πλέον σε άλλα επίπεδα. Εξελίξεις όπως τις πιο πάνω προκαλούν ανησυχίες, με την ACLU (American Civil Liberties Union) να κρούει τον κώδωνα του κινδύνο για την μαζική παρακολούθηση των πολιτών και τους κινδύνους που ενέχει αυτή η πρακτική από κρατικές αρχές, αλλά και ιδιωτικές εταιρείες.

«Είδατε τα συστήματα πως κάνουν ολική μετάσταση σε σημείο που οι δυνατότητες μιας τοπικής αστυνομικής υπηρεσίας θα σοκάρουν πραγματικά τους περισσότερους ανθρώπους», ανέφερε στο «Forbes» ο δικηγόρος Brett Max Kaufman της ACLU. Αυτό γίνεται ακόμη πιο σοβαρό, αφού το δίκτυο ALPR επεκτείνεται, και με την ανάγκη χρήσης των δημόσιων δρόμων στα πλαίσια του σύγχρονου τρόπου ζωής, το να το αποφύγεις είναι σχεδόν ανέφικτο.

Αστυνομικό βαν με AI για χρήση κινητού τηλέφωνου στον δρόμο

Στην Βρετανία, οι αστυνομικές υπηρεσίες του Hampshire, του Isle of Wight και του Thames Valley, χρησιμοποίησαν βαν εξοπλισμένο με τεχνολογία τεχνητής νοημοσύνης για εντοπισμό οδικών παραβάσεων όπως η χρήση κινητού τηλεφώνου ή χρήση ζώνης ασφαλείας.

Στο βαν υπήρχαν δύο κάμερες που κατέγραφαν την κυκλοφορία. Η πρώτη κάμερα παρατηρεί αν υπάρχει κινητό τηλέφωνο κοντά στο αυτί του οδηγού ή/και αν φορά τη ζώνη ασφαλείας. Η δεύτερη παρατηρεί αν το κινητό χρησιμοποιείται για αποστολή μηνυμάτων (texting).

Αν το σύστημα τεχνητής νοημοσύνης εντοπίσει αυτόματα την παράβαση, το αποτέλεσμα ελέγχεται από ανθρώπους, πριν να προωθηθούν στην Αστυνομία για έλεγχο.

Όπως αναφέρει το «BBC», η επιχείρηση έλαβε χώρα μεταξύ 17 και 21 Ιουλίου, με στόχο εμπορικά οχήματα, στους αυτοκινητόδρομους Α34 και Α303 και έδειξε πόσο εκτεταμένη είναι η επικίνδυνη αυτή συμπεριφορά. Εντοπίστηκαν 86 οδηγοί που κρατούσαν κινητό τηλέφωνο, 273 οδηγοί ή συνεπιβάτες χωρίς ζώνη ασφαλείας, και 132 αδικήματα που σχετίζονται με την μηχανολογική κατάσταση του αυτοκινήτου. Έγιναν επίσης 5 συλλήψεις για οδήγηση υπότ ην επήρεια ναρκωτικών και παράνομη οδήγηση.

Σημερινή Security (02/08/2023), επιμέλεια: Λάμπρος Κ. ||| πηγές: Forbes (17/07/2023), «This AI Watches Millions Of Cars Daily And Tells Cops If You’re Driving Like A Criminal» | BBC News (27/07/2023), «Artificial Intelligence police van detects drivers using mobile phones».