Γονική καθοδήγηση: η «τεχνητή νοημοσύνη» χρησιμοποιείται για την αξιολόγηση των παιδιών με βάση την ιστορία των κοινωνικών μέσων ενημέρωσης
Όταν η Jessie Battaglia άρχισε να ψάχνει για ένα νέο μπέιμπι σίτερ για τον γιο ενός έτους της, ήθελε περισσότερες πληροφορίες από ό, τι θα μπορούσε να πάρει από ποινικό έλεγχο, σχόλια γονέων και μια προσωπική συνέντευξη.
Γύρισε λοιπόν στην Predictim, μια ηλεκτρονική υπηρεσία που χρησιμοποιεί «προηγμένη τεχνητή νοημοσύνη» για να αξιολογήσει την προσωπικότητα του μωρού και στρέφει τους σαρωτές σε χιλιάδες θέσεις Facebook, Twitter και Instagram ενός υποψηφίου.
Το σύστημα προσέφερε αυτοματοποιημένη "βαθμολογία κινδύνου" ενός υποψήφιου 24 ετών, λέγοντας ότι ήταν "πολύ χαμηλός κίνδυνος" να είναι κακοποιός. Ωστόσο, έδωσε μια ελαφρώς υψηλότερη εκτίμηση κινδύνου - δύο στους πέντε - για εκφοβισμό, παρενόχληση, παραμέληση και "κακή στάση".
Το σύστημα δεν εξήγησε γιατί είχε λάβει αυτή την απόφαση. Όμως η Battaglia, που είχε πιστέψει ότι ήταν ο αξιωματικός ήταν αξιόπιστος, αισθάνθηκε ξαφνικά πόνο αμφιβολίας.
"Τα κοινωνικά μέσα μαζικής ενημέρωσης δείχνουν τον χαρακτήρα ενός ατόμου", δήλωσε ο Battaglia, 29 ετών, που ζει κοντά στο Λος Άντζελες. "Γιατί λοιπόν έρχεται σε δύο και όχι σε ένα;"
Το Predictim προσφέρει στους γονείς το ίδιο playbook που δεκάδες άλλες τεχνολογικές εταιρείες πωλούν σε εργοδότες σε όλο τον κόσμο: συστήματα τεχνητής νοημοσύνης που αναλύουν την ομιλία ενός ατόμου, τις εκφράσεις του προσώπου και την ιστορία του διαδικτύου με υποσχέσεις αποκάλυψης των κρυφών πτυχών της ιδιωτικής ζωής τους.
Η τεχνολογία αναδιαμορφώνει τον τρόπο με τον οποίο ορισμένες εταιρείες προσεγγίζουν την πρόσληψη, την πρόσληψη και την επανεξέταση των εργαζομένων, παρέχοντας στους εργοδότες μια απαράμιλλη ματιά στους υποψηφίους εργασίας μέσω ενός νέου κύματος επεμβατικής ψυχολογικής αξιολόγησης και επιτήρησης.
Η τεχνολογία της Fama λέει ότι χρησιμοποιεί το AI για να αστυνομία των κοινωνικών μέσων των εργαζομένων για "τοξική συμπεριφορά" και να προειδοποιεί τους προϊσταμένους τους. Και η εταιρία HireVue, η οποία συνεργάζεται με εταιρείες όπως οι Geico, Hilton και Unilever, προσφέρει ένα σύστημα που αναλύει αυτόματα τον τόνο, την επιλογή λέξεων και τις κινήσεις του προσώπου κατά τη διάρκεια συνεντεύξεων με βίντεο για να προβλέψει την ικανότητά τους και τη συμπεριφορά τους στη δουλειά. (Οι υποψήφιοι ενθαρρύνονται να χαμογελούν για καλύτερα αποτελέσματα.)
Ωστόσο, οι επικριτές λένε ότι το Predictim και παρόμοια συστήματα παρουσιάζουν τους δικούς τους κινδύνους, κάνοντας αυτομάτως αποφάσεις ανεξέλεγκτες και πιθανόν να αλλάξουν τη ζωή.
Τα συστήματα εξαρτώνται από αλγορίθμους μαύρου κουτιού που δίνουν λίγες λεπτομέρειες για το πώς μείωσαν τις πολυπλοκότητες της εσωτερικής ζωής ενός ατόμου σε έναν υπολογισμό της αρετής ή της βλάβης. Και παρότι η τεχνολογία του Predictim επηρεάζει τη σκέψη των γονέων, παραμένει εντελώς ανυπολόγιστη, σε μεγάλο βαθμό ανεξήγητη και ευάλωτη σε ήσυχες προκαταλήψεις σχετικά με το πώς θα έπρεπε να μοιράζεται, να βλέπει και να μιλάει ένας κατάλληλος μαιευτήρας.
Υπάρχει αυτή η «τρελή βιασύνη για να καταλάβουμε τη δύναμη του AI να κάνουμε κάθε είδους αποφάσεις χωρίς να εξασφαλίσουμε ότι είναι υπόλογες σε ανθρώπους», δήλωσε ο Jeff Chester, εκτελεστικός διευθυντής του Κέντρου Ψηφιακής Δημοκρατίας, μια ομάδα υποστήριξης τεχνολογίας. "Είναι σαν οι άνθρωποι έπιναν το ψηφιακό Kool-Aid και πιστεύουν ότι αυτός είναι ένας κατάλληλος τρόπος να κυβερνήσουμε τη ζωή μας".
Οι σαρώσεις του Predictim αναλύουν ολόκληρη την ιστορία των κοινωνικών μέσων των μπέιμπι στερνετ, τα οποία, για πολλούς νεότερους κηδεμόνες, μπορούν να καλύψουν το μεγαλύτερο μέρος της ζωής τους. Και οι κάτοικοι λένε ότι θα είναι σε μεγάλο μειονέκτημα για τις ανταγωνιστικές θέσεις εργασίας εάν αρνηθούν.
Ο επικεφαλής και συνιδρυτής της Predictim, Sal Parsa, δήλωσε ότι η εταιρεία, η οποία εγκαινιάστηκε τον περασμένο μήνα στο πλαίσιο του Πανεπιστημίου της Καλιφόρνιας στο τεχνολογικό εκκολαπτήριο SkyDeck του Berkeley, παίρνει σοβαρά δεοντολογικά ερωτήματα σχετικά με τη χρήση της τεχνολογίας. Οι γονείς, είπε, θα πρέπει να δουν τις αξιολογήσεις ως σύντροφο που "μπορεί να αντικατοπτρίζει ή να μην αντικατοπτρίζει τα πραγματικά χαρακτηριστικά του sitter".
Αλλά ο κίνδυνος να προσληφθεί ένας προβληματικός ή βίαιος μαιευτήρας, πρόσθεσε, καθιστά το AI απαραίτητο εργαλείο για κάθε γονέα που ελπίζει να κρατήσει το παιδί του ασφαλές.
"Αν ψάχνετε για κακοποιούς babysitters στο Google, θα δείτε εκατοντάδες αποτελέσματα τώρα", είπε. "Υπάρχουν άνθρωποι εκεί έξω που είτε έχουν ψυχική ασθένεια είτε έχουν γεννηθεί μόνο κακό. Στόχος μας είναι να κάνουμε ό, τι μπορούμε για να τους σταματήσουμε".
Μια σάρωση Predictim ξεκινά από $ 24.99 και απαιτεί το όνομα και τη διεύθυνση ηλεκτρονικού ταχυδρομείου της μπέιμπι σίτερ και τη συγκατάθεσή της να μοιραστεί την ευρεία πρόσβαση στους λογαριασμούς των κοινωνικών μέσων. Η μπέιμπι σίτερ μπορεί να παραμείνει, αλλά ένας γονέας ενημερώνεται για την άρνησή της και σε ένα ηλεκτρονικό ταχυδρομείο ο μαιευτήρας λέει ότι "ο ενδιαφερόμενος γονέας δεν θα μπορεί να σας μισθώσει μέχρι να ολοκληρώσετε αυτό το αίτημα".
Τα στελέχη της Predictim λένε ότι χρησιμοποιούν αλγόριθμους επεξεργασίας γλωσσών και λογισμικό αναγνώρισης εικόνων γνωστό ως «όραμα ηλεκτρονικού υπολογιστή» για να αξιολογήσει τις θέσεις Facebook, Twitter και Instagram των παιδοψυγμένων για ενδείξεις σχετικά με την ζωή τους εκτός σύνδεσης. Ο γονέας παρέχεται αποκλειστικά στην έκθεση και δεν χρειάζεται να ενημερώνει τον χρήστη για τα αποτελέσματα.
Οι γονείς θα μπορούσαν, ενδεχομένως, να εξετάσουν οι ίδιοι τους λογαριασμούς των κοινωνικών μέσων μαζικής ενημέρωσης των αναστηλωτών τους. Αλλά οι αναφορές που δημιουργούνται από τον υπολογιστή υπόσχονται μια σε βάθος επιθεώρηση των χρόνων της online δραστηριότητας, που βράζουν σε ένα μόνο ψηφίο: μια μεθυστική απλή λύση σε ένα μη πρακτικό έργο.
Οι αξιολογήσεις κινδύνου χωρίζονται σε διάφορες κατηγορίες, συμπεριλαμβανομένου του ρητού περιεχομένου και της κατάχρησης ναρκωτικών. Η εκκίνηση έχει επίσης διαφημίσει ότι το σύστημά της μπορεί να αξιολογήσει τους babysitters σε άλλα χαρακτηριστικά γνωρίσματα της προσωπικότητας, όπως η ευγένεια, η ικανότητα να δουλεύει με τους άλλους και η "θετικότητα".
Η εταιρεία ελπίζει να αναβαθμίσει τη βιομηχανία «γονικής εξωτερικής ανάθεσης» πολλών δισεκατομμυρίων δολαρίων και έχει ξεκινήσει τη διαφήμιση μέσω των αμειβόμενων χορηγιών γονέων γονέων και blogs «μούμι». Το μάρκετινγκ της εταιρείας επικεντρώνεται σε μεγάλο βαθμό στην ικανότητά του να εκθέτει κρυμμένα μυστικά και να εμποδίζει τον «εφιάλτη κάθε γονέα», επικαλούμενος ποινικές υποθέσεις, συμπεριλαμβανομένης της περίπτωσης μπέιμπι σίτερ του Κεντάκυ που χρεώθηκε νωρίτερα φέτος τραυματίζοντας σοβαρά ένα κορίτσι οκτώ μηνών.
"Αν οι γονείς του μικρού κοριτσιού τραυματίστηκαν από αυτήν την μπέιμπι σίτερ μπορούσαν να χρησιμοποιήσουν την Predictim ως μέρος της διαδικασίας εξέτασης, " λέει ένα έγγραφο μάρκετινγκ της εταιρείας, "δεν θα την αφήσουν ποτέ μόνη της με το πολύτιμο παιδί τους".
Ωστόσο, οι ειδικοί τεχνολογίας λένε ότι το σύστημα δημιουργεί δικές του κόκκινες σημαίες, συμπεριλαμβανομένων των ανησυχιών ότι ανησυχεί για τους φόβους των γονέων να πωλούν σκάνες προσωπικοποίησης με αδιευκρίνιστη ακρίβεια.
Επίσης, αμφισβητούν τον τρόπο με τον οποίο εκπαιδεύονται τα συστήματα και πόσο ευάλωτοι θα ήταν να παρανοήσουν τις θολή έννοιες της χρήσης των κοινωνικών μέσων των αναθημάτων. Για όλες τις ανιχνεύσεις, εκτός από τις πιο υψηλού κινδύνου, οι γονείς λαμβάνουν μόνο μια πρόταση αμφισβητήσιμης συμπεριφοράς και δεν περιέχουν συγκεκριμένες φράσεις, συνδέσμους ή λεπτομέρειες για να αξιολογήσουν μόνοι τους.
Όταν η σάρωση ενός μπέιμπι συγγραφέα επισημάνθηκε για ενδεχόμενη συμπεριφορά εκφοβισμού, η μη επιτηρούμενη μητέρα που την ζήτησε, δήλωσε ότι δεν μπόρεσε να πει αν το λογισμικό είχε εντοπίσει ένα παλιό απόσπασμα ταινίας, λυρικό τραγούδι ή άλλη φράση σε αντίθεση με την πραγματική γλώσσα εκφοβισμού.
Ωστόσο, η Predictim λέει ότι προωθεί την επέκταση σε εθνικό επίπεδο. Τα στελέχη της Sittercity, μιας ηλεκτρονικής αγοράς babysitter που επισκέφθηκε εκατομμύρια γονείς, δήλωσαν ότι ξεκινούν ένα πιλοτικό πρόγραμμα στις αρχές του επόμενου έτους, το οποίο θα αναδιπλώνεται στις αυτοματοποιημένες αξιολογήσεις της Predictim στην τρέχουσα σειρά προβολών sitter και ελέγχων ιστορικού.
"Η εύρεση ενός sitter μπορεί να έρθει με πολλή αβεβαιότητα", δήλωσε η Sandra Dainora, επικεφαλής του προϊόντος της Sittercity, που πιστεύει ότι εργαλεία όπως αυτά θα μπορούσαν σύντομα να γίνουν "πρότυπο νόμισμα" για να βρουν φροντιστές online. "Οι γονείς αναζητούν πάντα την καλύτερη λύση, τις περισσότερες έρευνες, τα καλύτερα γεγονότα".
Η Washington Post