Una cattiva postura, le mani sudate o parlare da soli potrebbero ora essere considerati fattori precursori di un crimine durante il tragitto casa-lavoro mattutino.
Immaginate questo: è l'ora di punta a New York. Un tizio con un berretto dei Mets borbotta tra sé e sé sulla banchina della linea F, camminando avanti e indietro in tondo. Lì vicino, una donna controlla il telefono cinque volte in dieci secondi. In alto, le telecamere osservano. Dietro le telecamere? Una macchina. E dietro quella macchina? Un esercito di burocrati convinti che le vibrazioni negative siano ormai una categoria di reato.
Benvenuti al nuovo, scintillante piano della MTA per la vostra sicurezza: un sistema di sorveglianza basato sull'intelligenza artificiale progettato per rilevare "condotte irrazionali o preoccupanti" prima che accada qualcosa. Non dopo un crimine. Nemmeno durante. Prima. Il tipo di cosa che, in tempi meno tecnologici, si sarebbe potuta definire "avere una brutta giornata".
Michael Kemper, responsabile della sicurezza dell'MTA e l'uomo che si frappone tra noi e un futuro in cui parlare da soli significa ricevere una visita dalla polizia di New York, la chiama "prevenzione predittiva".
"L'intelligenza artificiale è il futuro", ha assicurato Kemper al comitato per la sicurezza della MTA.
Finora, l'MTA insiste sul fatto che non si tratta di osservarti di per sé. Si tratta di osservare il tuo comportamento. Aaron Donovan, portavoce dell'MTA e professionista del sottinteso, ha chiarito: "La tecnologia esplorata dall'MTA è progettata per identificare i comportamenti, non le persone".
E non preoccupatevi del riconoscimento facciale, dicono. È fuori discussione. Per ora. Ignorate le decine di fornitori che attualmente sbavano per appalti pubblici multimilionari per installare un software di "rilevamento delle emozioni" che sia accurato quanto l'app di oroscopo di vostra zia.
La coperta di sicurezza preferita del governatore
Questa iniziativa non è nata dal nulla. Fa parte della continua passione della governatrice Kathy Hochul per la sorveglianza . Da quando è entrata in carica, ha seguito il modello di Minority Report sulla MTA, installando telecamere su ogni binario e vagone. Kemper riferisce che circa il 40% delle telecamere sui binari è monitorato in tempo reale; un risultato notevole se l'obiettivo è ricreare "1984" come iniziativa di trasporto regionale.
Ma non basta. Ora vogliono anche le cabine dei controllori. Perché a quanto pare, chi guida il treno potrebbe star tramando qualcosa.
La giustificazione? La sicurezza pubblica, ovviamente. Quell'affidabile assegno in bianco per ogni revoca delle libertà civili.
L'algoritmo ti vedrà ora
C'è una strana e crescente fede tra i burocrati moderni nel fatto che gli algoritmi siano intrinsecamente più saggi degli esseri umani. Che siano immuni agli stessi difetti disordinati che affliggono poliziotti, centralinisti e sindaci. Ma l'intelligenza artificiale non è una specie di sensitiva onnisciente della metropolitana. È un ammasso di codice e presupposti, addestrato su dati distorti e venduto con slide PowerPoint impeccabili da consulenti tecnologici che non resisterebbero nemmeno cinque minuti su un affollato treno 4 diretto al Bronx.
Il Segretario ai Trasporti statunitense Sean Duffy ha minacciato di ritirare i fondi federali a meno che l'agenzia non elabori una strategia di lotta alla criminalità. E quando Washington ordina di saltare, la MTA chiede se sia il caso di indossare una bodycam mentre lo fa.
Così la MTA presentò un piano; in pratica, una sorta di calderone di idee che stavano già cucinando. Solo che questa volta con più gergo tecnico e glitter di intelligenza artificiale spolverati sopra.
Ora sei tu il sospettato
Il tutto si inserisce perfettamente in una tendenza globale in cui i governi esternalizzano la paranoia alle macchine. Dal "Dejaview" sudcoreano ai fallimenti del riconoscimento facciale nel Regno Unito, fino al panopticon del credito sociale cinese, è iniziata la corsa a chi riesce a individuare per primo i reati di pensiero tramite algoritmi. Il problema? Le macchine sono stupide. E, cosa ancora peggiore, imparano da noi.
Ciò significa che qualsiasi schema rilevato da questi sistemi rifletterà gli stessi punti ciechi che già abbiamo; solo più veloci, più freddi e con una clausola di negazione plausibile inserita nel contratto del fornitore.
E mentre la MTA si vanta di spostamenti più sicuri, la realtà è che si tratta di controllo. Di gestire la percezione. Di poter dire: "Abbiamo fatto qualcosa", anche se quel qualcosa sta trasformando il sistema di trasporto pubblico più famoso del mondo in un esperimento pilota di fantascienza fallito.
Quindi vai avanti. Cammina nervosamente sulla banchina. Sposta il peso del corpo troppe volte. Grattati la testa corrucciando la fronte. Nella metropolitana di New York di domani, questo potrebbe essere sufficiente per essere segnalati come una minaccia.
Benvenuti al nuovo, scintillante piano della MTA per la vostra sicurezza: un sistema di sorveglianza basato sull'intelligenza artificiale progettato per rilevare "condotte irrazionali o preoccupanti" prima che accada qualcosa. Non dopo un crimine. Nemmeno durante. Prima. Il tipo di cosa che, in tempi meno tecnologici, si sarebbe potuta definire "avere una brutta giornata".
Michael Kemper, responsabile della sicurezza dell'MTA e l'uomo che si frappone tra noi e un futuro in cui parlare da soli significa ricevere una visita dalla polizia di New York, la chiama "prevenzione predittiva".
"L'intelligenza artificiale è il futuro", ha assicurato Kemper al comitato per la sicurezza della MTA.
Finora, l'MTA insiste sul fatto che non si tratta di osservarti di per sé. Si tratta di osservare il tuo comportamento. Aaron Donovan, portavoce dell'MTA e professionista del sottinteso, ha chiarito: "La tecnologia esplorata dall'MTA è progettata per identificare i comportamenti, non le persone".
E non preoccupatevi del riconoscimento facciale, dicono. È fuori discussione. Per ora. Ignorate le decine di fornitori che attualmente sbavano per appalti pubblici multimilionari per installare un software di "rilevamento delle emozioni" che sia accurato quanto l'app di oroscopo di vostra zia.
La coperta di sicurezza preferita del governatore
Questa iniziativa non è nata dal nulla. Fa parte della continua passione della governatrice Kathy Hochul per la sorveglianza . Da quando è entrata in carica, ha seguito il modello di Minority Report sulla MTA, installando telecamere su ogni binario e vagone. Kemper riferisce che circa il 40% delle telecamere sui binari è monitorato in tempo reale; un risultato notevole se l'obiettivo è ricreare "1984" come iniziativa di trasporto regionale.
Ma non basta. Ora vogliono anche le cabine dei controllori. Perché a quanto pare, chi guida il treno potrebbe star tramando qualcosa.
La giustificazione? La sicurezza pubblica, ovviamente. Quell'affidabile assegno in bianco per ogni revoca delle libertà civili.
L'algoritmo ti vedrà ora
C'è una strana e crescente fede tra i burocrati moderni nel fatto che gli algoritmi siano intrinsecamente più saggi degli esseri umani. Che siano immuni agli stessi difetti disordinati che affliggono poliziotti, centralinisti e sindaci. Ma l'intelligenza artificiale non è una specie di sensitiva onnisciente della metropolitana. È un ammasso di codice e presupposti, addestrato su dati distorti e venduto con slide PowerPoint impeccabili da consulenti tecnologici che non resisterebbero nemmeno cinque minuti su un affollato treno 4 diretto al Bronx.
Il Segretario ai Trasporti statunitense Sean Duffy ha minacciato di ritirare i fondi federali a meno che l'agenzia non elabori una strategia di lotta alla criminalità. E quando Washington ordina di saltare, la MTA chiede se sia il caso di indossare una bodycam mentre lo fa.
Così la MTA presentò un piano; in pratica, una sorta di calderone di idee che stavano già cucinando. Solo che questa volta con più gergo tecnico e glitter di intelligenza artificiale spolverati sopra.
Ora sei tu il sospettato
Il tutto si inserisce perfettamente in una tendenza globale in cui i governi esternalizzano la paranoia alle macchine. Dal "Dejaview" sudcoreano ai fallimenti del riconoscimento facciale nel Regno Unito, fino al panopticon del credito sociale cinese, è iniziata la corsa a chi riesce a individuare per primo i reati di pensiero tramite algoritmi. Il problema? Le macchine sono stupide. E, cosa ancora peggiore, imparano da noi.
Ciò significa che qualsiasi schema rilevato da questi sistemi rifletterà gli stessi punti ciechi che già abbiamo; solo più veloci, più freddi e con una clausola di negazione plausibile inserita nel contratto del fornitore.
E mentre la MTA si vanta di spostamenti più sicuri, la realtà è che si tratta di controllo. Di gestire la percezione. Di poter dire: "Abbiamo fatto qualcosa", anche se quel qualcosa sta trasformando il sistema di trasporto pubblico più famoso del mondo in un esperimento pilota di fantascienza fallito.
Quindi vai avanti. Cammina nervosamente sulla banchina. Sposta il peso del corpo troppe volte. Grattati la testa corrucciando la fronte. Nella metropolitana di New York di domani, questo potrebbe essere sufficiente per essere segnalati come una minaccia.
.jpg)
Nessun commento:
Posta un commento