Pre-crime is here Hoe de politie een 'bedreigingsscore' op Facebook toewijst

Een recent verhaal van The Washington Post gaf het publiek een zeldzaam binnenkijkje van de mogelijkheden voor monitoring van sociale media van het politiebureau van Fresno, dat een controversieel softwarepakket genaamd Beware test. Het stuk heeft nogal wat beroering veroorzaakt over de veronderstelde neiging van de software om overtredingen van de burgerlijke vrijheden te schenden.

Maar hoe verschilt dit programma van de controle van andere sociale media door de politie? Is het een reële bedreiging voor de burgerlijke vrijheden? Of is dit hele ding overdreven? En wat kun je doen om te voorkomen dat de politie je sociale media-berichten doorzoekt?

Een duidelijk hulpmiddel voor politie-afdelingen

Wetshandhavingsfunctionarissen hebben waarschijnlijk sociale media gebruikt voor inlichtingenvergaring sinds het mainstream werd - zelfs in 2006 arresteerde de politie een minderjarige jongen in Colorado nadat hij foto's van zichzelf op MySpace plaatste met een aantal vuurwapens.

Het gebruik van sociale media in onderzoeken is sindsdien alleen maar gebruikelijker geworden en er zijn een aantal verhalen die de doeltreffendheid ervan aantonen. In 2014 greep de politie van New York meer dan 250 illegaal verkochte geweren na een uitgebreid onderzoek dat begon toen officiers merkten dat een aspirant-rapper beelden van kanonnen in zijn studio op Instagram had geplaatst.

Er zijn talloze meldingen geweest van studenten die werden gearresteerd voor het plaatsen van bommen en andere bedreigingen tegen hun scholen, en veel arrestaties na berichten die geweld tegen de politie bepleiten. Zelfs grapjes over bombom Twitter gebruiken zonder te schrappen Hoe Twitter gebruiken zonder te schroeien Twitter kan een beetje cryptisch zijn en het is gemakkelijk om van tijd tot tijd fouten te maken - zelfs als je een oude gebruiker bent. Hier zijn enkele veelvoorkomende fouten en hoe u ze kunt vermijden. Meer lezen resulteerde in arrestaties. Dit is niet beperkt tot de VS, hetzij; er is voldoende precedent in het Verenigd Koninkrijk om gearresteerd te worden op basis van iets te zeggen “grof beledigend” of bedreigend op sociale media.

Sociale media zijn een belangrijke omgeving geworden voor bendemonitoring en bedreigingen, en politie in steden als Chicago en New York heeft verrassend veel arrestaties verricht op basis van Facebook-, YouTube- en Instagram-berichten waarin bendeleden iets illegaals doen of hun bedoeling om dit te doen.

Al met al is monitoring van sociale media een voor de hand liggende keuze voor wetshandhaving: als mensen hun illegale exploits posten op Facebook, waar de hele wereld ze kan zien, gaat het lonen om het te controleren.

Het probleem met Pas op: een algoritmische aanpak

Dus als de politie al jaren sociale media volgt, waarom maakt Fresno dan de krantenkoppen? Een deel van het antwoord ligt in het feit dat Beware een algoritmische benadering gebruikt voor het monitoren van sociale media. Veel simplistische tools voor het monitoren van social media (zelfs die gebruikt door marketeers voor sociale media.) Uw gids voor sociale media Marketing uw gids voor sociale media Marketing Op dit moment is er een aanval van zowel mensen als bedrijven die zich wenden tot sociale media. De concurrentie is hevig en geen enkel bedrijf kan tijd of geld verspillen door het verkeerd te doen. Lees meer) kijk gewoon naar specifieke trefwoorden of patronen in de gegevens, iets dat individuele politieagenten op veel kleinere schaal doen.

Maar pas op, wanneer de informatie van een persoon wordt gegeven, wordt een berekend “dreigings score” gebaseerd op, volgens de website van Intrado,

... miljarden [publiekelijk] -voor commerciële bestanden beschikbaar in een kwestie van seconden -waarschuwing van respondenten op potentieel gevaarlijke situaties terwijl ze onderweg zijn naar of op de locatie van een 9-1-1-verzoek om hulp.

De miljarden gegevenspunten zijn afkomstig van posts op social media, arrestaties en andere openbare registers, commerciële databases en vele andere soorten gegevens, hoewel ze precies zijn waar ze vandaan komen en hoe ze worden vertaald in een groene, gele of rode dreigingsscore is een handelsgeheim bewaakt door Intrado, de maker van de software.

Hoe de politie dit scoringssysteem gebruikt, is echter duidelijk - als een 911-beller of iemand die bij de aanroep betrokken is een gele of rode dreigingsscore heeft, zullen officieren meer op hun hoede zijn om binnen te gaan. Dat zou heel goed kunnen betekenen dat ze hoger ingeschut en voorbereid zijn voor problemen, een denkwijze die ernstige gevolgen kan hebben voor de beller.

In 2007 onderzocht de politie de diefstal van twee PlayStation-consoles op een universiteitscampus toen ze foto's ontdekten van de verdachte die poseerde met een aantal vuurwapens op sociale media. Ze stuurden een SWAT-team naar het huis van de verdachte en een andere student werd dood nadat een officier de geluiden had verward van de stormram die werd gebruikt om toegang te krijgen tot het huis voor geweerschoten. Dit is precies het soort zwaar bewapende reactie op basis van informatie verzameld door sociale media waar mensen zich zorgen over maken.

De PostHet verhaal vermeldde dat een vrouw tweette over de game Woede en een man die in een huis woonde dat voorheen werd bezet door een persoon van interesse, had beide een verhoogd dreigingsniveau. Geen van deze mensen zou een tweede gedachte hebben gekregen van een functionaris op het gebied van vlees en bloed, maar de software van Intrado zou officieren op scherp kunnen stellen als ze zouden reageren op een oproep van elk van deze burgers.

Voor veel mensen is het zorgwekkend dat de berekeningen van de dreigingsscore worden gemaakt door een algoritme dat is ontwikkeld door een enkel bedrijf dat de vergelijkingen niet snel zal delen. Let op: dit is een totale zwarte doos. Algoritmen beheersen al aanzienlijke delen van ons leven 4 Algoritmen voor machinaal leren die je leven bepalen 4 Machinaal leren Algoritmen die je leven bepalen Misschien besef je het niet, maar machinaal leren is al overal om je heen en het kan een verrassende mate van invloed uitoefenen op je leven . Geloof me niet? Je zult verrast zijn. Lees meer, maar het feit dat ze ons nu in een gevaarlijke situatie brengen, begint de aandacht van mensen te trekken.

Algoritmische benaderingen van politiewerk hebben in het verleden een grote hoeveelheid kritiek getrokken, waarbij sommige critici beweren dat ze gevoelig zijn voor raciale profilering, en anderen zeggen dat de tools ronduit rechtvaardig zijn “racist.” Onderzoek naar het onderwerp is niet doorslaggevend, en sommige onderzoeken wijzen op een afname van de kortetermijncriminaliteit en andere onderzoeken die geen significant effect van de voorspellende technologie aantonen..

Een erfenis van bewaking

Analyse van “miljarden” van gegevenspunten doet denken aan een aantal eerdere programma's ondernomen door de Amerikaanse overheid.

Total Information Awareness (TIA) was een initiatief van het Information Awareness Office in de vroege jaren 2000 dat informatie verzamelde over creditcardaankopen, tijdschriftabonnementen, surfen op het web, e-mail, academische cijfers, reizen, juridische evenementen en andere soorten informatie voor opslag in een centrale database. Zelfs nadat het werd omgedoopt tot Terrorist Information Awareness, werd TIA gesloten vanwege publieke verontwaardiging over het ronduit Orwelliaanse idee.

Een van DARPA's onderzoeksprojecten You Will not Believe It: DARPA Toekomstig onderzoek naar geavanceerde computers Je gelooft het niet: DARPA Toekomstig onderzoek naar geavanceerde computers DARPA is een van de meest fascinerende en geheimzinnige delen van de Amerikaanse overheid. De volgende zijn enkele van de meest geavanceerde projecten van DARPA die beloven de technologische wereld te transformeren. Read More keek naar een vergelijkbaar systeem met de naam LifeLog dat zou verzamelen ...

... elke activiteit en relatie die een persoon aangaat. Dit omvat creditcardaankopen, bezochte websites, de inhoud van telefoongesprekken en verzonden en ontvangen e-mails, scans van faxen en verzonden en ontvangen e-mails, verzonden en ontvangen instant messages , lezen van boeken en tijdschriften, televisie- en radioselecties, fysieke locatie vastgelegd via draagbare GPS-sensoren, [en] biomedische gegevens vastgelegd met behulp van draagbare sensoren.

Vanzelfsprekend zijn Beware en andere monitoringoplossingen voor sociale media lang niet zo geavanceerd en hebben ze niet hetzelfde potentieel voor schendingen van privacy. Het patroon van de Amerikaanse overheid voor het creëren van schendingen van privacyschending die niet goed worden begrepen door het publiek of die in de war worden gehouden, heeft echter veel mensen nerveus. En de monitoring van sociale media door de politie ziet eruit alsof het een slagveld voor burgerlijke vrijheden zou kunnen worden.

Veel mensen hebben al partij gekozen. Het grote aantal beschikbare monitoringprogramma's voor sociale media wijst erop dat veel politiediensten en andere organisaties (inclusief scholen) geïnteresseerd zijn in het gebruik van deze technologie.

Aan de andere kant hebben groepen zoals de ACLU zich al tegen de technologie uitgesproken en gezegd dat dit de politie-afdelingen zou kunnen toestaan “plaats mensen onder verdenking alleen maar omdat ze hun gedachten online hebben.” De blogpost van ACLU over het onderwerp was provocerend getiteld “Deze bewakingssoftware spioneert waarschijnlijk op # BlacklaveMatter Hashtag-activisme: #powerful of #pointless? Hashtag-activisme: #powerful of #pointless? #BringBackOurGirls, #ICantBreathe en # BlackLivesMatter hebben het afgelopen jaar veel internationale aandacht gekregen - maar zijn hashtags een effectief middel voor activisme? Lees verder ,” hoewel er weinig aanwijzingen zijn dat dit het geval is.

En natuurlijk is alle informatie die door Beware is binnengehaald “commercieel beschikbaar.” Wat dat betekent is moeilijk voor iedereen te weten, omdat de soorten gegevens die sociale netwerken verkopen, voortdurend lijken te veranderen. Zoals we in het verleden hebben gezien, is het niet moeilijk om informatie te krijgen waarvan een gebruiker denkt dat die privé is. Bereid uw account voor Privacy voor Facebook Graph Search [Wekelijkse Facebook-tips] Bereid uw account voor Privacy Facebook-zoekopdracht voor Facebook [Wekelijkse Facebook-tips] Telkens Facebook brengt een nieuwe functie uit om meer te weten te komen over onze vrienden, veel mensen beseffen dat hun privacy-instellingen niet meer toereikend zijn. Hun nieuwste nieuwe functie, Facebook Graph Search, is geen uitzondering - ... Lees meer alleen door de juiste vragen te stellen en de juiste hulpmiddelen te gebruiken.

Ik zou niet de eerste persoon zijn die Beware en andere oplossingen voor monitoring van sociale media met elkaar associeert MinderheidsverslagPre-crime of 1984de gedachte misdaad.

De verfijning van software zoals Beware komt op het punt waarop het waarschijnlijk conclusies kan trekken op basis van de dingen die je niet zegt, maar alleen impliceert. Intrado en andere fabrikanten willen niet dat hun software wordt gekoppeld aan dystopische science-fiction-romans, maar de connectie ligt voor de hand.

Les geleerd

Of je je nu zorgen maakt over de mogelijke schendingen van de privacy veroorzaakt door software voor het monitoren van sociale media in handen van wetshandhavers of niet, dit zou moeten dienen als een herinnering dat alles wat je op Facebook of Twitter zet niet alleen beschikbaar is voor je vrienden. Het is er voor altijd, en het is waarschijnlijk in de handen van een grote verscheidenheid aan mensen en bedrijven.

Het beste dat je kunt doen is domme dingen niet op social media plaatsen. Maak geen grapjes over iets illegaals doen. Pleit geen geweld tegen politie of militairen. Plaats geen foto's van jezelf die als bedreigend kunnen worden opgevat (vooral met wapens - plaats gewoon geen foto's van jezelf met wapens). Veel van dit is gezond verstand, maar Fresno en hun gebruik van Beware moeten het belang van dit soort beschermende maatregelen onderstrepen.

Dit is ook een belangrijk punt om in gedachten te houden in het licht van de aankomende presidentsverkiezingen in de VS 6 Middelen om u te helpen de 2016 Presidentiële Verkiezing van de VS te volgen 6 Om u te helpen de 2016 Presidentiële verkiezingen in de VS te volgen Het stemrecht van de mensen bepaalt de uitkomst van een verkiezing. Wees een goed geïnformeerde kiezer en neem deze belangrijke taak serieus met behulp van deze hulpmiddelen. Lees meer (waar sociale media ook een uiterst belangrijke tool zijn Politieke campagnes volgen u op Facebook, hier is waarom politieke campagnes u volgen op Facebook, hier is waarom U weet nu dat bedrijven en overheid sociale media gebruiken om u te volgen. groep die kijkt, analyseert en kapitaliseert op elke beweging die je op Facebook maakt: politieke campagnevoerders. Lees meer, interessant). Dit probleem zou heel goed tot zijn recht kunnen komen kort nadat een nieuwe president is beëdigd en hoe het zich daar vanaf afspeelt, kan afhangen van wie er in Oval Office zit. Het lijkt nu misschien een onbelangrijke kwestie, maar dit zou in de nabije toekomst heel wat kunnen zijn. Het is de moeite waard om in de gaten te houden.

Wat denk je van politiediensten die sociale media monitoren? Heb je het gevoel dat ze gerechtvaardigd zijn in het gebruik van een algoritmische benadering? Of denk je dat dit waarschijnlijk leidt tot raciale profilering en onnauwkeurige oordelen? Moeten we ons zorgen maken over de voortgang van dit soort software?

Dit is een gecompliceerde kwestie en ik weet niet eens helemaal zeker hoe ik me erover voel. Het laat teveel in de handen van een algoritme dat mensen zonder hun kennis surveilleert. Maar het kan ook de levens redden van officieren die in gevaarlijke situaties terechtkomen. Help me met hash it out in de comments hieronder.

Afbeeldingscredits: Scott Cornell via Shutterstock.com, Ivelin Radkov via Shutterstock.com.

Ontdek meer over: Facebook, Surveillance.