Singapore heeft sinds 2009 een uitgebreid systeem van dataverzameling opgetuigd, onder de naam Smart Nation. De Singaporese overheid verzamelt en analyseert data uit sensoren op straat, camera’s met gezichtsherkenning, sociale media en smart phones. Twee overheidsinstanties met Orwelliaanse namen, het Risk Assessment and Horizon Scanning-programma (RAHS) en het Centre for Strategic Futures, analyseren die data. Eén project van het RAHS draait om het meten van het niveau van ‘nostalgische gevoelens’ onder de inwoners. Een groeiende groep Singaporezen verlangt terug naar de tijd waarin Singapore nog een veel rustiger stadstaat was. Sommige Singaporezen nemen daarom initiatieven voor meer parken in de stad bijvoorbeeld, en spreken zich uit op sociale media over hun onvrede. Dat doet een beetje denken aan het boek 1984 van George Orwell, waarin de hoofdrolspeler Winston Smith bijna nergens meer onbespioneerd rond kan lopen. Dat is Singapore, maar het Amsterdam van nu is al aardig op weg naar een vergelijkbare situatie.
Kort gezegd is een ‘slimme stad’ (Engels: smart city) de voorloper van de ‘smart society’. De slimme stad meet praktisch alles wat er te meten valt. Dat begint met informatie uit allerlei sensoren die in een stad geplaatst worden, zoals microfoons, camera’s, reukmeters, en allerlei andere sensoren die het centrale besturingssysteem voeden met informatie. Mocht het u als bezoeker of inwoner van Amsterdam nog niet opgevallen zijn, dan moet u maar eens goed opletten op de microfoon die u hierboven ziet afgebeeld. Deze microfoons zijn inmiddels overal in de stad geplaatst. Deze foto is bijvoorbeeld gemaakt op de Lindengracht in de Jordaan.
Naast de geplaatste sensoren in de stad, koopt de stad een continue stroom aan data op bij bedrijven als Google. Zoals u wellicht inmiddels weet (of zou kunnen weten als u dit en dit artikel gelezen heeft) kunnen bedrijven als Google en Facebook en vele andere bedrijven alle gegevens uit uw smartphone real time inkijken, opslaan en door leveren aan anderen (zoals aan Amsterdam). Dat wil zeggen dat zij alle sensoren die uw telefoon bevat kunnen gebruiken. De meeste telefoons bevatten op dit moment zo’n 14 sensoren. In de toekomst zullen daar nog een paar bijkomen, omdat er bijvoorbeeld al een chip ontwikkeld is die uw hartslag op 1 meter afstand kan meten. Alle informatie van deze sensoren kan real time doorgegeven worden aan het centrale besturingssysteem van de digitale stad. Zo kan dus van exact iedereen in de stad de locatie doorgegeven worden, maar ook kan de beweging in kaart gebracht worden. Als bijvoorbeeld een groep mensen ineens heel snel in beweging komt, valt dat af te lezen aan de acceleratiemeters van hun smartphones. Je kan dan de versnelling meten en de richting waarin men beweegt. De microfoons van de smartphones geven het geluid door en daaruit kan weer de emotie worden afgelezen. Een eventuele hartslagmeter in de toekomst maakt de analyses nog iets verfijnder.
Het verzamelen van al die data en het centraal verwerken ervan kan best handig zijn hoor! Zo kan het centrale systeem bijvoorbeeld precies weten wanneer er ergens een opstootje plaats vindt en daar alvast een paar drones op afsturen om van bovenaf live beelden te laten zien terwijl de politie er naar toe snelt. Het combineren van al die real time data biedt echter nog veel meer mogelijkheden. Zo kun je toeristenstromen sturen, door mensen actief informatie te sturen op hun smartphones, zodat je hun interesse opwekt om naar een bepaald museum (of iets anders wat bij hun profiel past) te gaan, zodat je de gewenste verdeling van toeristen over de stad krijgt. Je kan verkeersstromen beter sturen en ga zo maar door. Amsterdam experimenteert concreet met manieren om grote bezoekersstromen beter te spreiden over de stad met behulp van data, elektronische informatieborden en smartphone-apps.
Technologiebedrijven IBM en Atos bieden zogenoemde predictive policing aan. Dat zijn diensten die in grote hoeveelheden data over burgers en activiteiten op straat patronen ontdekken waarmee criminaliteit is te voorspellen. De politie kan dan preventief ingrijpen. In het Eindhovense uitgaansgebied Stratumseind loopt daarmee een proef: agenten zitten in een controlekamer waar computers een seintje geven als de data voorspellen dat er een opstootje aankomt, bijvoorbeeld op basis van groepen die samenkomen of van geluidsniveaus.
Als het aan de gemeente Amsterdam ligt, komen er binnenkort ‘slimme’ lantaarnpalen in de stad. „Als straatverlichting vervangen moet worden, denken we erover na om exemplaren neer te zetten waar allerlei sensoren aan hangen,” zei Rutger Rienks, programmamanager van de gemeente, in 2016. Hij heeft het over sensoren voor het meten van luchtkwaliteit, geluidsniveaus, in sommige gevallen camera’s. „Er zijn zelfs palen waaraan een speaker en een microfoon zit waarmee een ordehandhaver of hulpdienst voorbijgangers aanwijzingen kan geven als er iets mis is”. In deze Tegenlicht documentaire is te zien hoe Amsterdam al begonnen is met het plaatsen van dergelijke systemen. De foto van de microfoon in de Jordaan is slechts een bewijs van een van de vele plekken waarop deze microfoons al te vinden zijn. De slimme lantaarnpalen zullen niet lang meer op zich laten wachten. Al hoewel het efficiënter lijkt om gewoon alle microfoons en camera’s van iedereen in de stad full time af te tappen. En dat kan, omdat u dat recht gegeven heeft bij het installeren van apps van Google een Facebook. Soms worden spelletjes gelanceerd en groots gepusht via de media om bijvoorbeeld de rechten over het gebruik van een nieuwe sensor te kunnen bemachtigen. De Pokemon Go hype was daar waarschijnlijk voor bedoeld.
Amsterdam lanceerde in 2016 het Atlas systeem; software waarmee gemeentemedewerkers in een Google Maps-achtig programma kunnen inzoomen op alle huizen in de stad. Nu staan er vooral gegevens in over huizenprijs en eigendom, maar dat moet binnenkort worden uitgebreid. Data over overlast, armoede, afval, sociale problemen; de mogelijkheden zijn talrijk. Met meeluisterende lantaarnpalen kunnen daar ook nog gegevens over geluidsoverlast bijkomen. De Eerste Kamer nam vorig jaar de Wet Flexibel Cameratoezicht aan. Daarmee kunnen gemeenten bijvoorbeeld ook drones inzetten voor surveillance en dataverzameling. Ook deze drones kunnen worden uitgerust met allerlei sensoren.
Dirk Helbing, schrijver van The automation of society is next, een boek over de gevaren van dataverzameling en gedragssturing door overheden, legt in onderstaande presentatie kort uit hoe dat werkt. Helbing beschouwd de verzameling van al deze data als een kans op een nieuwe digitale vorm van democratie. Dit terwijl de centrale verwerking van data en de actieve beïnvloeding middels kunstmatig intelligente systemen ook kan leiden tot een digitale variant van fascisme. Het fascisme (Italiaans: fascismo) is een extreme vorm van autoritair nationalisme en is antidemocratisch, anticommunistisch, antiliberaal, antiparlementair en anti-intellectueel; aldus de definitie van Wikipedia. Volgens Helbing is de beste oplossing voor dit probleem dat de systemen die overheden gebruiken open source worden. Dat betekent dat de toepassingen en de techniek erachter volledig openbaar zijn. „Je moet zorgen dat dit soort systemen democratisch is en van onderaf gecontroleerd wordt, niet van bovenaf opgelegd”, zegt hij. „Je moet niet één overheid of één bedrijf controle geven over al die data. Dan is er een risico dat de technologie wordt misbruikt door mensen met extreme agenda’s.” Daar duidt Helbing echter precies het probleem. De kans is groot dat de centralisering van macht die we de laatste decennia zien, zich ook op dit terrein zal manifesteren. Open source is een leuke term, maar welke burger zal zich nu echt actief met een dergelijk systeem kunnen bemoeien. Je snapt er toch geen hout van. Helbing poetst het dreigende digitale fascisme (fascisme 2.0) dus eigenlijk een beetje op met een democratisch tintje.
Waarin schuilt dan dat gevaar van dat digitale fascisme? Welnu, als we alleen al kijken naar wat Helbing daar zelf over zegt [citaat] „Data zorgen voor macht. Teveel machtsconcentratie is nooit verstandig. Je zou dataverzameling in combinatie met gedragsbeïnvloeding kunnen gebruiken om verkiezingen te manipuleren. Met kunstmatige intelligentie en andere technologieën kan gedragssturing zó goed op maat van individuen gemaakt worden, dat je het amper doorhebt.” (lees verder onder het filmpje)
Wat we nu zien is nog maar kinderspel als we bedrijven als Facebook een systeem zullen gaan zien implementeren dat op dit moment al in China draait. Ik heb het dan over het Sesame Credits systeem, waar ik al in januari 2016 over schreef. Dat is een systeem waarbij je credits krijgt of credits verliest afhankelijk van je sociale omgang en gedrag. Het is in feite een zelfregulerend systeem dat gekoppeld zal worden aan social media en waarbij de staat je niet per definitie afrekent op je sociale gedrag, maar in feite rekent jouw omgeving je af door je te mijden of juist met je om te willen gaan als je de juiste gedragseigenschappen vertoont. Dit systeem kan al snel tot sociale uitsluiting leiden, doordat de credits van mensen dalen, zodra ze met jouw verbinden (iemand met bijvoorbeeld weinig credits) op social media. Het wordt nog veel erger als deze data ingelezen wordt in een systeem als de Atlas software die in Amsterdam draait. Dan kan de man of vrouw achter het beeldscherm dus precies zien wie jouw sociale contacten zijn, wat je financiële status is en hoe goed je gewaardeerd wordt door anderen. Hoewel een dergelijk creditssysteem er nog niet concreet is, zijn softwaresystemen op dit moment wel degelijk al in staat om een sociale waardering af te lezen uit al jouw social media gedrag en de analyses die daar op los gelaten worden. Dat is waar de genoemde bedrijven als IBM en Atos zich namelijk op richten met hun predictive policing softwareoplossingen. Ook bedrijven als de SCL Group en NAVO’s Stratcom houden zich met dergelijke technologie bezig. En dat is dan nog maar het tipje van de ijsberg.
Combineren we deze kennis met plannen van zowel Google als Elon Musk (de man van onder meer de Tesla auto’s) om op korte termijn een breinconnectie tussen de mens en het internet te leggen en combineren we dat met het idee van de cashless society, dan is het fascisme 2.0 een bijna onontkoombare en tevens zeer gevaarlijke toekomstverwachting. Het zal dan ook niet lang meer duren dat het een privilege is om aan het internet te kunnen ontsnappen, zoals Winston Smith in Orwell’s boek 1984 zijn uiterste best moest doen om aan het telescherm te ontsnappen.
Hoewel wij de smartphone en het internet nu nog als geweldige technologie en vooruitgang beschouwen, zijn dit feitelijk de tools die gebruikt worden om de digitale gevangenis als een sluipmoordenaar rondom ons op te bouwen. Door mensen te verleiden met gadgets, games en leuke apps, worden ze langzaam de fuik van het fascisme 2.0 ingelokt. Er komt een tijd dat we blij zijn ergens ter wereld nog een plekje te kunnen vinden waar geen internetverbinding is. Misschien wordt het tijd om afscheid te nemen van de smartphone en de “slimme stad” de rug toe te keren. Of misschien moeten we de bouw van dergelijke systemen actief boycotten nu het nog kan. Stof tot nadenken.
Bron linkvermeldingen: livescience.com, sclgroup.cc, stratcomcoe.org, npo.nl