Original text
Ik moet altijd een beetje lachen om mensen die aankondigen dat ze WhatsApp verlaten. Meestal gaat de overstap naar Signal gepaard met een principiële verklaring over privacy, commerciële surveillance en de macht van Meta. Iedereen wordt vriendelijk uitgenodigd om mee te verhuizen. Een paar weken later blijkt het op de nieuwe bestemming opmerkelijk stil. De vrienden en familie zijn gewoon op WhatsApp gebleven.
Er zit iets aandoenlijks in die eenzaamheid. Je hebt jezelf bevrijd van een bedrijf dat je persoonlijke berichten dankzij versleuteling toch al niet kon lezen, om vervolgens te ontdekken dat de waarde van communicatie voor een belangrijk deel afhangt van de aanwezigheid van andere mensen. De gegevens die buiten de berichten om worden verwerkt, vormden nu juist een van de redenen om te vertrekken. Maar dat maakt de lege contactenlijst niet gezelliger.
Ik begrijp de keuze, maar voel weinig behoefte haar te volgen. Google brengt me waar ik moet zijn, Apple organiseert een behoorlijk deel van mijn digitale leven en inmiddels gebruik ik kunstmatige intelligentie voor dingen die enkele jaren geleden nog nauwelijks voorstelbaar waren. Het werkt allemaal bijzonder goed. Waarom zou ik dat ingewikkelder maken uit angst voor een toekomstig risico waarvan niemand mij kan vertellen hoe groot het werkelijk is?
Die redenering is mij jarenlang prima bevallen en eigenlijk bevalt ze me nog steeds. Toch ben ik anders gaan nadenken over wat we bij al dat digitale gemak achterlaten. Aanleiding was een vraag die op het eerste gezicht nauwelijks met privacy te maken heeft, maar die me sindsdien niet meer loslaat.
Wat zou er gebeuren als de wereld het vermogen verloor om te vergeten?
We beschouwen vergeten meestal als een tekortkoming. We vergeten namen, afspraken en wachtwoorden. We verliezen herinneringen die we graag hadden willen bewaren. Een aanzienlijk deel van de menselijke geschiedenis kan worden gelezen als een poging ons gebrekkige geheugen te verbeteren. We ontwikkelden het schrift, bouwden archieven, vonden de fotografie uit en leerden uiteindelijk vrijwel onbeperkte hoeveelheden informatie op te slaan.
Het vermogen om kennis vast te houden en door te geven, heeft ons in staat gesteld beschavingen op te bouwen die veel verder reiken dan een enkel mensenleven. We hebben alle reden om daar trots op te zijn. Maar bij al die pogingen om het geheugen te verbeteren, hebben we wellicht een andere eigenschap van ons bestaan over het hoofd gezien. Vergetelheid heeft eeuwenlang ook een maatschappelijke functie vervuld.
Een onbezonnen opmerking verdween meestal met het gesprek waarin zij werd uitgesproken. Een ongelukkige verliefdheid liet hooguit enkele brieven achter. Wie op zijn twintigste een dwaas politiek standpunt verdedigde, kon op zijn veertigste een heel ander mens zijn zonder dat iedere nieuwe kennis toegang had tot de overtuigingen van zijn jongere zelf.
De samenleving ontwikkelde bovendien allerlei manieren om het verleden geleidelijk minder zwaar te laten wegen. Het recht kent verjaring, archieven kennen bewaartermijnen en strafrechtelijke systemen bieden, zij het onvolmaakt, mogelijkheden voor rehabilitatie. Zelfs de hardnekkigste reputatie verbleekt doorgaans wanneer de mensen die haar dragen verdwijnen. De tijd deed een deel van dat werk vanzelf, zonder dat iemand daarover hoefde te beslissen.
Verjaring is in dat verband een bijzonder beginsel. Ze verandert niets aan wat er ooit is gebeurd. Een gebeurtenis wordt niet ongedaan gemaakt doordat er voldoende jaren zijn verstreken. Maar het recht erkent dat het verleden onder bepaalde omstandigheden niet onbeperkt aanspraken op het heden mag blijven maken. Daar zit een vorm van beschaving in die gemakkelijk over het hoofd wordt gezien.
Natuurlijk werkte de vergetelheid niet altijd rechtvaardig. Ook werkelijk onrecht kon uit het collectieve geheugen verdwijnen, terwijl slachtoffers soms hun hele leven moesten toezien hoe anderen verdergingen alsof er niets was gebeurd. We hebben goede redenen om bepaalde gebeurtenissen zorgvuldig te blijven documenteren. Maar tussen de plicht om ernstige misstanden te onthouden en het voortdurend beschikbaar houden van iedere menselijke misstap ligt een enorm gebied waarin mensen eenvoudigweg hun leven proberen te leiden. De tijd bood hun de ruimte om te veranderen zonder voortdurend te worden geconfronteerd met wie ze vroeger waren.
Die vanzelfsprekende werking van de tijd zijn we nu technisch aan het veranderen, zonder dat we daar erg veel aandacht aan besteden. We discussiëren over de vraag of Google onze locatie mag kennen, of Meta onze voorkeuren analyseert en of een AI-bedrijf gesprekken bewaart. We lezen privacyvoorwaarden, zetten eventueel een instelling uit en gaan verder met ons leven.
Ondertussen ontstaat een steeds uitgebreidere geschiedenis van gewone mensen, samengesteld uit gegevens die zij gedurende hun leven voor duizenden verschillende doeleinden hebben achtergelaten. Een zoekopdracht ging over een vraag van dat moment. Een locatiegegeven hielp iemand zijn bestemming te bereiken. Een aankoop diende om iets in huis te halen. Een persoonlijk gesprek ontstond omdat iemand ergens mee worstelde. Iedere handeling had een eigen context, een eigen bedoeling en een eigen betekenis. Vrijwel niemand heeft ooit de bedoeling gehad om van al die afzonderlijke momenten een samenhangende levensgeschiedenis te laten maken.
Maar gegevens kunnen hun oorspronkelijke context overleven. Ze worden bewaard, gekopieerd, gecombineerd en opnieuw geïnterpreteerd, soms jaren nadat de aanleiding voor het verzamelen ervan is verdwenen. Zo kunnen ze een verhaal gaan vertellen dat degene over wie het gaat nooit heeft bedoeld en misschien nauwelijks zou herkennen. Dat verhaal hoeft niet eens te kloppen om gevolgen te hebben.
Naarmate de mogelijkheden om grote hoeveelheden gegevens te analyseren toenemen, groeit ook de waarde van informatie die ooit volkomen onbeduidend leek. Een detail dat vandaag niets zegt, kan morgen ineens een aanwijzing blijken voor iets waar niemand destijds naar zocht. We verzamelen gegevens met de kennis van vandaag en bewaren daarmee onbedoeld mogelijkheden voor een toekomst die we nog niet kennen.
Ik merk hoe aantrekkelijk die ontwikkeling is wanneer ik kijk naar mijn eigen gebruik van AI. Ik voer inmiddels gesprekken met systemen die mijn vragen beantwoorden en tegelijkertijd verbanden kunnen leggen met eerdere gedachten, twijfels en ideeën. Ze herinneren me aan iets wat ik weken geleden terloops opmerkte, leggen een inconsistentie bloot in mijn redenering of herkennen een ontwikkeling die ik zelf nog niet had gezien.
Ook dit essay is mede in zulke gesprekken tot stand gekomen. Dat maakt het schrijven zelf enigszins ironisch. Ik onderzoek de risico's van digitale herinneringen met een systeem dat juist dankzij zijn vermogen om eerdere gesprekken te begrijpen zo bruikbaar is. De continuïteit scheelt uitleg, voorkomt herhaling en geeft een gesprek soms iets van de vertrouwdheid die we kennen van mensen met wie we jarenlang optrekken. Ik vertel zo'n systeem dingen die ik niet aan iedere willekeurige kennis zou vertellen, meestal zonder daar lang over na te denken. Het gesprek voelt immers als een voortzetting van mijn eigen denken.
Toch verschilt die vertrouwdheid wezenlijk van een menselijke relatie. Een menselijke vertrouwenspersoon heeft zelf een leven. Hij vergeet dingen, begrijpt me soms verkeerd, verandert van mening en is net als ik kwetsbaar voor de tijd. Ons wederzijdse geheugen ontstaat binnen een relatie waarvan beide partijen de gevolgen dragen.
Bij een digitale assistent liggen die verhoudingen anders. Wat wordt onthouden, samengevat, verwijderd of gebruikt om het systeem verder te ontwikkelen, hangt af van technische keuzes en organisatorische afspraken die ik slechts ten dele kan overzien. De onderneming achter het systeem kan veranderen, net als het verdienmodel en de mensen die erover beslissen. Nieuwe technologie kan oude gegevens opnieuw interpreteren en verbanden ontdekken die vandaag nog niet zichtbaar zijn.
Wat nu een goed gesprek is, kan daarmee onderdeel worden van een geschiedenis waarvan ik de toekomstige betekenis niet ken. We bouwen systemen die ons steeds beter begrijpen, terwijl onze eigen kennis van die systemen veel beperkter blijft. De asymmetrie groeit ongemerkt mee met het gemak.
De geschiedenis biedt een onthutsend voorbeeld van wat er kan gebeuren wanneer informatie een betekenis krijgt die bij het verzamelen ervan niet was voorzien. Tijdens de Duitse bezetting bleken de Nederlandse bevolkingsregisters van grote waarde voor de bezetter. Gegevens die gemeenten jarenlang hadden verzameld voor een ordelijke administratie van hun inwoners, konden ineens worden gebruikt voor vervolging, opsporing en gedwongen arbeid.
In Amsterdam probeerden verzetsmensen daarom het bevolkingsregister te vernietigen. Ze stichtten brand in het gebouw waar de gegevens werden bewaard. De vernietiging lukte maar gedeeltelijk, maar de gedachte achter de actie was helder: informatie die ooit een nuttig administratief doel diende, was een gevaar geworden voor de mensen over wie zij ging. Het bevolkingsregister deed precies waarvoor het was ontworpen. De wereld waarin het functioneerde, was veranderd.
Er is nog iets wat deze geschiedenis bijzonder maakt. Het register had een adres. De informatie lag in kaartenbakken, opgeborgen in een gebouw. Wie haar wilde vernietigen, wist waar hij moest zijn. Zelfs toen bleek het vrijwel onmogelijk om alle gegevens te laten verdwijnen.
Onze huidige digitale geschiedenis bevindt zich in een heel andere werkelijkheid. Informatie wordt gekopieerd, verspreid, samengevoegd en verwerkt tot conclusies die vervolgens in nieuwe systemen terechtkomen. Een oorspronkelijke bron kan verdwijnen terwijl de patronen die eruit zijn afgeleid blijven bestaan. Zelfs wanneer alle betrokken organisaties bereid zouden zijn hun gegevens te vernietigen, kan het lastig worden vast te stellen waar die informatie inmiddels invloed heeft gekregen.
Er is geen gebouw meer om in brand te steken.
De vergelijking met de bezetting heeft natuurlijk haar grenzen. Toen gebruikte een vijandige macht bestaande administraties bewust voor vervolging. De moderne digitale wereld kan de betekenis van informatie ook veranderen zonder dat iemand een kwaadaardig plan heeft. Het is voldoende dat organisaties hun risico's nauwkeuriger willen berekenen, processen willen optimaliseren en beslissingen willen nemen op basis van steeds betere voorspellingen.
Iedere afzonderlijke toepassing kan een begrijpelijk doel dienen en zelfs aantoonbaar voordeel opleveren. Toch kan het gezamenlijke resultaat ingrijpender zijn dan iemand bij het ontwerpen van die toepassingen had voorzien. Juist daarin schuilt iets ongemakkelijks. Voor het ontstaan van een systeem dat mensen beperkt, is niet noodzakelijk iemand nodig die de bedoeling heeft hen te beperken.
Stel je een jonge vrouw voor die in 2041 een woning zoekt. Ze heeft een goede baan, voldoende inkomen en geen betalingsachterstanden. Toch merkt ze dat aantrekkelijke aanbiedingen haar zelden bereiken. Ze reageert op woningen, maar hoort weinig terug. Soms krijgt ze financieringsvoorwaarden aangeboden die ongunstiger zijn dan ze had verwacht. Ze begrijpt niet waarom. De woningmarkt is ingewikkeld en misschien heeft ze gewoon pech.
Wat ze niet weet, is dat verschillende systemen haar inmiddels hebben ingedeeld in categorieën die statistisch samenhangen met een grotere kans op financiële problemen. Haar digitale geschiedenis bevat patronen die mogelijk iets zeggen over toekomstige gezondheidsklachten, instabiele relaties of arbeidsuitval. Geen enkele afzonderlijke aanwijzing is overtuigend. Samen leveren ze een voorspelling op die voor commerciële toepassingen interessant is.
Stel nu eens dat die voorspelling statistisch behoorlijk betrouwbaar is. Daarmee wordt het morele probleem alleen maar groter. We kunnen de systemen immers niet eenvoudig verwijten dat ze slecht rekenen. Ze herkennen werkelijk bestaande verbanden en kunnen daarmee misschien zelfs meer economische schade voorkomen dan eerdere beoordelingsmethoden. Alleen zegt een verband tussen gegevens van duizenden mensen nog niet wie deze ene vrouw zal worden.
Zelfs een nauwkeurige voorspelling laat ruimte voor een leven dat zich anders ontwikkelt. Voor de organisaties die beslissingen nemen, is dat geen geruststellende gedachte. Zij hebben immers weinig reden om hun bedrijfsvoering af te stemmen op uitzonderingen wanneer de statistiek doorgaans gelijk krijgt. De vrouw ondervindt intussen de gevolgen van een waarschijnlijkheid die voor haar persoonlijk helemaal niet hoeft uit te komen.
Er is geen ambtenaar die haar aanvraag afwijst en geen bankdirecteur die een dubieuze reden op papier zet. Sommige aanbiedingen verschijnen eenvoudigweg niet, andere worden minder aantrekkelijk. De wereld heeft haar mogelijkheden al enigszins verkleind voordat ze zelf weet dat er iets te kiezen valt. Ze kan moeilijk bezwaar maken tegen een aanbod dat nooit is verschenen.
Iedere beperking beïnvloedt vervolgens haar verdere levensloop. Ze woont langer in een ongunstige situatie, kan minder vermogen opbouwen en moet misschien een baan laten schieten omdat verhuizen onmogelijk blijkt. Nieuwe gegevens maken haar profiel vervolgens minder aantrekkelijk, waardoor latere voorspellingen de eerdere lijken te bevestigen. Zo ontstaat een wisselwerking tussen het beeld dat een systeem van iemand heeft en het leven dat die persoon daardoor kan leiden. Het systeem leert. De vrouw leeft met de gevolgen.
We hebben altijd geprobeerd mensen te begrijpen op basis van hun verleden. Ouders doen dat met kinderen, werkgevers met sollicitanten, vrienden met elkaar. Een mens kan mij verkeerd beoordelen, maar zijn oordeel heeft doorgaans een beperkt bereik. Hij kent slechts een deel van mijn geschiedenis en kan zijn mening herzien, mij opnieuw ontmoeten of eenvoudigweg vergeten wat hij ooit van mij dacht.
Digitale systemen kunnen beoordelingen laten circuleren zonder dat die afhankelijk zijn van persoonlijk contact of herinnering. Ze leggen verbanden tussen gebeurtenissen die tientallen jaren uit elkaar liggen en gebruiken die om gedrag te voorspellen dat nog niet heeft plaatsgevonden. Wanneer zulke voorspellingen vervolgens de mogelijkheden beïnvloeden waaruit iemand kan kiezen, krijgt een oud filosofisch probleem een heel praktische betekenis.
Hoe vrij is een mens wanneer zijn omgeving hem steeds vaker tegemoettreedt als de waarschijnlijkste versie van zichzelf?
In Europa bestaan wetten die dergelijke praktijken moeten tegengaan. De AVG kent onder meer een recht op gegevenswissing en beperkingen op ingrijpende, volledig geautomatiseerde besluitvorming. De AI Act verbiedt bepaalde vormen van social scoring. Het zijn belangrijke grenzen aan wat organisaties met persoonlijke informatie mogen doen, al zal de toepassing ervan voortdurend moeten meegroeien met de technologie.
Een bijzonder probleem ontstaat wanneer gegevens inmiddels zijn verwerkt tot nieuwe kennis. Een dossier kan worden vernietigd, maar het verwijderen van de invloed van persoonlijke informatie uit een getraind AI-model kan technisch veel ingewikkelder zijn. Tijdens de training is die informatie niet altijd meer als afzonderlijk onderdeel terug te vinden. Haar invloed kan verspreid zijn geraakt over een groot aantal verbanden in het model, terwijl de uitkomsten van eerdere berekeningen misschien alweer in andere systemen worden gebruikt.
De moeilijkste vraag gaat uiteindelijk verder dan het verwijderen van gegevens. Wat gebeurt er wanneer iemands verleden heeft bijgedragen aan een voorspelling die vervolgens zijn mogelijkheden beïnvloedt? Hoe herstel je de gevolgen van een beslissing die al is genomen, of van kansen die nooit zijn aangeboden? En hoe voorkom je dat een verouderd oordeel blijft doorwerken nadat de omstandigheden waarop het berustte allang zijn veranderd?
Een systeem kan alle gegevens correct hebben verwerkt en toch een mens gevangenhouden in een beeld dat niet langer bij hem past. Dat probleem laat zich niet volledig oplossen door de oorspronkelijke gegevens te wissen, want de gevolgen van hun gebruik kunnen inmiddels een eigen geschiedenis hebben gekregen.
We hebben in het recht geleerd om bepaalde aanspraken te laten verjaren. Daarmee erkennen we dat gebeurtenissen uit het verleden hun historische waarheid behouden, terwijl hun betekenis voor het heden kan veranderen. Het lijkt me de moeite waard om dat beginsel ook eens toe te passen op de conclusies die digitale systemen over mensen trekken. We besteden enorme hoeveelheden geld en intellectuele energie aan technologie die steeds beter onthoudt, herkent en voorspelt. Het vermogen om verouderde kennis los te laten, verschijnt meestal pas als probleem wanneer iemand wil dat informatie wordt verwijderd.
Terwijl juist dat vermogen misschien vanaf het begin onderdeel van het ontwerp zou moeten zijn. Een voorspelling over een mens zou een geldigheidsduur kunnen hebben. Een gedragsprofiel zou opnieuw beoordeeld moeten worden wanneer de omstandigheden veranderen. En een persoonlijke AI-assistent zou zijn gebruiker in staat moeten stellen zelf te bepalen welke herinneringen nog van betekenis zijn en welke inmiddels vooral een vroegere versie van hem beschrijven.
Dat vraagt om meer dan een knop waarmee opgeslagen gegevens kunnen worden verwijderd. Het raakt aan de vraag hoelang conclusies over mensen nog als geldig mogen worden beschouwd, wie dat bepaalt en op welke gronden. Voor een persoonlijke assistent ligt zeggenschap van de gebruiker voor de hand. Bij systemen die beslissen over werk, verzekeringen of andere maatschappelijke mogelijkheden, zullen ook onafhankelijke waarborgen nodig zijn.
Het is een fascinerende ontwerpopgave, juist omdat we zulke systemen bouwen om verbanden te herkennen die voor mensen onzichtbaar blijven. Naarmate ze daarin beter worden, krijgen hun conclusies meer gezag en wordt de verleiding groter om eenmaal verworven kennis te blijven gebruiken. Maar een mens is geen statistische gebeurtenis waarvan de uitkomst al vaststaat. Hij ontwikkelt zich door omstandigheden die we niet volledig kunnen voorspellen, maakt keuzes die niet passen bij zijn geschiedenis en blijkt soms tot dingen in staat die niemand op grond van zijn eerdere gedrag had verwacht.
We vinden zulke veranderingen in het dagelijks leven volkomen vanzelfsprekend. We verwachten dat mensen leren, volwassen worden, nieuwe inzichten opdoen en soms een geheel andere richting inslaan. Tegelijkertijd ontwikkelen we technologie die steeds nauwkeuriger vastlegt hoe ze zich tot dusver hebben gedragen. Daar ontstaat een spanning tussen wat we van mensen verwachten en wat onze systemen over hen denken te weten. De vrijheid om te veranderen veronderstelt dat de toekomst openblijft, ook wanneer een andere uitkomst op grond van het verleden onwaarschijnlijk lijkt.
We bouwen ondertussen verder aan een steeds nauwkeuriger geheugen van onszelf, zonder precies te weten welke plaats dat geheugen in de toekomstige samenleving zal innemen. Iedere nieuwe toepassing biedt een begrijpelijk voordeel. Iedere koppeling maakt het geheel bruikbaarder en iedere verzameling gegevens vergroot de mogelijkheden van toekomstige toepassingen. Niemand hoeft het geheel als zodanig te hebben ontworpen. Toch bepaalt het nadrukkelijker de omstandigheden waaronder mensen hun keuzes maken. Ergens tijdens dat proces verandert informatie over ons verleden in een infrastructuur voor onze toekomst.
Een deel van die informatie zal nog bestaan wanneer de bedrijven, bestuurders en technologieën van vandaag allang verdwenen zijn. Maar het kan ook gebeuren dat de oorspronkelijke gegevens inmiddels zijn gewist, terwijl hun invloed voortleeft in systemen waarvan niemand de volledige geschiedenis meer kent. We zouden dan technisch in staat zijn geraakt om persoonlijke gegevens te vergeten, terwijl de oordelen die eruit zijn voortgekomen een veel langer leven leiden. De mensen die daarmee moeten leven, hebben nooit kunnen instemmen met de omstandigheden waarin hun verleden opnieuw betekenis krijgt.
Ik vind dat een ongemakkelijke gedachte, juist omdat ze zo weinig verandert aan mijn gedrag van morgen. Ik zal gewoon weer Google Maps gebruiken, gesprekken voeren met mijn AI-assistent en waarschijnlijk opnieuw glimlachen wanneer iemand aankondigt dat hij WhatsApp heeft verlaten om zijn privacy te redden. Toch begrijp ik inmiddels iets beter wat hem beweegt. Onze digitale gewoonten worden vooral gevormd door de voordelen die we vandaag ervaren, terwijl hun mogelijke gevolgen zich afspelen in een toekomst waarover we nauwelijks iets weten. Het is gemakkelijk om de eerste zwaar te laten wegen en de tweede terzijde te schuiven. Dat doe ik zelf ook, iedere dag opnieuw.
We hebben geleerd bepaalde aanspraken te laten verjaren, straffen op enig moment als voldaan te beschouwen en mensen opnieuw te beoordelen. Daarvoor hoefden we het verleden niet uit te wissen. We hoefden slechts te erkennen dat wat ooit waar was, niet voor altijd bepalend hoeft te blijven. Onze technologie kent dat beginsel nog nauwelijks. Zij wordt steeds beter in het bewaren van kennis, maar heeft uit zichzelf geen reden om de betekenis ervan te laten verjaren.
Misschien zullen toekomstige generaties systemen bouwen die even zorgvuldig omgaan met het verval van oude kennis als met het verwerven van nieuwe. Systemen die niet alleen kunnen onthouden wat mensen ooit waren, maar ook ruimte laten voor wie zij inmiddels zijn geworden. Voorlopig bouwen we vooral verder aan het geheugen. En ik vraag me steeds vaker af hoeveel van onze vrijheid we ooit te danken hadden aan het eenvoudige feit dat de tijd ook iets uitwiste.