Mag ik nog fouten maken? De toekomst en dilemma’s van online reputatie.

Hoe belangrijk mag online reputatie zijn? Op internet maken steeds meer mensen gebruik van marktplaatsen waar zij met vreemden transacties aangaan. Zo kun je je huis verhuren via Airbnb, instappen bij een particuliere chauffeur via Uber of investeren in een toffe gadget op Kickstarter. Dat is best spannend, want op internet is iedereen in principe anoniem en je weet dus niet van te voren of je iemand kunt vertrouwen. In de loop der tijd hebben deze marktplaatsen talloze oplossingen bedacht om vertrouwen te wekken.

Controlesystemen

Zo vragen websites om ID-checks, Facebook-koppelingen en andere verbindingen met bestaande controlesystemen. Dit is slechts het begin. Na iedere transactie beoordelen de vraag- en aanbodzijde elkaar. Hoe was het verblijf in het huis? Was de logé een nette gast? Vaak kun je dit aangeven met een korte tekst (review) of een bepaald aantal sterren.

De platformen vinden deze controles en beoordelingen blijkbaar nog niet genoeg. Zo kondigde Uber onlangs aan de gps-data op de telefoon van chauffeurs te gebruiken

om de rijvaardigheid te monitoren en waar nodig zelfs in te grijpen. Kroodle, een initiatief van verzekeraar Aegon, heeft een soortgelijk product op de markt gezet. Hoe ‘rustiger’ je rijdt, hoe meer korting aan het eind van de maand op je autoverzekering. De eerste poot onder het collectiviteitsprincipe van verzekeringen is onder de stoel vandaan gezaagd. Nu gaat het nog om korting, maar je snapt dat dit slechts het begin is.

Steeds verder

Reputatie- en waarderingssystemen zullen steeds meer gebruikt worden. Ze worden voor meer zaken ingezet en databases (data uit apps, maar ook koppeling met bankrekening, profiel en gedrag van vrienden, etc.) worden met elkaar verbonden. Hoe meer informatie je hebt over gebruikers, hoe beter het reputatieprofiel. Met zo’n persoonlijk profiel kun je slecht gedrag straffen met uitsluiting en goed gedrag belonen met meer toegang en privileges. Transparantie in handelswijzen ontbreekt, gewenst gedrag wordt gestimuleerd en eenmaal buiten de boot gevallen is dikke pech. En het wordt allemaal steeds makkelijker via automatische algoritmes.

De systemen die websites nu gebruiken, zijn nog in een prille fase. Je zou zeggen je met een systeem op basis van vijf sterren best goed bezig bent als je een score van vier hebt. Toch ben je als je bij Uber op de strafbank beland als je minder dan 4,6 sterren hebt. En dat terwijl de chauffeur geen volledige controle heeft over de beleving van de klant. Slecht weer, een file, ongeluk of problemen met de app hebben direct invloed op de eindscore. Daarnaast zullen zuinige Nederlanders waarschijnlijk gemiddeld een lagere score geven dan joviale Amerikanen. Heeft de klant een dag later spijt van zijn lage beoordeling, dan is het niet mogelijk om de waardering te herzien.

Schizofreen

Hoe beter en completer de online reputatie, hoe groter de kans op werk voor Uber-chauffuers. Deze reputatie wordt opgebouwd uit waarderingen over kleine opdrachtjes. Een Uber-chauffeur zal iedere werkdag een keer of twintig worden ‘gewaardeerd’. Natuurlijk ga je voor een optimale klantbeleving, maar vraag je eens af wat dit met jou als mens doet. Het continu moeten pleasen, geen fouten mogen maken, je gedrag aanpassen aan de standaard die Uber als merk neer wil zetten. Geen enkele ruimte om te experimenteren. Afwijkend gedrag loopt een grote kans te worden afgestraft, met uitsluiting tot gevolg. Ik weet niet hoe het met jou zit, maar ik zou hier compleet schizofreen van worden.

Wie bepaald wat ‘goed’ is?

Eerder gaf ik al aan dat de systemen niet perfect zijn. Dat zit niet alleen in de techniek, maar ook in de interpretatie van wat ‘goed’ en wat ‘slecht’ is. Dit is namelijk situationeel gebonden. Wanneer ik met mijn kinderen in een Uber stap, wil ik dat de chauffeur rustig rijdt, maar als ik alleen ben en een vliegtuig moet halen, dan zal ik een pittige rijstijl alleen maar waarderen. In beide gevallen zullen gps-algoritmes de chauffeur straffen -hij of zij rijdt immers of veel te langzaam of te snel- maar ik als klant ben reuze tevreden. Huur je een schoonmaakster via een bemiddelingsplatform als Helpling, dan kom je dezelfde dilemma’s tegen. Wat is een goede schoonmaakster? De een hecht veel waarde aan punctualiteit, de ander aan de schoonmaakkwaliteiten of een gezellig praatje.

Hoe belangrijk is vertrouwen?

Platformen zeggen dat het creëren en monitoren van vertrouwen een van hun belangrijkste toegevoegde waarden is. De vraag is alleen: wordt het belang van online reputatie niet te veel opgeblazen? Ratings zijn gebaseerd op rationele data, terwijl wij als mens geen rationele beslissingen maken. Ik koop een huis ver boven de vraagprijs op mijn onderbuikgevoel en laat een relatief onbekende op mijn meest kostbare bezit -mijn kinderen- passen wanneer ik een avondje met mijn vriendin ga dineren. De platformen doen ons geloven dat online vertrouwen heel belangrijk is, zie ook dit korte fragment.

Zij hebben hier ook belang bij: het feit dat jij een vreemde niet zomaar vertrouwt (de standaard = wantrouwen) heeft een grote invloed op hun bestaansrecht. Wat zou er gebeuren wanneer we de standaard op ‘vertrouwen’ zetten?

Het is belangrijk om ons dit af te vragen. Zoals eerder gezegd zullen reputatiesystemen voor veel meer zaken gebruikt worden. En dat kunnen goede, maar ook slechte of discutabele doelen zijn.

Sesame Credits

Zo kan reputatiedata ondernemers zonder kredietverleden in minder ontwikkelde landen helpen om een lening te krijgen. Maar het kan ook de andere kant op gaan. Filosoferend over de mogelijkheden kom je al snel terecht bij scenario’s die in het boek ‘The Circle’ van Dave Eggers worden beschreven. Het lijkt erop dat de fantasie van de schrijver door de werkelijkheid is ingehaald. Eind december vorig jaar werd bekend dat China een nationale online reputatiescore ontwikkelt: de Sesame Score. Doordrenkt met slimme gameification-technieken. Nu nog optioneel, maar vanaf 2020 verplicht voor de gehele bevolking. The Independent zocht uit hoe dit systeem werkt: “The system measures how obediently citizens follow the party line, pulling data from social networks and online purchase histories.” (China has made obedience to the state a game) En dan is een scenario als in The Circle opeens heel erg dichtbij.

Vormgeven van de toekomst

Daarom is het tijd om na te denken over de reputatiesystemen van de toekomst. Over eigenaarschap van data: reputatiedata is goud -of beter gezegd: lijm- voor platformen. Daarom zal de interpretatie van deze data nooit objectief zijn, maar ten gunste van het (verdien)model van het platform.

Verder moet iedereen kunnen leren van zijn fouten. De huidige systemen staan dat niet toe. Daarom moeten we nadenken over een systeem dat rekening houdt met de ontwikkeling van de mens op de lange termijn. Een systeem waar ruimte is ingebouwd voor fouten en waar je het recht hebt te experimenteren en misstappen vergeten kunnen worden. Omdat we anders in een situatie terecht komen waar afwijkend gedrag, gedrag dat al eeuwen heeft geleid tot nieuwe innovaties en de groei van het zíjn van de mens, in de kiem wordt gesmoord.