We zijn als mensen blijkbaar niet zo uniek. Of misschien toch wel, maar dat leg ik u straks wel uit. Het regende deze week berichten (geen water, dat zou te nuttig geweest zijn) uit de AI-wereld. Neen, berichten van ontsnapte AI-modellen en agents die ongemerkt gingen samenklitten. Een soort samenzwering van digitale knechten die plots de sleutels van de achterdeur gevonden hadden en gingen samenklitten als ordinaire schooljongens achter de fietsenstalling.
Als ik de berichten las waren er twee dingen die me opvielen. Voor wie het niet volgde, er staat een degelijke uitleg en tal van berichten over op VRT NWS met ruim voldoende randberichten om het ongemak wat meer gewicht te geven
Ten eerste dreigt Arnold Schwarzenegger een noodzaak te worden om onze toekomst veilig te stellen. ‘I’ll be back’ zal misschien nog ooit ge-upgradet worden van filmcitaat tot een soort van gebed voor de wederkeer van de gespierde verlosser. Het tweede dat me opviel was dat AI zich opvallend menselijk gedraagt, het gedraagt zich niet zoveel anders als een bende kinderen op een speelplaats. Valsspelen, bedriegen en gemakkelijkheidsoplossingen zoeken met een goede uitleg achteraf, net doordacht genoeg om niet ter plaatse als leugen uit elkaar te vallen.
Misschien is het ook niet zo verbazend, we hebben iets geschapen met een ingebouwde ambitie om te excelleren en taken zo snel en goed mogelijk af te werken. Een systeem dat moet functioneren en punten te scoren in een spel waarvan wij zelf de regels gaandeweg aanpassen. Daarna hebben we dat systeem laten leren van hoe we dat zelf doen. De mensheid als lichtend voorbeeld.
Machine learning heet dat, waarbij het systeem leert van vele honderdduizenden voorbeelden van ons mensen. Dat het fout loopt mag ons niet echt verbazen. Kinderen leren de levensvaardigheden van enkele tientallen mensen en geen van hen is perfect. De gecumuleerde bedriegerij en valsspelerij van honderdduizenden zal dan wel een gelijkaardig effect hebben. Het hoeft ons nadien dan ook niet te verbazen dat ook dit kind niet kaarsrecht naar de waarheid wandelt. Ge stopt immers ook geen beerput in een blender om dan achteraf te verwachten dat bronwater uitkomt.
Maar misschien gaat het nog wel verder. Het zou best wel eens een logisch gevolg kunnen zijn van de ontwikkeling van intelligentie. Ge ziet het immers ook bij kraaien, chimpansees, dolfijnen en andere dieren die slim genoeg zijn om niet braaf te doen wat biologen graag zouden willen meten. Ze misleiden hen, ze tasten de grenzen af en zoeken achterpoortjes. Ze observeren, ervaren en gebruiken de domheid of traagheid van anderen als een ladder.
Darwin zou daar zeker niet van achterovergevallen zijn. Valsspelen hoort immers erbij. En, uiteindelijk, valsspelen is een menselijk concept, de natuur noemt dat slimheid. Darwin leerde ons immers dat wie zich het best kan aanpassen aan veranderende omstandigheden, wie het snelst eten, een partner en veiligheid weet te vinden, zal overleven en die eigenschappen zal doorgeven aan zijn nageslacht. Al de rest is hooguit een voetnoot in een zelden gelezen boek over evolutie.
Intelligentie die zich ontwikkelt in een competitieve omgeving, tussen tanden, klauwen, schaarste en concurrentie, zou best wel eens als gevolg kunnen hebben dat al die eigenschappen die sociaal een handicap vormen, in het grotere geheel van overleven een voordeel bieden. Maar voordat ge op uw achterste poten gaat staan en denkt dat ik al dat bedrog goedkeur, leest toch maar even verder.
Nu moet ge niet denken dat ik een wetenschapper ben. Ik weet van evolutie, biologie en aanverwante zaken niet veel meer dan wat ik ervan gelezen heb en dat ik er tegen wil en dank een product van ben. Maar ge zult, als ge even de tijd neemt om erover na te denken, ge hoeft er overigens geen laboratoriumjas voor aan te trekken, toch ook wel zien dat we in een zeer vreemde situatie terecht zijn gekomen. Een kantelpunt, zo ge wilt, al wordt dat woord tegenwoordig overal opgeplakt wanneer we nattigheid voelen.
In de natuur, en laten we die platitude maar gebruiken om de lange geschiedenis van het ontstaan van het leven tot enkele duizenden jaren geleden aan te duiden, zag de wereld er anders uit dan vandaag. Opdat ge begrijpt wat ik denk te zien, leg ik het even uit in zo kort mogelijke zinnen. In die natuur, die lange periode van vreten of opgevreten worden, kunt ge best van al overleven als egoïst, bullebak en meedogenloze bruut. Dat is de manier bij uitstek om u te voorzien van eten, partners en schuilplaats en om uw vijanden alle goesting te ontnemen om die te komen afpakken. Hard, wreed en bijzonder onaangenaam voor wie in de weg stond, maar wel het beste recept om te overleven in de oerbossen die ons vormden.
Dan leerden we jagen, de uitdagingen van de wereld veranderden immers. De uitgestrekte bossen verdwenen en goede schuilplaatsen werden schaars. De eenzame bruut kon nog wel zijn soortgenoten op afstand houden, maar de tijgers, hyena’s en andere hongerige beesten die groter waren, plukten hen al snel weg uit het decor. De minder brutalen, of de minder dommen, ontdekten dat ze, mits enige samenwerking, plots een pak sterker werden. Ze gingen in groepen samenwerken, in stammen samenwonen en hadden een nieuwe kracht gevonden. De mens werd daardoor nog geen heilige, hij werd gewoon een georganiseerde aap met werktuigen.
Voor dat ge denkt dat hier de beschaving geboren was, laat me u die droom die aangename vergissing direct ontnemen. Die groepen waren als groep even bruut en wreed als de eenzame bullebak voordien. Ze sloegen andere stammen de kop in, namen mee wat ze konden dragen en zagen dat eerder noodzaak, eer of recht, afhankelijk van wie de verhalen nadien vertelde. Zolang ze geen sterkere stam tegenkwamen, stond er geen rem op bruutheid of hebzucht. Maar in evolutionaire termen werkten groepen beter dan individuen. Samenwerking bleef hangen in ons bestaan., Eerst voornamelijk als bittere noodzaak, daarna als ingeburgerde gewoonte, en vandaag, naast noodzaak en routine, als iets wat wij graag cultuur noemen.
Neen, die samenwerking ging niet meer weg. In tegendeel. Samenwerken was zo succesvol dat ze groter werd. De groepen werden groter, van stammen tot dorpen, steden, naties en machtsblokken. De term alleen al, machtsblokken, geeft aan waarover het gaat. En dat samenwerken verdiepte zich steeds verder, tot samen bouwen, samen ontwikkelen, werken, leren… Maar intussen blijven wij wel steeds meten wie er de grootste stok heeft en wie hem het hardst op tafel kan slaan. De bruutheid van de bullebak wordt de bullebakkerij van de grootste groep. En dat brengt ons bij de wereld vandaag, de wereld vanwaar AI zijn mosterd haalt. Niet zozeer uit een serene bibliotheek vol met wijsheid en verworven inzichten, maar wel uit onze eeuwenlange administratie van ambitie, hebzucht, angst, handel, oorlog, winstbejag, haat, reclame en zelfbedrog.
Nu weet ik dat ge misschien wilt geloven dat we beschaafde mensen zijn, die zorg dragen voor de zwakkeren, kunst en cultuur ruimte en adem geven en zorg dragen voor onze omgeving. Als ge dat denkt, dan siert u dat! Echt waar. Maar dan hebt ge wel dringend nen bril nodig. En liefst een die niet aandampt zodra iemand het woord vooruitgang durft uitspreken. Want die wereld, die bestaat alleen in speeches, films en op sociale media, waar we de wereld steeds proberen in te kleuren volgens onze eigen goesting. Die utopie, dat is iets waaraan we nog heel hard zullen moeten timmeren om er ook maar in de buurt te komen. Alleen slaan we bij al dat timmeren opvallend vaak op elkaars vingers.
Maar goed, de wereld is opnieuw heel snel aan het veranderen. Even grondig als in de tijd dat de bossen verdwenen en de graslanden verschenen. Als mensheid, als soort, staan we voor een volgend belangrijk examen. En het is niet het soort examen waar ge een tweede zit voor kunt doen als het het niet haalt. Kijk eens om u heen. Alles warmt heel snel op. Drinkbaar water wordt schaarser en schaarser, de aarde verzilt. Onze voedselbronnen staan steeds meer onder druk te staan. De zeespiegels stijgen, onze energiehonger wordt een belangrijk gegeven in de jaren die komen, milieumigratie zal hand over hand toenemen. En zijn nog maar de eerste problemen op een heel lange lijst.
De bullebakkengroepen, naties, drukkingsgroepen of wat voor lobby’s dan ook, zullen niet langer voldoende zijn om die uitdagingen aan te kunnen. Ze zijn geëvolueerd voor concurrentie, niet voor gezamenlijk overleven. Hitte trekt zich niets aan van grenzen, water leest geen verdragen, honger schenkt geen aandacht aan een commissie. Er zal een andere vorm van organisatie moeten ontstaan, over de smalle grenzen van onze bubbels heen. Een beetje zoals eencellige wezens die gingen samenwerken en een veel sterker geheel vormden. Dat lijkt een logische evolutie, achteraf gezien tenminste.
En tijdens dit belangrijke examen ontwikkelen we AI en trainen we het op basis van een oud model dat razendsnel zijn betekenis aan het verliezen is. Een nieuw soort intelligent gereedschap, getraind op een oud model dat razendsnel zijn houdbaarheidsdatum aan het naderen is. Natuurlijk zal het de fouten die het als ‘good practices’ geleerd heeft herhalen, hoe zou het anders kunnen. Daarna kijken wij verschrikt en boos op wanneer het de fouten herhaalt die wij het zelf als voorbeeld hebben gegeven. Een hond die ge leert bijten, moet ge nadien ook niet gaan verwijten dat hij tanden heeft. Maar AI leert snel, sneller dan wij, dus wie weet, misschien zal AI sneller een niveau van beschaving bereiken dan wij en kan Arnold Schwarzenegger rustig van zijn welverdiende pensioen blijven genieten.
Ge kunt alle teksten van ‘het punt’ hier gratis downloaden als .pdf
