Door Michiel Buitelaar
Dag 3. Kort. Ik ben moe en zit al om 4 uur aan gin & tonic, in zon in tuin. Ik heb weinig gedaan. Ik ben deze dag begonnen met Van Oekels Discohoek, wat Blom mij stuurde, en ik aanraad. Interessant, maar gaat u verder?
Eerste sessie was “Operationalising empathy: how AI will shift human consciousness and accelerate emotional intelligence”. Ik vond het vaag, begreep het nauwelijks dus ben meteen weggegaan. Dat is ook SXSW: een zekere vluchtigheid, althans die heb ik mij aangemeten. Het komt best veel voor dat na 5-10 minuten mensen massaal opstappen, wat eerlijk en besluitvaardig is, doch pijnlijk voor de sprekerds.
Ik had haast want wou naar de eerste “Documentary Shorts” sessie. Daar zijn er diverse van, alsmede “Narrative Shorts”. Dat zijn: blokken van ca anderhalf uur waarin 6-7 documentaires of verhalen vertoond worden. Meestal OK, soms erg goed, zelden slecht (ja, animaties, die vind ik vaak slecht – ligt vast aan mij). Deze sessie was prima. Ik ga het niet allemaal beschrijven maar licht er enkele uit. De beste vond ik die over de busreis van ca 20 Spaanse gevangenis-ingezeten (mag ik ‘veroordeelde criminelen’ zeggen of is dat onnodig stigmatiserend?) voor een regulier weekeindje naar buiten. Er werd niets uitgelegd. De gevangenen babbelden erop los, alles doorspekt van hoop, ressentiment, berusting, liefde, gefnuikte liefde en andere relationele frictie. Zonder enige interventie, alléén in de bus, de gesprekken, in close-up. De reis heen, naar een stad, en de reis terug. Mannen bij elkaar, vrouwen bij elkaar (zelf gekozen, zichtbaar). Fascinerend. Verder was er een docu over Hmong mensen in Laos die – vinden ze zelf – praten met dieren, doden, bomen en meer, door middel van zelfgemaakte fluiten. Prachtig. Er was een animatie – in mijn irritatiezone dus – over de rigged elections in de USA, in 1876. En, een portret van de opleiding en selectie van ballenjongens en -meisjes voor de US Open tennis kampioenschappen. Erg fijn. Er komen dezer dagen nog diverse van dergelijke staccato blokken. Ik weet bij God niet waar die docu’s hierna terecht komen, ik heb daar geen zonnig beeld van: distributie van documentaires lijkt mij niet zo goed geregeld, afgezien van enkele festivals, wat net iets meer dan nul bereik oplevert?
Tot slot was er een sessie met Kevin Kelly. Ik ben een uur tevoren in de rij gaan staan, wat nodig bleek. Dat is raar want het publiek bij SXSW is aan de jonge kant, die kunnen hem nauwelijks kennen (of ‘kennen hem nauwelijks kunnen’, zoals men in Rotterdam zou kunnen horen). Ik heb om me heen gevraagd en dat bleek te kloppen: velen kenden hem of zijn boeken niet. Ik heb zijn “Out of Control” (1995) toentertijd gelezen en vond dat zeer goed. Hij was ook betrokken bij het blad Wired wat ooit heel goed en spraakmakend was (meer door anderen dan door Kelly mijns inziens, Negroponte bijvoorbeeld). Ik heb een nostalgische bewondering voor die man. En heb hem ooit ontmoet toen hij en ik op hetzelfde congres spraken (dit is echt waar maar ook een soort wethouder Hekking-achtige melding mijnerzijds). Het viel me op dat hij vandaag dezelfde slobberkakibroek en schoenen aan had als 15 jaar terug. Geen fraaie schoenen. Intussen, boekentip: “Een man met goede schoenen”, van Rob van Essen – zeer goed, maar dat boek gaat dus niet over Kevin Kelly.
Kelly’s “The universal intern and partner: how generative AI is changing how we work” was interessant en goed. Lullige slides maar een goede, natuurlijk spreker met interessante, onafhankelijke soms dwarrelige gedachten. Zijn slotstuk begreep ik geloof ik niet goed maar dat geeft niks, hij had al een hoop interessants uitgestort, met een origineel karakter. Deze man praat niet met de massa mee, hij probeert na te denken. Hulde. Ik probeer wat uit zijn betoog te plukken. Dat betoog was fundamenteel optimistisch, wat ook wel eens leuk is.
Ik probeer Kelly Hierna te parafraseren.
We weten niet goed wat AI is en doet. We hebben het vooral over wat het nog niet doet, of misschien niet kan. We speculeren veel en ontdekken dagelijks dingen. De makers zijn ook vaak verbaasd. We hebben het niet gereguleerd maar dat kan ook nauwelijks, en moeten we nu ook niet willen. Laat het gebeuren, ga er mee aan de slag, leer er van. We hebben namen voor de machines – zoals DL, LLM – meer dan voor de produkten ervan.
Dan is er de duizelingwekkend snelle adoptie van AI, specifiek ChatGPT. Ik (Buitelaar, niet Kelly) plaats daar vraagtekens bij: er zijn al vormen van AI, sinds decennia; en er zijn al 10 jaar of zo chatbots (disclosure: ik heb bij een vroege chatbot onderneming gewerkt, CX Company). Bovendien is 100 miljoen gebruikers niet de juiste metric, dat weten we sinds World Online CDs uitdeelde en die als gebruikers telde. Gelul. Het gaat om actieve gebruikers, terugkerend gebruik ná de eerste of tweede keer proberen en rommelen. In telecom – mogelijk de meest analytische industrie die er is, zei hij met zekere eigenwaan – gaat het om dingen als weekly en monthly active users. Ik denk dat mensen ChatGPT niet correct meten. We gaan het ooit zien. Ik ben er nog niet van overtuigd dat ChatGPT massaal gebruikt wordt in echte bedrijfsprocessen. Scholieren die scripties vervalsen interessant, begrijpelijk, maar bijzaak. Meer economische analyse, minder hype, is wenselijk.
Kelly stelt voor de term ‘intelligent’ te mijden maar in plaats daarvan ‘smart’ of ‘smart-dumb’ te gebruiken. Dat lijkt mij verstandig maar ik ga verder: men moet enorm oppassen met machinale en menselijke intelligentie te vergelijken. Hier is geen lineaire schaal van toepassing maar vele dimensies van gepercipieerde slimheid of domheid (dat zei Kelly ook). Sterker nog, wat voor mensen simpel is, is voor machines vaak moeilijk, en andersom: dat zegt de paradox van Moravec, https://en.wikipedia.org/wiki/Moravec%27s_paradox. Houd die in gedachten? Dat eindeloos vergelijken van mens en machine – ik heb er niks mee. De gebruikelijke analogieën en metaforen helpen niet. Ik haal de niet zo bekende, hele grote Nederlandse wiskundige Edsger Dijkstra aan: kunnen duikboten zwemmen? Nou, zeg het maar. Ik vond Kelly’s punt dus goed.
(Ik gebruik dit podium om nog meer onvrede te luchten over mens vs machine denken. Die vraag ‘zou een autonome auto beslissen een oud mannetje dood te rijden, of een jonge moeder met baby in kinderwagen, als die keus gemaakt moet worden?’. Een serieuze onzin vraag over een situatie die nooit voor komt, die zich praktisch gezien niet voor enige vorm afgewogen beslissen leent, en die, bovenal, ook door een mens niet transparent, zinnig beoordeeld zou worden. Maar dat soort kwesties worden in het publieke discours wel opgevoerd. Ik zie ook mensen ChatGPT uitlachen om rare blunders die ik mensen dagelijks zie maken. De lat wordt heel hoog gelegd. Dat heeft soms een functie maar als men wil vergelijken moet men ook nadenken over de zuiverheid daarvan. Zie ook mijn en Kelly’s opmerkingen over zogenaamd lineaire meetbaarheid van intelligentie.)
Kelly, wederom, aan het woord. Laten we AI maar gaan ontdekken, gezamenlijk. Dat worden fascinerende tijden. Productiviteit en efficiëntie kunnen door robots en AI geleverd worden, dan kunnen mensen zich toeleggen op creatieve en minder saaie activiteiten. De mens als ‘prompter’, die een AI gebruikt om sneller slimmere leukere dingen te doen. Er zijn nog geen banen verloren gegaan door AI. Met dat laatste ben ik het voorzichtig oneens – ik denk dat banen al ‘kleiner’ geworden zijn, en vrij veel banen serieus kleiner of anders kunnen worden – maar maar dat is een grotere discussie waar nu geen ruimte voor is. Laten we er mee aan de slag gaan, zegt hij. Dat is mij sympathiek (mijn bias spreekt). Ik neem ook waar, dat er vele en soms slimme mensen zijn die dingen willen temmen, of tegenhouden, maar niet vertellen hoe dan, of – vind ik – niet beseffen dat dat vaak niet kan. Het vertrouwen in het temmen van technologie lijkt mij overwegend ongezond groot; het veronderstelt impliciet dat we echt goed begrijpen hoe die technologie werkt en hoe die gebruikt kan worden. Dat is niet zo. Nog een andere, complexe discussie.
Kelly’s conclusie is dat vormen van AI bruikbaar zijn als universal personal intern (UPI), een hulpje in de huishouding dat produktiviteit verhoogt en ruimte maakt voor creativiteit. Wel een hulpje in de huishouding waar je mee om moet kunnen gaan. Hij ging niet in op deze kwestie: wie kan dat beter, of slechter. Ik heb een donkerbruin vermoeden dat sommigen dat veel beter kunnen dan anderen, en dat dat consequenties kan hebben. Ik zie de roep om gelijkheid al hangen. Maar dat terzijde. Het slimme hulpje, dat is wel een aardig concept.
Kelly had het over bots, gevuld met informatie, die het gemiddelde van menselijke bias opleveren. Dat haakt in op bezorgde discussies over ethnische of gender biases. Ik vind dat complex: als AI een dergelijke bias oppikt van de informatie die het opslurpt, en zo een extensie wordt van menselijke vooroordelen, waarom zie ik dan geen extreme woke chatbots, radicaal religieuze chatbots, of extinction rebellion chatbots? Waarom gaat de dreiging schijnbaar altijd richting radicaal rechts? Ik weet dit niet. Ik weet heel veel niet. Ik weet zelfs niet wat ik niet weet, a la de filosoof Donald Rumsfeld. Enfin, die vermoede bias: verdient meer onderzoek.
Nog een lastige: copyrights. Er rust in principe geen copyright op voortbrengselen van AI, zo begrijp ik. Ook niet als die al dan niet overduidelijk gebaseerd zijn op dingen die eerder gemaakt zijn door iemand, die copyright heeft op het origineel. Dat is verwarrend en misschien zelfs een beetje bedreigend, voor de oorspronkelijke maker of voor degene die AI gebruikt om er verder aan te klussen? Zeg het maar. Kelly suggereert: er zou een juridische vorm van ‘referencing’ moeten zijn die dit opvangt. Conceptueel interessant, doch ver weg, lijkt mij. Daar denkt vast wel iemand over na.
Ik sluit af met deze observatie: er zijn talloze spannende, boeiende onzekerheden. Dit alles pruttelt al decennia maar lijkt te versnellen. De impact is groot en wordt nog groter. Het is nauwelijks voorspelbaar en vrijwel zeker niet beheersbaar. De suggestie van zekerheden en bijbehorende, werkbare wetten en regels lijkt mij hovaardij. Wen er maar aan? Doe niet alsof we dit allemaal begrijpen en kunnen controleren?
Toen ik Kevin Kelly klaar was zag ik dat Feyenoord wéér krap gewonnen had. Daarom: klaar, de tuin in, met een drankje. Dag 3 zit erop.
