Door Michiel Buitelaar
Dag 5, start met “A practical guide to whether your AI is sentient”. De inleiding door Jason Carmel was lollig maar goed. Hij legde uit waarom hij ‘sentient’ niet ging definiëren, wat mij sympathiek is. Er wordt veel met termen gesmeten die zo helder niet zijn maar indrukwekkend moeten overkomen, en dat soms ook doen. In de hele dunne Encyclopedie van Humor door Wiskundigen vindt men het concept ‘bewijs door middel van volledige intimidatie’, een grappig bedoelde variant op ‘bewijs door middel van volledige inductie’ (dat laatste bestaat echt, en is krachtig). Daar moest ik aan denken. Intimidatie door smijten met termen, daar bedienen sommigen zich hier van. Maar het is nog erger: die betekenisarme termen, die worden door sommigen tot meetpunt verklaard, en daar gaan mensen zich dan op richten. Volgens de sprekerd vinden sommige ontwikkel activiteiten vooral plaats om aan een of andere test – zoals de bekende Turing test – te voldoen: effectbejag. Hij haalde in deze https://en.wikipedia.org/wiki/Goodhart%27s_law aan, nieuw voor mij.
Ter zake. Deze man en zijn kompaan Ilinca Barsan presenteerden een test om vast te stellen of je AI sentient is. Ik vraag me af welk praktisch probleem je daar dan mee oplost – wat zegt het antwoord je? Mij niet zo veel geloof ik. Maar, het is toch een veel gestelde vraag. Ik vond die test qua structuur best aardig – zie https://www.sentientometer.com/. Een dappere, interessante poging (met een niet kraakheldere opbrengst?).
Mijn tweede sessie was “Self-driving cars: from science fiction to scale”, met Mary Barra (eindbaas General Motors) en Kyle Vogt (CEO van Cruise, door GM gekocht voor verdere ontwikkeling van self-driving cars. Gerard Dielissen heeft daar al een goed stuk over geschreven, laat ik dat niet over doen. Enkele tidbits. Een self-driving car ‘works for you’ terwijl een driverless car ‘needs you to work for the car’ (je moet nog steeds controle houden, en zonodig ingrijpen). Men rommelt met deze begrippen. De essentie van de ontwikkeling is: de menselijke fout schrappen. Er is begrijpelijke scepsis onder potentiële gebruikers maar 92% van de mensen wil na een eerste rit – in de real thing dus, de self-driving car – wéér. Dat vind ik imposant. Die ‘auto’, als je het zo nog noemen kunt, de Origin van GM bijvoorbeeld – zie https://getcruise.com/technology/ of https://en.wikipedia.org/wiki/Cruise_(autonomous_vehicle) – is een ding voor ontspanning, vermaak, sociaal samen zijn enzovoorts, en transport. Die gaat zelfstandig rond, haalt je kinderen op, brengt je boodschappen ergens, enzovoort: de ‘robotaxi’. Het is fysieke interactie met AI. Een waarneming van mevrouw Barra: normaliter neemt de waarde van een voertuig af nadat je die gekocht hebt, maar door voortgaande ontwikkeling van software zal de waarde van dit Origin voertuig toenemen, zegt ze (lijkt mij stug maar is conceptueel interessante claim).
Mijn derde sessie was “The future of AI: from artificial to augmented”, met Rahul Roy-Chowdhury van Grammarly, maker van software die teksten verbetert. Een prettig, goedbedoeld doch tikkie vaag betoog over verantwoord om gaan met AI. Dat, om te beginnen, niet artificial moet heten maar augmented, aldus de sprekerd. Hij onderbouwde goed dat augmented niet alleen inhoudelijk correcter is maar ook een ander, bruikbaarder startpunt van overpeinzingen en discussies geeft. Dat geloof ik ook maar het is te laat, de geest is uit de fles, al decennia trouwens.
Hij betoogde dat de mensheid, en de tech industrie in het bijzonder, AI moet beheersen. Ik heb eerder beweerd: dat lijkt mij een illusie, waarschijnlijk. Ik merk dat vrijwel niemand dat met me eens is. Voor de ontwikkeling van het nieuwe product Grammarly Go heeft de sprekerd een raamwerk ontwikkeld dat hij toelichtte: TRUE, een acronym dat staat voor Trust, Responsibility, User control en Empathy. Op die vier punten zou alle AI-gerelateerde ontwikkeling getoetst moeten worden, zei hij. Hij bracht het niet als een universele wet maar als een poging tot structurering, als een aanzet tot een methode. Dat lijkt mij dapper en goed. Want het is aan de vage kant, het is bepaald geen harde accountability, en als dat het al zou zijn: vraag ik me af of dat wel kan werken. Ik betwijfel dat.
Het is een interessant onderwerp. De wens tot beheersing van dit ongrijpbare verschijnsel zweeft hier door de gangen. Hier lopen politici en bestuurders rond (Goddank), die dat soort gedachten overwegend aanwakkeren (helaas?). Die hebben het over audits, reguIering, eventuele verboden enzovoorts. Ik houd rekening met goedbedoelde hoogdravende certificering a la ESG, als een ‘deze AI maakt de wereld beter’ certificaat aan de muur. Ik – een van de laatst los lopende neoliberalen, volgens sommigen – geloof daar niet in, het lijkt mij vooral wishful thinking, of niet waar te maken pretenties. Maar het is een boeiend onderwerp dat discussie verdient. Daar heeft deze man van Grammarly een steentje aan bijgedragen. En augmented in plaats van artificial lijkt me een verbetering.
De vierde sessie die ik bijwoonde was die over “Dictatorships in the digital space”. Dictaturen hebben mijn hevige interesse, de digitale dimensie ervan is relatief nieuw. Een ruim decennium geleden dacht ik dat digitale technologieën zouden helpen om onprettige staten te mijden of tegen te werken. Sommigen denken dat de Arabische Lente een sociale media fenomeen was (ik vraag me dat af). Intussen vrees ik dat hardhandig autocratische leiders en hun bewind meer hebben aan digitale hulmiddelen dan dat die de onderdrukte burgers van dienst zijn. Dat illustreerde deze sessie mijns inziens, al is de kwestie geenszins zwart-wit. Eén van de observaties die me bij bleef: in de digitale ruimte kan een onderdrukkend bewind zijn invloed tot buiten de landsgrenzen uitoefenen, vrij makkelijk zelfs. Panelleden vertelden hoe ze werden gevolgd, bedreigd, afgesloten, beïnvloed en meer, ver buiten het domein van de dictatuur. Maar in het globale, digitale domein. Er werden voorbeelden besproken van actieve, effectieve uitwisseling van tools en expertise tussen bevriende dictaturen; waar commerciële partijen een rol in spelen.
Deze aloude discussie kwam ook voorbij: technologie kan ten goede en ten kwade gebruikt worden. Hoe bevorder je het eerste, en ga je het tweede tegen. Ik blijf maar roepen, in mijn woestijn (?): de impact van wetten en regels op dat tweede is gering. Daar zit De Oplossing niet. Die is er denkelijk niet….
De dag afgesloten met de documentaire “Louder than you think” over het roerige, liquide leven van Gary Young, drummer van Pavement – een invloedrijke band, zegt mij muziekkenner Blom. Ik had en heb geen idee maar geloof dat. Die Young heeft zijn geest ingrijpend verruimd, tijdens zijn carrière, tot op een problematisch niveau. Dat werd duidelijk in de docu, maar ook door zijn verschijning, in de zaal van de bios: gesloopt door drank en middelen sleepte hij zich achter zijn looprek. Tijdens de vertoning pruttelde hij onsamenhangende commentaren, enkele rijen voor ons. Onderhoudend.
Dag 5: klaar. Afgesloten met Koreaanse BBQ.