Door Michiel Buitelaar
Dag 6, kort.
Eerste sessie “Airports: the epicenters of the robot revolution”. Nou daar zit wat in – heel heel heel veel bewegingen, van mensen en spullen, in een grote maar ommuurde ruimte, onder niet-zo-ergonomische omstandigheden, complexe logistiek, scherpe planning, hoge betrouwbaarheidseisen, enzovoorts. Enorme kansen voor ‘automation’ gebruik makend van slimme (AI) robots. Zo had ik er nog niet over nagedacht. Het werd geanimeerd besproken door een scherpe mevrouw en twee dikke baarden. Boeiend.
Het ging eigenlijk allemaal over dingen beter, sneller, goedkoper maken, efficiëntie. Ik zag een Nederlandse hoogleraar opveren in het publiek en het panel vragen: kunt u ook waarde toevoegen voor passagiers, met uw spullenboel? Daar waren ze nog niet echt aan toe, leek het. Maar met wat ze beschreven hebben ze nog jaren werk voor zich.
Vervolgens: “Deepfakes: the primary threat to national security”. Dat bleek grotendeels een marketing event van het bedrijf deepfake.ai, met grootspraak en slordigheden, maar desondanks de moeite waard. En zeker aanzettend tot overpeinzing.
De (geclaimde) feiten: op basis van 5 seconden spraak en 1 foto van een persoon kan dit bedrijf met zijn platform Deep ID een video maken waarin de geportretteerde als talking head een gescript verhaal afsteekt in tientallen talen. De getoonde voorbeelden waren beslist overtuigend, levensecht (ik weet niet of die nog extra geshopt waren – ik denk het niet). Een mysterie in de presentatie voor mij was: wat heeft die vertaling met de deepfake video van doen? Dat lijken mij totaal aparte functionaliteiten. Maar goed. Beide waren imposant. Het bedrijf claimt real-time te kunnen vertalen wat ik niet onmiddellijk geloof, maar wat binnenkort zeker kan, schat ik in. Hier bij SXSW wordt menige presentatie live ondertiteld – niet eens vertaald – op een scherm, wat eigenlijk altijd shit is. Het brengt de kwaliteit van de presentatie omlaag omdat je soms naar een verhaspelde zin als tekstregel op een scherm kijkt die de sprekerd 12 seconden terug uitsprak. Shit, dus. Dat terzijde.
De steeds terugkerende discussie gaat over: technologie kan ten goede of ten kwade gebruikt worden. De nadruk ligt meestal op dat tweede, zo ook nu. Zie de titel. Die mij onzinnig lijkt, meer een vorm van clickbait. Dat komt hier wel vaker voor. De mensheid wil graag in kuddes achter iets aan lopen, wat denk ik ook geïllustreerd wordt door de hypes die hier en elders steevast uitbreken. Ik herinner mij onzinnige, low-impact technologieën als wearables, blockchain, cryptocurrencies, Clubhouse en nog zo wat die bejubeld werden. Ik noem graag de zaligverklaring van Mastodon (is niks, wordt niks) waar je hier niets meer over hoort, of verwoestende cybercrime en cyberwars (grotendeels paranoïde wanen).
Terug naar deepfakes: vooral de gevaren worden overwegend benadrukt – ik denk dat die vooralsnog wel mee vallen. Ik heb nog geen financiële, politieke of militaire meltdowns door deepfakes getriggerd zien worden. Ik probeer te denken aan de winst van deepfakes, in educatie, commercie en meer. Dat onderwerp verdient meer aandacht maar die was hier nauwelijks. Nou, vooruit, het ging ook over restoratie, van oude of verminkte videos – interessant, en gebeurt al. De marketing van dit bedrijf maakt denkelijk meer tractie door een nachtmerrie te communiceren.
Dit bedrijf maakt deepfakes maar – logisch – bedient ook de andere kant, het faciliteert detectie van deepfakes. Het claimt 96% daarvan eruit te pikken. Lijkt mij ruig, maar wie weet. Ik zou benieuwd zijn naar de steekproef, de bronnen en wat dan in die 4% zit. Ik heb dit gecheckt met mensen die er meer van weten dan ik: detectie is een arms race. Du moment dat je detectie goed aan het werk hebt, verzint ‘de andere kant’ iets dat juist het detectiemechanisme voor het lapje houdt. Er zal geen stabiele, lange-termijn detectiemechanisme zijn. Er zal ook geen certificering of watermerk zijn, een soort ‘fair video product’ stempel, wat sommigen hier willen, voorspellen of hopen. Dat gaat er niet zijn. Zoals dat ook niet haalbaar is voor alles dat ik roep, of wat ‘gewone’ media publiceren. Dat gaat niet gebeuren. Deepfakes gaan niet onderdrukt worden. Ik verwacht niks van regulering. Velen zijn dit niet met mij eens!
Over het checken van deepfakes of andere articifiële namaak nog dit, ontleend aan wat muziekman Blom mij influisterde. Met AI zijn immense stromen muziek automatisch te genereren. Die checken op authenticiteit of gelijkenis (copyright!?) is alleen al vanwege de hoeveelheden niet te doen. Het gaat gewoon niet. Ja, potentieel, ooit, wie weet, met een quantum computer (nog iets waarvan de wording betijfeld kan worden, quantum computing….). Maar praktisch: niet. Ook niet voor beelden, al dan niet bewegemd.
Goed punt: de term synthetic media. Klinkt neutraler, is correcter dan deepfake. De wereld is beter af met termen als augmented intelligence en synthetic media. Maakt u hier een aantekening van?
Volgende: “A moonshot for affordable housing”, met de architect Bjarke Ingels, die ik bewonder. De sessie was georganiseerd door ICON, wiens CEO zei dat hij een korte inleiding zou houden en vervolgens een half uur over zichzelf en zijn bedrijf sprak, zichzelf tevreden horned met een stomme hoed op, voordat het panel begon. #howcanimakethisaboutme, dank u. Wat een eikel. Hij kondigde een prijsvraag aan voor ontwerp van een spotgoedkoop huis dat het tekort van ca 1.2 miljard woningen op deze planeet zou moeten helpen aanpakken.
Ik ben in de val gelopen van mijn culturele bias: ik dacht dat het over huizen van $99 ging – ruig, maar daar zijn moonshots voor. Die moeten iets opleveren van een orde van grootte verschillend van de huidige praktijk. Ik dacht aan de huizenparken van de UNHCR (IKEA, $1,250) of aan doe-het-zelf huisjes in de buurt waar ik woon (Blantyre, Malawi – vele daarvan net weggespoeld met de bewoners erin), en dan een nulletje ervanaf, of zo. Neen, het bleek te gaan om huizen van $99,000! Dat noem ik geen moonshot. Dat bedrag ligt buiten bereik van een heel groot deel van de bewoners van deze planeet, zelfs die in rijke sferen. Wat een domper (sessie), wat een naïviteit (ik).
Slot sessie: “Welcoming our autonomous overlords”, over self-driving trucks. De economische impact daarvan is gigantisch maar het onderwerp krijgt veel minder airtime dan self-driving cars, lijkt mij. Overigens is vrachtvervoer over de weg in de USA veel belangrijker dan in Europa: ca 7-% van de goederen gaat hier per truck, zei men. Die trucks rijden maximaal 11 uur per dag; en er is een enorm tekort aan chauffeurs. Tel maar uit wat de denkbare impact is, in het extreme (niet zo realistische) geval van 24/7, zonder chauffeurs. Maar dat heb ik hier 5-6 jaar geleden al gehoord: wat is er (niet) gebeurd? Daar ging het panel netjes en eerlijk op in. Dat zou menig panel vaker kunnen doen, want de verwachtingen zijn hier dikwijls hooggespannen. Of zelfs irrealistisch. Dit panel benoemde eerlijk de ‘irrational exuberance’ (uitbundigheid) die op events als dit soms rond zoemt. Dat heb ik meermaals meegemaakt, het is een veel voorkomende vorm van kudde denken onder zelfbenoemde tech deskundigen. Die zitten er vaak naast hoor. Maar soms daalt een thema af van die piek van onzinnige vrolijkheid, gaat door een zekere teleurstelling heen, en blijkt langzaam toch verder te komen, richting de echte wereld. Ik vermoed dat dat voor autonome vrachtwagens geldt, in Amerika veel meer dan elders, maar dat het nog lang gaat duren. Het lijkt mij – ik neig naar solide scepsis – alleszins mogelijk, op lange termijn, met enorme economische impact. Ik berg mijn glazen bol weer op.
Dag 6: klaar.