'Waarom zijn we weer menselijke proefkonijnen?' Amy Webb bezorgd over slechte voorbereiding op de impact van AI

Featured Session: Amy Webb Launches 2023 Emerging Tech Trend Report

Amy Webb is een van de bekendere vaste sprekers tijdens South by Southwest. Waarom? Ik denk omdat ze je het gevoel kan geven dat je weet wat er gaat komen en je daarop kunt voorbereiden. Een beetje houvast. Elk jaar spreekt ze over de uitkomsten van het jaarlijkse Tech Trend Report. En ze doet dat op een hele toegankelijke manier: met humor. Niet gek dus dat het hele Convention Center al vroeg in de ochtend een grote rij was. 

Het begint meteen al leuk. "Je hebt een sterke maag nodig", zegt ze vooraf. Maar ook: "We eindigen met hoop." 

Volgens Amy is het een grote chaos op dit moment. Sinds corona lopen er veel ontwikkelingen door elkaar en is het lastiger dan ooit om er conclusies aan te verbinden. We worden overdonderd. En we zoeken houvast door vooral te letten op wat we al kennen, wat meteen een risico is. Maar als we uitzoomen, wordt het chaos en raken we nog meer overdonderd.

Focus

De kunst is om je op de juiste manier te focussen. Als voorbeeld laat ze een autostereogram zien. Je kent het wel, zo'n artistieke op het eerste oog willekeurige compositie waar je een 3D-afbeelding in kunt zien als je er als het ware doorheen probeert te kijken. 

De kunst is volgens haar om patronen te vinden. Punten met elkaar verbinden. 'Focus' is daarom dit jaar het thema van het trendrapport. Of eigenlijk: rapporten. Het zijn er 15. Er staan maar liefst 666 trends in. Ze deelt er vandaag 35. En we krijgen de opdracht om ze voor onszelf in te delen in trends waarbij je meteen in actie moet komen, waar je over na moet denken en die je vooral wil volgen. 

Einde van het internet zoals we het kennen

Het is het einde van het internet zoals we het kennen, volgens Amy. We kennen het als een wereldwijd netwerk waarmee informatie wordt gedeeld. Maar wat als jij niet zoekt op het internet, maar het internet jou zoekt? Ze noemt het zoeken versie 3. Versie 1 is linkjes, versie 2 stukken tekst, video's en afbeeldingen. 

En nu heb je AI die getraind wordt met allerlei soorten data. Wat het vooral doet, is met taalmodellen voorspellen wat het volgende stukje informatie wordt. Het werkt een beetje zoals je brein zelf, legt Amy uit, met neurale netwerken. Maar, zegt ze er meteen bij, ze worden ook bijgestuurd door mensen. We weten alleen niet wie dat zijn en hoe ze dat doen. 

Niet voorbereid

Wist je dat ChatGPT 2 cent per opdracht kost? Een zoekopdracht in Google is zeven keer goedkoper. Er is veel rekenkracht nodig en veel opslagruimte in de cloud. Maar dat is volgens Amy niet het grote struikelblok nu. Wat dat wel is? Data. Niet alleen de hoeveelheid, maar ook hoe het wordt vergaard. En dat gaat ver. Ze legt uit hoe het thuisonderwijs allerlei nieuwe data heeft opgeleverd. En dat Google zelfs een datamodel voor geur heeft. Handig om een stof te vinden die muggen afschrikt. 

De komende twee jaar gaat er veel veranderen. En we zijn er volgens Amy niet op voorbereid, als AI op allerlei manieren invloed gaat hebben op wat we maar doen. Een van de risico's is bijvoorbeeld dat alleen de grote techbedrijven technisch in staat zijn om de opslagruimte in de cloud te beheren. Een andere is dat beleidsmakers achterlopen. 

Menselijke proefkonijnen

"Waarom zijn we weer menselijke proefkonijnen?", vraagt Amy zich gefrustreerd af. Volgens haar zijn grote techbedrijven al druk bezig met het samenwerken met AI-bedrijven. Wat ertoe kan leiden dat je als gebruiker minder keus krijgt. Alles is informatie. Systemen zoeken ons. We moeten onszelf vragen stellen als: wat als? En daarvoor heb je scenario's nodig. 

Een andere zorg is dat Generatieve AI op dit moment veel fouten maakt. En dat het gebaseerd is op vooroordelen. "We gaan vertrouwen op deze systemen, omdat ze heel goed zijn. Maar ik word er Spaans benauwd van."

Twee scenario's voor 2033

Amy schetst twee scenario's voor 2033. Positief: er is transparantie. Je hebt de keus om data wel of niet te delen. Het leven is makkelijker. Abonnementen bestaan niet meer. Je betaalt één bedrag en krijgt wat je wil. Je hebt een apparaat thuis dat een geur kan maken om muggen te bestrijden.

Negatief: we waren niet voorbereid. Informatie jaagt je achterna. Systemen doen marketing zonder menselijk ingrijpen. Je vindt nooit meer wat je wil. Algoritmes bepalen wat je te zien krijgt, op basis van jouw data. Of je het nou wil of niet. En of het nou relevant is of niet. Hoe meer we het gebruiken, hoe meer informatie van ons er gebruikt kan worden door het algoritme. Maar niet op de goede manier. Amy schat in dat de kans dat het goed gaat 20 procent is. 

Nieuwe kloof

Generatieve AI werkt met prompts, opdrachten. Goede prompts zijn moeilijk te schrijven. Je moet dat leren. Een simpele vraag stellen kan iedereen. Maar een vraag stellen op een manier waarop je er ook echt iets aan hebt, moet je leren. "Maar wat doen we? We leren het niet aan, we verbieden ze." Banken, scholen, onderzoeksinstituten. 

We creëren weer een kloof tussen mensen die dit nu leren en een enorme voorsprong hebben op mensen die het niet kunnen. En dat is iets waar je je zorgen over moet maken, vindt Amy. Onderwijs is niet goed gefinancierd. Er is een nieuwe onderwijsvorm nodig. En dan bedoelt ze niet dat de leraar vervangen moet worden door AI. 

Van fictie naar realiteit

Een voorbeeld van hoe ons leven gaat veranderen door tools is volgens haar hoe een chirurgische ingreep nu wordt gedaan. Een chirurg snijdt met de hand en het risico op fouten is groot. Met hulp van tools kan dat veel beter. Ze denkt dat we over een tijdje niet meer kunnen geloven dag chirurgen ooit zonder hulpmiddel opereerden. 

"We gaan van fictie naar realiteit." Maar ze is hoopvol. Vanwege ons in de zaal. Omdat we kwamen opdagen. En we allemaal een betere toekomst willen. "We moeten focussen op de goede trends en er met elkaar over praten."

Het rapport, de presentatie en heel veel meer vind je op deze gedeelde Drive.

OpenAI: een revolutie in de wereld van AI? (Door ChatGPT 🤓)

Featured Session: OpenAI Co-founder on ChatGPT, DALL·E, and the Impact of Generative AI

Auteur: Gerson Veenstra/ChatGPT

Dat AI dit jaar een belangrijk thema ging worden tijdens South by Southwest, kan voor niemand een verrassing zijn. Al denk ik dat de organisatie ook niet had verwacht dat het de laatste maanden zo'n vlucht zou nemen, met name door ChatGPT. Als je dan mede-oprichter Greg Brockman van OpenAI (het bedrijf achter ChatGPT) in een sessie zet, dan weet je: het wordt druk. Het leek wel alsof iedereen hier naar deze sessie wilde. 

Maar een blog schrijven over OpenAI zonder ChatGPT te gebruiken, kan natuurlijk niet. Dus vroeg ik ChatGPT om op basis van mijn aantekeningen de blog voor mij te schrijven. Het resultaat lees je hieronder (en je mag er zelf je oordeel over geven). 

OpenAI is een onderzoeksbedrijf dat zich richt op de ontwikkeling van kunstmatige intelligentie (AI). Het bedrijf werd in 2015 opgericht als een non-profitorganisatie met als doel alle ontwikkelingen op het gebied van AI open source te maken. Het doel was om AI toegankelijk te maken voor iedereen en te zorgen voor een verantwoorde ontwikkeling van deze technologie. In de afgelopen jaren heeft OpenAI zich ontwikkeld tot een van de belangrijkste spelers in de AI-wereld.

Een van de bekendste producten van OpenAI is ChatGPT. In november 2022 werd deze tool gelanceerd en binnen 2 maanden had het al meer dan 100 miljoen gebruikers. Het was de eerste keer dat een AI-tool zo snel zo'n grote gebruikersgroep wist te bereiken. Greg Brockman, de CEO van OpenAI, was verbaasd over het succes van ChatGPT. Hij legt uit dat het voor hen geen nieuwe technologie was, maar dat ze het toegankelijk hebben gemaakt voor iedereen. Het grote succes van ChatGPT is te verklaren doordat het mensen heeft laten zien wat er mogelijk is met AI.

Bij de lancering van ChatGPT was Brockman wel bezorgd. Ze hadden veel getest, maar het mocht niet gebeuren dat de tool na 3 dagen weer offline zou moeten. Brockman benadrukt het belang van ethiek bij de ontwikkeling van AI en het belang van een publiek debat over dit onderwerp. OpenAI is daarom ook in gesprek met beleidsmakers om afspraken te maken over het gebruik van AI en de ethische kwesties die daarbij komen kijken.

Een ander belangrijk onderwerp is de vraag welke banen in de toekomst overgenomen zullen worden door AI. Brockman dacht in eerste instantie dat fysiek werk het meest in gevaar zou zijn, maar dat blijkt tegen te vallen. Mensen kunnen meer dan we denken, maar banen als content moderator zullen waarschijnlijk wel overgenomen worden door AI.

Brockman benadrukt het belang van samenwerking tussen AI en mensen. AI kan mensen helpen bij het creëren van content en het vinden van betrouwbare informatie. Het is belangrijk om AI te zien als een tool die de vaardigheden van mensen versterkt, in plaats van als een vervanger van menselijke vaardigheden.

OpenAI heeft als doel om de ontwikkeling van AI op een verantwoorde manier te laten verlopen. Het bedrijf vraagt veel input van mensen om betere beslissingen te nemen en te zorgen voor een verantwoorde ontwikkeling van deze technologie. AI kan de wereld helpen en het is belangrijk om ervoor te zorgen dat dit op een verantwoorde manier gebeurt.

Een handgeschreven verslag door Erwin Blom, lees je hier.

De Disney-robot: hoe innovatie de 100 jaar oude missie van Walt Disney levend houdt

Featured Session: Creating Happiness: The Art & Science of Disney Parks Storytelling

Ik had ook kunnen kiezen voor de sessie 'Why Journalists and Futurists Need to Talk'. Dat lag misschien iets meer voor de hand, gezien mijn achtergrond. Maar ja, ik zat al in Ballroom D, het is druk, ik ben Disneyfan en als ik van de vorige 5 edities iets heb geleerd, is het wel om juist naar sessies te gaan die misschien niet helemaal logisch zijn. En hé, willen we niet allemaal weten hoe Disney het voor elkaar krijgt dat je zelfs een man van 46 nog kind kunt laten voelen? 😉

Voor ons staat een bevlogen man. Topman Josh D’Amaro van Disney. Enthousiast: "Ik ben een geluksvogel." En het valt niet heel erg op, maar onder zijn jasje is duidelijk een Mickey-shirt te zien. Deze man werkt al 25 jaar voor Disney en komt ons vertellen wat het geheim is achter de missie van Disney: geluk creëren. 

Storytelling, creativiteit en innovatie

Het is een Amerikaans succesverhaal. Van een startup in een garage van Walt Disney in de roerige jaren 20, waarbij het uiteraard eerst ook bijna misging, naar de doorbraak in 1928 met de komst van Mickey Mouse. Al snel werd Disney een synoniem voor geluk. In 1955 werd Disneyland geopend, waarbij Walt Disney de hoop uitsprak dat het geluk en inspiratie voor de hele wereld zou opleveren. Nu zijn er over de hele wereld 12 parken en werken er 170 duizend mensen bij Disney. 

Het gaat bij Disney om drie dingen, vertelt D'Amaro: storytelling, creativiteit en innovatie. En allemaal met als doel: meer geluk in de wereld. Wat geluk is? We hebben allemaal wel een idee. "Je kunt het voelen, zoals ik het nu voel nu ik hier sta op het podium. Maar het is meer nog een gedeelde ervaring." En, benadrukt hij: het is goed voor je. Je slaapt beter, leeft langer en bent creatiever. Gelukkige mensen maken de wereld een betere wereld. 

Details zijn belangrijk

"We houden altijd onze gasten en hun dromen in gedachten", vertelt D'Amaro. Disney World kan volgens hem alleen de meest magische plek in de wereld zijn, omdat het allemaal gaat om verhalen. En details. Hij laat sporen in het beton zien van het Star Wars-themagebied in Disney World. Als bezoeker zal het je misschien niet opvallen, maar ze zijn gemaakt met het originele R2D2-model. "De verhalen, de techniek waarmee ze zijn gemaakt en de details, zorgen ervoor dat je alles vergeet." 

Dat geldt ook voor muziek en geluid. Wie kent niet het liedje van It's a Small World? Maar tegenwoordig gaat het meer om een combinatie van muziek en geluid. Zodat je in een themagebied ook voelt alsof het echt is. Muziek is een belangrijke tool voor het creëren van geluk, zegt D'Amaro. 

Een echte lightsaber

Dan ineens wordt het echt leuk als het gaat over innovatie. D'Amaro laat een lightsaber zien die echt werkt. Niet zo'n speelgoedding die we allemaal kennen, maar een echte, zoals in de films. Hoe bedenk je dat je zoiets echt gaat maken? Niemand heeft erom gevraagd. Maar ze wisten: als ons dit lukt, weten we zeker dat het een succes wordt. 

Het maken was een enorme uitdaging. Er zijn wel 100 prototypes gemaakt. Alle onderdelen zijn nieuw gemaakt. Er moest zelfs een aparte oven voor gemaakt worden, vertelt de ontwikkelaar. En het was het absoluut waard, volgens D'Amaro. Hij noemt het aandoen van het lichtzwaard een iconisch moment: elke keer dat je hem aanzet ben je overdonderd. Dat geldt zeker voor de zaal. 

"Tinkerbell is echt"

Maar er is meer. Want hoe zorg je er bijvoorbeeld voor dat hele kleine of hele grote Disney-personages 'tot leven komen'. Het voorbeeld dat veel indruk maakt, is Tinkerbell. D'Amaro haalt een soort lantaarn tevoorschijn met een heel echt lijkende kleine Tinkerbell. Die een live-gesprek voert en vragen beantwoordt. Het is een live performer die als het ware geprojecteerd wordt in de lantaarn, legt D'Amaro uit. 

Het is 3 jaar geleden bedacht tijdens corona. Wat ze wilden, was iets maken dat het personage nog realistischer zou maken. Volwassenen waren tot tranen geroerd toen ze het voor het eerst zagen, vertelt een van de ontwikkelaars. En uiteraard waren er ook sceptische gasten. De jongste gasten waren meteen overtuigd: Tinkerbell is echt. 

De Disney-robot

Maar het mooiste kwam aan het eind. Een primeur. De Disney-robot die op dit moment wordt ontwikkeld. Kijk zelf maar:

En een nog beter perspectief:

100 jaar oude missie

Natuurlijk kun je ook heel kritisch zijn over Disney. Ben ik geregeld ook, geef ik toe. Ook al kom ik heel vaak in Disneyland Parijs en heb ik de parken in Amerika vaak bezocht. Als je hoort hoe het bedrijf zo gelooft in de missie die Walt Disney 100 jaar geleden bedacht en wat ze doen om dat levend te houden met storytelling, creativiteit en innovatie, moet je daar wel respect voor hebben. 

Hoe racisme het leven van Simran Jeet Singh bepaalde en hij er toch een positieve draai aan heeft gegeven

Opening Speaker: Simran Jeet Singh in Conversation with Laurie Santos

Racisme: discriminatie op basis van huidskleur. Ik schrijf het op en denk bij mezelf: ja, ik weet wat dat is. En dat het niet zou moeten bestaan. En ik ken de voorbeelden van mensen die er gebukt onder gaan. En toch, ik heb het niet meegemaakt en zal het waarschijnlijk nooit meemaken. Daarom is een verhaal als dat van Simran Jeet Singh zo belangrijk. Hij is Sikh en vertelt wat het met zijn leven heeft gedaan en heeft tegelijkertijd een hele positieve boodschap: zoek altijd het goede in de mens.

Zo positief als hij nu is ingesteld, was Simran niet altijd. Hij vertelt dat hij opgroeide op een uur vanaf het Austin Convention Center. Maar dat hij niet had gedacht dat hij er ooit zou spreken tijdens SXSW. Sterker nog, hij wist niet eens dat het bestond. 

'Ik moet je controleren'

Hij was 11 toen iemand hem voor het eerst een terrorist noemde. Een scheidsrechter kwam bij een voetbalwedstrijd naar hem toe en zei: "Ik weet dat mensen zoals jullie bommen plaatsen en wapens verbergen. Ik moet je controleren." Hij wist niet wat te doen. Hij was 11 en stemde ermee in. Maar hij was woest op zichzelf. Hij vroeg zich af: waarom gaf ik toe aan zijn racisme en waarom kwam ik niet op voor mezelf? Een paar weken later vergaf hij zichzelf en nam zich voor de volgende keer wel iets te doen. 

Die volgende keer duurde niet heel lang. Tijdens een basketbalwedstrijd maakte een vriend een racistische opmerking en trok de tulband van zijn hoofd. Hij had zichzelf voorgenomen dit keer wel wat te doen, dus begon te slaan. Teamleden moesten ingrijpen. Toen hij in de kleedkamer het bloed aan het wegpoetsen was, voelde hij toch weer teleurstelling. Niks doen was niet goed, maar vechten ook niet. En hij realiseerde zich dat dit een worsteling zou zijn voor de rest van zijn leven. Daarom ging hij op zoek naar een middenweg. Hoe kun je van mensen houden die niet van jou houden? 

'Rot op met je vodden'

In de vierde klas was er een nieuw incident. Hij was met zijn gezin bij een rollerskatepark in San Antonio en zou daar met vrienden en hun familie een leuke dag hebben. Toen de manager hem, zijn broertje en zijn moeder zag, schreeuwde hij: "Rot op met die vodden op je hoofd." Zijn moeder ging naar hem toe om te praten. Omdat het lang duurde, ging Simran kijken. En hij zag dat zijn moeder huilde. Hij begon automatisch ook te huilen. Ze vroeg aan hem: waarom huil je? Omdat het oneerlijk was, antwoordde hij. "Maar daarom huil ik niet", zei zijn moeder. "Ik huil omdat ik zo gelukkig ben." 

Simran dacht dat hij gek werd en zijn moeder niet snapte wat er aan de hand was. "Nee, zei ze. Ik huil omdat alle andere ouders besloten hebben om ook weg te gaan." En hij vertelt dat hij nog steeds voelt wat hij op dat moment voelde. Ik denk de zaal ook. Hij kende het woord solidariteit niet, maar voelde het. "Een moeder voelt zich waarschijnlijk zo hopeloos als zoiets gebeurt. Maar zij vond een manier die beter was dan vluchten of vechten. Ze vroeg om solidariteit. En kreeg dat." Waarbij Simran meteen meer begrip kreeg van zijn vriendjes. Ze creëerde optimisme tijdens hopeloosheid. 

'Ineens was ik de vijand'

En toen kwam 9/11. Simran was 18 en was op de universiteit toen het gebeurde. Met zijn klasgenoten volgde hij het nieuws op tv. Na een uur was er een verdachte: Osama bin Laden. En meteen zonk de moed hem in de schoenen. Hij zag dat zijn klasgenoten naar hem keken. Niet omdat ze hem de schuld gaven, maar omdat ze zich realiseerden dat zijn leven moeilijker zou worden. En ze hadden gelijk. Zijn leven veranderde voorgoed. Voor het eerst moesten ze de auto op slot doen toen ze er in zaten. 

"Eerst was ik die ander, nu was ik de vijand." Uit de gemeenschap werden mensen aangevallen. Wat doe je als de hele wereld je anders ziet dan jezelf? Voor hem is zijn tulband een teken van zijn normen en waarden. Voor anderen een teken van terrorisme. Na een paar dagen kwam zijn vader binnen en zei: wat hebben we toch een geluk. Simran verbaasd: hoezo? Zijn vader: "Heb je niet gemerkt dat buren langskwamen om eten te brengen, leraren en klasgenoten bellen om te vragen hoe het gaat?" Voor Simran een les voor het leven. 

'We vergeten het goede'

Simran zegt: we kunnen kiezen hoe we de wereld zien. Onze eerste impuls is: focus op het negatieve. We vergeten het goede. Wat ook om ons heen is tegelijkertijd. Er is altijd licht om ons heen. De zon schijnt altijd. Maar je perspectief bepaalt of je het ziet. "Als het slecht gaat en er geen hoop lijkt, ga ik naar buiten en kijk ik naar mensen. En ik zie dat mensen goed zijn. Willekeurige voorbeelden van goede daden zijn niet willekeurig. We merken het alleen niet op. Zoek het goede, vind het licht." 

Maar, geeft hij meteen toe: dat gaat niet vanzelf. Je moet er hard voor werken, je hele leven lang. Hijzelf ook. Maar als je het eenmaal in je systeem hebt, dat blijven focussen op het negatieve je niet helpt en op het goede juist wel, je het voelt in je lijf. En het makkelijker wordt. Simran krijgt een staande ovatie na afloop.