'Waarom zijn we weer menselijke proefkonijnen?' Amy Webb bezorgd over slechte voorbereiding op de impact van AI

Featured Session: Amy Webb Launches 2023 Emerging Tech Trend Report

Amy Webb is een van de bekendere vaste sprekers tijdens South by Southwest. Waarom? Ik denk omdat ze je het gevoel kan geven dat je weet wat er gaat komen en je daarop kunt voorbereiden. Een beetje houvast. Elk jaar spreekt ze over de uitkomsten van het jaarlijkse Tech Trend Report. En ze doet dat op een hele toegankelijke manier: met humor. Niet gek dus dat het hele Convention Center al vroeg in de ochtend een grote rij was. 

Het begint meteen al leuk. "Je hebt een sterke maag nodig", zegt ze vooraf. Maar ook: "We eindigen met hoop." 

Volgens Amy is het een grote chaos op dit moment. Sinds corona lopen er veel ontwikkelingen door elkaar en is het lastiger dan ooit om er conclusies aan te verbinden. We worden overdonderd. En we zoeken houvast door vooral te letten op wat we al kennen, wat meteen een risico is. Maar als we uitzoomen, wordt het chaos en raken we nog meer overdonderd.

Focus

De kunst is om je op de juiste manier te focussen. Als voorbeeld laat ze een autostereogram zien. Je kent het wel, zo'n artistieke op het eerste oog willekeurige compositie waar je een 3D-afbeelding in kunt zien als je er als het ware doorheen probeert te kijken. 

De kunst is volgens haar om patronen te vinden. Punten met elkaar verbinden. 'Focus' is daarom dit jaar het thema van het trendrapport. Of eigenlijk: rapporten. Het zijn er 15. Er staan maar liefst 666 trends in. Ze deelt er vandaag 35. En we krijgen de opdracht om ze voor onszelf in te delen in trends waarbij je meteen in actie moet komen, waar je over na moet denken en die je vooral wil volgen. 

Einde van het internet zoals we het kennen

Het is het einde van het internet zoals we het kennen, volgens Amy. We kennen het als een wereldwijd netwerk waarmee informatie wordt gedeeld. Maar wat als jij niet zoekt op het internet, maar het internet jou zoekt? Ze noemt het zoeken versie 3. Versie 1 is linkjes, versie 2 stukken tekst, video's en afbeeldingen. 

En nu heb je AI die getraind wordt met allerlei soorten data. Wat het vooral doet, is met taalmodellen voorspellen wat het volgende stukje informatie wordt. Het werkt een beetje zoals je brein zelf, legt Amy uit, met neurale netwerken. Maar, zegt ze er meteen bij, ze worden ook bijgestuurd door mensen. We weten alleen niet wie dat zijn en hoe ze dat doen. 

Niet voorbereid

Wist je dat ChatGPT 2 cent per opdracht kost? Een zoekopdracht in Google is zeven keer goedkoper. Er is veel rekenkracht nodig en veel opslagruimte in de cloud. Maar dat is volgens Amy niet het grote struikelblok nu. Wat dat wel is? Data. Niet alleen de hoeveelheid, maar ook hoe het wordt vergaard. En dat gaat ver. Ze legt uit hoe het thuisonderwijs allerlei nieuwe data heeft opgeleverd. En dat Google zelfs een datamodel voor geur heeft. Handig om een stof te vinden die muggen afschrikt. 

De komende twee jaar gaat er veel veranderen. En we zijn er volgens Amy niet op voorbereid, als AI op allerlei manieren invloed gaat hebben op wat we maar doen. Een van de risico's is bijvoorbeeld dat alleen de grote techbedrijven technisch in staat zijn om de opslagruimte in de cloud te beheren. Een andere is dat beleidsmakers achterlopen. 

Menselijke proefkonijnen

"Waarom zijn we weer menselijke proefkonijnen?", vraagt Amy zich gefrustreerd af. Volgens haar zijn grote techbedrijven al druk bezig met het samenwerken met AI-bedrijven. Wat ertoe kan leiden dat je als gebruiker minder keus krijgt. Alles is informatie. Systemen zoeken ons. We moeten onszelf vragen stellen als: wat als? En daarvoor heb je scenario's nodig. 

Een andere zorg is dat Generatieve AI op dit moment veel fouten maakt. En dat het gebaseerd is op vooroordelen. "We gaan vertrouwen op deze systemen, omdat ze heel goed zijn. Maar ik word er Spaans benauwd van."

Twee scenario's voor 2033

Amy schetst twee scenario's voor 2033. Positief: er is transparantie. Je hebt de keus om data wel of niet te delen. Het leven is makkelijker. Abonnementen bestaan niet meer. Je betaalt één bedrag en krijgt wat je wil. Je hebt een apparaat thuis dat een geur kan maken om muggen te bestrijden.

Negatief: we waren niet voorbereid. Informatie jaagt je achterna. Systemen doen marketing zonder menselijk ingrijpen. Je vindt nooit meer wat je wil. Algoritmes bepalen wat je te zien krijgt, op basis van jouw data. Of je het nou wil of niet. En of het nou relevant is of niet. Hoe meer we het gebruiken, hoe meer informatie van ons er gebruikt kan worden door het algoritme. Maar niet op de goede manier. Amy schat in dat de kans dat het goed gaat 20 procent is. 

Nieuwe kloof

Generatieve AI werkt met prompts, opdrachten. Goede prompts zijn moeilijk te schrijven. Je moet dat leren. Een simpele vraag stellen kan iedereen. Maar een vraag stellen op een manier waarop je er ook echt iets aan hebt, moet je leren. "Maar wat doen we? We leren het niet aan, we verbieden ze." Banken, scholen, onderzoeksinstituten. 

We creëren weer een kloof tussen mensen die dit nu leren en een enorme voorsprong hebben op mensen die het niet kunnen. En dat is iets waar je je zorgen over moet maken, vindt Amy. Onderwijs is niet goed gefinancierd. Er is een nieuwe onderwijsvorm nodig. En dan bedoelt ze niet dat de leraar vervangen moet worden door AI. 

Van fictie naar realiteit

Een voorbeeld van hoe ons leven gaat veranderen door tools is volgens haar hoe een chirurgische ingreep nu wordt gedaan. Een chirurg snijdt met de hand en het risico op fouten is groot. Met hulp van tools kan dat veel beter. Ze denkt dat we over een tijdje niet meer kunnen geloven dag chirurgen ooit zonder hulpmiddel opereerden. 

"We gaan van fictie naar realiteit." Maar ze is hoopvol. Vanwege ons in de zaal. Omdat we kwamen opdagen. En we allemaal een betere toekomst willen. "We moeten focussen op de goede trends en er met elkaar over praten."

Het rapport, de presentatie en heel veel meer vind je op deze gedeelde Drive.

Comments

Ik was om 9.15 in het ACC en kwam er niet meer in (10 uur aanvang). Des te groter is mijn dank! Good work!
Ja bizar druk was het! Ik was er om 9u en was lange tijd ook bang dat ik er niet in kwam.
Vorig jaar was het lekker rustig post covid. Het lijkt dit jaar wel drukker dan ooit.
Big Thnx :) Wilde deze erg graag volgen, maar ook wij kwamen onmogelijk binnen. Bizar hoe jij dit live blogt! 🤘

Add a comment