Parmy Olson: Opdelen grote techbedrijven kwestie van tijd

Nov 7, 2024

Dit zijn de gedachten van Parmy Olson. Het afgelopen jaar werd ze uitgeroepen tot Digital Journalist of the Year. Ze volgt de ontwikkelingen in Silicon Valley al jaren nauwgezet, aanvankelijk bij The Wall Street Journal, tegenwoordig als columnist voor Bloomberg.

Olson constateert dat de meeste initiatieven rond AI met vage ideeën begonnen om de wereld te verbeteren. AI zou de klimaatverandering tackelen, een einde maken aan de armoede in de wereld en een oplossing leveren voor de belangrijkste problemen rond de gezondheidszorg.

Inmiddels hebben de grote Amerikaanse technologiebedrijven de touwtjes stevig in handen. Daarbij draait het er enkel om mensen langer aan hun smartphone te kluisteren om zodoende meer advertentiegeld binnen te hengelen. Het geweten van bezorgde programmeurs wordt gesust met miljoenensalarissen.

Olson schreef dit jaar het boek ‘Supremacy’. Daarin gaat het over de hegemonie van de sector en over overheden die grotendeels vanaf de zijlijn toekijken. Financial Investigator had een gesprek met haar over een op hol geslagen sector.

In de afgelopen twaalf maanden zijn er meer dan honderd boeken geschreven over AI en de ontwikkelingen op dat gebied. Wat voegt uw boek toe?

‘Ik volg de ontwikkelingen rond AI en AGI (artificial general intelligence) al jaren en was vooral gefascineerd door de ontwikkelingen binnen DeepMind, het Britse bedrijf dat een hoofdrol speelt op het AI-front. De onderneming werd in 2014 overgenomen door Google. Tal van programmeurs, inclusief oprichter Demis Hassabis, waren bezorgd over de manier waarop hun bedrijf werd ingepalmd door Google.

Er was een jarenlange strijd om weer zelfstandig te worden, een streven dat aanvankelijk werd gesteund door de Googlebestuurders. Van uitstel kwam afstel. DeepMind is nu een integraal onderdeel van Google en cruciaal voor de winstmogelijkheden in de toekomst. Het zou me niet verbazen als Hassabis de volgende bestuursvoorzitter wordt.

De ontwikkelingen zorgden voor veel onrust onder tal van programmeurs. Daar heb ik de afgelopen jaren al regelmatig over geschreven. In dit boek wordt het een samenhangend geheel dat hopelijk een bijdrage levert aan de discussie.’

 

De druk om enorme en machtige AI-ondernemingen op te breken, zal alleen maar groter worden.

 

De ontwikkelingen ten aanzien van AI gaan razendsnel. Voor velen begon dat met de introductie van ChatGPT door OpenAI. In dat bedrijf rommelt het ook. Hoe kijkt u daarnaar?

‘Veel van de toepassingen waarmee OpenAI, via ChatGPT, een revolutie ontketende, zijn ontstaan binnen DeepMind. Alphabet, het moederbedrijf van Google en eigenaar van DeepMind, was echter huiverig om er gebruik van te maken, omdat het gevoel bestond dat het ten koste zou gaan van de aantrekkelijkheid van de Searchactiviteiten van Google, nog altijd de leverancier van het leeuwendeel van de winst van de onderneming. OpenAI is een fascinerende onderneming waar het maken van winst lange tijd verboden was. Er heeft een geleidelijke omslag plaatsgevonden. Dat gebeurde in de eerste plaats door het verkopen van een minderheidsbelang aan Microsoft. Microsoft leverde de miljarden die nodig waren om de peperdure computers en programmeurs te betalen. Het bedrijf schoof steeds meer op in de richting van het leveren van lucratieve toepassingen van AI, zoals ChatGPT. Dat leidde eind 2023 tot het ontslag van CEO Sam Altman, die volgens het bestuur van de onderneming een loopje zou nemen met de liefdadige doelstellingen van de onderneming. Binnen enkele dagen was hij weer terug, vooral omdat de meeste programmeurs zich verzetten tegen zijn vertrek. Inmiddels heeft er een bijna volledige schoonmaak plaatsgevonden en is het maken van winst belangrijk geworden.’

Toezichthouders zijn langzaam met ingrijpen. Waar wordt dat door veroorzaakt?

‘Het heeft voor een deel te maken met het imago dat technologiebedrijven op weten te houden. Het ‘Do no Evil’ was jarenlang het motto van de sector. Daar is natuurlijk een kentering in gekomen met ontwikkelingen rond Facebook en Twitter.

Als het gaat om de strijd om meer regels voor AI-toepassingen zijn er feitelijk twee richtingen. Aan de ene kant heb je de zogenoemde ‘AI-doomers’ die zich vooral zorgen maken dat AI-technologie op een gegeven moment superieur wordt aan de mens en het heft in eigen handen neemt. Binnen de grote technologiebedrijven zijn mensen van harte bereid daarover mee te denken. Het klinkt beangstigend, maar het is tegelijkertijd niet erg concreet.

Daarnaast zijn er veel mensen, ook binnen de grote technologiebedrijven, die zich zorgen maken over de huidige toepassingen van AI. De gebruikte computermodellen maken gebruik van gigantische hoeveelheden informatie, maar deze informatie is op tal van manieren gekleurd. De resultaten zijn in veel gevallen discriminerend ten opzichte van minderheden.

 

Computermodellen maken gebruik van gigantische hoeveelheden informatie, maar deze informatie is op tal van manieren gekleurd.

 

Bedrijven geven dat zelf toe, maar de middelen die ze beschikbaar stellen om dit soort problemen te voorkomen, verschralen bij het geld dat wordt gebruikt om zoekmachines efficiënter te maken en advertenties nog specifieker toe te snijden op de wensen en verlangens van gebruikers.’

Toezichthouders zijn misschien laat, maar er wordt toch wel aan toezicht gewerkt, zoals met de Digital Act van de EU?

‘Dat is inderdaad het geval. De EU ligt zeker een stap voor op de Verenigde Staten. Er zitten veel goede punten aan de AI Act van de EU. Het benoemt de risico’s die worden gelopen rondom AI-toepassingen. De kritiek vanuit de sector is dat het te vaag is, dat ze niet weten waar ze aan toe zijn.

Die kritiek is niet helemaal onterecht. Het is te hopen dat de regelgeving in de loop van de jaren wordt aangescherpt. Dat is heel goed mogelijk, want de hele Digital Act wetgeving binnen de EU is zo opgesteld dat deze stapsgewijs kan worden verbeterd.

De grote techbedrijven houden de boot af. Ze willen liever dat ze dit soort initiatieven in eigen hand kunnen houden, maar het gaat eenvoudigweg om te veel geld, en de consequenties van het verspreiden van misinformatie zijn zo groot, dat het onontkoombaar is dat toezichthouders assertiever gaan optreden.

De technologie rondom AI wordt beheerst door een kleine groep van bedrijven. Alphabet, Microsoft, Meta en Amazon zijn de grootste spelers. Ik heb berekend dat de waarde van deze ondernemingen, samen met Apple en Nvidia, de grootste leverancier van AI-halfgeleiders, sinds de introductie van ChatGPT nog geen twee jaar geleden met $ 6.000 miljard is gestegen. Dat is na de correctie op de markt van enkele maanden geleden, want de stijging was meer dan $ 8.000 miljard. Dat zijn ontstellende bedragen. Het is meer dan het nationale inkomen van vrijwel alle landen ter wereld.

Aan de ene kant zou je kunnen zeggen dat de situatie vergelijkbaar is met de macht van de grote oliebedrijven in de jaren zeventig, maar als je kijkt naar de diverse subcategorieën, dan zie je dat deze worden beheerst door een of enkele ondernemingen. Google heeft een marktaandeel van meer dan 90% bij zoekopdrachten. De cloud-opslag wordt gedomineerd door Amazon, Microsoft en Google.

Het wordt steeds duidelijker dat dit een onhoudbare situatie is. Er wordt nu al gesproken over het opsplitsen van bijvoorbeeld Google, onder meer door het afsplitsen van bijvoorbeeld YouTube. Ook Microsoft wordt onder een vergrootglas gelegd. En moeten WhatsApp en Facebook wel samenblijven? De druk om deze enorme en machtige ondernemingen op te breken, zal alleen maar groter worden.’

 

Je moet heel sterk in je schoenen staan om de verleiding van dit soort enorme salarissen te weerstaan. Maar er zijn gelukkig nog veel programmeurs die kritische geluiden laten horen.

 

Waarom wordt DeepMind niet afgesplitst van Google?

‘Dat is een interessante gedachte. Dat is immers precies waar de mensen achter DeepMind de afgelopen jaren naar hebben gestreefd. Binnen Google zelf zal er enorm verzet tegen ontstaan. Het onderdeel levert immers een integrale bijdrage aan alle andere activiteiten van de onderneming. Maar ik weet zeker dat veel programmeurs er heel blij mee zouden zijn.’

Die programmeurs spelen een cruciale rol, zo maakt u duidelijk in uw boek. Velen begonnen heel idealistisch met hun werk. Hoe zit dat nu?

‘Geld speelt ook hier een belangrijke rol. Een senior programmeur rond AI verdient in Silicon Valley tussen twee miljoen en vier miljoen dollar. Dat zijn astronomische bedragen. De bedrijven die dit soort salarissen betalen, willen daar iets voor terugzien in de vorm van winst, die liefst zo snel mogelijk wordt gemaakt.

Je moet heel sterk in je schoenen staan om de verleiding van dit soort enorme salarissen te weerstaan. Maar er zijn gelukkig nog veel programmeurs die kritische geluiden laten horen, zoals via het Future of Life Institute in de Verenigde Staten. Er zijn diverse ondernemers die miljarden verdienden met hun tech-ondernemingen, die dit soort initiatieven steunen. Maar de salarissen zijn er natuurlijk niet vergelijkbaar met die in Silicon Valley.’

We hebben het voortdurend over Silicon Valley. Wat voor rol speelt China in de ontwikkelingen rond AI?

‘China speelt een prominente rol als het gaat om sommige vormen van AI, bijvoorbeeld op het gebied van gezichtsherkenning. Maar voor zover ik kan zien, blijft China nog achter bij ontwikkelingen richting AGI, de megatalen zoals ChatGPT, en het moment dat computers echt als mensen gaan handelen.

Toch speelt China een belangrijke rol. De dreiging van China wordt door Amerikaanse ondernemingen gebruikt als een belangrijke reden dat hen geen strobreed in de weg moet worden gelegd. Dat is het argument dat Mark Zuckerberg en Sheryl Sandberg van Meta/Facebook gebruikten toen ze zich moesten verdedigen in de Amerikaanse senaat.

Het blijft een lastige situatie. Enkele weken geleden nog gebruikte de gouverneur van Californië zijn vetorecht om te voorkomen dat de regelgeving rond techbedrijven werd aangescherpt. Het is duidelijk dat de politieke belangen groot zijn, maar de behoefte aan regelgeving wordt met de dag duidelijker. Het is iets waar de grote ondernemingen niet aan zullen ontkomen.’

 

Parmy Olson Parmy Olson groeide op in de Verenigde Staten, maar studeerde Journalistiek aan de City University of London. Ze werkte aanvankelijk voor Forbes Magazine, waarna ze de overstap maakte naar The Wall Street Journal en recent naar Bloomberg. Ze volgt de ontwikkelingen rond AI sinds 2016 op de voet. In 2012 verscheen haar eerste boek ‘We are Anonymous’, over de wondere wereld van hackers. Het in september verschenen ‘Supremacy’ is haar tweede boek. In 2023 werd ze door PRCA, een wereldwijde organisatie van public relations professionals, uitgeroepen tot Digital Journalist of the Year.

Attachments

• FI-7 - 2024 - RedInt Parmy Olson.pdf