Pictet Asset Management: De nieuwe praatbarak: hoe ChatGPT de communicatie zal veranderen

Sep 25, 2023

Grote taalmodellen zoals ChatGPT zijn een nieuwe technologie die de manier waarop we communiceren zal veranderen: meestal ten goede.

Nog niet zo lang geleden produceerden taalmodellen met kunstmatige intelligentie weinig meer dan kinderpraat. Maar schijnbaar  van de ene op de andere dag zijn de nieuwste versies welbespraakter dan brutale studenten. Studenten die brallen over revolutie. 

"We bevinden ons in een tijdperk van ernstige ontwrichting", zegt Lane Greene, taalgoeroe van The Economist, co-auteur van de nieuwste taalkundige stijlgids en auteur van de Johnson-column. Grote taalmodellen (LLM's) – waarvan ChatGPT de bekendste is – zijn al begonnen de manier waarop we dingen doen te veranderen.

Hoewel ChatGPT zeer effectief is als zoekmachine, is zijn meest dramatische eigenschap het genereren van tekst die klinkt alsof hij is geschreven door een beter dan gemiddelde menselijke schrijver. Dit omvat vertaling, het schrijven van e-mails en brieven en zelfs langere artikels. Met deze functie kan ChatGPT mensen aanvullen of zelfs vervangen bij het vertalen van routinemateriaal, of bij het samenvoegen van bekende feiten tot een duidelijke verhaal. Het kan boilerplate-materiaal produceren voor advocaten en hun documenten verwerken en synthetiseren.  Andere versies van generatieve AI kunnen foto's maken en schilderijen uitbreiden. Hoe meer input ze kunnen trainen, hoe effectiever ze waarschijnlijk zullen zijn.

Voor veel medewerkers lijkt het misschien een bedreiging voor hun inkomen – maar dat hoeft het niet voor iedereen te zijn, stelt Greene. ChatGPT zal steeds beter worden in het reproduceren van alledaagse taken, maar mensen zullen ook tijd overhouden voor uitdagender en interessanter werk, zoals toezicht houden op de output van LLM's.

ChatGPT kan zelfs de redding zijn van minder effectieve en minder productieve werknemers. In de Financial Times citeert columnist Tim Harford studies die aantonen dat de productiviteitsverbeteringen vooral optreden bij de minst effectieve werknemers – Homer Simpsons, zoals hij ze noemt – terwijl technologie weinig toevoegt aan de output van de meest competente werknemers.^[1]



Grenzen ontdekken ...

Ondanks hun revolutionaire mogelijkheden hebben grote taalmodellen (LLM's) een aantal problemen. Zoals het feit dat ze dingen verzinnen. Hun makers weten niet precies waarom, zegt Greene, maar LLM's vermelden regelmatig informatie die niet waar is. Het klinkt meestal overtuigend, maar dat maakt het nog gevaarlijker. 

Een advocaat uit New York ondervond onlangs tot zijn scha en schande de gevaren van het vertrouwen op ChatGPT. Hij gebruikte de LLM om een pleitnota  op te stellen in een zaak over persoonlijk letsel en werd vervolgens door de rechter terechtgewezen omdat hij zes niet-bestaande rechterlijke uitspraken aanhaalde.^[2]

Leerkrachten vragen zich af hoe ze moeten reageren op leerlingen die zich aan hun taak onttrekken door ChatGPT te gebruiken om een essay te schrijven. Eén manier is om zich te richten op de zwakke punten van ChatGPT. Sommige leerkrachten hebben hun leerlingen gevraagd om een onderwerp voor een essay voor te leggen aan ChatGPT en vervolgens de output te analyseren, en op zoek te gaan naar valse informatie.

ChatGPT "slorpt een enorme hoeveelheid materiaal op van het internet" en het is goed in het uitspuwen van wat het krijgt. Het doet het echter minder goed op kennis die we allemaal als vanzelfsprekend beschouwen of op vragen die logisch denken vereisen. ChatGPT gaat er bijvoorbeeld niet van uit dat iemand die een uur geleden leefde en over twee uur leeft, ook nog leeft in de tijd daartussen, merkt Greene op. Er is niet veel materiaal op het web dat daarop wijst, omdat het voor mensen niet iets is dat gezegd hoeft te worden.

Een ander probleem is dat ChatGPT de vooroordelen overneemt van het materiaal waarop het is getraind, zegt Greene. hoe algemener het materiaal, hoe moeilijker het is om de vooroordelen te counteren. Het is mogelijk om te proberen deze vooroordelen weg te nemen of te beperken door de inhoud van de training zorgvuldig te selecteren, maar dat beperkt de bruikbaarheid van het model. Een andere aanpak is het opstellen van expliciete regels die de trainingsdata beheersen en die zeggen "beantwoord geen vragen die je uitnodigen om racistisch te zijn", maar dergelijke regels zullen waarschijnlijk nooit perfect zijn.

Tegelijkertijd zorgt de breedte van het materiaal waar ChatGPT uit put ervoor dat het illegale of gevaarlijke informatie kan geven, bijvoorbeeld over hoe je drugs zoals crystal meth, of napalm, maakt. De makers van ChatGPT hebben beveiligingen ingebouwd, maar gebruikers ontdekken elke dag nieuwe omwegen, zegt Greene. Deze achterdeurtjes maken de makers van LLM kwetsbaar voor rechtszaken of strafrechtelijke vervolging.

... maar de vooruitgang stopt niet

Greene beoordeelt ChatGPT op drie aspecten. "Voor 'retrieve me a fact' krijgt het een A-plus, voor imitatie krijgt het een voldoende. Voor het combineren van twee verschillende dingen, slaagt het nauwelijks. Het heeft grote tekortkomingen", zegt hij.

Maar ondanks alle beperkingen van ChatGPT heeft het snel vooruitgang geboekt en zal het dat waarschijnlijk blijven doen. Maar gezien de structuur van deze modellen – niet in de laatste plaats hun afhankelijkheid van trainingsdata –  zullen ze moeite hebben om echte originaliteit te produceren.

"Dingen te weten komen die niemand anders weet, of heel weinig mensen weten" zal aan de mens overgelaten worden, zegt Greene. Het is dus onwaarschijnlijk dat 'feet-on-the-ground' journalistiek zal worden vervangen, zelfs als 'churnalism' – het klakkeloos overnemen van bestaand materiaal – dat wel zal doen. Originaliteit en nieuwigheid zullen een belangrijk onderscheidend kenmerk zijn. Een zwarte doos zal geen diepgaand, origineel denkwerk genereren. Er zal altijd ruimte zijn voor een krachtig, eenvoudig, helder proza, opgesmukt met frisse beelden en metaforen.

ChatGPT kan een startpunt zijn voor geschreven werk, maar er is menselijke input nodig om de output goed te laten klinken. Ondertussen zijn vertalers post-editors, die LLM's gebruiken om de eerste versie te maken, maar die vervolgens nakijken om ervoor te zorgen dat de nuance niet verloren gaat en om subtiele taalvalkuilen te vermijden.

Mensen hebben honger naar authenticiteit. ChatGPT kan misschien wel veranderen wat we willen van de geschreven vorm, maar het zal schrijvers niet uitschakelen. "Net zoals fotografie de schilderkunst niet kapotmaakte. Het veranderde alleen wat en hoe er werd geschilderd", zegt Greene.

Beleggingsinzichten door Anjali Bastianpillai, senior client portfolio manager, thematische aandelen, Pictet Asset Management

• Volgens Goldman Sachs kunnen tools voor het verwerken van natuurlijke taal het wereldwijde bbp met 7 procent stimuleren en de productiviteitsgroei met 1,5 procentpunt verhogen over een periode van tien jaar.
• In de banksector zou de technologie jaarlijks 200 tot 340 miljard dollar extra kunnen opleveren als de use cases volledig worden geïmplementeerd. Volgens McKinsey is de potentiële impact voor de retailhandel en consumentengoederen 400 tot 660 miljard dollar.
• De totale markt voor generatieve AI-software zal naar verwachting 150 miljard dollar bedragen, in vergelijking met 685 miljard dollar voor de wereldwijde software-industrie, schat Goldman Sachs.

^{[1] https://www.ft.com/content/74c63f77-f543-4be0-9cd9-2f5f40ba6f17
[2] https://www.reuters.com/legal/transactional/lawyer-used-chatgpt-cite-bogus-cases-what-are-ethics-2023-05-30/}

^Disclaimer

^{This material is for distribution to professional investors only. However it is not intended for distribution to any person or entity who is a citizen or resident of any locality, state, country or other jurisdiction where such distribution, publication, or use would be contrary to law or regulation.}

^{The information and data presented in this document are not to be considered as an offer or solicitation to buy, sell or subscribe to any securities or financial instruments or services.}

^{Information used in the preparation of this document is based upon sources believed to be reliable, but no representation or warranty is given as to the accuracy or completeness of those sources. Any opinion, estimate or forecast may be changed at any time without prior warning.  Investors should read the prospectus or offering memorandum before investing in any Pictet managed funds. Tax treatment depends on the individual circumstances of each investor and may be subject to change in the future.  Past performance is not a guide to future performance. The value of investments and the income from them can fall as well as rise and is not guaranteed.  You may not get back the amount originally invested.}

^{This document has been issued in Switzerland by Pictet Asset Management SA and in the rest of the world by Pictet Asset Management (Europe) SA, and may not be reproduced or distributed, either in part or in full, without their prior authorisation.}

^{© Copyright 2023 Pictet – Issued in April 2023}