De AI-industrie staat op instorten. AI heeft nut, bijvoorbeeld in medisch onderzoek. Maar veel kenners menen dat 80-90% niet meer dan een hype is. Er worden honderden miljarden geïnvesteerd en er is geen return on investment (ROI) op een redelijke termijn.

Daarnaast is er sprake van een dreigend ‘model collapse’ wanneer getraind wordt op recursief gegenereerde data en informatie. Dat wil zeggen: AI gaat zichzelf ‘voeden’ met door AI gegenereerde gegevens, inclusief de fouten die daarin voorkomen.

Een recent voorbeeld, met potentieel ernstige consequenties, van fouten is Med-Gemini van Google. Het systeem was gaan ‘hallucineren’. Een bekend fenomeen op het gebied van AI. De consequenties van het weer hergebruiken, door AI-systemen, van deze hallicunatie-data is niet te overzien.

“Als de trainingsgegevens van de meeste toekomstige modellen ook van het internet worden gehaald, dan zullen ze onvermijdelijk trainen op gegevens die door hun voorgangers zijn geproduceerd.” (Nature)

Op creatief gebied, zoals het schrijven van artikelen en boeken, maken van kunstwerken maar zeker ook op het gebied van muziek, zal de model collapse straks -zo ben ik van mening- als eerste zichtbaar worden.

Hoe voorkom je model collapse?
Ik heb, want we hebben het over AI immers, het aan ChatGPT gevraagd.  Volgens ChatGPT (ik geef alleen de conclusie weer) is, om te borgen dat er geen model collapse of hallucinatie optreedt, het belangrijk dat er aan de volgende voorwaarden wordt voldaan:

• Scheid menselijke van synthetische data.
• Gebruik retrieval en fact-checking in real time.
• Implementeer menselijke en technische audits.
• Maak data en modelherkomst transparant.
• Pas regelgeving en ethische kaders toe.

Dit is niet zomaar in te regelen! Sterker nog, de regelgeving loopt nu al “lichtjaren” achter op de praktijk. Data- en modelherkomst? Op de vraag: “Wat is de data en modelherkomst van chatgpt” kreeg ik als antwoord: “Dat is een complexe vraag. OpenAI heeft niet al zijn data- en modelherkomst in detail publiek gemaakt, deels om concurrentie- en veiligheidsredenen.”, om vervolgens met een aantal algemeenheden te antwoorden.

OpenAI, met als grote aandeelhouder (~ 27%) Microsoft en andere investeerders, geeft dus onvolledige openheid van zaken en voldoet zelf daarmee al niet aan de transparantie die volgens hun eigen chatgpt noodzakelijk is.

AI-Zeepbel

AI, in meer of mindere mate, wordt overal ingezet. Plak het label “AI” ergens op en je hebt als softwareleverancier een verkoophit te pakken, zo is de gedachte. Het is hét buzz-word zoals een paar jaar geleden alles waar “cloud” op stond als warme broodjes over de toonbank ging.

Er zijn inderdaad toepassingen voor ‘de cloud’ maar anderzijds zorgt het ook voor enorme afhankelijkheid. Denk aan de ellende die we recent weer hadden met Azure en Amazon. En dat was niet de eerste en zéker niet de laatste keer. Het nare is: veel (semi)overheidsdiensten, ook in Nederland, maken gebruik hiervan.

Dit heeft niet alleen potentiële consequenties voor de privacy, wat al erg genoeg is, maar de afhankelijkheid van slechts een páár leveranciers bedreigt het hele digitale ecosysteem.

Het lijkt erop dat niemand iets heeft geleerd van de internethype van de jaren 90 (de dotcom-zeepbel). Wat we zien is niet anders dan een herhaling van zetten. De consultants die gouden bergen beloven. Software- en hardware leveranciers die, vooralsnog, de lachende derde zijn. De (economische) klap die gaat komen is echter onvermijdelijk.

Geen ROI op AI

Honderden miljoenen (AI-fabriek Groningen) tot zelfs honderden miljarden, als het al niet meer is, worden geinvesteerd in AI terwijl de uitkomst in het beste geval hoogst onzeker is. Ondertussen ontslaan grote techreuzen duizenden mensen omdat ze denken dat AI het werk van hun programmeurs en technici wel kan overnemen.

“Even the ROI on AI data centers will take so long, the infrastructure will be end of life and need to be replaced again at higher cost – like a dog chasing its tail. This will end in tears, or at least some very angry investors.” (Futurism).

Met andere woorden: vóór dat er überhaupt geld verdiend kan gaan worden zijn de hardware waar men mee werkt, en de datacenters waar het staat, al weer afgeschreven.

De Windows 11 “AI Computer”

Ondertussen blijven allerlei bedrijven stevig inzetten op AI. Ook Microsoft, die met Windows 11 je geen nieuw besturingssysteem wil geven maar op allerlei gebied probeert financieel uit te melken en op zijn minst al je data wil hebben. Los van de enorme vracht aan ewaste die de gedwongen overgang naar Windows 11 geeft, omdat honderden miljoenen computers niet geschikt zijn voor Windows 11, is de overstap van Windows 10 naar Windows 11 voor de gemiddelde gebruiker daarom helemaal geen vooruitgang.

Microsoft heeft een reeks AI-functies lanceert die bestaande Windows 11-systemen in feite omtoveren tot, volgens hen, “volwaardige AI-pc’s”, aangestuurd door Copilot. Een Microsoft-manager, Yusuf Mehdi, beschrijft de update als volgt:

“We denken dat we aan de vooravond staan van de volgende evolutie, waarbij AI niet alleen in die chatbot plaatsvindt, maar op natuurlijke wijze wordt geïntegreerd in de honderden miljoenen ervaringen die mensen dagelijks gebruiken“, vertelde Yusuf Mehdi, executive vice president en chief marketing officer voor consumentenproducten bij Microsoft, aan The Verge tijdens een briefing. “Onze visie is: laten we het hele besturingssysteem herschrijven rond AI en in wezen bouwen aan wat echt de AI-pc wordt.”

De AI industrie staat op instorten

Tech-kenner Cory Doctorow, een Canadese sciencefictionschrijver, tech-journalist, blogger en voorvechter van de vrijheid van meningsuiting (mede-oprichter van Open Rights Group), schreef in zijn boek “The Internet Con” hij hoe de grote Big Tech-platformen hun gebruikers manipuleren in een vendor lock-in. Inmiddels weten we dat hij meer dan gelijk heeft gehad.

Doctorow, die ondermeer een honorary doctorate heeft in computer science van de Open University (UK) en meerdere andere eredoctoraten (zie zijn biografie), is van mening dat de AI-industrie op instorten staat.

Hij voorspelt een “AI apocalyps” en waarschuwt voor de dreigende ineenstorting van de AI-industrie, in het bijzonder wordt het volgens hem een financiële ramp en we zijn te laat om die te voorkomen. Op dit moment is 1/3^e deel van alle aandelen gerelateerd aan AI.

Een voorbeeld hiervan is chipfabrikant Nvidia , die deze week alle records brak en op de beurs 5.000 miljard dollar waard is. “Eind juli bereikte Nvidia als eerste bedrijf ooit een beurswaarde van 4000 miljard dollar. Nog geen vier maanden later is daar dus nog eens 1000 miljard dollar bijgekomen voor het bedrijf dat gespecialiseerd is in hoogwaardige chips voor onder meer de ontwikkeling van kunstmatige intelligentie.” (NOS)

Geld verbranden

Cory Doctorow is zeker niet de enige die de toekomst van AI erg somber inziet.

In een verhelderende blogpost meldt techondernemer en schrijver Anil Dash dat “de meeste mensen die daadwerkelijk een technische rol binnen de techindustrie bekleden” een “buitengewone mate van consistentie in hun gevoelens over AI” delen. In tegenstelling tot hun CEO’s, meldt Dash, geloven deze werknemers dat “technologieën zoals grote taalmodellen nuttig zijn, maar de absurde manier waarop ze overhyped zijn, het feit dat ze aan iedereen worden opgedrongen en de aandrang om de vele terechte kritiek erop te negeren, maken het erg moeilijk om zich te richten op legitieme toepassingen waar ze waarde kunnen toevoegen. (…) Voorlopig blijft de sector in een alarmerend tempo geld verbranden, meeliftend op een enorme hype die pas net begint af te nemen. Het rendement op investeringen blijft slechts een glimp in de ogen van techleiders – de zorgen van hun werknemers evenmin.” (Futurism).

Om investeerders te lokken, verkopen de monopolisten de leugen dat AI menselijke werknemers kan vervangen – terwijl in werkelijkheid AI-experimenten mislukken bij 95 procent van de bedrijven die ermee aan de slag gaan, volgens Doctorow.

“AI kan jouw werk niet doen, maar een AI-verkoper kan je baas er 100 procent van overtuigen je te ontslaan en te vervangen door een AI die jouw werk niet kan doen. Wanneer de zeepbel barst, zullen de geldverslindende ‘fundamentele modellen’ worden stopgezet en zullen we de AI verliezen die jouw werk niet kon uitvoeren. Jij bent allang weg, omgeschoold, gepensioneerd of ‘ontmoedigd’ en van de arbeidsmarkt, en niemand zal jouw werk doen.. AI is het asbest dat we in de muren van onze samenleving scheppen en onze nakomelingen zullen het generaties lang uitgraven.” – Cory Doctorow

Gartner Hype Cycle

Linus Torvalds, de maker van Linux, schat daarom ook in dat AI “90% marketing en 10% realiteit” is en heeft een hekel aan de hypecyclus. Hij negeert liever de huidige stand van zaken rond AI, maar verwacht wel dat het op de lange termijn potentieel heeft.

We bevinden ons op dit moment in de “piek van opgeblazen verwachtingen” van de Garnter Hype Cycle en gaan richting de desillusie.

• Peak of Inflated Expectations: Early publicity produces a number of success stories — often accompanied by scores of failures. Some companies take action; many do not.
• Trough of Disillusionment: Interest wanes as experiments and implementations fail to deliver. Producers of the technology shake out or fail. Investments continue only if the surviving providers improve their products to the satisfaction of early adopters.

De verwachtingen van AI zijn skyhigh. Maar zoals duidelijk mag zijn worden ook de eerste scheuren zichtbaar en beseffen veel mensen zich inmiddels dat veel van wat we horen over AI niet meer is dan de nieuwe kleren van de keizer.