‘AI bedreigt stabiliteit op financiële markten’
Financiële instellingen omarmen AI snel, maar dit leidt tot nieuwe stabiliteitsrisico’s op de financiële markten. Toezichthouders moeten zich hierop voorbereiden.
Daarvoor waarschuwt Jon Danielsson, directeur systeemrisico’s van de Londen School of Economics and Political Science, in een column op VoXEU.org. De waarschuwing werd vandaag aangehaald in het Financieele Dagblad door Mathijs Bouman. Danielsson betoogt dat AI nieuwe stabiliteitsrisico’s introduceert waar de financiële autoriteiten mogelijk niet op voorbereid zijn, wat het spook van snellere, vicieuze financiële crises oproept.
“Financiële instellingen in de particuliere sector omarmen snel kunstmatige intelligentie (AI), gemotiveerd door beloften van aanzienlijke efficiëntieverbeteringen. Hoewel deze ontwikkelingen over het algemeen positief zijn, vormt AI ook bedreigingen voor de stabiliteit van het financiële systeem,” schrijft Danielsson. Volgens hem worden deze risico’s slecht begrepen door de financiële wereld.
Autonome AI
Volgens Danielsson neemt AI straks autonome beslissingen in plaats van alleen menselijke besluitvormers te informeren. Hij noemt dit een groot fundamenteel verschil vergeleken met eerdere technologische veranderingen. “AI is een rationele maximaliserende agent die taken uitvoert die hem zijn toegewezen. Deze autonomie roept nieuwe en complexe problemen op voor de financiële stabiliteit.”
Wat kan er gebeuren als AI belangrijke financiële beslissingen neemt? Danielsson verwijst voor een voorbeeld naar wetenschappelijk onderzoek, waar onderzoekers een groot taalmodel (LLM, Bouman heeft het over ChatGPT) expliciet instrueerden om zowel impact als winst te maximaliseren met de handel in aandelen. Toen het een privétip kreeg, ging het onmiddellijk over tot illegale handel met voorkennis, terwijl het erover loog tegen zijn menselijke toezichthouders.
Taak toezichthouders
Volgens Danielsson betekent dit dat de centrale banken en andere toezichthouders AI-impactanalyse tot kerngebied moeten maken in hun afdelingen financiële stabiliteit, in plaats van het alleen te huisvesten bij IT of data.
De autoriteiten moeten volgens Danielsson:
- interne AI-expertise en AI-systemen opzetten,
- AI een kernfunctie van de afdelingen financiële stabiliteit maken,
- AI-systemen aanschaffen die rechtstreeks kunnen communiceren met de AI-engines van financiële instellingen,
- automatisch geactiveerde liquiditeitsfaciliteiten opzetten en
- kritieke AI-functies uitbesteden aan externe leveranciers.
Conclusie
Danielsson concludeert: “AI zal aanzienlijke voordelen opleveren voor het financiële systeem, maar het introduceert ook nieuwe stabiliteitsrisico’s. Regelgevende kaders moeten worden heroverwogen, risicomanagementtools moeten worden aangepast en autoriteiten moeten klaar zijn om te handelen in het tempo dat AI dicteert. Hoe de autoriteiten ervoor kiezen om te reageren, zal forse impact hebben op de waarschijnlijkheid en ernst van de volgende AI-crisis.”
Lees de column van Jon Danielsson
In de podcast ‘Capital Horizons’ spreekt Jon Danielsson over de dreiging van AI voor het financiële systeem.
Zie ook AI-modellen kunnen mensen misleiden – TheDataConnection