Wat brengt de Ai-Act voor de verzekeringssector ?
In deze tijd van voortdurende en razendsnelle technologische evolutie is de ontwikkeling van artificiële intelligentie een absolute gamechanger op ontelbare vlakken. Het maatschappelijke belang voor zowel als bedrijfswereld en de consument valt onmogelijk te onderschatten. Dag in dag uit staan we oog in oog met de impact van AI op ons leven. Terwijl sommigen de ongekende mogelijkheden toejuichen, roept deze evolutie ook tal van vragen op. Ook de verzekeringssector kan vanzelfsprekend niet voorbijgaan aan de groeiende invloed van artificiële intelligentie.
Assurinfo sprak met Danilo Gattullo, Policy Advisor, Insurance Europe, over de AI Act, de Europese AI-verordening die regels bevat voor het gebruik van artificiële intelligentie in de EU.
1.Wat zijn de grootste voordelen die AI de Europese verzekeringssector naar verwachting zal opleveren?
Verzekeraars zetten in toenemende mate AI-tools in voor diverse doeleinden, van een betere klantenervaring tot fraudeopsporing en een innovatief productaanbod. Toch varieert de snelheid waarmee AI wordt ingevoerd doorheen de EU. Sommige verzekeraars nemen het voortouw terwijl andere zich nog in de vroege stadia bevinden.
AI kan de verzekeraars helpen om polissen beter op individuele behoeften af te stemmen en schadegevallen sneller te behandelen. Het gebruik van AI-gestuurde chatbots en virtuele assistenten kan de interactie met de klant verbeteren en consumenten de klok rond ondersteuning bieden. Het kan ook nieuwe mogelijkheden creëren voor innovatieve producten en diensten. Zo kan AI de verzekeraars bijvoorbeeld helpen om innovatieve diensten aan te bieden die gericht zijn op risicopreventie en -mitigatie. AI-systemen kunnen worden ingezet om risico’s te helpen monitoren en voorspellen, maar ook om klanten te adviseren over hoe zij toekomstige risico’s kunnen beperken. Dat kan op zijn beurt helpen om de frequentie en ernst van de verliezen met de jaren te verminderen, ten bate van de zowel de verzekeringnemers als de hele samenleving.
2. Wat zijn de belangrijkste (politieke) bekommernissen in verband met AI in de verzekeringssector?
AI heeft een enorm transformationeel potentieel voor de sector en voor de samenleving. Maar zoals bij alle technologische ontwikkelingen gaat dit gepaard met uitdagingen die moeten worden ingeschat en waar nodig aangepakt door de beleidsmakers en de ondernemingen. De doeltreffendheid van een AI-systeem hangt af van de kwaliteit, de nauwkeurigheid en de volledigheid van de gebruikte datareeks. Zijn de systemen niet goed gebouwd, dan kunnen ze vormen van ‘bias’ aanleren uit de data waarmee ze werden getraind.
Om de unieke uitdagingen waar AI ons voor plaatst aan te gaan, is het essentieel een goed functionerende verzekeringsmarkt met een degelijk toezicht in stand te houden. Om dat doel te bereiken, zou men nieuwe regelgevende maatregelen in verband met AI-gebruik in de verzekering steeds moeten beoordelen in het licht van de al bestaande horizontale en sectorspecifieke wetten, zodat onnodige doublures en regelgevingslast worden vermeden.
Zo zijn verzekeraars bijvoorbeeld behalve aan de geldende horizontale wetgeving, zoals de Algemene Verordening Gegevensbescherming (AVG of GDPR), ook onderworpen aan uitgebreide sectorspecifieke wetgeving die ontworpen is om een verstandig risicobeheer en doeltreffende governancesystemen te verzekeren. Dat wordt nog aangevuld met een robuust geheel van bedrijfsvoeringsregels, waaronder vereisten inzake productgovernance en transparantie. Daar zien we een mogelijke overlapping met de vereisten van de AI-verordening die onvermijdelijk tot onnodige complexiteit en onzekerheid zal leiden.
3. Wat is de AI-verordening en in welke context komt ze tot stand?
De AI-verordening is nieuwe regelgeving die de verkoop en het gebruik van artificiële intelligentie in de EU regelt. Het officiële doel ervan is de goede werking van de interne EU-markt te verzekeren door standaarden voor het AI-gebruik in alle EU-lidstaten vast te leggen. In de praktijk is het de eerste regelgeving die de risico’s van artificiële intelligentie aanpakt door middel van een reeks verplichtingen en vereisten voor AI-ontwikkelaars en -gebruikers. Met deze regelgeving beoogt men een risicogebaseerde aanpak waarbij AI-systemen worden gereguleerd naar gelang van de grootte van het risico dat zij inhouden voor de gezondheid, de veiligheid en de grondrechten van personen. AI-systemen die vallen onder de categorie ‘onaanvaardbaar risico’ worden volstrekt verboden, terwijl ontwikkelaars van AI-systemen met een hoog risico aan diverse vereisten moeten voldoen en moeten aantonen dat hun technologie aan bepaalde standaarden beantwoordt.
De AI-verordening maakt deel uit van een bredere, concreet vorm krijgende digitale regelgeving in de EU ter regulering van verschillende aspecten van de digitale economie, met recentelijk nog de dataverordening (Data Act), de datagovernanceverordening (Data Governance Act, DGA), de digitaledienstenverordening (Digital Services Act, DSA) en de digitalemarktenverordening (Digital Markets Act, DMA). Met deze maatregelen wil de EU haar digitale onafhankelijkheid versterken en tegelijkertijd standaarden vastleggen die een impact hebben op de digitale regulering wereldwijd.
4. Hoever zal de beleidsvormingscyclus in maart 2024 staan? En wat kunnen we daarna verwachten?
De EU-medewetgevers bereikten op 8 december een politiek akkoord over de AI-verordening, na grote politieke druk om de gesprekken vóór het jaareinde af te ronden. Dan volgden er gesprekken op technisch niveau om de politiek overeengekomen tekst te finetunen. De tekst zal naar verwachting nog vóór het einde van deze legislatuur formeel door het Europees Parlement en de Raad van de EU worden goedgekeurd.
Maar ook in de toekomst zal AI op de agenda van de beleidsmakers blijven staan. Mairead McGuinnes, Eurocommissaris voor Financiële stabiliteit, financiële diensten en kapitaalmarktunie, verklaarde dat er nood is aan richtsnoeren voor het gebruik van AI in de financiële sector, en ook de Europese Autoriteit voor verzekeringen en bedrijfspensioenen (EIOPA) maakte openlijk haar intenties kenbaar om rond dit thema te werken. De AI-verordening zelf voorziet ook in verschillende bevoegdheden voor de Europese Commissie om ‘Level 2’ en ‘Level 3’ maatregelen aan te nemen om hangende kwesties te regelen, zoals de nood aan gemeenschappelijke standaarden en de modaliteiten voor de oprichting van testomgevingen voor regelgeving (‘regulatory sandboxes’). De Commissie blijft ook bevoegd voor toekomstige aanpassingen, door middel van gedelegeerde verordeningen, aan de lijst in Bijlage III van AI-toepassingen die geacht worden een hoog risico in te houden.
5. Welke artikelen van de AI-verordening zijn voor de verzekeringssector het meest relevant?
Bijlage III van de AI-verordening van de EU bevat een lijst van AI-gebruiksscenario’s die als hoog risico worden bestempeld, waaronder het gebruik van AI voor risicobeoordeling en tarifering in levens- en gezondheidsverzekeringen. De ontwikkelaars van dergelijke AI-systemen zullen moeten verzekeren dat de applicaties voldoen aan de vereisten die in Hoofdstuk II van de regelgeving beschreven staan. Dat zijn onder meer vereisten om een systeem voor risicobeheer op te zetten, technische documentatie op te stellen, te voorzien in een conformiteitsverklaring en transparantie en menselijk toezicht te waarborgen. Hoofdstuk III van de tekst vermeldt ook verdere verplichtingen, zoals de vereiste om een systeem voor kwaliteitsbeheer op te zetten en de verplichting om een effectbeoordeling inzake grondrechten uit te voeren op basis van een reeks elementen die in artikel 29 (a) worden vermeld.
De tekst vermeldt met name ook criteria om te waarborgen dat de AI-systemen die vermeld staan in de ‘hoogrisicolijst’ niet noodzakelijk dienen te voldoen aan de ‘AI Act’-vereisten als zij bedoeld zijn voor operationele taken die een laag risico inhouden. Deze zelfbeoordelingscriteria staan in artikel 6 van de regelgeving. Nog een andere uitzondering is te vinden in overweging 37, die verduidelijkt dat AI-systemen voor fraudeopsporing en voor de berekening van de kapitaalvereisten voor verzekeraars niet als hoog risico dienen te worden beschouwd, ook niet als zij worden gebruikt in het kader van een van de gebruiksscenario’s met een hoog risico uit Bijlage III.
6. Welke positieve en negatieve gevolgen kan de verzekeringssector van de AI-verordening verwachten?
Zoals ik al zei, zien we wat de vereisten van de op til zijnde AI-verordening betreft een mogelijke overlapping die onvermijdelijk tot onnodige complexiteit en onzekerheid zal leiden. Zo vereist de Solvency II-richtlijn van de EU al van de verzekeringsondernemingen dat zij over een doeltreffend risicobeheer en doeltreffende governancesystemen beschikken. Die kunnen overlappen met bepaalde maatregelen uit de AI-verordening, zoals de vereiste voor AI-aanbieders om een systeem voor kwaliteitsbeheer op te zetten.
We zijn teleurgesteld dat bepaalde gebruiksscenario’s met betrekking tot verzekeringen in de categorie ‘hoog risico’ van de AI-verordening werden opgenomen. Verzekeraars zijn al onderworpen aan een robuust EU-regelgevingskader, zowel op prudentieel vlak als qua gedragsregels. Daarbij komen dan nog nationale kaders en wettelijke EU-vereisten op tal van verschillende gebieden, zoals grondrechten en gegevensbescherming. Ook staan verzekeraars onder streng toezicht van hun toezichthoudende autoriteiten.
Men had een effectbeoordeling moeten uitvoeren om na te gaan of de bestaande regelgevings- en toezichtskaders niet reeds volstaan om de potentiële risico’s van het gebruik van AI in de verzekering het hoofd te bieden. Zo had men tegenstrijdigheden en dubbele regels kunnen voorkomen die innovatie alleen maar belemmeren zonder echte voordelen voor de consument op te leveren.