Managed hosting door True

EU wil kunstmatige intelligentie aan ketting leggen

 

De EU heeft regels voorgesteld die de basis moeten vormen van een nieuw wetgevend kader rond kunstmatige intelligentie (ai). Dat moet zowel burgers vertrouwen geven in ai, als de introductie en ontwikkeling stimuleren. Critici zijn niet onder de indruk.

‘Hoe hoger het risico, hoe strenger de regels.' Dat is volgens Eurocommissaris het uitgangspunt waarmee de EU de nieuwe regels heeft opgesteld. Daarbij zou bijvoorbeeld ai die de veiligheid of de grondrechten van de burgers bedreigt compleet verboden worden. Ook ai-systemen waarbij mensen een ‘sociale score’ krijgen (zoals ze in China worden gebruikt) kunnen niet door de beugel, net zoals systemen die gezichtsherkenning in openbare ruimten mogelijk maken. Dat laatste zal alleen kunnen in noodgevallen, bijvoorbeeld bij vermissingen.

Gevoelige ai-platformen, denk aan systemen die een kredietscore kunnen opstellen of die cv’s kunnen beoordelen, zullen aan heel wat voorwaarden moeten voldoen. Gebruikers moeten weten hoe ze precies werken en de data waarvan ze gebruikmaken, moet van hoge kwaliteit zijn, bijvoorbeeld om bias (vooringenomenheid) te voorkomen. Te allen tijde zullen ook mensen de systemen moeten overzien.

De nieuwe ai-wetten stuiten al meteen op kritiek. Zo zouden er te veel mazen in de wet zijn. Wat precies risicovolle toepassingen zijn en welke niet, is bijvoorbeeld niet duidelijk. Er is ook twijfel over het toezicht. De nationale autoriteiten zouden daarvoor verantwoordelijk worden en de Europese privacyregels hebben al aangetoond dat dat niet evident is. Velen vrezen ook dat de regels de jonge, Europese ai-industrie zal verhinderen om tot bloei te komen, zeker nu Europa nu al mijlenver achterloopt op de ontwikkelingen in de VS en China.

De regels moeten nog door het Parlement en de lidstaten goedgekeurd worden. Dat is een procedure die nog jaren kan aanslepen.

Gevolgen voor ai-ontwikkelaars

Computable publiceerde vorige week een artikel op basis van de concepttekst van de wetgeving die 21 april door de Europese Commissie is behandeld. Er komt een lijst met verboden toepassingen en veel nu al ingezette ai-oplossingen krijgen een hoog-risicoclassificering.

Omdat producten op tal van punten toetsing nodig hebben, zijn de gevolgen voor ontwikkelaars en gebruikers van ai-toepassingen groot, verwacht Bart Schermer, expert op het gebied van privacy- en ict-recht voor Considerati.


Dit artikel is afkomstig van Channelweb.nl (https://www.channelweb.nl/artikel/7171817). © Jaarbeurs IT Media.

?


Lees ook


 

Jouw reactie


Je bent niet ingelogd. Je kunt als gast reageren, maar dan wordt je reactie pas zichtbaar na goedkeuring door de redactie. Om je reactie direct geplaatst te krijgen, moet je eerst rechtsboven inloggen of je registreren

Je naam ontbreekt
Je e-mailadres ontbreekt
Je reactie ontbreekt
Nieuwsbrief

Wil je dagelijks op de hoogte gehouden worden van het laatste resellernieuws, trends en ontwikkelingen? Abonneer je dan op onze gratis nieuwsbrief.

Vul een geldig e-mailadres in

Stuur door

Stuur dit artikel door

Je naam ontbreekt
Je e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.