Managed hosting door True
Deze opinie is van een externe deskundige. De inhoud vertegenwoordigt dus niet noodzakelijk het gedachtegoed van de redactie.

Nadenken over ai en ethiek is bittere noodzaak

 

Begin juli vond de tweede editie van de door de Frans-Amerikaanse dataspecialist Dataiku georganiseerde Egg-conferentie in Londen plaats, in de Tobacco Dock. Ondergetekende, in het leven business consultant XA Document Solutions, was als Computable-lezer door Dataiku uitgenodigd om er heen te gaan en doe hierbij verslag van mijn ervaringen. Rode draad: het verantwoord inzetten van artificial intelligence (ai) is nodig om klanten niet af te schrikken.

Het hoofdthema van de dag is 'human-centered artificial intelligence'. De ochtend bestaat uit verschillende sessies, sprekers en paneldiscussies met als thema's 'bias & discrimination', de groeiende rol van de 'chief digital officer' (cdo) en het vraagstuk hoe een 'data-effort' is op te schalen. De middag is gesplitst in drie tracks: 'advanced use cases', 'responsible ai' en data science. Kortom, van leek tot ervaren ai-ontwikkelaar: voor iedereen is er iets dat aanspreekt op het gebied van kunstmatige intelligentie.

In de ochtend is professor Sandra Wachter van de University of Oxford een van de sprekers. Zij gaat in op de wetgeving omtrent ai, privacy en advertising. Wachter bespreekt onder andere het advertisingmodel van Netflix dat via ai aanbevelingen aan kijkers doet voor films en series. En zij gaat in op wat de wetgeving doet om de consument te beschermen tegen mogelijke uitwassen door de inzet van ai. Mensen/groepen kunnen worden gediscrimineerd, maar welke informatie is daarover beschikbaar voor de consument zodat die een zaak kan opbouwen bij de rechter? Volgens Wachter schiet de huidige wet- en regelgeving hierin nog te kort.

Antirevolutie

De topman van Dataiku, Florian Douetteau, is de afsluiter van de ochtendsessies en stelt ons de volgende vraag: 'Can we make ai likable?' Uit angst voor een 'antirevolutie', - het omslaan van een positief naar een negatief sentiment - probeert hij ons te laten zien dat ai helemaal niet zo eng is als het klinkt. Hij benadrukt dat transparantie en eerlijkheid over het gebruik van data ervoor moeten zorgen dat de consument het gebruik van hun data accepteert. Daarnaast roept hij softwareleveranciers op om goed te kijken naar de ethische aspecten bij het gebruik van ai.

Tijdens het intermezzo van de ochtendsessies is het mogelijk om de Tech Fair te bezoeken en langs te gaan bij de sponsors van het Egg-evenement. Dataiku zelf heeft vier demostations staan, bemand met hun eigen data scientists. Zij tonen de mogelijkheden van het platform Dataiku DSS: hoe dat kan worden gekoppeld aan databanken en data kunnen worden opgeschoond om vervolgens ai te kunnen toepassen voor data-analyses.

Rabobank

Na het intermezzo starten de break-out sessies met als een van de sprekers Martin Leijen, data-architect van de Rabobank. Hij gaat in op de vraag wat de bank tegenwoordig mag en kan doen met ai zonder dat de belangen van klant in het geding komen. Er moet dan ook erg zorgvuldig met data om worden gegaan.

Om te testen wat de ethiek toelaat voert de Rabobank veel gesprekken met de consument/eindgebruiker. Hierdoor is het mogelijk een goed beeld te krijgen van wat de klant tolereert als het gaat om datagebruik en ai. Leijen benoemt drie punten die van belang zijn voor organisaties die starten met het inzetten van kunstmatige intelligentie:

• Design of test data

• Model architecture

• Use as designed

De manier waarop je ai uitlegt is heel belangrijk, benadrukt hij. Documenteer goed wat er in de zogeheten blackbox zit. Welk algoritme, welk model en welke opbouw. Dit is de enige manier om als organisatie overzicht te houden en transparant om te gaan met de data van de eindgebruiker, aldus de Rabobank-architect.

Hoe ga ik er mee om?

"Alle gebruikers, leveranciers en ontwikkelaars samen moeten nadenken over het ethisch gebruik van ai"

Bij mijn bedrijf XA Document Solutions merk ik dat in de software die mijn team en onze partners ontwikkelen ook steeds meer ai-toepassingen worden ingezet en uitgebouwd. Het ‘zelflerende’ vermogen is waar een softwareproduct zich mee kan onderscheiden van andere oplossingen in de markt. In de markten waar ik documentoplossingen aanbied zijn er ontzettend veel data beschikbaar. Tijdens de verwerking van die documenten is het op basis van die gegevens en met gebruikmaking van ai mogelijk om voorspellingen te doen, adviezen te geven en beslissingen te maken.

Data scientist-programma's als die van Dataiku bieden hierbij ondersteuning en slaan een brug met de business analist omdat zij elkaars taal kunnen spreken. Het opschonen van data, het samenvoegen van data en het toepassen van ai en machine learning en ai worden namelijk modulair gemaakt op het platform.

Ik merk dat de markt steeds meer interesse toont in het gebruik van workflows en ai. Deze combinatie is in mijn ogen een aanwinst voor elke organisatie. Het stroomlijnen van data en het analyseren ervan is belangrijk om als organisatie onderscheidend te zijn en de klant optimaal te bedienen. Maar de Egg-conferentie van Dataiku heeft mij ook aan het denken gezet over de toekomst van ai. Alle gebruikers, leveranciers en ontwikkelaars samen moeten nadenken over het ethisch gebruik ervan. Ga voorzichtig met data om zodat een antirevolutie voorkomen kan worden.

Olivier Uijtewaal, business consultant XA Document Solutions

Dit artikel is afkomstig van Channelweb.nl (https://www.channelweb.nl/artikel/6772631). © Jaarbeurs IT Media.

?


Lees ook


 

Jouw reactie


Je bent niet ingelogd. Je kunt als gast reageren, maar dan wordt je reactie pas zichtbaar na goedkeuring door de redactie. Om je reactie direct geplaatst te krijgen, moet je eerst rechtsboven inloggen of je registreren

Je naam ontbreekt
Je e-mailadres ontbreekt
Je reactie ontbreekt

Stuur door

Stuur dit artikel door

Je naam ontbreekt
Je e-mailadres ontbreekt
De naam van de ontvanger ontbreekt
Het e-mailadres van de ontvanger ontbreekt

×
×
Wilt u dagelijks op de hoogte worden gehouden van het laatste ict-nieuws, achtergronden en opinie?
Abonneer uzelf op onze gratis nieuwsbrief.