Het kompas bij AI implementaties
In de race naar AI-implementatie is het verleidelijk om vooral naar de technologische en economische winst te kijken. Een rapport van strategische adviesbureau McKinsey stelt dat AI tegen 2040 een jaarlijks potentieel heeft tussen de 13,7 biljoen en 21 biljoen euro, als totaal economisch potentieel.
Wie alleen naar vooruitgang kijkt zonder ethisch kompas, mist het grotere plaatje.
AI en menselijke waarden vormen geen vanzelfsprekende match
Wat bedrijven nodig hebben is een ethisch raamwerk dat het gehele AI-traject bevat: van beslissingen om te investeren tot productontwikkeling, interne en externe communicatie. Anders wordt het risico groot dan ‘AI-ethiek’ verandert in een inhoudsloos PR-geluid.
Ethische valkuilen, bestaan die dan?
Vaak onbewust en soms bewust genegeerd. Overweeg bij die beslissingen deze 11 aandachtspunten:
- Inclusiviteit: Niet iedereen heeft toegang tot AI-tools. En niet iedereen heeft de kennis of wens om ermee te werken.
- Waardetoevoeging: AI die is gemaakt om mensen te imiteren i.p.v. AI in te zetten om mensen te ondersteunen en hun capaciteiten uit te breiden, zoals wordt beschreven in de Turing Trap.
- Labelen: het trainen van AI door mensen. AI is niet alleen in de mooie kantoren van Sillicon Valley ontstaan waar het technische fundament is gelegd. In lage lonen landen werden mensen ingezet om bijvoorbeeld foto’s en video’s te labelen waarmee AI getrained wordt om de inhoud te herkennen. Men moest daarbij ook walgelijke en gruwelijke tafarelen bekijken en die labelen met soms trauma’s als gevolg. Tegenwoordig gebeurt labelen meer door AI zelf, wat weer andere vraagstukken oplevert.
- Vooringenomenheid: AI leert van onze maatschappij, dus inclusief onze vooroordelen. Zonder bijscholing van AI blijven vooroordelen bestaan.
- Duurzaamheid: AI slurpt energie, het verbruikt 11 tot 20 procent van wereldwijde stroom datacenters.
- Nauwkeurigheid: Een overeenkomst tussen mens en AI is dat beide regelmatig verzinsels produceren, hallicinaties genoemd in de techwereld. Dat kan grote gevolgen hebben bij bijvoorbeeld fout financieel advies of verkeerde diagnoses.
- Werkgelegenheid: Welke mensen kunnen worden vervangen door AI en welke mensen gaan werken mét AI?
- Collegialiteit: AI heeft vooralsnog geen intuïtie of empathische vermogens, kan non-verbale signalen niet oppikken en heeft minder begrip voor diepere bedoelding en culturele ladingen.
- Ambachtelijke degradatie: Marco Derksen stelt in zijn blogartikel de vraag wat het effect is als een ambacht verandert in een technische handeling met snel resultaat.
- Schending van privacy en auteursrechten: AI-systemen gebruiken persoonsgegevens en beschermde werken zonder toestemming met als gevolg ongewenste blootstelling, misbruik en conflicten over eigendom en gebruik. Een publicatie van Autoriteit Persoonsgegevens stelt dat de totstandkoming van de meeste foundationmodellen qua rechtmatigheid tot op heden tekort komt.
- Agentische AI & Autogenetische AI: Inzicht en controle verliezen is een risico. Agentische AI is zonder toezicht een soort van blackbox situatie zonder duidelijk inzicht hoe AI’s samen iets uitvoeren. Nog een stap verder is Autogenetische AI (ik heb zelf de term maar gekozen want die is er denk ik nog niet) waarin een autonome AI zelf nageslacht kan produceren welke ook autonoom functioneert en de mens niet alleen inzicht verliest maar ook de controle.
Wie bepaalt wat ethisch AI-gebruik is?
De verantwoordelijkheid voor ethische AI ligt deels bij de technologiebedrijven, maar ook bij de gebruikers. Sommige AI platforms zoals Anthropic maken hun morele keuzes expliciet, via een ‘AI-grondwet’. Toch is de werkelijkheid vaak grilliger als commerciële druk en winstmaximalisatie de mooie intenties vervaagt.
Als bedrijven geen verantwoordelijkheid nemen, doen overheden het wel? De toeslagenaffaire was niet enkel een gevolg van beleidskeuzes maar ook van het blindelings volgen van algoritmes en menselijk falen. Een overheid die zorgdraagt voor veiligheid is geen vanzelfsprekend gegeven.
De Europese AI-verordening is een eerste poging tot wereldwijde regelgeving. Maar wetgeving loopt altijd achter op technologie. Als bedrijven samenwerken en brancheverenigingen standaarden ontwikkelen dan helpt dat niet alleen bij compliance, maar versterkt ook het vertrouwen van consumenten en voorkomt misschien zelfs wel overheidsingrepen.
Ethische AI ligt bij de gehele directie
Ethiek heeft waarde
Organisaties die zich nu actief inzetten voor een ethisch kader, zijn later misschien winstgevender, maar zeker waardevoller.
Zo, nu kunnen we dit lastige onderwerp afstrepen. En door met de waan van de dag.
