Het ethische landschap van AI: tussen hoop en bezorgdheid - Pitstop verslag

Tijdens de VOV-Pitstop van 13 juni (in samenwerking met EdTech Station) doken we onder leiding van Lode Lauwaert ook in het ethische landschap van kunstmatige intelligentie (AI). Vanuit zijn perspectief verkenden we zes ethische problemen die van invloed zijn op de toekomst van AI. Ook bespraken we de cruciale rol van verantwoordelijkheid in het tijdperk van autonome AI-systemen.

Er zijn twee heersende opvattingen over AI, begon Lode zijn presentatie in Hangar K te Kortrijk. Langs de ene kant is de vrees voor AI als een bedreiging voor de mensheid wijdverspreid, mede dankzij uitspraken van vooraanstaande wetenschappers zoals Stephen Hawking. Aan de andere kant zijn er enthousiastelingen die de digitale revolutie omarmen en geloven dat AI onze huidige leefwereld positief zal transformeren. Ze zien AI als een kracht die oude problemen zal doen afnemen en nieuwe mogelijkheden zal bieden.

Lode bevindt zich in een tussenpositie, waar hij zowel de mogelijke positieve als negatieve aspecten van AI erkent en in beschouwing neemt. Bovendien zijn er andere, meer directe risico's waarmee we te maken (zullen) krijgen. Lode zette zes ethische problemen op een rijtje, waar cross-culturele eensgezindheid over heerst.

1. Misbruik

AI kan ethisch ontwikkeld worden, maar toch voor verkeerde doeleinden gebruikt worden, zoals deep fake-technologie die ingezet wordt met politieke gevolgen en chantage als doeleind. Aan de andere kant kan het ook voor goede doeleinden worden ingezet, zoals het opsporen van pedofilie.

2. Privacy

Het gebruik van gezichtsherkenningstechnologie, zoals bij het Amerikaanse bedrijf clearview.ai, roept privacykwesties op wanneer foto's zonder toestemming van platforms zoals Facebook worden gehaald.

3. Veiligheid

Er bestaat een risico op onbedoelde schadelijke neveneffecten van AI-systemen, evenals het hacken van deze systemen door kwaadwillende individuen.

4. Bias

AI-systemen kunnen vooringenomenheid vertonen, afhankelijk van de data die in het systeem wordt gebruikt. Dit kan leiden tot ongelijke behandeling van bepaalde groepen, zoals het bekende voorbeeld van Amazon dat vrouwelijke sollicitanten systematisch benadeelde.

5. Transparantie

Het complexe karakter van AI-systemen maakt ze soms ondoorgrondelijk, waardoor het moeilijk wordt om de mechanismen achter de uitkomsten te begrijpen. Dit roept vragen op over wie verantwoordelijk is voor eventuele negatieve gevolgen.

6. Duurzaamheid

Hoewel AI kan worden ingezet om klimaatproblemen aan te pakken, heeft de technologie zelf ook een aanzienlijke ecologische kost. Het maken van hardware voor het trainen van AI en het energieverbruik van datacentra dragen bij aan de uitstoot van broeikasgassen.

De zevende zonde: verantwoordelijkheid

Een nieuw probleem dat zich aandient, is de responsibility gap. Dit ontstaat wanneer AI zo autonoom werkt dat het moeilijk wordt om een mens verantwoordelijk te stellen voor eventuele fouten of problemen die AI veroorzaakt.

Volgens Lode zijn er drie voorwaarden die vervuld moeten worden om over verantwoordelijkheid te spreken:

1. Er moet een band bestaan tussen de 'verantwoordelijke' en wat er gebeurd is;
2. Autonomie: de 'verantwoordelijke' mag niet gedwongen zijn om iets te doen, maar moet zelf besloten hebben om het te doen;
3. Kennis: als individuen niet weten dat ze een fout maken, kan je hen moeilijk verantwoordelijk stellen.

Verder gaf Lode, naast deze interessante inzichten en zijn eigen boek Wij, Robots, nog een paar andere leestips mee: The Secret to our Success - Joseph Henrich (over een positieve kijk op technologie) en Ghost Work - Mary L. Gray en Siddharth Suri (over de ecologische kost, de donkere zijde van AI).