AI-video's misbruiken mensen met Downsyndroom voor onlineverkoop

Video's die lijken in te zetten op personen met trisomie 21 om consumenten aan te zetten tot aankoop van handtassen of kleiwerk doen miljarden views op sociale medianetwerken, maar veel ervan zijn gegenereerd door kunstmatige intelligentie (AI). Deze video's passen in een commercieel patroon dat ernaar streeft de empathie van consumenten jegens personen met een handicap of gepercipieerde achterstandsgroepen — zoals ouderen — aan te boren.

Volgens sommige experts dragen deze praktijken bij aan het in stand houden van stereotypen en scaden zij de levenskwaliteit van de in scène gezette personen, die vaak al gemarginaliseerd zijn.

In deze publicaties op TikTok, YouTube en Instagram stellen de door kunstmatige intelligentie gegenereerde personages met trisomie (ook bekend als het syndroom van Down) te worden geteisterd omdat zij handgemaakte voorwerpen verkopen, met insulte-berichten ter ondersteuning. Volgens Nathan Rowe, programmadirecteur bij Down Syndrome International, voeden deze video's het idee dat personen met deze genetische aandoening — veroorzaakt door een extra chromosoom — medelijden verdienen. Deze publicaties, die doorverwijzen naar verdachte webwinkels, "richten zich op personen die misschien een welwillende, zelfs enigszins paternalistische kijk op trisomie hebben", zei hij.

AFP ontdekte dat enkele van deze pottenbakkerartikelen eerst in echte publicaties waren verschenen, voordat ze werden misbruikt. Deze video's "verdringen" dus publicaties van echte ondernemers met trisomie, betreurt Rowe, stellende dat er "veel personen met de aandoening zijn die echt talent hebben en werken creëren, maar dit versterkt alleen het idee dat zij daar niet toe in staat zijn en dat het zeker het werk van AI moet zijn".

Deze trend op sociale medianetwerken is niet de eerste die gebruikmaakt van het beeld van kwetsbare personen om er financieel voordeel uit te halen. Down Syndrome International diende onder meer een klacht in bij Meta over seksuele deepfakes met personen met trisomie, wat tot verwijdering van verschillende van deze publicaties leidde. Rowe handhaaft echter dat de platforms meer moeten doen om verspreiding van dergelijke inhoud tegen te gaan.

Volgens de regels op TikTok is het in theorie reeds verboden misleidende, manipulatieve of discriminerende activiteiten uit te voeren. YouTube hanteert regelgeving