Scholen gebruiken AI vaak om leerlingen op te sporen die een risico lopen op zelfbeschadiging, geweld tegen anderen en pesten. Sommigen maken zich zorgen dat deze programma’s de privacy en vrijheid van internetgebruik van leerlingen schenden, zo meldt WSJ. Een AI-bedrijf zei dat het in een enkele week 5.000 situaties van zelfbeschadiging of zelfmoord onder leerlingen had gedetecteerd.
Nu de leerlingen weer naar school gaan, maken schooldistricten in het hele land gebruik van kunstmatige intelligentieprogramma’s om hun communicatie en zoekopdrachten op het web in de gaten te houden om degenen die een risico lopen op zelfbeschadiging, pesten, geweld en andere geestelijke gezondheidsproblemen op te sporen, aldus een rapport van het Center for Democracy and Technology.
Hoewel bewakingsprogramma’s op scholen wijdverbreid zijn – 71% van de leraren in de CDT-enquête zei dat hun scholen bewakingssoftware gebruikten – zeggen critici dat het gebruik van deze programma’s inbreuk kan maken op de privacy van leerlingen en kan leiden tot een hellend vlak als scholen de AI beginnen te gebruiken om redenen als discipline, in plaats van schadepreventie.
De software scant meestal naar bepaalde sleutelwoorden en zinnen op door de school uitgegeven apparaten en waarschuwt een beheerder wanneer het een gerichte sleutelzin vindt, aldus The Wall Street Journal. De beheerder kan bepalen of de waarschuwing geloofwaardig is en ervoor kiezen de ouders op de hoogte te brengen of in te grijpen bij de leerling, aldus de Journal.
Bark, een bewakingsbedrijf dat door 2.900 schooldistricten wordt gebruikt, vertelde de Journal dat het in een enkele week 5.000 gevallen van zelfbeschadiging of zelfmoord had ontdekt. Het San Marcos Unified School District, dat de bewakingssoftware Lightspeed gebruikt, vertelde de Journal dat het alleen al in de eerste schoolweek vijf geloofwaardige waarschuwingen over zelfbeschadiging had ontvangen.
Lees verder op: https://www.businessinsider.com/school-students-communication-monitoring-ai-software-self-harm-suicide-risks-2021-9?international=true&r=US&IR=T
