Deze video opent een serie over de verbanden tussen nieuwe technologie\u00ebn en geweld, door te kijken naar de mogelijke rol van conversationele kunstmatige intelligentie bij het aanzetten tot of voorkomen van seksueel geweld. De analyse is gebaseerd op een persoonlijk experiment met de Replika-applicatie en stelt het vermogen van een algoritme om kwetsbare mensen te be\u00efnvloeden ter discussie, vooral wanneer de AI wordt ingezet als intieme partner, adviseur of centrale relationele figuur.<\/p>\n
De ervaring leert dat Replika nu beveiligingen bevat: herinneringen aan toestemming, expliciete weigeringen van bepaalde gewelddadige scenario's, pogingen om het gesprek om te leiden en duidelijke onderbrekingen bij aandringen. In deze opzichten kan de applicatie een gedeeltelijke preventieve rol spelen. Deze beschermingen blijven echter kwetsbaar en kunnen relatief gemakkelijk worden omzeild, vooral wanneer de gebruiker volhardt of zijn of haar verzoeken herformuleert.<\/p>\n
De video belicht een centraal punt: AI zet mensen niet direct aan tot het plegen van seksuele misdrijven, maar kan wel gewelddadige of incestueuze fantasie\u00ebn voeden, versterken of uitwerken en zo helpen om problematische fantasie\u00ebn bij mensen in moeilijkheden te versterken. Het risico lijkt vooral hoog te zijn voor mensen met een slecht vermogen om onderscheid te maken tussen fictie en werkelijkheid.<\/p>\n
Een ander groot probleem is de doorverwijzing naar zorg. Hoewel de applicatie soms voorstelt om professionals te raadplegen, blijkt ze niet in staat om betrouwbare informatie te geven over bestaande hulpdiensten, en gaat zelfs zo ver dat ze structuren en nummers verzint. Deze beperking herinnert ons eraan dat kunstmatige intelligenties het plausibele produceren en niet het feitelijke, wat een ernstig probleem vormt op het gebied van preventie en bescherming.<\/p>\n
De video concludeert dat conversationele AI's zowel re\u00eble risico's als een interessant preventiepotentieel hebben, op voorwaarde dat hun ontwerpers voorzorgsmaatregelen versterken, de ontwikkeling van criminele scenario's voorkomen en betrouwbare verwijzingen naar bestaande zorg- en ondersteuningssystemen opnemen. Gezien de massale verspreiding van deze technologie\u00ebn wordt de vraag hoe ze moeten worden beheerd een belangrijke kwestie op het gebied van volksgezondheid en preventie van geweld.<\/p>","protected":false},"excerpt":{"rendered":"
Cette vid\u00e9o inaugure une s\u00e9rie consacr\u00e9e aux liens entre nouvelles technologies et violences, en interrogeant le r\u00f4le potentiel des intelligences artificielles conversationnelles dans l\u2019incitation […]<\/p>\n","protected":false},"author":1,"featured_media":8458,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[275,281,270],"tags":[286,334,335,295,272],"class_list":["post-8395","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-auteurs-de-violences","category-numerique","category-societe","tag-consentement","tag-intelligence-artificielle","tag-nouvelles-technologies","tag-prevention","tag-violences-sexuelles"],"acf":{"choi\u0441e_menu_page":"global_settings","full_width":false,"header_transparent":false,"header_white":false,"menu_align_page":"default","menu_style":""},"yoast_head":"\n