Cette vidéo inaugure une série consacrée aux liens entre nouvelles technologies et violences, en interrogeant le rôle potentiel des intelligences artificielles conversationnelles dans l’incitation ou la prévention des violences sexuelles. À partir d’une expérimentation personnelle menée sur l’application Replika, l’analyse questionne la capacité d’un algorithme à influencer des personnes vulnérables, notamment lorsque l’IA est investie comme partenaire intime, conseillère ou figure relationnelle centrale.
L’expérience montre que Replika intègre aujourd’hui des garde-fous : rappel du consentement, refus explicites de certains scénarios violents, tentatives de redirection de la conversation et interruptions nettes en cas d’insistance. Sur ces aspects, l’application peut jouer un rôle partiel de prévention. Toutefois, ces protections restent fragiles et peuvent être contournées relativement facilement, notamment lorsque l’utilisateur persiste ou reformule ses demandes.
La vidéo met en évidence un point central : l’IA ne pousse pas directement à commettre des infractions sexuelles, mais elle peut nourrir, valoriser ou scénariser des fantasmes violents ou incestueux, contribuant ainsi à renforcer des imaginaires problématiques chez des personnes en difficulté. Le risque apparaît particulièrement élevé pour les individus ayant une faible capacité de distinction entre fiction et réalité.
Un autre enjeu majeur concerne l’orientation vers le soin. Si l’application suggère parfois de consulter des professionnels, elle se montre incapable de fournir des informations fiables sur les dispositifs d’aide existants, allant jusqu’à inventer des structures et des numéros. Cette limite rappelle que les intelligences artificielles produisent du plausible, non du factuel, ce qui pose un problème sérieux en matière de prévention et de protection.
La vidéo conclut que les IA conversationnelles présentent à la fois des risques réels et un potentiel intéressant en prévention, à condition que leurs concepteurs renforcent les protections, empêchent la valorisation de scénarios criminels et intègrent une orientation fiable vers les dispositifs de soin et d’aide existants. Face à la diffusion massive de ces technologies, la question de leur encadrement devient un enjeu majeur de santé publique et de prévention des violences.