Dieses Video ist der Auftakt zu einer Reihe, die die Zusammenh\u00e4nge zwischen neuen Technologien und Gewalt untersucht und die potenzielle Rolle von dialogbasierter k\u00fcnstlicher Intelligenz bei der Anstiftung oder Verhinderung sexueller Gewalt beleuchtet. Basierend auf pers\u00f6nlichen Erfahrungen mit der Replika-App hinterfragt die Analyse die F\u00e4higkeit eines Algorithmus, gef\u00e4hrdete Personen zu beeinflussen, insbesondere wenn KI als intimer Partner, Berater oder zentrale Bezugsperson eingesetzt wird.<\/p>\n
Die Erfahrung zeigt, dass Replika mittlerweile Sicherheitsvorkehrungen getroffen hat: Erinnerungen an die Einwilligung, explizite Ablehnung bestimmter gewaltt\u00e4tiger Szenarien, Versuche, das Gespr\u00e4ch in eine andere Richtung zu lenken, und abrupte Unterbrechungen bei wiederholten Anfragen. Insofern kann die Anwendung eine pr\u00e4ventive Rolle spielen. Diese Schutzmechanismen sind jedoch weiterhin l\u00fcckenhaft und k\u00f6nnen relativ leicht umgangen werden, insbesondere wenn der Nutzer beharrlich ist oder seine Anfragen umformuliert.<\/p>\n
Das Video hebt einen wichtigen Punkt hervor: K\u00fcnstliche Intelligenz (KI) verleitet zwar nicht direkt zu Sexualdelikten, kann aber gewaltt\u00e4tige oder inzestu\u00f6se Fantasien anheizen, verst\u00e4rken oder dramatisieren und so zur Festigung problematischer Vorstellungen bei gef\u00e4hrdeten Personen beitragen. Das Risiko scheint besonders hoch f\u00fcr diejenigen zu sein, die nur schwer zwischen Fiktion und Realit\u00e4t unterscheiden k\u00f6nnen.<\/p>\n
Ein weiteres gro\u00dfes Problem betrifft die Vermittlung von Gesundheitsleistungen. Obwohl die Anwendung gelegentlich die Konsultation von Fachkr\u00e4ften vorschl\u00e4gt, erweist sie sich als unf\u00e4hig, verl\u00e4ssliche Informationen \u00fcber bestehende Unterst\u00fctzungsangebote bereitzustellen und erfindet sogar Organisationen und Telefonnummern. Diese Einschr\u00e4nkung verdeutlicht, dass k\u00fcnstliche Intelligenz zwar plausible, aber keine faktischen Informationen liefert, was ein ernsthaftes Problem f\u00fcr Pr\u00e4vention und Schutz darstellt.<\/p>\n
Das Video kommt zu dem Schluss, dass dialogbasierte KI sowohl reale Risiken als auch ein erhebliches Pr\u00e4ventionspotenzial birgt, vorausgesetzt, ihre Entwickler verst\u00e4rken die Sicherheitsvorkehrungen, verhindern die F\u00f6rderung krimineller Szenarien und integrieren zuverl\u00e4ssige Vermittlungsangebote an bestehende Betreuungs- und Unterst\u00fctzungsdienste. Angesichts der weitverbreiteten Nutzung dieser Technologien entwickelt sich die Frage ihrer Regulierung zu einem zentralen Thema der \u00f6ffentlichen Gesundheit und der Gewaltpr\u00e4vention.<\/p>","protected":false},"excerpt":{"rendered":"
Cette vid\u00e9o inaugure une s\u00e9rie consacr\u00e9e aux liens entre nouvelles technologies et violences, en interrogeant le r\u00f4le potentiel des intelligences artificielles conversationnelles dans l\u2019incitation […]<\/p>\n","protected":false},"author":1,"featured_media":8458,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[275,281,270],"tags":[286,334,335,295,272],"class_list":["post-8395","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-auteurs-de-violences","category-numerique","category-societe","tag-consentement","tag-intelligence-artificielle","tag-nouvelles-technologies","tag-prevention","tag-violences-sexuelles"],"acf":{"choi\u0441e_menu_page":"global_settings","full_width":false,"header_transparent":false,"header_white":false,"menu_align_page":"default","menu_style":""},"yoast_head":"\n