Это видео открывает серию исследований, посвященных связи новых технологий и насилия, рассматривая потенциальную роль разговорного искусственного интеллекта в провоцировании или предотвращении сексуального насилия. Основываясь на личном опыте использования приложения Replika, анализ ставит под сомнение способность алгоритма влиять на уязвимых людей, особенно когда ИИ используется в качестве близкого партнера, советника или центральной фигуры в отношениях.
Опыт показывает, что Replika теперь включает в себя средства защиты: напоминания о согласии, явный отказ от определенных сценариев насилия, попытки перенаправить разговор и резкие прерывания в случаях настойчивости. В этом отношении приложение может играть частичную превентивную роль. Однако эти средства защиты остаются ненадежными и могут быть относительно легко обойдены, особенно когда пользователь настойчив или перефразирует свои запросы.
Видеоролик подчеркивает ключевой момент: искусственный интеллект не подстрекает напрямую к совершению сексуальных преступлений, но может подпитывать, усиливать или драматизировать насильственные или инцестуозные фантазии, тем самым способствуя закреплению проблемных представлений у уязвимых людей. Риск представляется особенно высоким для тех, кто плохо различает вымысел и реальность.
Еще одна серьезная проблема касается направления к специалистам здравоохранения. Хотя приложение иногда предлагает обратиться к профессионалам, оно оказывается неспособным предоставить достоверную информацию о существующих службах поддержки, даже выдумывая организации и номера телефонов. Это ограничение подчеркивает тот факт, что искусственный интеллект производит правдоподобную, а не фактическую информацию, что представляет серьезную проблему для профилактики и защиты.
В заключение видеоролика говорится, что разговорный ИИ представляет как реальные риски, так и значительный потенциал для предотвращения преступлений, при условии, что его разработчики усилят меры защиты, предотвратят пропаганду криминальных сценариев и интегрируют надежные каналы направления к существующим службам помощи и поддержки. Учитывая широкое распространение этих технологий, вопрос их регулирования становится важной проблемой общественного здравоохранения и предотвращения насилия.
