Ten film rozpoczyna serię analizującą powiązania między nowymi technologiami a przemocą, analizując potencjalną rolę konwersacyjnej sztucznej inteligencji w podżeganiu do przemocy seksualnej lub jej zapobieganiu. Analiza, oparta na osobistych doświadczeniach z aplikacją Replika, poddaje w wątpliwość zdolność algorytmu do wpływania na osoby wrażliwe, szczególnie gdy sztuczna inteligencja jest wykorzystywana jako partner intymny, doradca lub centralna postać w relacji.
Doświadczenie pokazuje, że Replika oferuje teraz mechanizmy zabezpieczające: przypomnienia o zgodzie, wyraźne odmowy w przypadku pewnych sytuacji przemocy, próby przekierowania rozmowy oraz nagłe przerwy w przypadku uporczywego nalegania. W tych aspektach aplikacja może pełnić funkcję częściowo prewencyjną. Jednak te zabezpieczenia pozostają kruche i można je stosunkowo łatwo obejść, zwłaszcza gdy użytkownik nalega lub przeformułowuje swoje żądania.
Film uwypukla kluczową kwestię: sztuczna inteligencja nie nakłania bezpośrednio do popełniania przestępstw seksualnych, ale może podsycać, wzmacniać lub dramatyzować brutalne lub kazirodcze fantazje, przyczyniając się w ten sposób do utrwalania problematycznych wyobrażeń u osób podatnych na tego typu zachowania. Ryzyko wydaje się szczególnie wysokie w przypadku osób o słabej zdolności odróżniania fikcji od rzeczywistości.
Kolejnym istotnym problemem są skierowania do placówek opieki zdrowotnej. Chociaż aplikacja czasami sugeruje konsultacje ze specjalistami, okazuje się, że nie jest w stanie dostarczyć wiarygodnych informacji o istniejących usługach wsparcia, a nawet wymyślić nazwy organizacji i numery telefonów. To ograniczenie uwypukla fakt, że sztuczna inteligencja generuje wiarygodne, a nie faktyczne informacje, co stanowi poważny problem w zakresie zapobiegania i ochrony.
Film dowodzi, że konwersacyjna sztuczna inteligencja stwarza zarówno realne zagrożenia, jak i znaczny potencjał prewencyjny, pod warunkiem, że jej twórcy wzmocnią zabezpieczenia, zapobiegną rozpowszechnianiu się scenariuszy przestępczych i zintegrują wiarygodne skierowania do istniejących usług opieki i wsparcia. Biorąc pod uwagę powszechne stosowanie tych technologii, kwestia ich regulacji staje się istotnym problemem w zakresie zdrowia publicznego i zapobiegania przemocy.
