Meta informuje, że nowe zabezpieczenia dotyczą wrażliwych rozmów o samobójstwie i samookaleczeniach. Gdy nastolatek zasugeruje, że może myśleć o zrobieniu sobie krzywdy, Meta AI już teraz kieruje go do telefonów zaufania i zachęca do kontaktu z rodzicem lub zaufaną osobą dorosłą. Teraz dodatkowo platforma ma proaktywnie powiadamiać nadzorujących rodziców, jeśli czat z Meta AI może sugerować zagrożenie, na podstawie sygnałów opracowanych z ekspertami.
Jak opisuje Meta, firma konsultowała się z rodzicami i specjalistami, by ustalić, które rozmowy powinny uruchamiać alert, także wtedy, gdy odniesienia do samookaleczenia są subtelne. Firma zbudowała do tego osobny system AI, a wszystkie rozmowy oznaczone przez algorytm mają być przed wysłaniem powiadomienia ręcznie weryfikowane. Jeśli intencja nastolatka pozostaje niejednoznaczna, firma deklaruje, że wybierze ostrożność i wyśle alert, nawet kosztem sytuacji, w których realne ryzyko nie występuje.
Jak działają alerty w Instagram parental supervision
Powiadomienia są już aktywne dla rodziców korzystających z narzędzia Instagram parental supervision w USA, Wielkiej Brytanii, Australii i Kanadzie. Meta podkreśla, że to rozwinięcie wcześniejszych alertów: rodzice dostawali już powiadomienia, gdy nastolatek wielokrotnie wyszukiwał na Instagramie hasła związane z samobójstwem lub samookaleczeniami w krótkim czasie. W nowym rozwiązaniu rodzice mają też otrzymywać materiały przygotowane przez ekspertów, które mają pomóc im w rozmowie z nastolatkiem.
Meta zapowiada również rozwijanie możliwości kontaktowania służb ratunkowych, gdy rozmowa z Meta AI (zarówno osoby dorosłej, jak i nastolatka) może wskazywać na bezpośrednie ryzyko odebrania sobie życia. Firma przypomina, że na Facebooku i Instagramie już reaguje na treści sugerujące wiarygodne ryzyko samobójstwa, a w ubiegłym roku miała przekazać na świecie ponad 19 tys. takich zgłoszeń do służb, by umożliwić interwencje i kontrole dobrostanu.
Firma przypomina także o ustawieniach kont nastolatków: domyślnie konta trafiają do ustawień treści 13+, co obejmuje również rozmowy z Meta AI. W tym trybie system ma odpowiadać w sposób adekwatny do wieku i odmawiać realizacji wrażliwych próśb, m.in. dotyczących seksualnych lub romantycznych rozmów czy przepisów na drinki. Firma dodaje, że w październiku ogłosiła opcję Limited Content, a teraz bardziej restrykcyjne ustawienie ma obejmować także doświadczenia z AI, dodatkowo ograniczając zakres rozmów, na jakie Meta AI może odpowiadać.
