Компанията Meta въвежда нова функция в Инстаграм, която ще предупреждава родителите, ако тийнейджърите им многократно търсят съдържание, свързано със самоубийство или самонараняване, предава bTV.
Това е първият случай, в който компанията ще изпраща проактивни сигнали до родители, вместо единствено да блокира достъпа до подобни материали и да насочва младите потребители към външни ресурси за помощ.
Как ще работи системата?
От следващата седмица мярката влиза в сила във Великобритания, САЩ, Австралия и Канада, а по-късно ще бъде въведена и в други държави.
Сигналите ще се изпращат, когато в рамките на кратък период бъде засечено повтарящо се търсене на тревожни термини. Родителите ще получават известия по имейл, SMS, WhatsApp или директно в приложението – в зависимост от наличните данни.
Meta уточнява, че предупрежденията ще бъдат придружени от експертни ресурси и съвети как да се водят трудни разговори с децата.
Компанията признава, че понякога уведомленията може да бъдат изпратени и при липса на реален риск, тъй като алгоритъмът ще действа "с повишено внимание".
Критики от благотворителни организации
Британската организация за превенция на самоубийствата Фондация „Моли Роуз“ изрази сериозни притеснения.
Главният ѝ изпълнителен директор Анди Бъроуз предупреди, че подобни известия могат да предизвикат паника и да оставят родителите неподготвени за чувствителните разговори, които следват.
Фондацията е създадена след трагичната смърт на 14-годишната Моли Ръсел през 2017 г., след излагане на съдържание, свързано със самонараняване в социалните мрежи.
Натиск върху платформите
Новата функция е част от по-строг контрол върху тийнейджърските акаунти. Meta вече прилага мерки като:
- скриване на съдържание, свързано със самонараняване;
- блокиране на определени търсения;
- ограничаване на препоръчителните алгоритми.
В следващите месеци компанията планира да въведе сходни предупреждения и при разговори на подобни теми с AI чатботове в Инстаграм.
Междувременно социалните мрежи са под засилен регулаторен натиск. Австралия вече въведе забрана за достъп до социални медии за лица под 16 години, а Испания, Франция и Великобритания обсъждат подобни ограничения.
