O sistema de inteligência artificial do Facebook acaba de receber uma importante melhoria: a de não precisar de qualquer tipo de denúncia para detectar um potencial conteúdo publicado por alguém com tendências suicidas.
A nova ferramenta de IA será capaz de detectar padrões em conteúdos publicados que podem derivar em tendências suicidas, e atuar antes que uma denúncia sobre tal conteúdo aconteça. A “detecção proativa” é algo muito interessante para uma rede social que não para de crescer, principalmente entre os adolescentes.
O sistema pode representar em ganho de minutos em cada passo do processo, especialmente no Facebook Live, sistema de transmissões ao vivo da plataforma, onde a corrida contra o tempo é intensa para detectar suicidas, assassinos e condutas delitivas. O objetivo inicial dessa nova IA é prevenir suicídios. Veremos se o software vai atuar em outros campos ou situações.
Uma das melhores formas para ajudar a prevenir o suicídio é que as pessoas que tendem ao suicídio saibam que seus amigos e familiares se preocupam com elas. O Facebook pode ter um papel único nesse aspecto, ajudando a conectar pessoas com esses sintomas a amigos e organizações que podem ajudá-las.
Vamos ver como tudo isso funciona na prática, já que a ferramenta será expandida para fora dos Estados Unidos pela primeira vez.