O Instagram anunciou nesta terça-feira (9) sua primeira ferramenta após a saída da dupla de cofundadores, Kevin Systrom e Mike Krieger. O novo chefe da plataforma, Adam Mosseri, apresentou um sistema de identificação de bullying em imagens, a partir do uso do aprendizado de máquina de inteligência artificial (IA).

No ano passado, a rede social implementou o monitoramento proativo de comentários ofensivos e a ideia é fazer o mesmo com o conteúdo audiovisual — incluindo no material distribuído em tempo real. “Mas como funciona isso?”, você deve estar se perguntando. Ainda não há uma solução infalível para essa questão, então a proposta é se basear em casos confirmados.

Um porta-voz afirmou ao Mashable que o “detector de bullying” consegue identificar "ataques à aparência ou ao caráter de uma pessoa, bem como ameaças ao bem-estar ou à saúde" em uma foto. O processo envolve moderadores humanos, que vão usar as diretrizes da comunidade do app para remover a postagem. Essa notificação é que ajudará a máquina a reconhecer os comportamentos inadequados e servirá para alimentar o aprendizado do algoritmo.

O Instagram também está introduzindo um novo filtro, chamado de "câmera da bondade", para ajudar a espalhar positividade na plataforma. Quando você seleciona o efeito no modo selfie, corações preenchem a tela e você será incentivado a marcar um amigo.

Quem for taggeado será notificado e poderá compartilhar o post em sua própria história ou "espalhar gentileza" com uma selfie própria. Se você ligar o recurso com a câmera traseira, poderá adicionar um filtro com a hashtag #kindcomments e “gentileza” em vários idiomas.