Nos últimos tempos, muitos usuários do Instagram passaram a notar uma exposição frequente a material perturbador e inadequado, mesmo sem procurar por tais conteúdos. Relatos incluem clipes de violência, imagens chocantes e conteúdos gerados por inteligência artificial que têm um caráter um tanto bizarro. Esse fenômeno ocorre ao mesmo tempo em que a Meta – controladora do Instagram, Facebook e WhatsApp – ajusta suas políticas de moderação, levantando preocupações acerca do impacto, principalmente em menores.
O avanço dos conteúdos indesejados
Algoritmo promove conteúdo inquietante
Vários usuários sustentam que o algoritmo do Instagram passou a sugerir conteúdos bizarros ou violentos sem que tenham interagido com postagens desse tipo antes. Esse comportamento levanta dúvidas sobre como o sistema de sugestões da plataforma realmente funciona.
Consequências para os mais jovens
Crianças e adolescentes, mesmo com configurações mais restritivas, acabam se deparando com imagens de violência e nudez. Essa situação desperta preocupação sobre a proteção de menores no ambiente digital.
Alterações na moderação do Instagram
A Meta flexibilizou certas regras de moderação e encerrou seu programa de verificação de fatos, algo que pode estar contribuindo para a proliferação de conteúdos perturbadores. Tais mudanças suscitam dúvidas sobre a estratégia da empresa em lidar com material sensível.
Falhas na recomendação de conteúdo
A Kelly Takasu, residente americana de 36 anos, compartilhou com o The Washington Post que começou a receber sugestões estranhas após pesquisar amamentação. O algoritmo a levou a vídeos de idosas cercadas por bebês e até conteúdos de bebês híbridos, gerados por inteligência artificial.
Leia também:
- Como limitar conteúdo violento nas redes sociais
- 4 maneiras de filtrar conteúdo no Instagram
- Notas da Comunidade no Instagram e Facebook já têm data para começar
Mesmo outros usuários relataram experiências semelhantes. O filho adolescente de Courtney, por exemplo, viu em um único dia imagens violentas e chocantes, apesar de todas as proteções da plataforma estarem ativas.
Decisão da Meta ou simples falhas?
A Meta reconheceu uma falha interna em seu sistema que fez com que mais usuários vissem conteúdos impróprios. “Corrigimos um problema que temporariamente sugeriu conteúdos indesejados”, afirmou Erin Logan, porta-voz da empresa.
No entanto, a exposição a materiais sensíveis pode estar relacionada a decisões recentes da plataforma. Ao encerrar a verificação de fatos e flexibilizar regras sobre discursos controversos, mudanças no algoritmo podem favorecer conteúdos extremos, já que estes geram mais interações.
A empresa argumenta que suas configurações permitem esconder conteúdos impróprios para menores, enquanto especialistas defendem por maior responsabilidade nas redes sociais.
Algoritmos: heróis ou vilões?
De acordo com Sandra Wachter, professora de Oxford, algoritmos de recomendação tendem a favorecer conteúdos impactantes por natureza. “O que captura a atenção geralmente é escandaloso e sensacionalista”, afirma.
Impactos e decisões dos usuários
Do ponto de vista dos usuários, a exposição a material extremo pode ser extremamente prejudicial, sobretudo para adolescentes. A Meta já se viu sob acusações relacionadas a transtornos alimentares e problemas de saúde mental em jovens usuários.
Diante dessas preocupações, alguns decidiram abandonar a plataforma. Michael Bock, de 31 anos, declarou que costumava ver conteúdos sobre bicicletas e cães, mas passou a receber vídeos chocantes. “Não quero mais apoiar uma plataforma que causa tantos danos”, ele reflete.
Essa crescente preocupação destaca uma discussão sobre a responsabilidade de grandes plataformas digitais e suas influências no comportamento e bem-estar dos usuários.
“`