Meta está passando por sua pior crise de moderação. Comunidades inteiras desaparecem da noite para o dia, vítimas de inteligência artificial.
Nos últimos dias, recebemos testemunhos perturbadores de leitores da Frandroid: seus grupos do Facebook desapareceram da noite para o dia, sem motivo aparente. Primeiro, pensamos em casos isolados, mas a realidade excede nossos medos. A Meta está passando por uma grande crise de moderação que afeta milhares de grupos perfeitamente inofensivos.
Quando a AI vê o terrorismo em todos os lugares
A situação faz fronteira com o absurdo. Os administradores do grupo recebem notificações de banimento por razões completamente desconectadas da realidade de sua comunidade. Um grupo de fotos de pássaros com quase um milhão de membros é suspenso por nudez. Um grupo da família Pokémon com 200.000 fãs é acusado de se referir a “organizações perigosas”. Um grupo de decoração de interiores que atende milhões de usuários se enquadra na mesma violação antiterrorista.
Esses exemplos, que podem emprestar ao sorriso, são na verdade uma disfunção maciça de sistemas de moderação meta automatizados. A inteligência artificial que deveria proteger os usuários é transformada em um censor cego, incapaz de distinguir Pikachu de um símbolo terrorista ou uma foto de Gorge Vermelho de conteúdo pornográfico.
Esse bug afeta grupos de todos os tamanhos e nacionalidades: conselhos econômicos, apoio dos pais, proprietários de animais, entusiastas dos teclados mecânicos. Nenhum tema escapa desse purgo algorítmico é demente.
Diante de protestos crescentes, o porta -voz da meta Andy Stone acabou reconhecendo a existência de um problema. “” Estamos cientes de um erro técnico que afetou certos grupos do Facebook. Nós corrigimos o problema“, Ele acabou de declarar TechCrunch. Uma comunicação que não explica as causas ou a magnitude real desse “erro técnico”.
Esse reconhecimento tardio ocorre após dias de silêncio do rádio, durante o qual milhares de administradores se viram sem recorrer diante do desaparecimento de suas comunidades.
Muitos tentaram chamar decisões, sem sucesso. Os usuários experientes agora aconselham as vítimas a esperar alguns dias, em vez de chamar, esperando que o bug seja corrigido automaticamente e que os grupos sejam restaurados sem intervenção manual.
Essa crise de moderação não se limita ao metacoossistema. O Instagram também foi afetado por ondas de bancos maciços nas últimas semanas. Pinterest também, que reconheceu o problema no passo.
