Empresas de tecnologia da área de conteúdo estão investindo no uso de inteligência artificial para substituir o trabalho dos moderadores de conteúdo, que nesta semana foram enviados para casa como forma de diminuir a incidência do novo coronavírus (Covid-19). Em destaque desde o ano passado, o serviço de moderação de conteúdo empregado por firmas como […]
Empresas de tecnologia da área de conteúdo estão investindo no uso de inteligência artificial para substituir o trabalho dos moderadores de conteúdo, que nesta semana foram enviados para casa como forma de diminuir a incidência do novo coronavírus (Covid-19).
Em destaque desde o ano passado, o serviço de moderação de conteúdo empregado por firmas como Facebook e Twitter é realizado por funcionários contratados por essas empresas por meio de firmas como Accenture e Cognizant, para revisar conteúdos classificados pelo algoritmo como violentos ou com exposição à nudez.
À parte das questões já levantadas sobre o nível de segurança mental desse trabalho, outra questão delicada diz respeito à privacidade desses dados: os locais de trabalho dos verificadores têm um esquema de segurança bastante rigoroso, com crachás que liberam acesso apenas para locais onde o funcionário precisa realmente entrar e com políticas de segurança como a proibição do suo de dispositivos móveis durante o trabalho.
Por conta dessas questões (e medo de um potencial vazamento de dados de usuários), as empresas de tecnologia optaram por enviar todos os funcionários terceirizados para casa, remunerando-os pelo período em que deveriam trabalhar. Porém, fica a questão: como continuar o trabalho de moderação se os funcionários não podem ir ao escritório?
Parte desse trabalho foi absorvida por funcionários internos, mas não é possível dar conta de todas as revisões necessárias. Tentando contornar esse problema, as empresas estão investindo na combinação entre inteligência artificial e machine learning para criar modelos capazes de realizar pelo menos as tarefas mais automáticas de censura.
O YouTube, por exemplo, é um exemplo de empresa que está adotando IA em boa parte do seu sistema de revisão. Porém, a companhia já prevê erros de julgamento da tecnologia e avisou que todas as punições apresentadas por esse sistema durante o período de quarentena não gerarão a desativação de um canal.
Facebook e Twitter também informaram que pretendem aumentar de forma significativa o uso de inteligência artificial para remover conteúdos ofensivos, já prevendo um crescimento de erros e tomando medidas para que as ações mais graves sejam avaliadas por humanos antes de executadas.
A decisão surpreende, pois em entrevistas ainda recentes boa parte dessas empresas afirmaram que a aplicação de IA para esse uso ainda era um sonho distante. A hipótese mais provável, contudo, é a de que as marcas aproveitaram o momento (e o quase certo crescimento de uso de suas plataformas), como uma oportunidade para “errar” de forma mais justificada.
* Com informações do The Interface
