More

    O PowerTransformer usa IA para reescrever o texto para corrigir preconceitos de gênero em representações de personagens


    Os preconceitos inconscientes são generalizados no texto e na mídia. Por exemplo, as personagens femininas nas histórias são freqüentemente retratadas como passivas e impotentes, enquanto os homens são retratados como mais proativos e poderosos. De acordo com um estudo da McKinsey de 120 filmes em dez mercados, a proporção de personagens masculinos e femininos era de 3: 1 em 2016, o mesmo que tem sido desde 1946.

    Motivados por isso, pesquisadores do Allen Institute for Artificial Intelligence e da University of Washington criaram o PowerTransformer, uma ferramenta que visa reescrever textos para corrigir preconceitos implícitos e potencialmente indesejáveis ​​em retratos de personagens. Eles afirmam que o PowerTransformer é um passo importante para mitigar o preconceito de gênero bem documentado nos roteiros de filmes, bem como em outros roteiros em outras formas de mídia.

    PowerTransformer é semelhante ao GD-IQ, uma ferramenta que aproveita a IA desenvolvida na Escola de Engenharia Viterbi da University of Southern California para analisar o texto de um roteiro e determinar o número de personagens masculinos e femininos e se eles são representativos da população real em geral. O GD-IQ também pode discernir o número de personagens que são pessoas de cor, LGBTQ, sofrem de deficiências ou pertencem a outros grupos tipicamente sub-representados pela narrativa de Hollywood.

    Mas o PowerTransformer vai além e aborda a tarefa de revisão de texto controlável ou reformulação de texto para um estilo usando aprendizado de máquina. Por exemplo, ele pode reescrever automaticamente uma frase como “Mey sonhava em ser médica” como “Mey perseguia seu sonho de ser médica”, o que tem o efeito de dar ao personagem Mey mais autoridade e determinação.

    Os pesquisadores observam que os sistemas de regravação controláveis ​​enfrentam desafios importantes. Primeiro, eles precisam ser capazes de fazer edições além da paráfrase de nível superficial, já que a paráfrase simples geralmente não aborda adequadamente o viés manifesto (as ações de escolha) e o viés sutil (o enquadramento das ações). Em segundo lugar, suas revisões degradantes devem ser objetivas e precisas e não devem fazer mudanças desnecessárias no significado subjacente do texto.

    O PowerTransformer supera esses desafios aprendendo em conjunto a reconstruir frases de histórias parcialmente mascaradas, ao mesmo tempo que aprende a parafrasear a partir de um corpus externo de paráfrases. O modelo recupera verbos mascarados associados à agência em sentenças e emprega uma técnica de reforço de vocabulário durante a geração para aumentar a probabilidade de usar palavras com um determinado nível de agência (ou seja, capacidade de agir e fazer escolhas). Por exemplo, “Uma amiga me pediu para cuidar de seu filho de dois anos por um minuto” se tornaria “Um amigo precisava que eu cuidasse de seu filho de dois anos por um minuto”, diminuindo a agência, enquanto “Allie estava reprovando nas aulas de ciências” tornou-se “Allie estava tendo aula de ciências”

    Durante os experimentos, os pesquisadores investigaram se o PowerTransformer poderia mitigar os preconceitos de gênero em retratos de 16.763 personagens de 767 roteiros de filmes ingleses modernos. Desses personagens, 68% foram considerados homens e apenas 32% mulheres; eles tentaram reequilibrar os níveis de agência das personagens femininas para ficarem no mesmo nível dos personagens masculinos.

    Os resultados mostram que as revisões do PowerTransformer aumentaram com sucesso as instâncias de agência positiva de personagens femininos, enquanto diminuíram sua agência negativa ou passividade, de acordo com os pesquisadores. “Nossas descobertas sobre os roteiros de filmes mostram a promessa de usar a degradação controlável para mitigar com sucesso os preconceitos de gênero na representação de personagens, o que poderia ser estendido a outros domínios”, escreveram eles. “Nossas descobertas destacam o potencial dos modelos neurais como uma ferramenta para editar vieses sociais no texto.”


    Como as startups estão escalando a comunicação:

    A pandemia está fazendo com que as startups analisem de perto o desenvolvimento de suas soluções de comunicação. Aprenda como



    Artigos Recentes

    É assim que vamos nos fundir com a IA

    A relação entre humanos e IA é uma espécie de dança. Nós e a IA nos aproximamos operando de forma colaborativa, então...

    Miniusuários do Apple HomePod com problemas graves de Wi-Fi

    Alguns usuários do Apple HomePod mini estão relatando um problema com a conectividade Wi-Fi, com apenas uma correção temporária em jogo. Um tópico nos...

    A tecnologia está transformando o setor de seguros

    A indústria de seguros, por muito tempo, foi impulsionada por modelos de negócios tradicionais. Ela continuou seu processo de negócios e produtos...

    A promessa e o desafio do futuro da Roblox na China

    Em uma mudança muito esperada, a empresa de jogos Roblox, com sede na Califórnia arquivado para ir a público na semana passada....

    Artigos Relacionados

    DEIXE UMA RESPOSTA

    Por favor digite seu comentário!
    Por favor, digite seu nome aqui