More

    AI Weekly: maneiras construtivas de retomar o poder da Big Tech


    O Facebook lançou um conselho de supervisão independente e voltou a se comprometer com as reformas de privacidade nesta semana, mas depois de anos de promessas feitas e quebradas, ninguém parece convencido de que uma mudança real está acontecendo. A Federal Trade Commission (FTC) deverá decidir se processará o Facebook em breve, disseram fontes ao New York Times, após uma multa de US $ 5 bilhões no ano passado.

    Em outras investigações, o Departamento de Justiça entrou com uma ação contra o Google nesta semana, acusando a empresa Alphabet de manter múltiplos monopólios por meio de acordos exclusivos, coleta de dados pessoais e inteligência artificial. Notícias também surgiram esta semana de que a IA do Google terá um papel na criação de um muro de fronteira virtual.

    O que você vê em cada caso é uma empresa poderosa insistindo que pode se auto-regular à medida que os reguladores do governo parecem chegar à conclusão oposta.

    Se as maquinações da Big Tech não bastassem, esta semana também houve notícias de um bot do Telegram que tira a roupa de mulheres e meninas; IA sendo usado para adicionar ou alterar a emoção dos rostos das pessoas nas fotos; e Clearview AI, uma empresa sendo investigada em vários países, supostamente planejando introduzir recursos para a polícia usar de forma mais responsável seus serviços de reconhecimento facial. Ah, certo, e há uma campanha para a eleição presidencial acontecendo.

    É tudo o suficiente para fazer as pessoas chegarem à conclusão de que estão desamparadas. Mas isso é uma ilusão, que o príncipe Harry, a duquesa Meghan Markle, Algoritmos de opressão o autor Dr. Safiya Noble e o diretor do Center for Humane Technology, Tristan Harris, tentaram dissecar no início desta semana em uma palestra apresentada pela Time. O Dr. Noble começou reconhecendo que os sistemas de IA nas mídias sociais podem captar, amplificar e aprofundar os sistemas existentes de desigualdade, como racismo ou sexismo.

    “Essas coisas não começam necessariamente no Vale do Silício, mas acho que realmente não há muita consideração por isso, quando as empresas buscam maximizar os resultados financeiros por meio do engajamento a todo custo, isso na verdade acarreta danos e custos desproporcionais às pessoas vulneráveis. Essas são coisas que estudamos há mais de 20 anos e acho que são realmente importantes para trazer à tona esse tipo de imperativo de lucro que realmente prospera com o dano ”, disse Noble.

    Como Markle apontou durante a conversa, a maioria dos extremistas nos grupos do Facebook chegaram lá porque o algoritmo de recomendação do Facebook sugeriu que eles ingressassem nesses grupos.

    Para agir, Noble disse preste atenção às políticas públicas e regulamentação. Ambos são cruciais para conversas sobre como as empresas operam.

    “Acho que uma das coisas mais importantes que as pessoas podem fazer é votar em políticas e pessoas que estão cientes do que está acontecendo e são capazes de realmente intervir porque nascemos nos sistemas em que nasceram”, disse ela. “Se você perguntar aos meus pais como era nascer antes da aprovação da Lei dos Direitos Civis, eles tiveram uma experiência de vida qualitativamente diferente da minha. Portanto, acho que parte do que temos que fazer é entender como a política realmente molda o meio ambiente. ”

    Quando se trata de desinformação, Noble disse que as pessoas seriam sábias em defender o financiamento suficiente para o que ela chamou de “contrapesos”, como escolas, bibliotecas, universidades e mídia pública, que ela disse ter sido impactada negativamente por empresas de Big Tech.

    “Quando você tem um setor como o setor de tecnologia que é tão extrativista – não paga impostos, offshores seus lucros, ele esgota os contrapesos educacionais democráticos – esses são os lugares onde realmente precisamos intervir. É aí que fazemos uma mudança sistêmica de longo prazo, é reintroduzir o financiamento e os recursos de volta para esses espaços ”, disse ela.

    As formas de responsabilidade constituem um dos cinco valores encontrados em muitos princípios éticos da IA. Durante a palestra, Tristan Harris enfatizou a necessidade de responsabilidade sistêmica e transparência nas grandes empresas de tecnologia para que o público possa entender melhor o escopo dos problemas. Por exemplo, o Facebook poderia formar um conselho para o público relatar danos; então o Facebook pode produzir relatórios trimestrais sobre o progresso na remoção desses danos.

    Para o Google, uma forma de aumentar a transparência poderia ser divulgar mais informações sobre as solicitações de revisão dos princípios de ética da IA ​​feitas por funcionários do Google. Um porta-voz do Google disse à VentureBeat que o Google não compartilha essas informações publicamente, além de alguns exemplos. Obter esses dados trimestralmente pode revelar mais sobre a política dos Googlers do que qualquer outra coisa, mas com certeza gostaria de saber se os funcionários do Google têm reservas sobre a empresa aumentar a vigilância ao longo da fronteira EUA-México ou quais projetos polêmicos atraem mais objeções a uma das empresas de IA mais poderosas do planeta.

    Desde que Harris e outros lançaram O dilema social na Netflix há cerca de um mês, várias pessoas criticaram o documentário por não incluir as vozes das mulheres, especialmente mulheres negras como a Dra. Noble, que passaram anos avaliando questões que sustentam O dilema social, por exemplo, como algoritmos podem automatizar danos. Dito isso, foi um prazer ver Harris e Noble conversando sobre como a Big Tech pode construir algoritmos mais equitativos e um mundo digital mais inclusivo.

    Para uma análise do que O dilema social saudades, vocês podem ler esta entrevista com Meredith Whittaker, que aconteceu esta semana em uma conferência virtual. Mas ela também contribui para a conversa animadora sobre soluções. Um conselho útil de Whittaker: descarte a ideia de que os algoritmos são sobre-humanos ou tecnologia superior. A tecnologia não é infalível e a Big Tech não é mágica. Em vez disso, o controle que as grandes empresas de tecnologia exercem sobre a vida das pessoas é um reflexo do poder material das grandes corporações.

    “Acho que isso ignora o fato de que muito disso não é realmente o produto da inovação. É o produto de uma concentração significativa de poder e recursos. Não é progresso. É o fato de que todos nós agora somos, mais ou menos, convocados para carregar telefones como parte da interação em nossa vida profissional diária, nossa vida social e como parte do mundo ao nosso redor ”, disse Whittaker. “Acho que isso perpetua o mito que essas próprias empresas contam, de que essa tecnologia é sobre-humana, que é capaz de coisas como invadir nossos cérebros de lagarto e assumir completamente o controle de nossas subjetividades. Acho que também mostra que é impossível resistir a essa tecnologia, que não podemos resistir a ela, que não podemos nos organizar contra ela ”.

    Whittaker, um ex-funcionário do Google que ajudou a organizar uma paralisação nos escritórios do Google em todo o mundo em 2018, também considera a organização dos trabalhadores dentro das empresas uma solução eficaz. Ela incentivou os funcionários a reconhecer métodos que se mostraram eficazes nos últimos anos, como denúncias para informar o público e os reguladores. O voluntariado e o voto, disse ela, podem não ser suficientes.

    “Agora temos ferramentas em nossa caixa de ferramentas em toda a tecnologia, como a paralisação, uma série de funcionários do Facebook que denunciaram e escreveram suas histórias à medida que saem, que estão se tornando senso comum”, disse ela.

    Além de compreender como o poder molda as percepções da IA, Whittaker incentiva as pessoas a tentarem entender melhor como a IA influencia nossas vidas hoje. Em meio a tantas outras coisas esta semana, pode ter sido fácil perder, mas o grupo AIandYou.org, que quer ajudar as pessoas a entender como a IA impacta suas vidas diárias, lançou seu primeiro vídeo introdutório com o professor de ciência da computação do Spelman College, Dr. Brandeis Marshall e a atriz Eva Longoria.

    A pandemia COVID-19, uma recessão econômica histórica, clama por justiça racial e as consequências das mudanças climáticas tornaram este ano desafiador, mas um resultado positivo é que esses eventos levaram muitas pessoas a questionar suas prioridades e como cada uma delas nós podemos fazer a diferença.

    A ideia de que as empresas de tecnologia podem se autorregular parece, até certo ponto, ter se dissolvido. As instituições estão tomando medidas agora para reduzir o poder da Big Tech, mas mesmo com o Congresso, a FTC e o Departamento de Justiça – as três principais alavancas do antitruste – agora agindo para tentar controlar o poder das empresas de Big Tech, eu não conheço muitas pessoas que estão confiantes de que o governo será capaz de fazê-lo. Os defensores e especialistas de políticas de tecnologia, por exemplo, questionam abertamente se as facções do Congresso podem reunir a vontade política para trazer mudanças duradouras e eficazes.

    Aconteça o que acontecer na eleição ou com a fiscalização antitruste, você não precisa se sentir desamparado. Se você quiser mudar, as pessoas que estão no cerne da questão acreditam que isso exigirá, entre outras coisas, imaginação, envolvimento com a política de tecnologia e uma melhor compreensão de como os algoritmos afetam nossas vidas para disputar interesses poderosos e construir um mundo melhor para nós mesmos e as gerações futuras.

    Como Whittaker, Noble e o líder da investigação antitruste no Congresso disseram, o poder da Big Tech pode parecer intransponível, mas se as pessoas se engajarem, há razões reais para esperar mudanças.

    Para cobertura de IA, envie dicas de notícias para Khari Johnson e Kyle Wiggers e o editor de IA, Seth Colaner – e certifique-se de assinar o boletim informativo AI Weekly e marcar nosso AI Channel.

    Obrigado por ler,

    Khari Johnson

    Escritor sênior da equipe de IA


    O problema de áudio:

    Aprenda como as novas soluções de API baseadas em nuvem estão resolvendo áudio imperfeito e frustrante em videoconferências. Acesse aqui



    Artigos Recentes

    O Manchester United não disse se recebeu pedidos de resgate por causa de um ataque cibernético

    O jogo do United na Liga dos Campeões com os turcos do Istanbul Basaksehir ocorreu como planejado na terça-feiraO Manchester United não disse...

    Apostas esportivas e IA: The Ultimate Gamble

    Os apostadores e casas de apostas de esportes estão sempre procurando uma vantagem. As apostas esportivas são uma grande indústria que cresceu...

    Melhores ofertas da Black Friday: ofertas noturnas agora ao vivo em telefones, jogos e muito mais

    Melhores ofertas da Black Friday no Reino Unido 2020: Como o primeiro dia de venda da Black Friday está chegando ao fim, ainda...

    Artigos Relacionados

    DEIXE UMA RESPOSTA

    Por favor digite seu comentário!
    Por favor, digite seu nome aqui