More

    O que o registro de Kamala Harris diz sobre as principais questões de política de IA


    O candidato democrata à presidência, Joe Biden, escolheu a senadora Kamala Harris (D-CA) para ser sua companheira de chapa hoje. Nascida em Oakland, Califórnia, e criada em Berkeley, Harris é a primeira mulher afro-americana e a primeira mulher asiático-americana a ser escolhida como candidata à vice-presidência dos EUA em uma chapa de partido importante. Embora a escolha do vice-presidente às vezes possa ser considerada cerimonial, se eleito, Biden se tornará o presidente mais velho da história dos Estados Unidos, aos 78 anos.

    A posição de Harris em uma série de questões será meticulosamente analisada nos dias que antecederam a Convenção Nacional Democrata e nas semanas que antecederam o dia da eleição. Ex-promotora, Harris é conhecida como membro do Comitê Judiciário do Senado, mas também liderou propostas de segurança cibernética no Congresso e levantou questões de política de tecnologia, onde ganhou destaque na área da Baía de São Francisco. Aqui, examinamos como Kamala Harris, a senadora e candidata presidencial dos Estados Unidos, reagiu às questões na interseção de IA e política.

    Reconhecimento facial

    No outono de 2018, Harris se juntou a outros membros do Senado dos EUA no envio de uma série de cartas a agências federais com o objetivo de abordar o viés algorítmico com base em raça, gênero ou outras características.

    Uma carta perguntou à Equal Employment Opportunity Commission (EEOC) como ela investiga alegações de viés algorítmico nas práticas de contratação e se a agência considera o uso de reconhecimento facial uma violação dos direitos civis existentes e da lei antidiscriminação no local de trabalho.

    A carta da FTC imagina um cenário em que uma mulher negra é presa por engano devido ao uso de software de reconhecimento facial. Alguns dos primeiros casos conhecidos de falsas prisões de homens negros devido a erros de identificação com reconhecimento facial ocorreram em junho.

    A carta do FBI exigia saber se o FBI havia respondido a uma solicitação de 2016 do relatório do Government Accountability Office (GAO) recomendando ao FBI testar seu reconhecimento facial e tomar outras medidas para garantir sua precisão. O sistema de reconhecimento facial é usado pelo FBI e também por funcionários estaduais e locais. Meses depois, a falha do FBI em agir de acordo com a recomendação do GAO se tornou o principal assunto de discussão em uma audiência do comitê de reforma e supervisão da Câmara.

    Cada uma das cartas cita um estudo da ACLU que identificou erroneamente vários membros do Congresso como criminosos e o trabalho de Joy Buolamwini e do projeto Gender Shades que os sistemas de reconhecimento facial de empresas como IBM e Microsoft tiveram melhor desempenho para homens brancos do que para mulheres de pele escura .

    Como candidata presidencial, Harris apresentou um plano de justiça criminal que dizia que ela trabalharia com grupos de direitos civis e agentes da lei para garantir que o reconhecimento facial e outras tecnologias não promovessem preconceito racial e investisse fundos federais para convencer as autoridades estaduais e locais a fazer o mesmo. Outros candidatos, como Bernie Sanders, apoiaram a proibição total do uso do reconhecimento facial por policiais federais como o FBI.

    Sua postura em questões como policiamento preventivo e reconhecimento facial pode ser especialmente importante, dados os apelos fervorosos por uma reforma policial e o fim do racismo institucional que ganhou destaque internacional em junho. Eles também podem ser importantes devido ao histórico de Harris como procurador-geral da Califórnia, procurador distrital de São Francisco e promotor público no condado de Alameda.

    Política federal de IA

    Harris foi um dos quatro senadores dos Estados Unidos por trás do AI in Government Act, um projeto apresentado pela primeira vez em 2018 e depois reintroduzido no ano passado que teria ajudado a desenvolver uma política federal de IA mais coesa por meio da Administração de Serviços Gerais (GSA).

    O AI in Government Act de 2019 orientaria os chefes de cada agência federal a recomendar maneiras de remover as barreiras à adoção de AI, bem como “melhores práticas para identificar, avaliar e mitigar qualquer impacto discriminatório ou viés com base em qualquer classificação protegida sob Leis federais de não discriminação, ou qualquer consequência não intencional do uso de inteligência artificial pelo Governo Federal. ”

    Também criaria um Centro de Excelência dentro da Administração de Serviços Gerais para auxiliar agências federais na aquisição de serviços de IA e fornecer conhecimento técnico. O Centro de Excelência também aconselharia o Escritório de Ciência de Tecnologia da Casa Branca e consultaria o Pentágono, bem como a Fundação Nacional de Ciência, e ajudaria a desenvolver políticas relacionadas ao uso de IA por agências federais.

    Uma política unificada de IA que considere as necessidades de pesquisa e desenvolvimento do país e uma estratégia mais ampla é considerada importante para a atividade econômica, mas está cada vez mais vinculada a estratégias de pesquisa e desenvolvimento de governos nacionais e militares. Nos EUA e na China, os governos estabeleceram metas para manter uma espécie de supremacia da IA ​​sobre outras nações.

    No final, o AI in Government Act, assim como uma série de projetos de lei apresentados nos últimos anos para regulamentar a AI e a formação de uma estratégia robusta dos EUA, ainda não foi votada, mas foi o único que atraiu bipartidários Apoio, suporte. Harris não foi o primeiro legislador a introduzir a regulamentação da IA, nem é a mais associada à regulamentação do reconhecimento facial hoje, mas a série de cartas e legislação dá uma ideia de onde Harris se posiciona na IA. O mesmo acontece com sua preocupação expressa repetida com o potencial da IA ​​para perpetuar o preconceito.

    “Quando olhamos também para esses campos emergentes e olhamos para questões como IA – inteligência artificial e aprendizado de máquina – há uma necessidade real de nos preocuparmos em como estar embutido nisso é preconceito racial”, disse Harris em um vídeo postado por ela Gabinete do Senado em abril de 2019. “É um problema real e está acontecendo em tempo real, e a questão do preconceito racial na tecnologia é que, ao contrário do preconceito racial que você pode facilmente, todos nós podemos detectar quando você é parado em um departamento armazenar ou enquanto você está dirigindo, o viés embutido na tecnologia não será muito fácil de detectar, então o aprendizado de máquina é literalmente que a máquina está aprendendo e está aprendendo o que está sendo alimentado, o que será uma função de quem está alimentando e o que está sendo alimentado. ”

    A campanha Biden-Harris 2020 e a potencial presidência podem assumir posturas diferentes de Kamala Harris, a senadora ou candidata presidencial. No entanto, Harris introduziu uma legislação inicial com o objetivo de criar uma estratégia de IA coesa para o governo federal e tem um desdém aparentemente aberto pela tecnologia com o potencial e probabilidade comprovada de perpetuar o preconceito.

    Kamala Harris pode ser chamada de a primeira pessoa em uma chapa de partido importante em várias categorias, mas, de qualquer maneira, Harris parece ser um dos candidatos mais informados na chapa presidencial de um grande partido a levar a sério a política nacional de IA e o viés algorítmico .


    Artigos Recentes

    Dongle do Google Chromecast com vazamentos remotos antes do evento de 30 de setembro

    O Google já nos disse para esperar um novo produto Chromecast em seu evento de 30 de setembro e agora temos nosso melhor...

    Grandes empresas farmacêuticas, incluindo Novartis e Merck, criam uma plataforma de aprendizagem federada para a descoberta de medicamentos

    Em junho passado, 10 grandes empresas farmacêuticas - Amgen, Astellas, AstraZeneca, Bayer, Boehringer Ingelheim, GSK, Institut De Recherches Servier, Janssen, Merck e Novartis...

    Por que as crianças precisam de proteção especial contra a influência da IA

    Vosloo liderou a elaboração de um novo conjunto de diretrizes do Unicef ​​destinadas a ajudar governos e empresas a desenvolver políticas de IA...

    Artigos Relacionados

    DEIXE UMA RESPOSTA

    Por favor digite seu comentário!
    Por favor, digite seu nome aqui