More

    As maiores preocupações éticas no futuro da IA


    A inteligência artificial (IA) está melhorando rapidamente, tornando-se um recurso embutido em quase qualquer tipo de plataforma de software que você possa imaginar e servindo como base para inúmeros tipos de assistentes digitais. É usado em tudo, desde análise de dados e reconhecimento de padrões até automação e replicação de voz.

    O potencial dessa tecnologia despertou mentes imaginativas por décadas, inspirando autores de ficção científica, empresários e todos os demais a especular sobre como poderia ser um futuro orientado para IA. Mas, à medida que nos aproximamos cada vez mais de uma hipotética singularidade tecnológica, existem algumas preocupações éticas que precisamos ter em mente.

    Desemprego e disponibilidade de emprego

    Em primeiro lugar está o problema do desemprego. A IA certamente tem o poder de automatizar tarefas que antes eram capazes de serem concluídas apenas com esforço manual humano.

    Por um lado, os especialistas argumentam que isso poderia um dia ser devastador para nossa economia e bem-estar humano; A IA pode se tornar tão avançada e prevalente que substitui a maioria dos empregos humanos. Isso levaria a números recordes de desemprego, o que poderia prejudicar a economia e levar a uma depressão generalizada – e, subsequentemente, a outros problemas como índices de criminalidade.

    No outro extremo, os especialistas argumentam que a IA mudará principalmente os empregos que já existem; em vez de substituir empregos, a IA os aprimoraria, dando às pessoas a oportunidade de aprimorar suas habilidades e avançar.

    O dilema ético aqui em grande parte depende dos empregadores. Se você pudesse aproveitar a IA para substituir um ser humano, isso aumentaria a eficiência e reduziria os custos, ao mesmo tempo que possivelmente aumentaria a segurança, você faria? Fazer isso parece o movimento lógico, mas em grande escala, muitas empresas que tomam esse tipo de decisão podem ter consequências perigosas.

    Acesso à tecnologia e desigualdade de riqueza

    Também precisamos pensar sobre a acessibilidade da tecnologia de IA e seus efeitos potenciais sobre a desigualdade de riqueza no futuro. Atualmente, as entidades com a IA mais avançada tendem a ser grandes empresas de tecnologia e indivíduos ricos. O Google, por exemplo, utiliza IA para seu operações comerciais tradicionais, incluindo desenvolvimento de software bem como novidades experimentais – como derrotar o melhor jogador de Go do mundo.

    A IA tem o poder de melhorar muito a capacidade produtiva, a inovação e até a criatividade. Quem quer que tenha acesso à IA mais avançada terá uma vantagem imensa e cada vez maior sobre as pessoas com acesso inferior. Dado que apenas as pessoas mais ricas e as empresas mais poderosas terão acesso à IA mais poderosa, isso quase certamente tornará as lacunas de riqueza e poder que já existem muito mais fortes.

    Mas qual é a alternativa? Deve haver uma autoridade para distribuir o acesso à IA? Em caso afirmativo, quem deve tomar essas decisões? A resposta não é tão simples.

    O que significa ser humano

    Usar a IA para modificar a inteligência humana ou mudar a forma como os humanos interagem também exigiria que considerássemos o que significa ser humano. Se um ser humano demonstra um feito intelectual com a ajuda de um chip de IA implantado, ainda podemos considerá-lo um feito humano? Se dependermos fortemente de interações de IA em vez de interações humanas para nossas necessidades diárias, que tipo de efeito isso teria em nosso humor e bem-estar? Devemos mudar nossa abordagem de IA para evitar isso?

    O maximizador de clipes de papel e outros problemas de IA ser “bom demais”

    Um dos problemas mais familiares da IA ​​é seu potencial de ser “bom demais”. Essencialmente, isso significa que a IA é incrivelmente poderosa e projetada para fazer uma tarefa específica, mas seu desempenho tem consequências imprevistas.

    O experimento mental comumente citado para explorar essa ideia é o “maximizador de clipes de papel”, uma IA projetada para fazer clipes de papel da forma mais eficiente possível. O único propósito desta máquina é fazer clipes de papel, portanto, se deixada por conta própria, pode começar a fazer clipes de papel com recursos materiais finitos, eventualmente exaurindo o planeta. E se você tentar desligá-lo, isso pode impedi-lo, já que você está atrapalhando sua única função, fazer clipes. A máquina não é malévola ou mesmo consciente, mas é capaz de ações altamente destrutivas.

    Esse dilema se torna ainda mais complicado pelo fato de que a maioria dos programadores não conhecerá os buracos em sua própria programação até que seja tarde demais. Atualmente, nenhum órgão regulador pode ditar como a IA deve ser programada para evitar tais catástrofes porque o problema é, por definição, invisível. Devemos continuar empurrando os limites da IA ​​de qualquer maneira? Ou diminuir nosso ímpeto até que possamos resolver melhor esse problema?

    Benefícios tendenciosos e desiguais

    À medida que usamos formas rudimentares de IA em nossa vida diária, estamos nos tornando cada vez mais conscientes dos preconceitos ocultos em sua codificação. IA de conversação, algoritmos de reconhecimento facial e até mesmo motores de busca foram amplamente projetados por dados demográficos semelhantes e, portanto, ignoram os problemas enfrentados por outros dados demográficos. Por exemplo, os sistemas de reconhecimento facial podem ser melhores para reconhecer rostos brancos do que rostos de populações minoritárias.

    Novamente, quem será o responsável por resolver esse problema? Uma força de trabalho mais diversificada de programadores poderia neutralizar esses efeitos, mas isso é uma garantia? E se sim, como você aplicaria essa política?

    Privacidade e segurança

    Os consumidores também estão crescendo cada vez mais preocupados com sua privacidade e segurança quando se trata de IA, e por um bom motivo. Os consumidores de tecnologia de hoje estão se acostumando a ter dispositivos e softwares constantemente envolvidos em suas vidas; seus smartphones, alto-falantes inteligentes e outros dispositivos estão sempre ouvindo e coletando dados neles. Cada ação que você realiza na web, desde verificar um aplicativo de mídia social até pesquisar um produto, é registrada.

    Superficialmente, isso pode não parecer um grande problema. Mas se a IA poderosa estiver nas mãos erradas, pode ser facilmente explorada. Um indivíduo, empresa ou hacker desonesto suficientemente motivado poderia aproveitar a IA para aprender sobre alvos em potencial e atacá-los – ou então usar suas informações para fins nefastos.

    O problema do gênio do mal

    Por falar em propósitos nefastos, outra preocupação ética no mundo da IA ​​é o problema do “gênio do mal”. Em outras palavras, quais controles podemos implementar para evitar que uma IA poderosa caia nas mãos de um “gênio do mal” e quem deve ser responsável por esses controles?

    Esse problema é semelhante ao problema das armas nucleares. Se apenas uma pessoa “má” tiver acesso a essas tecnologias, elas podem causar danos incalculáveis ​​ao mundo. A melhor solução recomendada para armas nucleares tem sido o desarmamento, ou limitar o número de armas atualmente disponíveis, em todos os lados. Mas a IA seria muito mais difícil de controlar – além disso, estaríamos perdendo todos os benefícios potenciais da IA ​​ao limitar sua progressão.

    Direitos de IA

    Os autores de ficção científica gostam de imaginar um mundo onde a IA é tão complexa que é praticamente indistinguível da inteligência humana. Os especialistas debatem se isso é possível, mas vamos supor que seja. Seria de nosso interesse tratar essa IA como uma forma “verdadeira” de inteligência? Isso significaria que ele tem os mesmos direitos que um ser humano?

    Isso abre a porta para um grande subconjunto de considerações éticas. Por exemplo, ele chama de volta a nossa pergunta sobre “o que significa ser humano” e nos força a considerar se desligar uma máquina algum dia poderia ser considerado assassinato.

    De todas as considerações éticas desta lista, esta é uma das mais remotas. Não estamos nem perto de um território que poderia fazer a IA parecer inteligência de nível humano.

    A Singularidade Tecnológica

    Há também a perspectiva da singularidade tecnológica – o ponto em que a IA se torna tão poderosa que ultrapassa a inteligência humana de todas as maneiras concebíveis, fazendo mais do que simplesmente substituir algumas funções que tradicionalmente eram muito manuais. Quando isso acontecer, a IA seria concebivelmente capaz de se aprimorar – e operar sem intervenção humana.

    O que isso significaria para o futuro? Poderemos algum dia ter certeza de que esta máquina funcionará com os melhores interesses da humanidade em mente? O melhor curso de ação seria evitar esse nível de avanço a todo custo?

    Não há uma resposta clara para nenhum desses dilemas éticos, e é por isso que eles continuam sendo dilemas tão poderosos e importantes a serem considerados. Se quisermos continuar avançando tecnologicamente e ao mesmo tempo permanecermos como uma cultura segura, ética e produtiva, precisamos levar essas preocupações a sério à medida que avançamos.

    Nate Nead

    Nate Nead é o CEO e membro gerente da Nead, LLC, uma empresa de consultoria que fornece serviços de consultoria estratégica em várias disciplinas, incluindo finanças, marketing e desenvolvimento de software. Por mais de uma década, Nate forneceu orientação estratégica em M&A, aquisição de capital, tecnologia e soluções de marketing para algumas das marcas online mais conhecidas. Ele e sua equipe aconselham clientes da Fortune 500 e de pequenas e médias empresas. A equipe está sediada em Seattle, Washington; El Paso, Texas e West Palm Beach, Flórida.


    Artigos Recentes

    Tendências de programação de funcionários que merecem continuar mesmo depois da pandemia

    Já se passou muito tempo desde que você poderia supor que a maioria de sua equipe está nisso das 9 às 5. A...

    Qual é o futuro do RH?

    Os departamentos de recursos humanos (RH) sempre foram essenciais para o sucesso organizacional e provavelmente continuarão assim nas próximas décadas. Mas a...

    Artigos Relacionados

    DEIXE UMA RESPOSTA

    Por favor digite seu comentário!
    Por favor, digite seu nome aqui