More

    Exemplos de falha na inteligência artificial


    A inteligência artificial é inovadora e, às vezes, ainda é impressionante. Estamos constantemente repletos de histórias incríveis de eficiência, automação e prognóstico inteligente. Mas AI não é perfeito. E para cada história de sucesso, há outra história de confusão ou erro – uma situação em que algo não correu como planejado.

    Enquanto eu sou um enorme crente em IA e já vi o poder disso em meus próprios negócios, às vezes é bom ver o outro lado da moeda, dar algumas risadas e lembrar que estamos todos pressionando por coisas maiores e melhores. Mas nesse caminho, haverá atritos e interrupções. É como reagimos a essas anomalias e deficiências que, em última análise, definem para onde vamos daqui.

    6 exemplos de falhas de IA

    Não queremos que a IA seja perfeita. Pelo menos ainda não. O fato de a IA ainda poder experimentar falhas e levar a consequências não intencionais é algo refrescante (quando você está a alguns passos da falha). Mas mesmo para quem está perto do fogo, esses erros servem como lições de crescimento e aprimoramento. E quanto mais fracasso houver hoje, mais mais crescimento e melhoria ocorrerá – liderando o caminho para uma indústria mais perfeita e completa.

    Ok, chega do preâmbulo. Vamos entregar a mercadoria. Aqui estão alguns dos principais exemplos de falha de IA nos últimos anos:

    O Microsoft AI Chatbot aprende algum idioma impróprio

    Os chatbots de IA se tornaram a norma nas mídias sociais e em outros sites. O Facebook é realmente bom incorporado ao Messenger e é alavancado como uma poderosa ferramenta de negócios para fornecer atendimento ao cliente e impulsionar conversas com clientes em potencial. Mas os chatbots de IA não são perfeitos, como exemplificado pelo chatbot de IA da Microsoft, que recebeu brevemente o nome de “Tay”.

    Lançado em março de 2016 e implantado para usuários do Twitter, o Tay foi programado para ter conversas casuais e naturais no idioma dos millennials típicos. Mas durou apenas 24 horas. O que aconteceu? Bem, um grupo de trolls no site direcionou suas vulnerabilidades e manipulou Tay para fazer declarações muito sexistas e racistas.

    Peter Lee, vice-presidente de inteligência artificial e pesquisa da Microsoft, teve que emitir um pedido de desculpas público por não prever essa possibilidade com antecedência.

    Atleta ou criminoso?

    A Amazon tem um projeto que eles chamam de reconhecimento. É um software de reconhecimento facial baseado em IA que é comercializado para agências policiais para uso em investigações. É essencialmente necessário cruzar imagens de análise e direcionar policiais para possíveis suspeitos. O problema é que não é muito preciso.

    Em um estudo do capítulo da ACLU em Massachusetts, dezenas de fotos de atletas da área de Boston foram mostradas no sistema. Pelo menos 27 desses atletas – ou aproximadamente um em cada seis – foram falsamente combinados com tiros de caneca. Isso incluiu o tricampeão do Super Bowl Duron Harmon, do New England Patriots.

    Você pode dizer, não é uma boa aparência?

    Usuários encontram falhas no Face ID da Apple

    A Apple está sempre apresentando uma tecnologia de ponta. Eles definem os padrões do setor de smartphones e dispositivos móveis há anos. Na maioria das vezes, eles acertam as coisas. Mas às vezes eles podem ser um pouco impetuosos em seu marketing. Em outras palavras, eles gostam de flexionar seus músculos. Como você pode esperar, isso convida haters, trolls e céticos a desafiarem suas reivindicações.

    Um exemplo recente ocorreu com o lançamento do iPhone X. Antes do lançamento, a Apple havia investido muito tempo e dinheiro em marketing em seu sistema de reconhecimento facial frontal, que substituiu o leitor de impressões digitais como o principal método de acesso ao telefone. A alegação era de que o componente de IA era tão inteligente que os leitores podiam usar óculos, maquiagem etc. sem comprometer a funcionalidade. E isso é essencialmente verdade. O problema é que a Apple também afirmou claramente que a tecnologia Face ID não pode ser falsificada por máscaras ou outras técnicas.

    Uma empresa de segurança sediada no Vietnã tomou isso como um desafio. E com apenas US $ 200, eles fizeram uma máscara de pó de pedra, colaram em alguns “olhos” impressos em 2D e desbloquearam um telefone. Este é apenas um lembrete de que afirmações ousadas às vezes podem voltar a morder!

    Cão robô encontra final fatal

    Quem não ama a idéia de um filhote de robô? Você adquire uma máquina bonitinha sem latidos, caminhadas, cocô, comida ou contas caras de veterinário. Mas se você está procurando um parceiro de vida, pode não querer esse robodog.

    Em 2019, um Boston Robotics ‘ robodog Spot, conhecido por enfrentar uma morte dramática e prematura no palco, enquanto estava sendo demonstrado pelo CEO da empresa em uma conferência em Las Vegas. Encarregado de caminhar, ele lentamente começou a tropeçar e acabou caindo no chão enquanto a platéia desconfortavelmente ofegava e ria.

    Watson não é médico

    O Waston da IBM é uma peça incrível de tecnologia. Esse supercomputador inteligente tem muitas conquistas, incluindo derrotar algumas das pessoas mais inteligentes do mundo em um jogo de Jeopardy na televisão. Mas, tanto quanto Watson sabe, ele não é confiável como médico – ainda.

    Em 2018, o IBM Watson tentou lançar um sistema de IA médica para fazer sugestões para o tratamento de pacientes com câncer. O objetivo da IBM era nada menos do que “erradicar o câncer”. Mas não demorou muito tempo para hospitais e oncologistas perceberem grandes falhas. Em um ponto, Watson sugeriu colocar um paciente com sangramento excessivo em um medicamento que causaria ainda mais sangramento – possivelmente matando o paciente no processo!

    A IBM culpou seus engenheiros, afirmando que eles programaram o Watson com casos hipotéticos e fictícios, em vez de confiar nos dados reais dos pacientes e nos prontuários médicos históricos. De qualquer forma, não é uma boa aparência para Watson. Talvez ele se atenha às exibições de jogos.

    CEO de Contras de Software de Inteligência Artificial

    Deepfakes estão se tornando um problema sério (e alarmante). Os hackers encontraram maneiras de falsificar vozes, fotos e até vídeos. E, em certos casos, os efeitos são desastrosos.

    Em março de 2019, o CEO de uma empresa sediada no Reino Unido recebeu um telefonema de seu chefe na empresa controladora alemã. Ele foi instruído a transferir o equivalente a US $ 243.000 para um fornecedor húngaro. O pedido foi marcado como urgente e o CEO foi instruído a executá-lo imediatamente. O único problema com o pedido era que não era o chefe dele do outro lado da linha. Era um software baseado em IA feito para imitar a voz do chefe.

    Enquanto estamos chamando isso de falha de IA, a realidade é que o software de IA venceu. Foram os humanos que foram tocados no valor de um quarto de milhão de dólares!

    IA: Desafios e Oportunidades

    Como podemos ver claramente, a IA não está isenta de problemas. No que diz respeito aos negócios, a implementação da IA ​​ainda enfrenta vários desafios. Eles incluem:

    • Poder de processamento limitado. Embora a IA e a ML tenham um grande potencial, elas utilizam uma tonelada de poder de processamento. A maioria da computação simplesmente não é tão avançada. Como resultado, é difícil utilizar totalmente essas tecnologias fora de ambientes muito específicos.
    • Conhecimento limitado. Apenas algumas pessoas realmente entendem a IA bem o suficiente para explicá-la ao mercado. Isso impediu que as taxas de adoção estivessem onde deveriam estar e está desacelerando o crescimento.
    • Falta de confiança. Sempre haverá um certo desconfiança entre pessoas e computadores. E embora as relações tenham melhorado nos últimos anos, falhas como as descrito neste artigo não ajuda muito.
    • Segurança de dados. Para que os aplicativos de IA funcionem, esses sistemas precisam acessar milhões de pontos de dados. Isso cria possíveis pontos fracos e vulnerabilidades para os hackers atingirem e comprometerem.

    Apesar desses desafios, a beleza da IA ​​reside em sua inteligência e brilho. Não apenas muitas das maiores mentes do mundo dedicam suas vidas a melhorar e refinar a tecnologia, mas quando você a associa ao aprendizado de máquina (ML), obtém um ciclo de crescimento auto-alimentado, onde todos os problemas e erros acabam abrindo caminho para maiores eficiência, precisão e oportunidade. Falando em oportunidades, aqui estão algumas das principais que vejo avançando:

    • Facilita o big data. Um dos problemas das empresas com o big data é encontrar maneiras de entendê-lo. Com tantas informações para classificar, é difícil descobrir como interpretar e aplicar as descobertas. A IA pode simplificar isso e levar a processos melhores e mais eficientes.
    • Análise superior. Certos sistemas de IA podem ser usados ​​para monitorar, detectar e analisar alterações em várias configurações. As empresas podem usá-lo para ficar de olho nos concorrentes e entender coisas como mudanças de preço, atividades de relações públicas, engajamento social etc.
    • Pesquisas mais inteligentes. A internet faz o mundo girar. Em particular, os mecanismos de pesquisa moldam tendências e controlam o fluxo de informações. Empresas de mecanismos de pesquisa como o Google são usando AI e ML para transformar o setor e fornecer resultados mais precisos e oportunos às pesquisas de clientes.

    Olhando para o futuro

    A IA é perfeita? Como mostram os contos deste artigo, seria um retumbante não! Mas é poderoso e está sempre melhorando? Sim em ambos. Então, enquanto olhamos para o próximo, três e cinco anos, vamos lembrar que a IA é um trabalho em andamento. E para chegar onde queremos estar, temos que lidar com um pouco de atrito ao longo do caminho. Vem com o território.

    O post Exemplos de Falha na Inteligência Artificial apareceu pela primeira vez no ReadWrite.


    Artigos Recentes

    Samsung desembalado em agosto de 2020: todos os anúncios que esperamos ver

    A espera terminou e o Samsung Unpacked está ocorrendo hoje (5 de agosto), com vários produtos novos a serem anunciados, incluindo o Galaxy...

    5 dicas a considerar ao planejar reabrir seus negócios após a pandemia de COVID-19

    Enquanto o medo da pandemia de Covid-19 ainda paira sobre nós, as empresas precisam planejar um momento em que reabrirão após o encerramento...

    A melhor competência com inteligência artificial é ter experiência inteligente

    A IA está mudando a maneira como os clientes interagem com as empresas. A IA muda tudo com o funcionamento de sites...

    Administração Trump concede ao TikTok 45 dias para vender à Microsoft ou deixar os EUA [Updated]

    Prolongar / As operações da TikTok nos EUA podem em breve fazer parte do conglomerado...

    É um dia chuvoso para usuários do Android, pois o Dark Sky, da Apple, é desligado

    É um dia triste para os usuários do Android do popular aplicativo Dark Sky, que foi fechado hoje após uma aquisição da Apple. O...

    Artigos Relacionados

    DEIXE UMA RESPOSTA

    Por favor digite seu comentário!
    Por favor, digite seu nome aqui