More

    Relatório da UE alerta que a IA torna os veículos autônomos ‘altamente vulneráveis’ a ataques


    O sonho dos veículos autônomos é que eles possam evitar o erro humano e salvar vidas, mas um novo relatório da Agência da União Europeia para a Cibersegurança (ENISA) concluiu que os veículos autônomos são “altamente vulneráveis ​​a uma ampla gama de ataques” que podem ser perigosos para os passageiros , pedestres e pessoas em outros veículos. Os ataques considerados no relatório incluem ataques de sensores com feixes de luz, sistemas de detecção de objetos opressores, atividade mal-intencionada de back-end e ataques de aprendizado de máquina adversários apresentados em dados de treinamento ou no mundo físico.

    “O ataque pode ser usado para tornar a IA ‘cega’ para pedestres, manipulando, por exemplo, o componente de reconhecimento de imagem para classificar os pedestres incorretamente. Isso pode causar confusão nas ruas, já que os carros autônomos podem atingir os pedestres nas ruas ou nas faixas de pedestres ”, diz o relatório. “A ausência de conhecimento e experiência de segurança suficiente entre os desenvolvedores e designers de sistemas em segurança cibernética de IA é uma grande barreira que dificulta a integração da segurança no setor automotivo.”

    A gama de sistemas de IA e sensores necessários para alimentar veículos autônomos aumenta a área de superfície de ataque, de acordo com o relatório. Para resolver as vulnerabilidades, seus autores dizem que os formuladores de políticas e as empresas precisarão desenvolver uma cultura de segurança em toda a cadeia de abastecimento automotivo, inclusive para fornecedores terceirizados. O relatório exorta os fabricantes de automóveis a tomarem medidas para mitigar os riscos de segurança, pensando na criação de sistemas de aprendizado de máquina como parte da cadeia de suprimentos da indústria automotiva.

    O relatório concentra-se em ataques de segurança cibernética com aprendizado de máquina adversário que traz o risco de ataques maliciosos indetectáveis ​​para humanos. O relatório também conclui que o uso de aprendizado de máquina em carros exigirá uma revisão contínua dos sistemas para garantir que não tenham sido alterados de forma maliciosa.

    “A segurança cibernética de IA não pode ser apenas uma reflexão tardia, onde os controles de segurança são implementados como complementos e as estratégias de defesa são de natureza reativa”, diz o jornal. “Isso é especialmente verdadeiro para sistemas de IA que geralmente são projetados por cientistas da computação e posteriormente implementados e integrados por engenheiros. Os sistemas de IA devem ser projetados, implementados e implantados por equipes em que o especialista no domínio automotivo, o especialista em ML e o especialista em segurança cibernética colaboram. ”

    Os cenários apresentados no relatório incluem a possibilidade de ataques a algoritmos de planejamento e tomada de decisão e spoofing, como o tipo que pode enganar um veículo autônomo para “reconhecer” carros, pessoas ou paredes que não existem.

    Nos últimos anos, vários estudos mostraram que as perturbações físicas podem enganar os sistemas de veículos autônomos com pouco esforço. Em 2017, os pesquisadores usaram tinta spray ou adesivos em uma placa de pare para enganar um veículo autônomo e fazer com que a identificasse erroneamente como um sinal de limite de velocidade. Em 2019, os pesquisadores de segurança da Tencent usaram adesivos para fazer o piloto automático da Tesla desviar para a pista errada. E os pesquisadores demonstraram no ano passado que poderiam levar um sistema de veículo autônomo a acelerar rapidamente de 35 mph para 85 mph, colocando estrategicamente alguns pedaços de fita na estrada.

    O relatório foi coautor do Joint Research Centre, um consultor científico e tecnológico da Comissão Europeia. Semanas atrás, a ENISA divulgou um relatório separado detalhando os desafios de segurança cibernética criados pela inteligência artificial.

    Em outras notícias sobre veículos autônomos, na semana passada Waymo começou a testar robo-táxis em San Francisco. Mas uma força-tarefa do MIT concluiu no ano passado que os veículos autônomos poderiam demorar pelo menos mais uma década.

    VentureBeat

    A missão da VentureBeat é ser uma praça da cidade digital para que os tomadores de decisões técnicas obtenham conhecimento sobre a tecnologia transformadora e façam transações. Nosso site oferece informações essenciais sobre tecnologias e estratégias de dados para guiá-lo à medida que lidera suas organizações. Convidamos você a se tornar um membro de nossa comunidade, para acessar:

    • informações atualizadas sobre os assuntos de seu interesse
    • nossas newsletters
    • conteúdo líder de pensamento fechado e acesso com desconto a nossos eventos premiados, como o Transform
    • recursos de rede e muito mais

    Torne-se um membro


    Artigos Recentes

    Cor da lâmpada Wyze: a única lâmpada inteligente barata que vale a pena por aí

    “É tão bom e barato que talvez você nunca mais volte para a Philips Hue.” Saída realmente brilhante As cores estão muito saturadas Não requer ponte Preço...

    Yield Guild Games permitirá que os jogadores ganhem dinheiro com jogos NFT

    Chegou a hora de ganhar dinheiro com jogos, de acordo com a Yield Guild Games, que arrecadou US...

    UFC PPV: Quanto custa na ESPN +?

    A nova temporada do UFC começou oficialmente com o UFC 259: Blachowicz vs. Adesanya - o terceiro grande evento pay-per-view de 2021 com...

    Artigos Relacionados

    DEIXE UMA RESPOSTA

    Por favor digite seu comentário!
    Por favor, digite seu nome aqui