Pesquisadores da Universidade de Stanford descobrem que a tecnologia de piloto automático da Tesla falha em classificar corretamente as pessoas em bicicletas
Em um esforço para entender como os carros autônomos do futuro podem interagir com os ciclistas, pesquisadores da Universidade de Stanford levaram um Tesla Model S para um test drive, e os resultados podem não ser boas notícias para os ciclistas.
Os pesquisadores descobriram que o carro falhava regularmente em identificar positivamente aqueles que circulavam de bicicleta nas ruas da cidade.
Embora o carro elétrico Tesla Model S que eles testaram não seja autônomo, ele emprega alguns dos sistemas que podem ser usados posteriormente se a tecnologia, que está sendo testada em todo o mundo, for legalizada.
Tesla atualmente afirma que todos os seus veículos "têm o hardware necessário para a capacidade total de direção autônoma em um nível de segurança substancialmente maior do que o de um motorista humano."
No entanto, membro do Centro de Pesquisa de Design de Stanford e especialista em interação humano-robô e interfaces automatizadas de veículos, a Dra.
O Model S Tesla 2016 que eles dirigiram apresenta uma tela de consciência situacional que ajuda os usuários a entender o que o carro está "vendo".
Foi o uso desse recurso que levou a Dra. Knight a concluir que o carro normalmente falha em reconhecer os ciclistas corretamente. Embora não classificar corretamente os objetos não seja o mesmo que não perceber sua presença, ela achou as limitações do sistema profundamente preocupantes.
'Não ser capaz de classificar objetos não significa que o Tesla não veja que algo está lá, mas dadas as vidas em jogo, recomendamos que as pessoas nunca usem o piloto automático Tesla perto de ciclistas!'
A Dra. Knight explicou que ela acreditava que Tesla rotular a tecnologia como um 'piloto automático' era potencialmente enganoso.
Na situação atual, a Tesla deixa claro que é necessária uma supervisão cuidadosa do usuário quando o carro é usado no modo de piloto automático. No entanto, dada a capacidade do carro de executar tarefas como mudar de faixa e velocidade automaticamente, o Dr. Knight levantou a preocupação de que os usuários pudessem ser enganados por uma percepção falsamente inflada das capacidades do carro.
Acompanhando as respostas ao seu post original no blog, ela explicou: 'Minha preocupação era que tratar o piloto automático como um sistema totalmente autônomo pode ser imprudente para uma pessoa em um carro, mas fatal para um ciclista, que tem muito menos proteção.
'Encorajar um modelo mental equilibrado da máquina é exatamente o objetivo deste artigo… Robôs em geral se beneficiariam ao comunicar suas limitações às pessoas.'
Em teoria, carros autônomos são muito mais propensos a evitar colisões com todos os usuários da estrada, no entanto, a introdução da tecnologia tem sido a causa de um amplo debate.
Este é particularmente o caso em relação às questões de responsabilidade com relação a incidentes envolvendo carros no piloto automático, juntamente com a ética do uso de tais sistemas.
Os testes de carros autônomos começaram em Londres em fevereiro deste ano, com os testes envolvendo o carro elétrico Leaf da Nissan sendo os primeiros nas vias públicas europeias.
O relatório completo do Dr. Knights está disponível no Medium.
Vídeo ainda retirado de um vídeo de demonstração de condução autônoma do piloto automático para o Tesla Model X
