Desde que a Tesla lançou seu sistema de condução totalmente autônoma Full-Self Driving (FSD) em versão beta em 2020, o manual do proprietário da empresa tem sido claro: ao contrário do nome, os carros que usam o recurso não podem dirigir sozinhos.
O sistema de direção parcialmente automatizado exige interferência mínima do motorista. Ele pode mudar de faixa, estacionar, reconhecer sinais de trânsito e executar funções de navegação automática. No entanto, o condutor deve estar sempre alerta e pronto para assumir o volante, se necessário.
Agora, no entanto, novas mensagens em carros da Tesla incentivam os motoristas que estão mudando de faixa ou se sentindo sonolentos a ativar o FSD — o que pode confundi-los e, segundo especialistas, incentivá-los a usar o recurso de forma insegura. A informação é da Wired.
“Deriva de faixa detectada. Deixe o FSD auxiliar para que você possa manter o foco”, diz a primeira mensagem, incluída em uma atualização de software e identificada no início deste mês por um hacker que acompanha o desenvolvimento da Tesla.
“Sonolência detectada. Mantenha o foco com o FSD”, afirma a outra mensagem. Desde então, motoristas postaram online que viram uma mensagem semelhante nas telas de seus carros.
O problema, dizem os pesquisadores, é que os momentos de desatenção do motorista são exatamente quando os recursos de assistência ao motorista, voltados para a segurança, deveriam exigir que os motoristas se concentrem totalmente na estrada — e não sugerir que eles dependam de um sistema em desenvolvimento para compensar sua distração ou fadiga. Na pior das hipóteses, tal aviso pode levar a um acidente.
“Essa mensagem coloca os motoristas em uma situação muito difícil”, diz Alexandra Mueller, pesquisadora sênior do Instituto de Seguros para Segurança Rodoviária, que estuda tecnologias de assistência ao motorista. Ela acredita que “a Tesla está basicamente dando uma série de instruções conflitantes”.
Interação homem-máquina
Muitas pesquisas estudam como os humanos interagem com sistemas computacionais criados para ajudá-los a realizar tarefas. Geralmente, elas constatam a mesma coisa: as pessoas são péssimos supervisores passivos de sistemas que são muito bons na maior parte do tempo, mas não perfeitos. Os humanos precisam de algo para mantê-los engajados.
Em pesquisas no setor de aviação, isso é chamado de “problema de desempenho fora do circuito”, em que pilotos, dependendo de sistemas totalmente automatizados, podem deixar de monitorar adequadamente o mau funcionamento devido à complacência após longos períodos de operação. Essa falta de engajamento ativo, também conhecida como diminuição da vigilância, pode levar a uma capacidade reduzida de entender e retomar o controle de um sistema automatizado com defeito.
“Quando você suspeita que o motorista está ficando sonolento, reduzir ainda mais o seu engajamento físico parece extremamente contraproducente”, diz Mueller.
Ao longo dos anos, a Tesla fez mudanças em sua tecnologia para dificultar o uso do FSD por motoristas desatentos. A montadora começou em 2021 a usar câmeras de monitoramento do motorista no carro para determinar se os motoristas estavam prestando atenção suficiente ao usar o FSD; uma série de alertas avisa os motoristas se eles não estiverem olhando para a estrada.
A empresa de Elon Musk também usa um “sistema de alerta” que pode impedir um motorista de usar seu recurso de assistência por uma semana se ele falhar repetidamente em responder aos seus avisos.
A Tesla “evoluiu seus recursos gerais de suporte ao motorista por meio de [atualizações de software] para ajudar a mitigar problemas relacionados à desatenção e distração”, escreveu Bryan Reimer, um cientista pesquisador que estuda tecnologia de assistência ao motorista no AgeLab do MIT, em um e-mail. Mas esta última mensagem no carro sobre o FSD parece um lapso, diz ele. “O aviso parece altamente contrário à pesquisa.”
A Tesla não respondeu ao pedido de comentário da Wired sobre o assunto.
