Tesla FSD v14: O carro desviou bruscamente e tentou me jogar em uma vala sem motivo aparente.

O sistema Full Self-Driving da Tesla, versão v14.3.6, tentou fazer uma saída na rodovia que meu carro já havia ultrapassado, a uma velocidade de 110 km/h (68 mph), e quase nos jogou diretamente em uma vala.

Eu estava pronto para assumir o controle do carro, e assumi, mas a situação era aterrorizante. Meu amigo, que estava no banco do passageiro, gritou de medo.

O que a câmera do painel mostra

Este incidente ocorreu na noite de domingo na Autoestrada 55, na região de Mauricie, em Quebec, enquanto o sistema FSD (Supervised) v14.3.6 estava em execução — a versão mais recente e melhor do sistema FSD da Tesla no hardware mais moderno.

O carro estava a 110 km/h na faixa da direita. O asfalto estava seco, não havia trânsito em nenhuma das direções, a sinalização horizontal era moderna e clara, e as placas suspensas eram refletivas. As condições eram perfeitas para o sistema FSD. Ao passarmos pelo viaduto na saída 217, a seta para a direita acionou e o carro começou a desviar para o acostamento, enquanto a mensagem “Condução Autônoma” ainda era exibida na tela.

O problema era que a encosta já havia começado a ceder atrás de nós. Fazer aquela curva tardia, naquela velocidade, teria nos jogado direto no buraco.

O velocímetro indicou 110, 109, 107 e 104 km/h enquanto o carro realizava a manobra. Nesse instante, agarrei o volante com força. As palavras “Condução Autônoma” desapareceram da tela a 102 km/h.

Não se tratava de uma oscilação na posição da pista ou de um momento de hesitação. O carro simplesmente acionou a seta e fez uma saída que não deveria.

Essas eram as condições ideais para o sistema FSD.

Se você estivesse projetando o cenário mais simples possível para a Tesla, seria este.

Uma rodovia dividida. À noite, facilitando a visualização dos faróis dos veículos que vêm em sentido contrário e dos refletores das faixas. Tráfego zero, sem necessidade de análise. Sinalização de faixas bem definida. Placas grandes e bem iluminadas.

Com base em tudo o que vi da versão 14, dirigir em rodovias à noite e em estradas vazias é o melhor recurso do sistema . Percorri milhares de quilômetros dessa forma sem precisar mexer em nada. É por isso que estou tão confiante. E essa confiança é justamente a armadilha.

Escrevi sobre esse perigo específico em junho.

Há dois meses e meio, publiquei um artigo afirmando que o sistema FSD v14 era tão bom que me deixou perigosamente confiante demais. Escrevi na época que “um sistema que funciona quase perfeitamente cria uma armadilha: os motoristas confiam nele o suficiente para deixarem de prestar atenção, mas ele ainda falha inesperadamente e, às vezes, de forma crítica”.

Mantenho cada palavra que disse, e a noite de domingo provou isso. Viajar alguns milhares de quilômetros entre intervenções críticas é realmente uma façanha impressionante da engenharia. Mas é também o intervalo que ensina seu cérebro a parar de escanear e prestar atenção, fazendo você pensar duas vezes antes de comprar um Tesla.

As notas de lançamento da versão 14.3.6 da Tesla afirmam que a empresa "desenvolveu uma fase de aprendizado por reforço (RL) para treinar a rede neural do sistema FSD", reescreveu o interpretador de IA usando MLIR para alcançar "tempos de resposta 20% mais rápidos" e melhorou a resposta do veículo à degradação do sistema, "reduzindo incidentes desnecessários de desengajamento do motorista". Os incidentes de desengajamento do motorista diminuem quando o software é aprimorado e também quando o motorista para de interferir. A Tesla não divulga nenhuma informação que permita a terceiros distinguir entre esses dois fatores.

Os dados públicos disponíveis não são animadores. A Tesla reportou um número recorde de 207 acidentes envolvendo o Autopilot e o FSD (Full Self-Driving) à NHTSA (Administração Nacional de Segurança Rodoviária) em um único mês, com essa informação sendo omitida em 99.9% dos 3,763 relatórios de acidentes com sistemas de assistência ao motorista desde 2019. Musk continua afirmando aos investidores que o FSD sem supervisão será amplamente implementado nos EUA até o final do ano, enquanto o co-CEO da Waymo continua explicando por que a direção autônoma baseada apenas em câmeras não atende aos requisitos de um sistema de direção verdadeiramente autônomo.

Opinião da DzTecnium

Um incidente que quase aconteceu é apenas uma história e não um dado concreto, mas acho que serve como um lembrete importante da necessidade de permanecermos vigilantes.

Como já mencionei diversas vezes, o sistema FSD v14 da Tesla é um produto realmente impressionante. No entanto, ele fica aquém do que o FSD foi originalmente anunciado como: direção autônoma sem supervisão. Está longe disso, e talvez nunca chegue a estar. Isso continuará sendo um problema e talvez o pior erro que a Tesla já cometeu.

Mas se deixarmos isso de lado e analisarmos o FSD como um sistema de assistência ao condutor ponto a ponto, ele é realmente incrível.

No entanto, essa exibição deslumbrante gera complacência (indiferença). A Tesla não ajuda nesse sentido, especialmente com declarações do CEO Elon Musk, como: "Agora você pode olhar para o seu telefone enquanto o usa."

Isso é claramente imprudente. À medida que o sistema melhora, a Tesla precisa se aprimorar em persuadir os motoristas a prestarem atenção a esse problema de complacência, e não o contrário.