Firma Tesla zapowiedziała wprowadzenie poprawki oprogramowania do 2 mln swoich aut. Treść poprawki nie jest jeszcze znana, ale firma musi utrudnić w Stanach Zjednoczonych korzystanie z autopilota. Poprawka jest efektem postępowania w sprawie śmiertelnych wypadków z udziałem Tesli, które zbadała amerykańska instytucja nadzorująca bezpieczeństwo na drogach (NHTSA). Okazało się, że system autopilota jest bardziej niebezpieczny niż twierdzi producent. Samochody Tesli zapewne będą częściej alarmować o konieczności trzymania kierownicy a poprawka być może wprowadzi ograniczenia w używaniu Autopilota na niektórych drogach. Z punktu widzenia bezpieczeństwa, 1:0 dla Europy. Czemu?

Eksperci i ekspertki podnoszą, że autopilot był niewłaściwie używany przez ludzi, którzy mylnie uznawali system jazdy w Tesli za zdolny do autonomicznej jazdy. Stąd wynikały śmiertelne wypadki, gdzie np. kierujący spali zamiast kierować.
Zapewne działo się tak m.in z powodu kampanii marketingowej akcentującej rzekome bezpieczeństwo systemu. Samochody Tesla sprzedawane w Europie nie będą objęte poprawką, bo zgodnie z europejskim prawem i tak już mają ograniczonego Autopilota. Na marginesie, firma Tesla podaje na swojej stronie internetowej po polsku, że autopilot „jest już dostosowany do jazdy w trybie całkowicie autonomicznym, możliwej dzięki aktualizacjom oprogramowania”. Takie sformułowanie jest nieprecyzyjne i może być uznane za manipulację.

W świetle norm i przepisów w pełni autonomiczny tryb jazdy, to poziom 5 autonomiczności, podczas, gdy Tesla jest de facto pojazdem z 2 poziomu autonomiczności. Nie jest w pełni autonomicznym pojazdem, ale ma system umożliwiający jazdę wspomaganą na drogach ekspresowych i autostradach.

Sztuczna inteligencja w Teslach to system, którego centrum są dwa mikroprocesory – jeden ubezpiecza drugi. Do tego dochodzi zestaw czujników: 8 kamer i 12 czujników ultradźwiękowych i specjalne oprogramowanie. Dane z czujników przekazywane są też do centrum obliczeniowego, które co jakiś czas przeprowadza analizę oraz trenuje na ich podstawie sieć neuronową. Następnie powstaje kolejna wersja oprogramowania, która ma być lepsza od poprzedniej. Po przetestowaniu wysyłana jest zdalnie do samochodów.

Poniżej możecie zobaczyć przejazd europejską wersją Tesli ulicami Belgii. Właściciel komentuje braki w systemie i różnice między Europą a Ameryką. M.in niemożliwa jest automatyczna zmiana pasa jazdy czy automatyczny przejazd przez skrzyżowanie. Z komentarzy innych osób z Europy, które mają Teslę wynika, że system zachowuje się względnie nieprzewidywalnie a każda udostępniana poprawka zmienia zachowanie samochodu. Generalnie z punktu widzenia zgodności z przepisami, system autopilota na typowej, europejskiej drodze w obszarze zabudowanym ze sporym prawdopodobieństwem będzie łamać różne przepisy kodeksu drogowego.

Reputacja firmy Tesla, jako lidera technologii i motoryzacji została nadwątlona w wyniku postępowania w USA. Cytowani eksperci i ekspertki mówią wręcz, że wbrew twierdzeniom Tesli system autopilota nie podnosi bezpieczeństwa jazdy i powinien być traktowany wyłącznie jako gadżet dla wygody. Zaś zmiany powinny być wprowadzone kilka lat temu.

Poniżej wideo pokazujące serię wypadków z udziałem samochodów Tesli. Pokazują ograniczenia systemu, który nie powinien dawać poczucia bezpieczeństwa.

Dwa lata temu podczas konferencji prasowej z okazji ogłoszenia planów rozwoju sztucznej inteligencji Tesli, szef zespołu AI mówił, że:

„W zasadzie budujemy od zera coś jakby sztuczne zwierzę. Ten samochód będzie właśnie jak zwierzę. Będzie się samodzielnie poruszać, wyczuwać otoczenie i samodzielnie działać”

Why Tesla Is Designing Chips to Train Its Self-Driving Tech | WIRED

Problem chyba polega na tym, że ludzie kupując te samochody nie są informowani, że to produkt w budowie. Można powiedzieć, że w zasadzie to legalny eksperyment informatyczno-motoryzacyjny.

Na podstawie:
Tesla recalls 2 million vehicles over Autopilot safety controls – The Washington Post
Tesla Autopilot crashes on cross traffic – The Washington Post
Why European Teslas Escape Autopilot Recall | Carscoops
No Tesla Recall In Europe Despite US Safety Concerns, Says Dutch Authority –
Artificial Intelligence at Tesla – Two Current Use-Cases | Emerj Artificial Intelligence Research
RCLRPT-23V838-8276.PDF (nhtsa.gov)
Tesla Recalls Autopilot Software in 2 Million Vehicles – The New York Times (nytimes.com)
Why Tesla Is Designing Chips to Train Its Self-Driving Tech | WIRED
Tesla recalls every car with Autopilot as feds say it’s too easily misused | Ars Technica
Tesla’s recall of 2 million vehicles to fix its Autopilot system uses technology that may not work | AP News
Tesla Critics Say the Autopilot Recall Fixes Don’t Go Far Enough (msn.com)