W rewelacjach, które rzucają nowe światło na definicję słowa „autonomiczny”, dr Mauricio Peña, szef ds. bezpieczeństwa w Waymo, potwierdził podczas przesłuchania w amerykańskim Senacie, że firma korzysta ze wsparcia zdalnych operatorów stacjonujących na Filipinach. Gdy robotaksówka Waymo poczuje się skonsternowana „trudną sytuacją na drodze”, może po prostu „zadzwonić do przyjaciela” oddalonego o tysiące kilometrów.
Peña sprecyzował, że owi operatorzy, których Waymo nazywa „agentami reakcji flotowej” (fleet response agents), nie prowadzą pojazdów zdalnie w tradycyjnym sensie, lecz „zapewniają wskazówki” jako dodatkowy sygnał wejściowy dla systemu. Wyznanie to natychmiast ściągnęło na firmę gromy ze strony ustawodawców. Senator Ed Markey wyraził głębokie zaniepokojenie lukami w cyberbezpieczeństwie, kwestią opóźnień w transmisji danych (latency) oraz konsekwencjami dla bezpieczeństwa, jakie niosą ze sobą tacy „transoceaniczni pasażerowie z tylnego siedzenia”, wpływający na ruch pojazdów w czasie rzeczywistym. Peña nie był w stanie podać dokładnych danych dotyczących tego, ilu operatorów pracuje z zagranicy, a ilu znajduje się na terenie USA.
Zeznający na tym samym przesłuchaniu przedstawiciele Tesla, Inc. zaprezentowali radykalnie odmienną filozofię bezpieczeństwa. Lars Moravy, wiceprezes Tesli ds. inżynierii pojazdów, oświadczył jednoznacznie, że kluczowe układy sterowania w ich autach znajdują się na fizycznie i cyfrowo odizolowanej warstwie, do której „nie ma dostępu z zewnątrz pojazdu”. Zapewnił, że aktualizacje oprogramowania układowego (firmware) wymagają kryptograficznego zatwierdzenia przez dwie osoby i że nikomu nigdy nie udało się skutecznie przejąć zdalnej kontroli nad systemami jazdy Tesli.
Dlaczego to ma znaczenie?
Przesłuchanie to obnażyło dwa skrajnie różne podejścia w wyścigu po pełną autonomię. Strategia Waymo, oparta na modelu „human-in-the-loop” (człowiek w pętli decyzyjnej) i globalnej armii zdalnych pracowników, oferuje sposób na radzenie sobie z nietypowymi sytuacjami (tzw. edge cases) i pozwala szybciej skalować usługę. Otwiera jednak puszkę Pandory z pytaniami o bezpieczeństwo i podważa samą istotę autonomii. System, który potrzebuje koła ratunkowego rzuconego przez operatora oddalonego o 13 000 kilometrów, przypomina mniej samodzielny samochód, a bardziej najbardziej wyrafinowaną zabawkę zdalnie sterowaną na świecie.
Tesla z kolei stawia na „utwardzony”, samowystarczalny system. Taka architektura priorytetyzuje bezpieczeństwo poprzez stworzenie bariery (air gap) wokół krytycznych funkcji jazdy, ale oznacza to również, że pokładowa AI musi rozwiązać praktycznie każdy problem całkowicie samodzielnie. Podczas gdy Tesla twierdzi, że dzięki temu jej pojazdy są odporne na ataki hakerskie z zewnątrz, nakłada to ogromną presję na możliwości samej sztucznej inteligencji. Cała branża obserwuje teraz, która filozofia zwycięży: globalnie usieciowiony asystent czy odizolowana, polegająca wyłącznie na sobie maszyna.
