Od pewnego czasu jeżdżą mi po głowie samochody autonomiczne. Nie myślę jednak o szybkim nabyciu takiego pojazdu na własność. Moją uwagę przykuwa jedynie niezwykła troska ludzkości o odpowiedzialność wynikającą ze szkód spowodowanych bezzałogowymi wehikułami. Troska przejawiająca się w niemających końca dyskusjach, o wyższości moralnej człowieka nad technologią. Choć to oczywiste, że maszyny póki co z moralnością nie radzą sobie najlepiej, to mimo wszystko zawzięliśmy się, aby maszynom tym udowodnić, że to człowiek za kierownicą jest jedynym i godnym naśladowania wzorem cnót wszelakich. Dyżurujący w wielu doniesieniach dylemat wagonika (zwrotnicy) za bardzo odciąga naszą uwagę od wielu innych, równie ważnych aspektów samochodów bezzałogowych. Jak to jednak aktualnie wygląda na drogach, wiemy doskonale. Pomimo, iż większość kierowców prowadzi na szczęście pojazdy w granicach oczekiwanej poprawności, to statystyki wypadków są szokujące. W samej tylko Polsce w 2016 roku odnotowano ponad 33.000 wypadków drogowych, w których zginęło ponad 3.000 osób a ponad 40.000 osób zostało rannych. Mimo tego, iż jest trochę lepiej niż dekadę temu, to jednak w latach 2012-2016 ilość ofiar śmiertelnych co roku utrzymuje się na podobnym poziomie – około 3.000. W tym samym okresie również bez większych zmian utrzymuje się ilość rannych, która wynosi około 40.000 osób (*1). W latach 2012-2016 w wypadkach komunikacyjnych zginęło w Polsce łącznie ponad 16.000 osób a ponad 200.000 odniosło obrażenia. Światowe statystyki śmiertelności w wypadkach drogowych jeszcze bardziej wprawiają w zadumę. W 2016 roku na milion mieszkańców naszej planety w wypadkach zginęły średnio 174 osoby. W sumie w 2016 roku na drogach całego świata życie straciło ponad milion dwieście tysięcy osób (*2). Według Światowej Organizacji Zdrowia podobna ilość osób ginie co roku. Co roku rannych zostaje dodatkowo między 20 a 50 milionów ludzi na ziemi (*3). Wypadki komunikacyjne to obecnie jedna z głównych przyczyn zgonów. W większości tych zdarzeń winnym okazuje się kierowca.
Główne przyczyny wypadków w Polsce jakie w swoim raporcie za rok 2016 podaje Policja, to nie udzielenie pierwszeństwa przejazdu, niedostosowanie prędkości do warunków ruchu, nieprawidłowe zachowanie wobec pieszych, zachowanie niebezpiecznej odległości między pojazdami czy nieprawidłowe wyprzedzanie. Tak, wiem, kiedy mowa o niedostosowaniu prędkości, wielu mistrzów kierownicy natychmiast broni się jakością naszych dróg, warunkami atmosferycznymi czy winą innych uczestników ruchu. Jednak nie zapominajmy, że zachowanie na drodze wymaga uwzględnienia maksymalnie możliwej liczby czynników. Tak czy inaczej, winę za większość wypadków i kolizji ponosi człowiek, który steruje maszyną. Kiedy jednak pojawiają się sygnały, że zaawansowana technologia może przejąć dominującą rolę człowieka w kierowaniu pojazdem a nawet być od człowieka lepsza, przyjmujemy to z dużą dozą niechęci. Co ciekawe, nasza linia obrony koncentruje się przede wszystkim na kwestiach moralnych. Niezwykle ogromną uwagę poświęcamy dwóm grupom aspektów w kontekście wykorzystywania bezzałogowych pojazdów. Pierwsza z nich to zdolność sztucznej inteligencji do podejmowania moralnie słusznych decyzji w obliczu konfliktu interesów. Druga grupa to kwestia odpowiedzialności czyli braku sprawcy incydentu, do którego dojdzie z udziałem pojazdu autonomicznego.
To oczywiście dobrze kiedy ludzie poświęcają tak wiele uwagi sprawom moralnym. Jako istoty wybitnie społeczne musimy i powinniśmy poddawać moralnym osądom wiele aspektów naszego życia. Jednak mimo wszystko, nie powinniśmy moim zdaniem prowadzić tej publicznej dyskusji w oderwaniu od innych, wyraźnie słyszalnych i bardzo ważnych argumentów, jakimi są na przykład szansa na zmniejszenie ilości wypadków śmiertelnych lub ograniczenie wpływu pojazdów na zdrowie i życie człowieka. Dzisiaj z wielu dyskusji na temat autonomicznych pojazdów, bije przede wszystkim troska o to, kto powinien zginąć w dwuznacznej sytuacji oraz kogo w przypadku incydentu pociągnąć do odpowiedzialności. Wiele tytułów brzmi więc sensacyjnie, stawiając często bardzo emocjonalne pytania: Czy autonomiczny samochód zabije kobietę z dzieckiem na drodze czy szofera? Czy sztuczna inteligencja powinna chronić właściciela pojazdu czy pieszego? Czy lepiej zabić dwie określone osoby czy siedem innych? Choć pytania te są niezwykle ważne, to moim zdaniem robimy zbyt mało, a może jesteśmy zbyt opieszali, aby jak najszybciej przekonać się, czy autonomiczne pojazdy okażą się tak bezpieczne, jak pokazują symulacje i pierwsze eksperymenty.
Pojazdy autonomiczne nie są innowacją, którą w pełni możemy przetestować w laboratorium. Prawdziwe statystyki związane z liczbą kolizji czy śmiertelnością uczestników ruchu będziemy poznawać dopiero w miarę upowszechniania się tej technologii. Słychać jednak bardzo wiele głosów, iż samochody autonomiczne będą znacznie bezpieczniejsze od tych prowadzonych przez człowieka. Wnioskując z doniesień, większość dotychczasowych incydentów drogowych z udziałem pojazdów autonomicznych nie miała poważnego charakteru i często była spowodowana błędami innych kierowców. Google informował o kilkunastu niegroźnych kolizjach z udziałem swoich pojazdów w latach 2009-2015 (*4). Jeden z często opisywanych wypadków Uber’a w Arizonie również nie przyniósł poważniejszych skutków (*5). Wybiegająca w przyszłość Strategy Analytics twierdzi, że jeżeli uda nam się dzięki pojazdom bez kierowców zredukować jedynie o 5% ilość ofiar śmiertelnych w latach 2035 do 2045, to uratujemy w tym okresie ponad pół miliona ludzi (*6). Kiedy patrzę na ilość błędów jakie ludzie popełniają za kierownicą, to myślę, że warto promować intensywny rozwój pojazdów autonomicznych, nawet jeżeli mamy szanse uratować tylko jedynie 1% dotychczasowych ofiar. To nadal w skali świata około 12.000 istnień rocznie. A co jeżeli udałoby się zmniejszyć ilość śmiertelnych ofiar o (na przykład) 25%? Czy uratowanie około 300 000. ofiar wypadków rocznie nie stanowi poważnego kontrargumentu dla dylematu zwrotnicy? Czy dysponujemy w ogóle danymi statystycznymi, pokazującymi jak wiele spośród 1 200 000. śmiertelnych ofiar wypadków rocznie, nie była ofiarami dylematu wagonika? Czy słusznym i domniemanym założeniem jest, że dylemat zwrotnicy nie pojawia się w głowie człowieka za kierownicą tuż przed tragicznym zdarzeniem? A co jeżeli w niektórych przypadkach pojawia się? Czy dlatego, że dylemat ten rozwiązywany byłby w ułamku sekundy przez człowieka, a nie przez sztuczną inteligencję, to zmieniałoby to cokolwiek?
Analizy wskazują, że ponad 90% wypadków samochodowych spowodowanych jest błędami człowieka (*7). Błędy te można oczywiście uszeregować według różnych grup i kategorii. Najczęstsze z ludzkich przewinień można znaleźć w policyjnych statystykach wypadków. Jednak świadomie rozwijane systemy elektronicznych zabezpieczeń przed kolizjami, już dzisiaj znacząco ograniczają wiele z tych powszechnych ludzkich błędów. Kilka ważnych statystyk w tym obszarze możemy znaleźć w opracowaniu Center for Transportation Research University of Texas z 2016 roku. Jak podają autorzy, system ostrzegania przed niezamierzoną zmianą pasa ruchu (Lane Departure Warning – LDW), może zredukować o 47% liczbę wszystkich wypadków z tego właśnie powodu. Automatyczne sterowanie hamowaniem jadących bezpośrednio za sobą pojazdów, w przypadku kolizji pierwszego z nich, może zmniejszyć ilość wypadków z powodu najechania na pojazd poprzedzający o około 65.000 zdarzeń rocznie. Przy pełnym pokryciu technologią ostrzegania o kolizjach w wyniku opuszczenia drogi (Road Departure Crash Warning – RDCW), autorzy przewidują zmniejszenie liczby incydentów między 9.400 a 74.800 przypadków. Systemy bezpośredniej komunikacji między pojazdami (Vehicle to Vehicle – V2V), takie jak system ostrzegania o najechaniu na pojazd poprzedzający (Forward Collision Warning – FCW), system ostrzegania o obiekcie w martwym punkcie (Blind Spot Warning – BSW), czy system ostrzegania o zmianie pasa ruchu (Lane Change Warning – LCW) mogą zmniejszyć ilość lżejszych wypadków w Stanach Zjednoczonych o 76%. Dodatkowo, systemy bezpośredniej komunikacji pojazdów z infrastrukturą (Vehicle to Infrastructure – V2I), takie jak system ostrzegania o prędkości na zakręcie (Curve Speed Warning – CSW), system ostrzegania o naruszeniu czerwonego światła (Red Light Violation Warning – RLVW) oraz system ostrzegania o naruszeniu znaku stop (Stop Sign Violation Warning – SSVW) mogłyby rozwiązać problem 25% wypadków w USA (*8). Prognozy te jak widać są bardzo obiecujące, choć technologie wspomagające tę dziedzinę dopiero zaczynają rozwijać skrzydła. Powinniśmy więc natychmiast zająć się możliwie szerokim spektrum aspektów, związanych z doskonaleniem i wdrażaniem w życie autonomicznych pojazdów.
Zdaję sobie sprawę, że autonomiczne samochody czeka jeszcze bardzo długa droga do pełnej samodzielności. Transport wpisany jest praktycznie w każdą dziedzinę życia. Czeka nas więc ogromna transformacja o charakterze systemowym i społecznym. Problemów do rozwiązania jest bardzo wiele. Musimy nadal rozwijać i doskonalić technologie decydujące o autonomiczności środków transportu ale także infrastrukturę drogową, która uzależniona jest od możliwości finansowych danego kraju oraz od ich lokalnego prawa. Ogromną pracę do wykonania mają przed sobą ubezpieczalnie, które będą musieć zdefiniować na nowo swojego klienta. Zanim dobrniemy do momentu, w którym na ulicach wszystkie pojazdy będą pozbawione kierowców, będziemy zmuszeni przeżyć długi okres mieszany, w którym obok siebie na drogach znajdą się samochody tradycyjne oraz te bez kierowców. Dla technologii i przepisów drogowych to dodatkowe, duże wyzwanie. Niebagatelnym wydaje się również umiejętność poruszania się takich pojazdów w trybie off-road, który konieczny jest jeszcze w bardzo wielu miejscach na świecie. Podobnych zadań do rozwiązania można wymienić dziesiątki. Bardzo wiele z nich uzależnionych jest jednak od prawa, które znacząco ogranicza lub zupełnie hamuje rozwój autonomicznych pojazdów. Dzisiaj prawo nie jest jeszcze gotowe na takie pojazdy. Choć w różnych krajach wygląda to różnie, to nigdzie problem nie został zadowalająco rozwiązany. Samochody w pełni autonomiczne wydają się raczej kwestią czasu. Przy tak szerokim spektrum obszarów życia jakie dotkną, wydaje się dalece ryzykowne, aby wszystkie znaczące decyzje w tym zakresie pozostawić wyłącznie ich producentom. W wielu krajach ustawodawcy sprawiają wrażenie sparaliżowanych, którzy czekają chyba na dalszy przebieg wydarzeń, aby nie musieć być pierwszymi. Czy to w dzisiejszych czasach oraz na obecnym już etapie rozwoju autonomicznych pojazdów jest to najlepsza strategia?
W ramach obowiązującego prawa w wielu krajach można poruszać się autonomicznym pojazdem, o ile za kierownicą siedzi człowiek, który w dowolnym momencie ma możliwość przejęcia nad samochodem kontroli. Autonomiczność pojazdu traktowana jest więc w tym przypadku jedynie jako jeden z dodatkowych systemów wspomagania. Ale przed nami stoi konieczność stworzenia prawa, które dopuści poruszanie się pojazdu bez kierowcy. Pewna dosyć interesująca propozycja padła ze strony Carnegie Mellon University. David Danks oraz Alex J. London sugerują, aby dopuszczanie do ruchu autonomicznych pojazdów miało podobną formę do wchodzenia na rynek nowych leków i urządzeń medycznych (*9). System obejmowałby szereg etapów, w tym dokładne monitorowanie pracy tych pojazdów nawet po dopuszczeniu ich już do ruchu. Najważniejszy byłby jednak etap fazy “przedklinicznej”. Niemiecki rząd już jakiś czas temu zaproponował wprowadzenie obowiązku wyposażenia autonomicznych samochodów w czarne skrzynki, aby jak najdokładniej diagnozować ewentualne przyczyny wypadków. W ubiegłym roku minister transportu w Niemczech przedstawił dodatkowo trzy główne zasady użytkowania pojazdów autonomicznych. Wzorował się w tym przypadku na słynnych trzech prawach robotów Isaaca Asimova. Odważnym krokiem na przód jest moim zdaniem punkt trzeci, który brzmi, że “jeśli coś się stanie, odpowiedzialny jest producent” (*10). Musimy jednak poczekać co stanie się z propozycjami ministra, po przejściu przez powołaną przez niego w tym celu komisję. O konieczności zmian w prawie w tym zakresie rozmawia się w wielu innych krajach. W USA trwają dosyć intensywne prace nad ustawami w zakresie testowania i wdrażania pojazdów o wysokim stopniu automatyzacji. W zmiany prawne zaangażowany jest tym razem również rząd federalny (*11). Nawet w Polsce, kilka dni temu, jeden z posłów apelował do ministrów cyfryzacji oraz infrastruktury i budownictwa, w sprawie usankcjonowania prawnego tzw. samochodów autonomicznych. Stopień zainteresowania tematem ministerstw, nie wróży jednak moim zdaniem jakiś raptownych ruchów w tej kwestii (*12). Pozostaje jednak pytanie, jak długo przyjedzie czekać na odważniejsze regulacje prawne? Czy wzorem innych zaawansowanych technologii prawo w wielu krajach nie okaże się kulą u nogi?
Autonomiczne pojazdy póki co są jeszcze pod wieloma względami gorsze od sporej części kierowców. Ale pomimo tego w niektórych dyscyplinach są już w stanie człowieka pokonać. Radary potrafią “widzieć” nocą na odległość ponad 3 razy większą niż wzrok człowieka. Dobre lidary kontrolują otoczenie niemal 360 stopni wokół pojazdu. Inne technologie takie jak dedykowane radio krótkiego zasięgu lub rozwijane sieci 5G, mogą pozwolić “rozmawiać” ze sobą sieciom pojazdów na temat zaistniałych sytuacji na drogach, ograniczając znacząco skutki kolizji. (*13). Kolejne lata przyniosą zapewne wiele nowych osiągnięć technologicznych w tej dziedzinie. Etyka powinna być jednym z elementów, którymi musimy się zająć. Dylemat wagonika nie powinien nas paraliżować przed rzetelnym sprawdzeniem prawdziwych korzyści autonomicznych środków transportu oraz przed szybkim zajęciem się nowymi regulacjami prawnymi w tym zakresie. W przeciwnym razie stajemy w obliczu dylematu dylematu. To znaczy hipotetyczna sytuacja zabicia na przykład jednej lub trzech osób, nie pozwoli nam rozstrzygnąć dylematu, czy lepiej zabić rocznie samochodami na świecie ponad milion osób czy może lepiej aby zabić trochę mniej. Z zadowoleniem przyjąłem więc ostatnie badania Uniwersytetu w Osnabrück. Przeprowadzono tam bardzo ciekawy eksperyment-symulację z wykorzystaniem wirtualnej rzeczywistości. Stu pięciu uczestników badania (kierowców) miało do dyspozycji dwupasmową podmiejską drogę. Na drodze tej pojawiały się różne przeszkody. Była mgła, ludzie, zwierzęta i inne obiekty. Biorący udział w eksperymencie kierowcy musieli nagle zadecydować, kogo potrącić, jak się zachować, jak zareagować. W wyniku eksperymentu badacze doszli do wniosku, że biorący w eksperymencie podejmowali decyzje w oparciu o model “wartości życia”, który mówi o korzyściach z uniknięcia lub zapobieżenia śmierci. Zdaniem badaczy taki właśnie model najdokładniej opisuje dylemat etyczny uczestników i to właśnie taki model najłatwiej zalgorytmizować i przełożyć na język komputerowy autonomicznego pojazdu (*14). Pojazd nie rozumiejąc pojęcia moralności może więc zachować się podobnie jak człowiek.
Wyniki badania Uniwersytetu w Osnabrück brzmią logicznie. A zatem prawnicy mają przynajmniej pierwszy poważny krok do dalszych działań. Przed intensyfikacją prac nad pojazdami autonomicznymi na całym świecie, w możliwie najszerszym zakresie, nie powinny nas również hamować lamenty firm ubezpieczeniowych, którym obecne prawo daje łatwiejszą szansę do znalezienia winnego, kiedy kierowcą jest człowiek. Z czasem muszą sobie jakoś z tym poradzić, że auto nie ma kierownicy, a być może od wypadków komunikacyjnych w dzisiejszym rozumieniu, w ogóle nie będą musieć w przyszłości ubezpieczać. Zamiast tego powinniśmy się zająć innymi, bardziej ważnymi w czasach masowej cyfryzacji problemami. Na przykład uniwersalną i niezależną od producenta technologią błyskawicznego propagowania między pojazdami informacji o wykrytej usterce technicznej, awarii infrastruktury czy podejrzeniu o pojawieniu się wirusa w systemie. Cyberprzestępczość w ogóle wydaje się jednym z istotniejszych czynników w świecie transportu autonomicznego. Jak modernizować technologie, aby cyberataki nie prowadziły do katastrof? Być może jesteśmy w stanie przenieść sporo wiedzy na ten temat z lotnictwa. Jeżeli spora część samolotów potrzebuje pilota jedynie przy starcie i przy lądowaniu to zapewne doświadczenia w dziedzinie lotnictwa mamy już spore. Wskazówek możemy zapewne szukać również w niektórych liniach metro, które funkcjonują już bez maszynistów.
Oczywiście nie chcę aby już jutro pojawiły się na ulicach w pełni samodzielne pojazdy, bez właściwych testów, przygotowania oraz odpowiednich regulacji. Przed nami jeszcze bardzo długa droga, jednak wcześniej czy później autonomiczne środki transportu doprowadzą do rozległych zmian systemowych w społeczeństwie. Sądzę więc, że warto, aby w powszechnym dialogu publicznym znalazło się więcej argumentów na temat korzyści jakie autonomiczne pojazdy mogą przynieść. Ważne też aby na równi z dylematami moralnymi analizować wiele innych problemów, które mamy do rozwiązania już teraz. Już dzisiaj wiemy na przykład, że sztuczna inteligencja w postaci IBM Watson, potrafi popełniać w medycznych diagnozach mniej błędów niż część lekarzy. Jeżeli więc istnieją spore przesłanki ku temu, aby dzięki autonomicznym pojazdom ratować miliony istnień ludzkich, to mamy wręcz moralny obowiązek, aby się tym w sposób programowy i rzetelny zająć.
