sztuczna inteligencja

Raport zauważa, że ostatnio staje się to gorącym tematem badawczym, z różnorodną terminologią, w tym projektowaniem włączającym, dostępnym lub skoncentrowanym na użytkowniku. Bardziej ogólne podejście koncentruje się na zastosowaniu siedmiu zasad projektowania uniwersalnego w AV. Jednak na razie zbadano tylko modele koncepcyjne, które powinny zostać wdrożone i ocenione w najbliższej przyszłości.

Zgodnie z definicją danych osobowych podaną przez RODO wszelkie informacje, które mogą zidentyfikować daną osobę, są danymi osobowymi (art. 1 ust. 1 RODO). Osoba możliwa do zidentyfikowania jest określana jako osoba, której dane dotyczą, która w tym przypadku jest przede wszystkim użytkownikiem AV, ale może również odnosić się do innych zewnętrznych użytkowników dróg. Administrator danych jest zaś stroną, która określa, jakie dane są zbierane, w jaki sposób są zbierane i w jakim celu. Rozsądne jest uznanie producenta AV za kontrolera, ale w zależności od okoliczności jako kontroler może być również postrzegany operator (np. usługi autonomicznej mobilności). Wreszcie pojęcie podmiot przetwarzający dane, tj. ten, który przetwarza dane osobowe w imieniu administratora (art. 4 ust. 8 RODO), może być przypisane albo twórcy oprogramowania, albo operatorowi Eet, w zależności od konkretnych okoliczności (tj. jeśli przetwarzają dane w imieniu administratora). 

Na przykład protokoły testowe dla systemów AEB (Euro NCAP, 2021), są opracowywane w celu stworzenia znormalizowanego zestawu warunków, który umożliwiłby obiektywną, powtarzalną i odtwarzalną ocenę wspomnianych wcześniej systemów AEB. Jeśli zaś chodzi o plany awaryjne, jak opisano w normie SAE International, w zależności od poziomu automatyzacji, po wystąpieniu awarii systemu związanej z wydajnością dynamicznego zadania jazdy (DDT) lub po wyjściu z domeny projektowania operacyjnego (ODD), muszą być wprowadzone odpowiednie mechanizmy w celu umożliwienia (rezerwowemu) kierowcy wznowienia sterowania ręcznego (poziomy 1, 2 i 3) lub nadania automatycznemu układowi jazdy zdolności do osiągnięcia stanu minimalnego ryzyka (poziomy 4 i 5). Raport wskazuje, że standard SAE International nie definiuje wymagań i kryteriów akceptacji tego, co jest warunkiem minimalnego ryzyka. Biorąc pod uwagę różnorodność warunków drogowych, absolutnego „minimum” nie można ustalić poza ściśle określonym scenariuszem lub zestawem okoliczności. Warunki te będą zależeć od rodzaju awarii, przypadku użycia i konkretnego scenariusza, co pociąga za sobą ogromną zmienność. W rzeczywistości liczba prac badawczych związanych ze strategiami awaryjnymi w celu osiągnięcia warunków minimalnego ryzyka w jeździe zautomatyzowanej i autonomicznej jest nadal bardzo ograniczona. Podobnie stan postępów w zakresie procedur testowania służących do oceny bezpieczeństwa planów awaryjnych jest wciąż w powijakach i wymaga nowych propozycji i podejść.

Dokument stwierdza, że cyberbezpieczeństwo pojazdów i ochrona przed nieuprawnionym dostępem to podstawowe wymagania silnie skorelowane z zamiarem użytkowania. W związku z tym, jak ustaliła Agencja Unii Europejskiej ds. Cyberbezpieczeństwa (ENISA) w jej raporcie Dobre praktyki ENISA w zakresie bezpieczeństwa inteligentnych samochodów, wraz z rosnącą skalą połączeń POJAZDÓW AUTONOMICZNYCH, pojawiają się nowe wyzwania w zakresie cyberbezpieczeństwa, ryzyko i zagrożenia, zaś cyberbezpieczeństwo staje się kluczowym aspektem, który wpłynie na ewolucję technologii. Badania związane z atakami i technikami obronnymi wycelowanymi w pojazdy o różnym stopniu autonomii wskazują, że liczba ataków znacznie wzrosła w ostatnich latach. Duża część tych potencjalnych ataków i metod obronnych nie jest związana wyłącznie z wysokim poziomem automatyzacji, ale ma miejsce zarówno do pojazdów kierowanych ręcznie, jak i pojazdów o niskim poziomie automatyzacji. Wskazano, że jeśli skupimy się na elementach właściwych dla POJAZDÓW AUTONOMICZNYCH, możemy wyróżnić dwa główne typy ataków.

W zależności od poziomu współpracy człowieka z systemami autonomicznymi lub na podstawie wymagań dotyczących monitorowania i działania (stopień zaangażowania) nałożonych na ludzi można zdefiniować trzy główne kategorie:

1. Human-in-the-loop: system autonomiczny, wykonuje niektóre zadania przez pewien czas, ale oczekuje na ludzkie polecenia przed kontynuowaniem. Człowiek-operator musi być na stałe połączony z systemem autonomicznym, a zdolność autonomiczna jest ograniczona do niektórych zadań.

2. Human-on-the-loop: system autonomiczny może wykonywać niektóre zadania całkowicie i niezależnie, ale ma człowieka w roli monitorującej lub nadzorczej, z możliwością ingerencji w przypadku awarii systemu. Kategoria ta opisuje sytuację, w której operator ludzki dowodzi systemami autonomicznymi i istnieje pewna współpraca w celu osiągnięcia celów, podczas gdy pewna krytyczna decyzja musi zostać podjęta przez operatora i nie może być podjęta autonomicznie.

3. Human-out-of-the-loop: każda decyzja jest podejmowana przez system autonomiczny. W tym przypadku ludzi nie można nazwać „operatorami”.

Definicje te, pochodzące od społeczności badaczy interakcji człowiek-maszyna, opierają się na wyższym poziomie abstrakcji stopnia zaangażowania człowieka w pętlę interakcji człowiek-maszyna. Możliwe jest przełożenie i zaadaptowanie tych pojęć (wykorzystywanych w kryterium CR1.7) do obszaru jazdy autonomicznej.

Rzeczywiście, AV można zdefiniować jako zestaw wielu złożonych, wzajemnie powiązanych systemów opartych na sztucznej inteligencji, ucieleśnionych w postaci samochodu. Ich zachowania zależą od wielu systemów sztucznej inteligencji (AI), z których każdy zajmuje się problemami o innym charakterze. W związku z tym wszystkie zasady etyczne, kluczowe wymagania i kryteria oceny godnej zaufania sztucznej inteligencji mogą (i muszą) koniecznie być stosowane w konkretnym kontekście POJAZDÓW AUTONOMICZNYCH.