Chcemy inteligentnych maszyn, ale się ich boimy

Diagnoza wydana przez maszynę czy lekarza? Pojazd prowadzony przez człowieka, a może przez automat? Komu ufamy bardziej i ile samodzielności chcemy przekazać maszynom? Badania pokazują, że chcemy większego udziału inteligentnych maszyn w naszym życiu, ale jednak boimy się zaufać podejmowanym przez nie decyzjom. Jakie wyzwania stoją przed producentami, konsumentami i współczesnymi pracownikami? To zagadnienie komentuje dr Artur Modliński z Katedry Zarządzania, Wydział Zarządzania UŁ.

Coraz większym zainteresowaniem społecznym cieszą się autonomiczne pojazdy. Ich ideą jest możliwość podróżowania bez pomocy człowieka – kierowcy. Dotychczas szczególnym zainteresowaniem cieszyło się metro, które obsługiwane było zdalnie – bez motorniczego w pojeździe. Taka technologia zaczęła rozprzestrzeniać się na całym świecie po sukcesie, jaki odniosło to rozwiązanie w Mediolanie. Obecnie rośnie ilość ośrodków miejskich, które decydują się zaadaptować taką formę transportu publicznego.

Dotychczas największe wysiłki zostały poczynione w obszarze komercjalizacji autonomicznych samochodów. Pracują nad tym przede wszystkim marki Tesla i Waymo. Ich głównym celem jest wyposażenie samochodu w sztuczną inteligencję, która uczy się rozpoznawać kształty i podejmować decyzje, aby bezpiecznie dowieźć pasażera z miejsca A do B. Tego rodzaju rozwiązanie budzi jednak wiele obaw społecznych w zakresie bezpieczeństwa zarówno podróżujących, jak i innych uczestników ruchu.

Brak zaufania do autonomicznych maszyn jest głównym problemem ich twórców, chcących wprowadzić swoje rozwiązania na rynek. Gdy w 2018 roku doszło wypadku z udziałem autonomicznego samochodu marki Waymo, w prasie pojawiły się doniesienia o niebezpieczeństwie płynącym z autonomiczności maszyn. Udostępniano liczne relacje zaniepokojonych osób, a deklaracje sprzeciwu wobec takich rozwiązań zgłaszali kolejni politycy. Nie pomogło nawet wyjaśnienie, że za wypadek odpowiedzialny był człowiek, a nie inteligentny system kierowania.

Sceptycyzm wobec maszyn wpisuje się w szersze zjawisko zwane przeze mnie „not perfect but proven” (czyli „nie idealne, ale sprawdzone”), które opisuje sytuacje, w którym my, jako ludzie, ufamy innym ludziom bardziej niż maszynom nawet wtedy, gdy częstotliwość błędów popełnianych przez tych ludzi jest większa niż ta popełniana przez maszyny. Bardzo widocznym przykładem w tym obszarze są właśnie autonomiczne maszyny, ale także badania z obszaru medycyny. Okazało się, że pacjenci wierzą bardziej w diagnozę lekarza niż inteligentnej maszyny nawet wtedy, gdy ze statystyk wynika, że lekarz popełnia więcej błędów i jest mniej dokładny. Maszyna pozostaje dla nas nadal czymś obcym. Patrząc na powyższe zjawisko od strony biologiczno-ewolucyjnej jest ona dla nas „nowym gatunkiem”, którego intencji nie jesteśmy w stanie rozpoznawać. Na negatywne ich postrzeganie wpływ mają liczne filmy i powieści science fiction, gdzie maszyny zyskują świadomość i doprowadzają do zniszczenia naszej cywilizacji.

W ostatnim czasie zjawisko „not perfect but proven” widoczne jest po dwóch katastrofach samolotów Boeing 737 Max 8 (w Indonezji i Etiopii), gdy w prasie pojawiła się niepotwierdzona przez producentów informacja, że za wypadki odpowiedzialny jest nowy, autonomiczny system zapobiegający przeciągnięciom kadłuba oraz anonimowe zarzuty pilotów tych maszyn, jakoby nie mieli otrzymać odpowiedniego szkolenia ze współpracy z autonomicznym oprogramowaniem sterującym. Katastrofy te wywołały kolejne debaty, podczas których pojawia się regularnie pytanie „jak dużo samodzielności jesteśmy w stanie przekazać maszynom, aby nie ucierpiał na tym sam człowiek oraz jak szkolić ludzi, aby sprawnie współpracowali z autonomicznym sprzętem”. Chociaż nadal nie dysponujemy wynikami wskazującymi przyczyny katastrof Boeinga, to maszyny typu 727 Max 8 zostały uziemione na terenie Unii Europejskiej i kilku innych przestrzeni powietrznych na świecie.

Mimo licznych problemów i obiekcji natury prawnej, rośnie (przynajmniej deklaratywnie) liczba osób pozytywnie nastawionych do autonomicznych pojazdów. Z raportu 2018 Global Mobile Consumers Survey wynika, że 41% osób zgodziłoby się podróżować autonomicznym samochodem, gdyby zdecydowały się na to także inne osoby (wzrost o 8%). 57% badanych widzi w autonomicznych pojazdach szansę dla osób niepełnosprawnych i seniorów i jest gotowa zgodzić się na wprowadzenie takich rozwiązań do komercyjnego użytku. Z drugiej strony nadal większość populacji świata mając do wyboru poleganie na człowieku lub maszynie, wybrałaby tego pierwszego. Z raportu Renault-Nissan-Mitsubishi wynika, że aż 55% małych przedsiębiorstw biorących udział w badaniu zadeklarowało wprowadzenie do swoich firm w pełni autonomicznej floty pojazdów w ciągu kolejnych 20 lat. Wyzwaniem staje się uświadamianie i szkolenie ludzi z zakresu współpracy z autonomicznymi maszynami, które coraz wyraźniej zadomawiają się w naszej przestrzeni społecznej i wpływają na obszary dotąd zarezerwowane tylko dla naszego gatunku.


dr Artur Modliński – adiunkt w Katedrze Zarządzania na Wydziale Zarządzania UŁ, kierownik Centrum Badań nad Sztuczną Inteligencją i Cyberkomunikacją przy WZ UŁ. Od 2016 roku badacz kontraktowy  w Międzynarodowym Centrum Badawczym CITAD w Lizbonie, kierownik sekcji ekonomicznej w globalnym projekcie Urban Sensorial Laboratory przy Uniwersytecie Luisiada, trener w międzynarodowym zrzeszeniu konsultantów EDYM (Kalabria, Włochy), przedstawiciel Polski  w międzynarodowej grupie ekspertów I-POT, ekspert Fundacji Romulado del Bianco we Florencji współpracującej z UNESCO oraz w Europejskiej Fundacji Rozwoju Człowieka.