Kiedy ufamy algorytmowi, a kiedy człowiekowi?

To nie jest trywialne pytanie w czasach dynamicznego rozwoju sztucznej inteligencji. Mimo że temat wcale nie jest nowy. Już Kahneman w swojej książce „Pułapki myślenia. O myśleniu wolnym i szybkim.” zauważył, że kiedy człowiek konkuruje z maszyną, nasza sympatia leży po stronie człowieka. Awersja do sytuacji, w których algorytm podejmuje decyzje dotyczące ludzi, jest zakorzeniona w naszej silnej skłonności do preferowania rzeczy naturalnych ponad sztuczne, nawet jest obie rzeczy w ogóle się nie różnią. Dlatego producenci piwa czy oleju piszą że jest on „bez konserwantów” albo „całkowicie naturalny”. Uprzedzenia wobec algorytmów są tym większe, im ważniejszych decyzji dotyczą – pisał Kahneman. Wiadomo, ze w przypadku niektórych chorób algorytmy podejmują trafniejsze decyzje niż lekarze, jednak wcale to nie zwiększa akceptacji dla oddania się w ręce maszyn. Bo dla większości ludzi jest istotna PRZYCZYNA ewentualnego błędu. „Historia dziecka, które zmarło, bo algorytm popełnił błąd, jest bardziej poruszająca niż historia  dziecka, które zmarło w skutek błędu ludzkiego.” To różnica wynikająca z moralności a nie racjonalności.

Ale już Kahneman zauważał, że decyzje o limicie na karcie bankowej zapadają bez udziału człowieka, a dzięki programowi komputerowemu.

Od tych rozważań laureata Nagrody Nobla (w dziedzinie ekonomii) minęło 10 lat. Dzisiaj dla technologii to jak 100 lat w innych czasach. Ale czy i dla człowieka?

W październiku 2020 roku Harvard Business Review opublikował wyniki badania przeprowadzonego przez naukowców tej uczelni. 3000 osób poddano 10 eksperymentom, aby ocenić kiedy ludzie, a dokładniej konsumenci bardziej ufają rekomendacjom algorytmów, a kiedy bardziej ufają rekomendacjom innych ludzi. Generalny wniosek jest następujący: ufamy  algorytmom wtedy, gdy koncentrujemy się na funkcjonalnych i praktycznych aspektach produktu, natomiast  innym ludziom ufamy, gdy koncentrujemy się na zmysłowych cechach produktu, tych które zapewniają przyjemność, ciekawe przeżycia, docenianie, status społeczny.

Wynika to z tego, że sztuczną inteligencję uważamy za bardziej kompetentną od ludzkiej. A to niekoniecznie jest prawda, ludzie niekoniecznie są mniej kompetentni niż sztuczna inteligencja w ocenie i ocenie atrybutów użytkowych. I odwrotnie, sztuczna inteligencja niekoniecznie jest mniej kompetentna niż ludzie w ocenie atrybutów zmysłowych. W końcu to sztuczna inteligencja wybiera kompozycje kwiatowe dla największego dostawcy bukietów w USA, czyli firmy 1-800-Flowers, i tworzy nowe smaki dla firm spożywczych, takich jak McCormick .

Organizatorzy badania poprosili ponad 200 przechodniów w Bostonie (przed Covid-19) o udział w ślepym teście rynkowym dotyczącym produktów do pielęgnacji włosów. Poprosili każdą osobę o wybranie jednej z dwóch próbek produktu do włosów, jednej poleconej przez AI, a drugiej przez człowieka. Zgodnie z przewidywaniami, gdy przechodniów poproszono o skupienie się wyłącznie na atrybutach użytkowych i funkcjonalnych, takich jak praktyczność, obiektywne działanie i skład chemiczny, więcej osób wybrało próbkę zalecaną przez sztuczną inteligencję (67%) niż tę zalecaną przez osobę. Gdy przechodniów poproszono o skupienie się wyłącznie na cechach empirycznych i zmysłowych, takich jak pobłażanie sobie, zapach i klimat spa, wybrali te zalecane przez ludzi.

Sugestia dotycząca kompetencji maszyny i człowieka może być naprawdę daleko idąca. Badacze zrekrutowali 144 uczestników z kampusu University of Virginia i poinformowali ich, że testują przepisy na ciasto czekoladowe dla lokalnej piekarni. Uczestnicy mieli do wyboru dwie opcje: jedno ciasto stworzone ze składników wybranych przez czekoladnika AI i jedno stworzone ze składników wybranych przez ludzkiego cukiernika. Następnie uczestnicy zostali poproszeni o zjedzenie jednego z dwóch ciast, które były identyczne pod względem wyglądu i składników, oraz ocenienie ciasta pod względem dwóch cech zmysłowych (smak i aromaty, przyjemność dla zmysłów) oraz dwóch cech użytkowych (korzystna chemia, korzyść dla zdrowia). Uczestnicy ocenili ciasto zalecane przez AI jako mniej smaczne, ale zdrowsze niż ciasto polecane przez ludzkiego czekoladnika.

Najważniejsze odkrycie dotyczy jednak innego aspektu: kiedy rośnie akceptacja dla rekomendacji AI również w zakresie wartości zmysłowych. Badacze odkryli, że ludzie stosują się wtedy do zaleceń sztucznej inteligencji, o ile sztuczna inteligencja współpracuje z ludźmi, np. wtedy gdy  sztucznej inteligencji wyznacza się rolę wzmacniającą i wspierającą ludzi rekomendujących dany produkt, a nie ich zastępującą.

Skuteczne w pozyskiwaniu przychylności konsumentów dla rekomendacji AI było także coś w rodzaju „odkrywania kart”. Na przykład poproszono o ocenę dań wybranych przez AI pod względem przyjemności konsumpcji. Robot odezwał się w taki sposób: „Niektórzy mogą pomyśleć, że szef kuchni  w postaci sztucznej inteligencji nie jest kompetentny do proponowania jedzenia, ale jest to błędna ocena. Odłóż na chwilę na bok swoje naturalne oczekiwania wobec mnie, robota, jeśli chodzi o sugerowanie jedzenia. Czy mógłbyś rozważyć pomysł, że mógłbym być dobry w rzeczach, w których nie oczekujesz, że będę dobry?” Doprowadziło to do bardziej przychylnego postrzegania zalecenia AI, nawet gdy ludzie rozważali takie zmysłowe właściwości przepisu, jak smak i aromaty.

To bardzo ważne odkrycia dla biznesu. W miarę jak rośnie zastosowanie sztucznej inteligencji, przewagę konkurencyjną będą miały te firmy, które dobrze zrozumieją warunki, w jakich konsumenci wierzą i nie ufają „słowu” rekomendującej coś sztuczną inteligencję, a kiedy będą wierzyć tylko człowiekowi.

 

Iwona D. Bartczak