Czy wykorzystanie AI do pracy może sparaliżować organizację?
Może. Poniżej trzy przykłady: urząd, firma, państwo.
Interpelacje poselskie
Poseł Daniel Milewski wysłał do Ministerstwa Nauki i Szkolnictwa Wyższego kilka interpelacji, a w nich kilkadziesiąt ogólnych pytań. W sumie na stronie Sejmu RP widnieje informacja, że napisał tylko w tej kadencji 326 interpelacji do różnych instytucji. Jak wynika z danych sejmowych, poseł Milewski w samym czerwcu br. skierował ponad 200 zapytań do członków Rady Ministrów. Według analizy za pomocą Jednolitego Systemu Antyplagiatowego, który zawiera moduł analizatora pod kątem wykorzystania modeli generatywnych, są one w 94 proc. generowane przez sztuczną inteligencję. Na interpelacje trzeba odpowiedzieć. Wiceminister Maciej Gdula podkreślił, że urzędnicy muszą poświęcić wiele czasu, żeby samodzielnie przygotować kompetentne i wyczerpujące odpowiedzi. Seryjne wysyłanie sztucznie generowanych interpelacji prowadzić może do paraliżu urzędów i marnowania setek godzin pracy urzędników opłacanych z publicznych pieniędzy.
Automatyzacja części procesu
Ale sparaliżować firmę wystarczy bezrefleksyjnie zautomatyzować – np. za pomocą AI – jeden odcinek procesu, aby zarzucić pracą ludzi na kolejnym odcinku. Zastosowania narzędzi AI wygeneruje więcej danych, więcej scenariuszy, więcej decyzji do podjęcia. Obciążenie pracą tych osób znacznie wzrasta, powodując zmęczenie i stres. Nie są w stanie pracować tak szybko i sprawnie jak automaty, są ludźmi i mogą pracować tylko jak ludzie. Próbując dostosować się do tempa automatu, będą popełniać błędy. Przyspieszenie tylko na jednym odcinku procesu nie powoduje usprawnienia całego procesu, lecz gorszą jakość pracy na odcinku za tym zautomatyzowanym. Więcej piszemy o tym w artykule „Dzięki AI miejsc pracy będzie mniej, ale praca na nich znacznie cięższa i stresująca.”
Nie jest to nowa sytuacja w gospodarce. W produkcji wpisuje się w zagadnienie wąskich gardeł, znane od dziesięcioleci i dobrze opisane, włącznie z rekomendacjami rozwiązań, choćby TOC (teoria ograniczeń), co może warto teraz przypomnieć.
Jednak teraz mamy do czynienia z o wiele szybszym i bardziej wszechstronnym narzędziem, które będzie nam deptać po piętach aż do zranienia, a i tak nie będziemy umieli tak szybko przetwarzać tego, co nam dostarczy.
Kapitalizm bez ograniczeń
Kilka miesięcy temu opublikowaliśmy w serwisie programu Digital Finance Excellence artykuł pod tytułem „Czy powierzenie sztucznej inteligencji zbioru truskawek może doprowadzić do wyginięcia ludzkości?” Zadano to pytanie kilka lat temu, kiedy sztuczna inteligencja była na etapie wygrywania w Go. Zadanie wydaje się zupełnie nieszkodliwe, ale w miarę jak sztuczna inteligencja przeprojektuje się, aby była bardziej skuteczna, może zdecydować, że najlepszym sposobem zmaksymalizowania swojej wydajności byłoby zniszczenie cywilizacji i przekształcenie całej powierzchni Ziemi w pola truskawek. Zatem dążąc do pozornie nieszkodliwego celu, sztuczna inteligencja może spowodować wyginięcie ludzkości wyłącznie jako niezamierzony efekt uboczny.
Przywołał potem ten przykład Ted Chiang, pisarz i twórca BuzzFeed w słynnym eseju „Dolina Krzemowa zamienia się w swój najgorszy strach”, gdzie zastanawiał się dlaczego biznes technologiczny tak strasznie boi się sztucznej inteligencji. No, właśnie dlatego że te firmy tak właśnie działają: dążą do swoich celów bez żadnej refleksji do czego ich realizacja prowadzi dla świata i ludzkości. Kiedy Dolina Krzemowa próbuje wyobrazić sobie superinteligencję, wychodzi z niej kapitalizm bez ograniczeń.
Tytułowe pytanie „Czy wykorzystanie AI do pracy może sparaliżować organizację?” to źle zadane pytanie. Właściwe pytanie jest ponadczasowe i nie ma nic wspólnego z technologią: Czy zła wola, bezmyślność i chciwość może sparalizować organizację? Może. I ma do tego coraz lepsze narzędzia.