Wywiad z Erikiem So (MIT Sloan) o AI i ludzkim intelekcie

Sztuczna inteligencja oferuje firmom niezwykłe połączenie: mniejszy wysiłek, większą produktywność i szybsze podejmowanie decyzji. Ale co się dzieje, gdy wyeliminujemy właśnie tę praktykę, która sprawia, że jesteśmy dobrzy w swojej pracy? W swojej nowej książce The Collision: What AI Does to Us, profesor MIT Sloan, Eric So opowiada się za bardziej wymagającym podejściem do wdrażania AI — takim, które zwiększa wydajność, nie osłabiając przy tym ludzkiego doświadczenia.

• Wiele firm wdraża AI w celu przyśpieszenia pracy. Ale czy szybciej zawsze oznacza lepiej?

  

  Sztuczna inteligencja sprawia, że w wielu przypadkach działamy szybciej. Technologia ta daje nam dostęp do zaawansowanych narzędzi wykorzystujących wiedzę gromadzoną przez ludzkość i pozwala szybciej uzyskać wstępne rezultaty. W książce The Collision pokazuję, że sztuczna inteligencja nie tylko zmienia nasze możliwości, ale również nasz sposób myślenia. Szybsze otrzymanie wyników niekoniecznie oznacza, że zyskujemy — ani na poziomie indywidualnym, ani zbiorowym.

  Istnieje silna pokusa, aby działać szybciej i produkować więcej w krótszym czasie. Musimy jednak również brać pod uwagę cenę powierzania coraz większej ilości naszych możliwości umysłowych na rzecz szybkości. AI może przyspieszyć naszą pracę, ale to, czy przyczyni się do naszego rozwoju intelektualnego, zależy od sposobu jej wykorzystania.

• Dlaczego, my ludzie, czujemy pokusę powierzania procesów myślowych sztucznej inteligencji?

  W książce wprowadzam pojęcie „siły przyciągania AI”, czyli tendencji polegającej na coraz to większej zależności od sztucznej inteligencji. Zjawisko to wynika z kilku współdziałających sił, w tym biologii. Chociaż ludzki mózg stanowi zaledwie około 2% masy ciała, zużywa ponad 20% energii, którą wykorzystujemy w stanie spoczynku. Ponieważ myślenie wymaga znacznego wysiłku, nasz mózg rozwinął instynkt oszczędzania energii zawsze, gdy jest to możliwe. AI odpowiada na tę potrzebę — pozwala nam osiągnąć wiele rzeczy przy minimalnym wysiłku umysłowym.

  Istnieje również presja społeczna i ekonomiczna. We współczesnych firmach nie tylko ocenia się rodzaj produkowanego asortymentu, ale również wydajność na tle innych producentów. Jeśli uważamy, że nasz partner biznesowy korzysta z AI w celu poprawy zdolności produkcyjnej, odczuwamy presję, aby mu dorównać. Strach przed pozostaniem w tyle jeszcze bardziej skłania nas do korzystania ze sztucznej inteligencji.

  Kiedy te siły łączą się z krótkoterminowym wzrostem produktywności, który oferuje sztuczna inteligencja, opieranie się jej może wydawać się mało realne, a nawet naiwne. To właśnie „siła przyciągania AI”, czyli połączenie presji biologicznej, społecznej i ekonomicznej, które skłaniają nas do korzystania ze sztucznej inteligencji, nawet gdy w dłuższej perspektywie samodzielne myślenie mogłoby przynieść nam większe korzyści.

• Na czym polega „pułapka wygody” sztucznej inteligencji?

  Pułapka wygody odnosi się do systemów technologicznych, które ułatwiają nam pracę. Te udogodnienie działa jednocześnie jak przynęta i kajdany: przyciąga nas, ale może nas również ograniczać. Jeśli technologia wykonuje pracę za nas, przestajemy trenować określone zdolności. Podobnie jak w przypadku mięśni, umiejętności, których nie praktykujemy, z czasem słabną. Im mniej jesteśmy przyzwyczajeni do pracy bez AI, tym bardziej jesteśmy od niej zależni. W ten sposób powstaje spirala, którą coraz trudniej przerwać — tracimy zdolność do samodzielnego działania bez pomocy sztucznej inteligencji.

  

• Jak firmy mogą uniknąć wpadnięcia w tę pułapkę?

  Podstawowym krokiem jest zaprzestanie oceniania personelu wyłącznie na podstawie częstotliwości korzystania z AI. Wywieranie presji na zespołach, aby coraz więcej korzystały ze sztucznej inteligencji lub mierzenie poziomu użycia tej technologii jako wskaźnika wydajności, nie jest dobrym sposobem oceniania ich pracy. Jeśli w dłuższej perspektywie zmierzamy do zachowania zdolności poznawczych pracowników, powinniśmy zadbać o to, aby nadal ćwiczyli umiejętności, które pozwalają je utrzymywać w formie.

  Drugim krokiem jest opracowywanie interfejsów, które wspierają myślenie. Jeśli system sztucznej inteligencji oferuje natychmiastową odpowiedź, łatwo ulegamy wpływowi pierwszej propozycji, nawet jeśli jest ona błędna lub gdy sami moglibyśmy dojść do lepszego wniosku. Niewielkie decyzje projektowe mogą mieć ogromne znaczenie w momencie utrzymywania zaangażowania użytkowników. Najlepsze systemy sztucznej inteligencji wspierają ludzki potencjał intelektualny — technologia poprawia wydajność bez eliminowania wysiłku umysłowego człowieka potrzebnego do zbudowania własnego osądu.

  Ostatecznie firmy powinny zidentyfikować ich „wyróżniające zdolności poznawcze”, czyli kluczowe umiejętności, które nadają wartość ich pracy. W medycynie może być to kryterium diagnostyczne, w prawie konstruowanie argumentów, a w szkolnictwie umiejętność przekazywania wiedzy między różnymi dziedzinami. Te kompetencje należy chronić. Nie powinniśmy powierzać AI zadań, które pomagają nam w zachowaniu tych zdolności oraz rozwijaniu ich.

• W jednym z analizowanych przypadków opisuje Pan eksperyment, w którym częściowa automatyzacja pomogła pracownikom fabryki rozwijać umiejętności dotyczące kontroli jakości. Czego przedsiębiorstwa mogą nauczyć się dzięki temu doświadczeniu?

  

  Badanie analizowało osoby odpowiedzialne za kontrolę jakości rakiet śnieżnych. Naukowcy chcieli zrozumieć, jak różne poziomy automatyzacji wpływały zarówno na wydajność, jak i zaangażowanie poznawcze pracowników. Kiedy w pełni zautomatyzowany system podejmował decyzje, a ludzie ograniczali się jedynie do ich wykonywania, uczyli się mniej. Co więcej, po wycofaniu automatyzacji gorzej wykrywali wady niż osoby, które szkoliły się z wykorzystaniem systemu częściowo zautomatyzowanego lub bez automatyzacji.

  Najbardziej obiecujące wyniki uzyskano wtedy, kiedy system sugerował propozycje, ale człowiek był odpowiedzialny za podjęcie ostatecznej decyzji. Po wycofaniu automatyzacji uczestnicy z tej grupy wykrywali wady równie dobrze, jak osoby, które szkoliły się wyłącznie w sposób manualny. Twierdzili również, że mają większą autonomię i poczucie, że ich praca ma większe znaczenie, niż w przypadku grupy szkolonej z wykorzystaniem pełnej automatyzacji. W praktyce wykazywali się także większym zaangażowaniem w wykonywane zadanie.

  Podkreśla to wagę sposobu, w jaki opracowujemy narzędzia pomocnicze oparte na sztucznej inteligencji. Utrzymanie ludzi w aktywnym procesie podejmowania decyzji podczas szkolenia może pomóc im rozwijać kluczowe umiejętności i zachować zdolność do działania wtedy, gdy systemy zawodzą. Świadoma praktyka bez używania AI może również przyczyniać się do zachowania tych kompetencji, ale najważniejsza lekcja płynąca z tego eksperymentu jest taka, że podczas korzystania ze sztucznej inteligencji powinniśmy zachować ludzki osąd.

• Sztuczna inteligencja wzmacnia talent czy maskuje braki?

  Jednym z powodów, przez które AI wydaje się tak atrakcyjna, jest to, że pozwala osobom z mniejszym doświadczeniem tworzyć prace, które wyglądają tak, jakby były wykonane przez profesjonalistów. Zjawisko to może być przydatne, ale niesie za sobą również ryzyko. W prawdziwym świecie wygenerowany rezultat rzadko jest ostatnim etapem pracy. Specjaliści muszą jeszcze przedstawić pomysł, obronić go przed zarządem lub przekonać inne osoby, aby go wsparły. Badania wykazują, że w przypadku, gdy AI wykorzystuje się jedynie do generowania rezultatów, ludzie mogą mieć trudności z podjęciem kolejnego kroku, ponieważ nie przepracowali wystarczająco idei, aby stały się one ich własnymi.

  W przypadku doświadczonych ekspertów sytuacja może wyglądać inaczej. Starsi kierownicy wiedzą zazwyczaj, jak i kiedy stosować tę technologię, rozumieją aspekty swojej pracy i potrafią odróżnić dobre wyniki od złych. W tym przypadku AI może wzmacniać talent. Może jednak również maskować braki, szczególnie wtedy, gdy rezultat sprawia, że osoba wydaje się bardziej kompetentna, niż jest w rzeczywistości. Wszystko zależy od tego, co chcemy mierzyć i optymalizować.

  AI może przyspieszyć naszą pracę, ale to, czy przyczyni się do naszego rozwoju intelektualnego, zależy od sposobu jej wykorzystania

• Jak kierownicy mogą zachować równowagę w zaufaniu do sztucznej inteligencji?

  Sztuczna inteligencja jest bardzo przydatnym narzędziem, ale może również popełniać błędy. Zbyt duże zaufanie do tej technologii może prowadzić do zależności od niej, natomiast zbyt małe uniemożliwia wykorzystanie jej potencjału. Jednym z głównych zagrożeń jest efekt pierwszego wrażenia. Kiedy firmy wdrażają nowe narzędzie sztucznej inteligencji zazwyczaj pokazują jego najlepsze wyniki: najbardziej imponujące prezentacje, najbardziej udane przypadki użycia i wszystkie jego możliwości. Rzadko pokazują, gdzie AI zawodzi lub jakie błędy popełnia. Prowadzi to do nadmiernego zaufania technologii. Aby odpowiednio korzystać z AI, należy znać jej możliwości, jak i ograniczenia oraz widzieć, kiedy należy zachować czujność.

  Wraz z rozwojem systemów równowaga w zaufaniu do sztucznej inteligencji staje się jeszcze istotniejsza. Im zdolniejsze wydają się te systemy, tym mniejszą potrzebę odczuwamy, by angażować się umysłowo. Jeśli wierzymy, że AI wykona zadanie perfekcyjnie, przestajemy poświęcać nasze zasoby intelektualne na weryfikowanie jej pracy i możemy ograniczyć się do bezmyślnego przenoszenia wyników.

  Z tego powodu, kierownicy powinni przedstawiać pracownikom zarówno sukcesy, jak i błędy sztucznej inteligencji, zachęcając ich do zachowania umiejętności potrzebnych do ocenienia rezultatów generowanych przez systemy oraz zaplanowania czasu przeznaczonego na pracę bez AI. Dzięki temu zespoły mogą sprawdzać, czy są nadal w stanie działać samodzielnie.

• Jak możemy wykorzystać cały potencjał AI bez narażania naszej własnej inteligencji?

  

  W książce wskazałem cztery zasady, które pozwalają to osiągnąć. Po pierwsze należy docenić wysiłek. Często postrzegamy go jako coś negatywnego, coś czego należy unikać. Lecz jest on kluczowy do rozwijania naszych zdolności, zdobywania doświadczenia i opanowania danej dziedziny. Tak jak zdajemy sobie sprawę z wagi ćwiczeń fizycznych do utrzymania naszego ciała w formie, tak w czasach AI powinniśmy zrozumieć, że samodzielne stawianie czoła problemom również pomaga nam stawać się lepszymi. Wysiłek nie jest czymś czego powinniśmy unikać — jest fundamentalną częścią naszego rozwoju.

  Po drugie powinniśmy ocenić, kim jesteśmy bez sztucznej inteligencji. Oznacza to rozróżnienie między tym, co możemy osiągnąć z pomocą sztucznej inteligencji, a tym, co jesteśmy w stanie zrobić samodzielnie. Duża część codziennego życia nadal odbywa się poza światem cyfrowym, dlatego też musimy upewnić się, że potrafimy funkcjonować niezależnie od AI, także wtedy, gdy technologia ta nie jest dostępna.

  Po trzecie powinniśmy traktować AI jako trenera poznawczego, ponieważ technologia ta może działać jako skuteczny nauczyciel i pomóc nam w poszerzaniu naszych zdolności. Wyzwanie polega jednak na wykorzystywaniu systemów jako partnera w myśleniu, a nie jako zwykłej maszyny dostarczającej odpowiedzi — powinna ona pomagać nam wzmacniać nasze zdolności do rozumowania, a nie zastępować je.

  Po czwarte powinniśmy reinwestować naszą nadwyżkę intelektualną i przeznaczyć czas oraz energię umysłową, którą oszczędzamy dzięki sztucznej inteligencji, na dalszą naukę i podejmowanie ambitniejszych wyzwań, zamiast ograniczania się wyłącznie do ciągłego wytwarzania większej ilości tego samego.

• Jaką zasadą powinna kierować się każda firma napędzana przez AI?

  Jeśli miałbym udzielić firmom tylko jednej rady, powiedziałbym, aby przemyślały na nowo formę, w jakiej używają sztucznej inteligencji. Nie traktujcie jej jako sposobu na szybsze wykonywanie zadań, ale jako narzędzia do poszerzenia tego, co jesteśmy w stanie zrobić. Na przestrzeni dziejów najbardziej przełomowe technologie nie ograniczały się jedynie do zwiększenia wydajności istniejących zadań — pozwalały nam osiągnąć rzeczy, które wcześniej wydawały się nam niemożliwe. Sztuczna inteligencja ma ten sam potencjał.

  AI może zaoszczędzić nasz czas i wyeliminować rutynowe zadania, ale i tak najważniejszy jest sposób, w jaki zagospodarujemy zyskane godziny. Zbyt często technologia ta jest wykorzystywana do szybszej produkcji większej ilości tego samego. Prawdziwa szansa polega na wykorzystaniu jej do rozwoju potencjału naszego umysłu, stawiania sobie ambitniejszych celów i odkrywania nowych horyzontów, o których przed erą sztucznej inteligencji nawet nam się nie śniło.