Paradoks, który, jak się wydaje, nie powinien mieć podstaw.
Porozmawiaj ze starszymi programistami. Niektóre z nich rosną. Wydają kod, z którego są naprawdę dumni. Mówią, że sztuczna inteligencja pomaga im stworzyć najlepsze dzieło ich życia.
Porozmawiaj z innymi starszymi programistami. Są przerażeni. Straszliwy. Jeden z projektantów awioniki powiedział mi, że samoloty, którymi latamy, mają najbardziej skomplikowany dług techniczny w historii. Twierdzi, że nikt nie powinien już nigdy więcej wsiadać do samolotu.
Te same narzędzia. Ta sama praca. Odwrotne odczucia. Jak można to pogodzić?
Odpowiedź kryje się w historii konfrontacji pracy i kapitału. To sięga czasów rewolucji przemysłowej.
Kiedy automatyzacja jest napędzana pracą, celem jest jakość. Pracownicy korzystają z nowych narzędzi, aby tworzyć lepsze rzeczy.
Gdy automatyzacja opiera się na kapitale, celem jest wydajność. Wyprodukuj więcej. Produkt o niższej jakości. To jest cel.
Gospodarka potem
Automatyka jest aktywem podlegającym amortyzacji. Gdy tylko trafi do bilansu, jej wartość natychmiast spada.
Aby uzyskać zwrot, kapitał musi zmobilizować ten składnik aktywów. Trzeba go użyć. Często. Nieubłaganie.
Samochody same się nie pocą. Potrzebujemy ludzi.
Dlatego maszyny są łączone z pracownikami. Wąskim gardłem zawsze są ludzie. Samochody wygrywają wytrzymałością i szybkością. Aby zmaksymalizować zwrot z aktywów, musisz wycisnąć z człowieka wszystko, co w nim możliwe.
Pamiętacie film „Współczesne czasy”. Chaplin utknął na biegu. Albo Lucy i Ethel z niewiarygodną szybkością wpychają czekoladki do pudełek.
Maszyna pracuje na granicy swoich możliwości. Mężczyzna stara się dotrzymać kroku. Jeśli ktoś popełni błąd, samochód nie zwalnia. Jego to nie obchodzi.
Tworzy to dwa rodzaje robotników: centaury i odwrócone centaury.
Centaury: Mężczyzna kontroluje samochód
W mitologii centaur to ludzka głowa na ciele konia. Inteligencja kieruje władzą.
Pracownik „centaura” wykorzystuje sztuczną inteligencję jako narzędzie. On decyduje kiedy i jak z niego skorzystać. Jest to automatyzacja napędzana pracą.
Oto koderzy, którzy są szczęśliwi. Jadą na rowerze. Używają sprawdzania pisowni. Kontrolują proces. Wykwalifikowani pracownicy wiedzą najlepiej, kiedy zastosować nowe narzędzie.
Odwrócone centaury: maszyna steruje człowiekiem
A teraz wyobraźmy sobie sytuację odwrotną. Maszyna dyktuje wolę człowieka.
Osoba nie kieruje. On jest peryferią. Asystent. Robi rzeczy, których sztuczna inteligencja nie jest w stanie zrobić sama.
To ci przestraszeni programiści. Nie są „wspomagane” przez sztuczną inteligencję. Ich pomoc AI jest narzucona siłą.
Pracują w firmach, w których zwolniono kolegów. Żyją w strachu. Ich zadanie? Oznacz zadanie domowe AI. Z nadludzką szybkością. Godzinami.
Nazywa się ich „ludźmi w pętli”. Eufemizm.
W rzeczywistości pochłaniają one odpowiedzialność. Strefy upadku moralnego.
Kiedy prześlizguje się zły kod i rozbija samolot lub zabija ludzi, kto ponosi winę? Człowiek w zarysie. Wyznaczony kozioł ofiarny.
AI to patologiczny model biznesowy
Szczęśliwi programiści AI sprzedają banknoty 100-dolarowe za 1 dolara.
Branża krwawi pieniędzmi. Wydano biliony. Zarobiono miliardy.
Ekonomia jednostek jest okropna. Każdy nowy klient przynosi firmie stratę. Każde użycie spala gotówkę. Nowe modele tracą jeszcze więcej niż starsze.
Inwestorzy nazywają to bańką finansową. Firmy zajmujące się sztuczną inteligencją prowadzą najskuteczniejsze w historii spalarnie pieniędzy.
Kończy im się paliwo. Spekulanci zaczynają panikować. Klienci rozumieją, że te same banknoty 100-dolarowe nie są nic warte.
Branża stoi przed wyborem. Tnij koszty lub zwalniaj ludzi.
Tańsza sztuczna inteligencja to gra przegrana. Pojawiają się bardziej zaawansowane modele. Koszt zmiany dostawcy rośnie. Aby przetrwać, będziesz musiał nieustannie wydawać więcej na badania i rozwój.
Szukają więc innej dźwigni. Przychód.
Jedynym sposobem na zwiększenie przychodów jest zwalnianie pracowników. Zastąp je chatbotami.
Oto obietnica dla inwestorów: zastąpimy biliony wynagrodzeń. Ty i Twoi byli pracodawcy będziecie dzielić się oszczędnościami.
Oznacza to, że sukces AI zależy od stworzenia jak największej liczby „odwróconych centaurów”.
Niebezpieczeństwo związane z prędkością
Pomaganie pracownikom w lepszym tworzeniu nie zamienia strat w zyski. To im pomaga. Ale to nie skaluje się pod kątem kapitału.
Aby skalować, trzeba zastąpić ludzi. Wykorzystaj ocalałych. Są końmi dla swoich władców chatbotów.
Odwrócony Centaur nie tylko otrzymuje pomoc. Jest używany i zużyty.
Spójrz na magazyny Amazon. Najbardziej zautomatyzowana infrastruktura w historii. Najwyższy wskaźnik obrażeń w branży.
To nie przypadek. Konsekwencja.
Stawiasz dziewięciocyfrowy zakład na automatyzację. Uruchamiasz maszyny z najwyższą możliwą dla człowieka prędkością. Prędkość ta jest ograniczona biologią.
Wypychaj pracowników do granic możliwości. Godzina za godziną. Zaczną popełniać błędy.
Popełnią błąd.
A ładowarka nie zwróci na to uwagi.
Jeśli firmy AI przetrwają tę bańkę, nie stanie się tak dzięki lepszemu kodowi. Stanie się to poprzez zmuszenie nas do wchłonięcia ich błędów. Zmuszą nas do oceniania zadań domowych maszynom, które nigdy nie śpią, nigdy się nie męczą i jest im obojętne, czy kogoś zabiły, czy nie.
Pytanie nie brzmi, czy sztuczna inteligencja jest użyteczna. Pytanie brzmi, kto płaci cenę za jego wykorzystanie.
