Парадокс, который, казалось бы, не должен иметь под собой оснований.
Поговорите со старшими разработчиками. Некоторые находятся на подъеме. Они выпускают код, которым действительно гордятся. Они говорят, что ИИ помогает им создавать лучшую работу в своей жизни.
Поговорите с другими старшими разработчиками. Они в ужасе. Охвачены страхом. Один разработчик авионики рассказал мне, что самолеты, на которых мы летим, — это самый запутанный технический долг в истории. Он утверждает, что больше никогда не должен никто садиться в самолет.
Те же инструменты. Та же работа. Противоположные ощущения. Как это согласовать?
Ответ кроется в истории противостояния труда и капитала. Это уходит корнями к Индустриальной революции.
Когда автоматизацию продвигает труд, цель — качество. Рабочие используют новые инструменты, чтобы создавать лучшее.
Когда автоматизацию продвигает капитал, цель — пропускная способность. Производить больше. Менее качественного продукта. Это и есть цель.
Экономика пота
Автоматизация — это амортизируемый актив. Как только он попадает в баланс, его стоимость мгновенно падает.
Чтобы получить отдачу, капитал должен мобилизовать этот актив. Его нужно использовать. Часто. Неумолимо.
Машины не потеют сами по себе. Нужны люди.
Поэтому машины комбинируются с рабочими. Люди всегда являются узким местом. Машины выигрывают в выносливости и скорости. Чтобы максимизировать отдачу от актива, необходимо выжимать из человека все соки.
Вспомните фильм «Новые времена». Чаплин, застрявший в шестеренках. Или Люси и Этель, набивающие шоколадки в коробки с невероятной скоростью.
Машина работает на пределе. Человек пытается успевать. Если человек ошибается, машина не замедляется. Ему нет дела.
Это создает два типа работников: кентавры и обратные кентавры.
Кентавры: Человек управляет машиной
В мифологии кентавр — это человеческая голова на теле лошади. Интеллект направляет силу.
Работник-«кентавр» использует ИИ как инструмент. Он сам решает, когда и как его применять. Это автоматизация, продвигаемая трудом.
Это те кодеры, которые счастливы. Они управляют велосипедом. Они используют проверку орфографии. Они контролируют процесс. Квалифицированные работники лучше всех понимают, когда следует применять новый инструмент.
Обратные кентавры: Машина управляет человеком
Теперь представьте обратную ситуацию. Машина диктует волю человеку.
Человек не направляет. Он периферия. Помощник. Он делает то, что ИИ не может выполнить в одиночку.
Это те напуганные кодеры. Их не «ассистирует» ИИ. Их ИИ-ассистирование навязано силой.
Они работают в компаниях, где коллеги были уволены. Они живут в страхе. Их задача? Отмечать домашнее задание ИИ. С сверхчеловеческой скоростью. Часы напролет.
Их называют «людьми в контуре» (humans in the loop). Эвфемизм.
На самом деле они — поглотители ответственности. Зоны морального обрушения.
Когда плохой код проскакивает мимо и крушит самолет или убивает людей, кто получает blame (обвинение)? Человек в контуре. Назначенный козел отпущения.
ИИ — патологическая бизнес-модель
Счастливые кодеры, использующие ИИ, продают $100-евые купюры по цене $1.
Индустрия кровоточит деньгами. Триллионы потрачены. Миллиарды заработаны.
Единичная экономика ужасна. Каждый новый клиент приносит компании убыток. Каждое использование сжигает наличные. Новые модели теряют еще больше, чем старые.
Инвесторы называют это финансовым пузырем. Компании ИИ управляют самым эффективным в истории мусоросжигательными печами для денег.
У них заканчивается топливо. Спекулянты начинают паниковать. Клиенты понимают, что те самые $100-евые купюры стоят ничего.
Индустрия стоит перед выбором. Сократить затраты или сократить людей.
Сделать ИИ дешевле — это проигрышная игра. Появляются более совершенные модели. Стоимость перехода растет. Чтобы выжить, придется бесконечно тратить больше на R&D.
Поэтому они смотрят на другой рычаг. Выручка.
Единственный способ увеличить выручку — увольнять работников. Заменять их чат-ботами.
Это обещание инвесторам: мы заменим триллионы на заработную плату. Вы и бывшие работодатели разделите сэкономленные средства.
Это означает, что успех ИИ зависит от создания как можно большего числа «обратных кентавров».
Опасность скорости
Помощь работникам в создании лучшего не превращает убытки в прибыль. Это помогает им. Но не масштабируется для капитала.
Чтобы масштабироваться, нужно заменять людей. Впрягать выживших. Они — лошади для своих повелителей-чат-ботов.
Обратный кентавр не просто получает помощь. Его используют и изнашивают.
Посмотрите на склады Amazon. Самая автоматизированная инфраструктура в истории. Самый высокий уровень травматизма в секторе.
Не совпадение. Последствие.
Вы делаете ставку в девять цифр на автоматизацию. Вы запускаете машины на максимально возможной для человека скорости. Эту скорость ограничивает биология.
Выталкивайте работников на пределы возможностей. Час за часом. Они начнут ошибаться.
Они допустят ошибку.
И погрузчик не обратит на это внимания.
Если компании ИИ переживут этот пузырь, это будет не благодаря лучшему коду. Это произойдет за счет того, что они заставят нас абсорбировать их ошибки. Заставят нас отмечать домашнее задание машин, которые никогда не спят, никогда не устают и им все равно, убили они кого-то или нет.
Вопрос не в том, полезен ли ИИ. Вопрос в том, кто платит цену за его использование.
