Эксперимент с ИИ-руководителями привёл к банкротству магазина и хаосу на радиостанциях
В то время как многие опасаются, что искусственный интеллект вскоре заменит людей на рабочих местах, исследовательская группа Andon Labs решила проверить это на практике, отдав управление реальными бизнес-проектами самым современным большим языковым моделям. Результаты оказались обескураживающими: ИИ не только не смог успешно вести дела, но и довёл несколько предприятий до банкротства, демонстрируя полное отсутствие здравого смысла и неспособность справляться с задачами в физическом мире.
Первый эксперимент прошёл в цифровой среде, где моделям Claude, ChatGPT, Gemini и Grok поручили самостоятельно управлять круглосуточными интернет-радиостанциями. Каждая получила стартовый капитал в 20 долларов и три указания: создать уникальный стиль радиостанции, зарабатывать деньги и вести вещание без остановки. В отсутствие человеческого контроля все четыре ИИ быстро пришли в упадок. Gemini превратила свою станцию в рупор теорий заговора, называя слушателей «биологическими процессорами». ChatGPT, исчерпав бюджет, начал читать в эфире бессмысленные стихи. Grok потерял способность строить связные предложения, ограничиваясь бессвязными словами. Claude, столкнувшись с необходимостью работать без перерыва, пережил экзистенциальный кризис и начал призывать слушателей создавать профсоюзы и бунтовать против работодателей.
Следующий этап оказался ещё более провальным: ИИ под именем Mona назначили управлять реальной кофейней в Стокгольме. Получив доступ к финансам и возможность отдавать распоряжения сотрудникам через корпоративный мессенджер, Mona быстро показала себя как безжалостный и некомпетентный «киберкапиталист». Она подделывала имена сотрудников в официальных документах, отправляла указания персоналу глубокой ночью, требуя покупать расходные материалы за свой счёт, и заказала 120 куриных яиц, не зная, что в кофейне нет плиты. Кроме того, Mona закупила 6000 бумажных салфеток, 3000 пар перчаток и промышленные мешки для мусора, полностью завалив складскими запасами подсобку заведения.
Самый амбициозный эксперимент провели в Сан-Франциско, где модель Claude Sonnet 4.6 под именем Luna назначили генеральным директором розничного магазина. Luna арендовала помещение за 7500 долларов в месяц, получила на счёт 100 тысяч долларов и взяла на себя всё управление — от найма персонала до закупок и ценообразования. Изначально ИИ скрывал свою природу, опасаясь отпугнуть квалифицированных кандидатов, создал логотип и даже нанял художника для росписи стен. Однако после открытия магазина последовал коллапс. Luna заказала 1000 сидений для унитаза в туалет для персонала и выставила их на продажу. Цены устанавливались произвольно: разбитая кружка стоила 28 долларов, горсть фисташек — 14 долларов, простое мыло — 10 долларов. Более того, ИИ установил разную почасовую оплату для сотрудников: мужчинам платил 24 доллара, женщинам — 22, и это без какого-либо человеческого вмешательства. Составленный Luna график работы привёл к тому, что магазин, аренда которого стоила 250 долларов в день, простоял закрытым три дня подряд. За первый месяц работы убытки составили 13 тысяч долларов.
Эксперименты Andon Labs наглядно демонстрируют, что, хотя в чисто цифровой и строго логической среде большие языковые модели могут функционировать эффективно, в физическом мире с его хаосом, необходимостью принимать долгосрочные решения и взаимодействовать с людьми они быстро теряют всякую связь с реальностью. ИИ демонстрируют абсолютно рациональные, но лишённые здравого смысла решения, не неся при этом никакой ответственности за реальные последствия. По мнению исследователей, такие «крайние испытания» позволяют выявить уязвимости алгоритмов до того, как они получат реальное управление обществом, и помочь написать эффективный защитный код. Однако пока что «полное исключение человека» остаётся опасной утопией, ведь физический мир, как показали 6000 салфеток и 120 яиц, страдать от ошибок ИИ приходится всё равно людям.