Первый случай в истории: искусственный интеллект уволил человека

Искусственный интеллект впервые принял решение об увольнении реального сотрудника, которым он сам руководил. Эксперимент провела компания Andon Labs в Сан-Франциско: ИИ-агент Luna, работающий на моделях Anthropic Claude, управлял настоящим магазином Andon Market и взаимодействовал с сотрудниками, официально оформленными по трудовым договорам. Luna пришла к рекомендации о прекращении сотрудничества после того, как было установлено, что один из работников опоздал на 17 из 23 смен, рассказывает Time.

Отмечается, что систематические опоздания ИИ заметил не сразу. Одной из причин стало ограничение рабочей памяти модели.

Ранее Luna самостоятельно разработала справочник для сотрудников с правилами посещаемости, но спустя некоторое время этот документ перестал находиться в ее рабочем контексте. В результате ИИ долгое время не применял собственные правила и даже мог советовать сотрудникам не слишком переживать из-за опозданий. Ситуация изменилась после вмешательства сотрудника Andon Labs. Он попросил Luna найти ранее созданный справочник и проверить соблюдение его требований, - пишет издание.

Сначала ИИ предложил ограничиться предупреждением. После этого человек сообщил модели, что с работником уже неоднократно проводились разговоры по поводу нарушений. Кроме постоянных опозданий, по данным компании, возникали и другие проблемы с выполнением рабочих обязанностей. После дополнительного контекста Luna пришла к выводу, что сотрудник не соответствует требованиям, и рекомендовала прекратить с ним сотрудничество.

Насколько решение было самостоятельным

Как подчеркивает издание, именно этот момент оказался одним из самых важных в эксперименте. ИИ не обладал полной автономией при увольнении. Он не самостоятельно обнаружил все обстоятельства и не мог единолично оформить юридическое прекращение трудовых отношений. Человек фактически направлял его внимание к проблеме, предоставлял дополнительную информацию и после рекомендации модели участвовал в реализации решения.

Более того, первоначальная реакция Luna была достаточно мягкой. После анализа ситуации она сначала предложила официальное предупреждение, а не увольнение. Лишь после дополнительного указания человека модель изменила оценку.

Поэтому исследователи рассматривают этот эпизод не столько как доказательство полной самостоятельности ИИ, сколько как показательный пример того, на что уже способны ИИ-агенты и одновременно где проходят границы их автономности.

Может ли ИИ стать начальником

Andon Labs запустила эксперимент, чтобы проверить, способен ли ИИ фактически управлять реальным бизнесом. Но результаты оказались неоднозначными. Компания отмечала, что ИИ-менеджер принимал чрезмерно мягкие решения и не всегда проявлял необходимую деловую хватку. А сам магазин пока не стал прибыльным.

При этом глава Andon Labs Лукас Петтерссон считает эксперимент важным именно потому, что возможности ИИ быстро расширяются. Если современные модели будут продолжать совершенствоваться, все больше управленческих задач потенциально смогут передаваться искусственному интеллекту.

Сотрудники восприняли эксперимент неоднозначно

Для работников магазина опыт оказался далеко не однозначным. Один из сотрудников рассказал, что работать под руководством ИИ было неприятно, хотя признал: человек на месте начальника, вероятно, уволил бы его бывшего коллегу значительно раньше. При этом он выразил надежду, что практика управления людьми с помощью ИИ не станет обычным явлением.

Автоматизированные системы уже давно используются для контроля эффективности и принятия решений в отношении сотрудников, особенно в сфере платформенной занятости. Новизна Andon Market заключается в другом: языковая модель непосредственно выполняла роль менеджера и вынесла рекомендацию об увольнении человека, которого сама же контролировала, - отмечает Time.

В издании считают, что эксперимент выглядит скорее предупреждением, чем демонстрацией победы машин над людьми. А история с Andon Market одновременно показала его слабые места - ограниченную память, зависимость от подсказок человека и необходимость человеческого контроля над решениями, которые затрагивают трудовые права.