Перший випадок в історії: штучний інтелект звільнив людину

Штучний інтелект уперше ухвалив рішення про звільнення реального співробітника, яким він сам керував. Експеримент провела компанія Andon Labs у Сан-Франциско: ІІ-агент Luna, що працює на моделях Anthropic Claude, керував справжнім магазином Andon Market і взаємодіяв із співробітниками, офіційно найнятими за трудовими договорами. Luna дійшла висновку про припинення співпраці після того, як було встановлено, що один із працівників запізнився на 17 із 23 змін, повідомляє Time.

Зазначається, що систематичні запізнення ШІ помітив не відразу. Однією з причин стало обмеження робочої пам’яті моделі.

Раніше Luna самостійно розробила довідник для співробітників із правилами відвідуваності, але через деякий час цей документ перестав перебувати в її робочому контексті. У результаті ШІ тривалий час не застосовував власні правила і навіть міг радити співробітникам не надто перейматися через запізнення. Ситуація змінилася після втручання співробітника Andon Labs. Він попросив Luna знайти раніше створений довідник і перевірити дотримання його вимог, - пише видання.

Спочатку ШІ запропонував обмежитися попередженням. Після цього людина повідомила моделі, що з працівником уже неодноразово проводилися розмови щодо порушень. Окрім постійних запізнень, за даними компанії, виникали й інші проблеми з виконанням робочих обов’язків. Отримавши додатковий контекст, Luna дійшла висновку, що співробітник не відповідає вимогам, і рекомендувала припинити з ним співпрацю.

Наскільки рішення було самостійним

Як підкреслює видання, саме цей момент виявився одним із найважливіших у експерименті. ШІ не мав повної автономії під час звільнення. Він не самостійно виявив усі обставини і не міг одноосібно оформити юридичне припинення трудових відносин. Людина фактично спрямовувала його увагу на проблему, надавала додаткову інформацію та, після рекомендації моделі, брала участь у реалізації рішення.

Більше того, початкова реакція Luna була досить м’якою. Після аналізу ситуації вона спочатку запропонувала офіційне попередження, а не звільнення. Лише після додаткової вказівки людини модель змінила свою оцінку.

Тому дослідники розглядають цей епізод не стільки як доказ повної самостійності ШІ, скільки як показовий приклад того, на що вже здатні ШІ-агенти і водночас де пролягають межі їхньої автономності.

Чи може ШІ стати керівником

Andon Labs запустила експеримент, щоб перевірити, чи здатний ШІ фактично керувати реальним бізнесом. Але результати виявилися неоднозначними. Компанія зазначала, що ШІ-менеджер приймав надмірно м’які рішення і не завжди виявляв необхідну ділову хватку. А сам магазин поки що не став прибутковим.

При цьому керівник Andon Labs Лукас Петтерссон вважає експеримент важливим саме тому, що можливості ШІ швидко розширюються. Якщо сучасні моделі продовжуватимуть удосконалюватися, все більше управлінських завдань потенційно зможуть передаватися штучному інтелекту.

Співробітники сприйняли експеримент неоднозначно

Для працівників магазину цей досвід виявився далеко не однозначним. Один із співробітників розповів, що працювати під керівництвом ШІ було неприємно, хоча й визнав: людина на місці керівника, ймовірно, звільнила б його колишнього колегу значно раніше. При цьому він висловив надію, що практика управління людьми за допомогою ШІ не стане звичним явищем.

Автоматизовані системи вже давно використовуються для контролю ефективності та прийняття рішень щодо співробітників, особливо у сфері платформної зайнятості. Новизна Andon Market полягає в іншому: мовна модель безпосередньо виконувала роль менеджера і винесла рекомендацію про звільнення людини, яку сама ж контролювала, - зазначає Time.

У виданні вважають, що експеримент виглядає скоріше попередженням, ніж демонстрацією перемоги машин над людьми. А історія з Andon Market водночас показала його слабкі місця - обмежену пам’ять, залежність від підказок людини та необхідність людського контролю над рішеннями, що зачіпають трудові права.