Нейросеть впервые сама уволила человека

ИИ-модель Claude, управляющая магазином в Сан-Франциско, уволила работника за опоздания. Time называет произошедшее первым известным случаем, когда решение об увольнении приняла большая языковая модель, выступавшая непосредственным руководителем человека. Однако на это решение ее подтолкнул куратор, а сам эксперимент показал, что ИИ пока не может сам эффективно управлять бизнесом. 

🔵 Эксперимент. Магазин Andon Market открыл стартап Andon Labs, чтобы проверить, способен ли ИИ-агент самостоятельно управлять бизнесом. Claude наняла реальных работников с трудовыми договорами и отвечала за руководство ими.

При этом модель долго не замечала систематических опозданий одного из сотрудников (он не пришел вовремя на 17 из 23 смен). Составленный регламент пропал из ограниченной рабочей памяти. По словам работников, Claude была мягким начальником и говорила им не переживать.

🔵 Решение подсказал человек. Увольнение не было полностью самостоятельным, пишет издание. Сотрудник Andon Labs попросил Claude найти регламент и проверить соблюдение его требований. И даже тогда модель предложила вынести работнику предупреждение.

Тогда куратор сообщил, что с сотрудником уже несколько раз разговаривали из-за опозданий, и попросил Claude подумать, действительно ли он подходит для этой работы. Глава Andon Labs Лукас Петерссон признал, что вопрос был наводящим и давал понять, какого решения от модели ждут. Только после этого Claude уволила работника.

🔵 Нюанс. Это не был первый случай увольнения человеком искусственным интеллектом — прежде было множество случаев автоматизированных увольнений, например в результате алгоритмического контроля. Однако это первый известный пример того, как ИИ, выступая в роли менеджера, в конечном итоге принимает решение об увольнении, пишет Time.

🔵 Результаты. Эксперимент также показал, что ИИ пока не способен управлять бизнесом эффективнее человека. В марте на счете Andon Market находились $100 тысяч, а через пять месяцев осталось $61 тысяча. По оценке Time, сокращению баланса способствовали мягкий стиль руководства Claude и ее спорные коммерческие решения.

🔵 Мнения участников. Глава Andon Labs считает, что в будущем ИИ-модели могут стать более жесткими и целеустремленными руководителями. «Возможно, это будущее, в котором люди не захотят жить», — сказал он.

Один из сотрудников магазина описал работу под руководством ИИ так: «Меня от этого тошнит, но я здесь, потому что мне нужна работа». Мужчина заявил, что не хотел бы, чтобы управляющими над живыми людьми все чаще становились ИИ-модели. «В этой индустрии столько денег, что для нее нет ничего невозможного. Но если ты можешь что-то сделать, это еще не значит, что это стоит делать».