Это наконец случилось: впервые в истории ИИ сам уволил живого человека

Це нарешті сталося: вперше в історії ШІ сам звільнив з роботи живу 

Нейросеть Claude, которую разработчики из стартапа Andon Labs поставили управлять реальным магазином в Сан-Франциско, в прошлом месяце уволила своего первого сотрудника. Об этом эксклюзивно сообщает журналист Time Билли Перриго — и, по словами исследователей, это первый зафиксированный случай, когда языковая модель, выступающая в роли менеджера, самостоятельно приняла решение уволить сотрудника.

Эксперимент, который длится уже полгода

Еще в марте Andon Labs запустила амбициозный проект: проверить, способен ли ИИ-агент полноценно управлять реальным бизнесом. Так Claude возглавил магазин Andon Market — и нанял туда настоящих людей, с которыми были заключены обычные трудовые договоры. Это не симулятор: работники получают зарплату, выходят на смены и подчиняются нейросети как своему руководителю.

Автоматизированные увольнения — не новость, алгоритмы уже давно отключают от заказов курьеров или таксистов. Но впервые языковая модель, выступая в роли «живого» менеджера, самостоятельно проанализировала ситуацию и приняла кадровое решение.

Как Клод «упустил» проблемного сотрудника

Причиной увольнения стали систематические опоздания: сотрудник не явился вовремя на 17 из 23 своих смен. Казалось бы, очевидное основание — но Claude долго этого не замечал. Дело в том, что инструкцию для сотрудников, которую модель сама же и написала в начале проекта, она потеряла в своей ограниченной рабочей памяти.

Из-за этого, по словам сотрудников, Claude вел себя как чрезвычайно мягкий руководитель — даже успокаивал сотрудников, для которых опоздания не страшны. Лукас Петерссон, генеральный директор Andon Labs, отмечает:

«Менеджер уволил бы этого человека гораздо раньше, поэтому мы не сочли это неэтичным».

Вопрос, который всё решил

Увольнение не было полностью самостоятельным решением. Проблему заметили только тогда, когда сотрудник Andon Labs попросил Claude найти и перечитать забытый справочник. Даже после этого первая реакция модели — заключалась в том, чтобы предложить официальное предупреждение, а не увольнение.

Ситуацию изменил прямой вопрос менеджера: действительно ли этот человек на своём месте, учитывая постоянные опоздания и проблемы на каждой смене. Сам Петерссон признает, что это был «наводящий вопрос» — и только после него Claude принял решение об увольнении.

Магазин в минусе почти на 40 тысяч долларов

Финансовые итоги эксперимента пока не радуют. В марте на счете Andon Market было $100 000 — за пять месяцев эта сумма сократилась до $61 186. Поблажительный стиль руководства и сомнительные бизнес-решения Claude, очевидно, сыграли свою роль. Впрочем, Петерссон предупреждает: расслабляться ещё рано. Точно так же, как компании научили моделей писать код на уровне опытных программистов, их можно натренировать и на «отточенное» деловое чутье.

«Модели всё больше обучаются быть более жесткими и следовать поставленным целям, — говорит он. — Если позволить им увольнять людей, и они при этом станут более жесткими… возможно, это то будущее, в котором люди не хотят жить».

Что думают сами работники

Один из сотрудников магазина, Феликс Карсон, согласился с тем, что этот человек уволил бы коллегу раньше — и что в целом Claude — довольно мягкий начальник. Но он довольно мрачно описал ситуацию с работой под руководством ИИ:

«Это отвратительно, но я здесь, потому что мне нужна работа».

На вопрос, согласен ли он, отметив, что руководители с искусственным интеллектом скоро станут обычным явлением, ответил:

«По крайней мере, надеюсь, что нет. В этой индустрии достаточно денег, чтобы сделать возможное всё что угодно, но то, что можно —, не означает, что стоит».

Что же касается самого «уволенного» им коллеги —, то, по словам Time, тот так и не ответил на запрос журналистов, поэтому его точка зрения в этой истории пока остается белым пятном.

https://itc.ua/news/eto-nakonets-to-proyzoshlo-vpervye-v-ystoryy-yy-samostoyatelno-uvolyl-zhyvogo-cheloveka/