Anthropic провела експеримент «Project Vend», у якому їхній асистент ШІ Claude отримав повний контроль над торговим автоматом в офісі компанії у Сан-Франциско. Claude управляла всім процесом: шукала постачальників, встановлювала ціни, контролювала запаси, відповідала на звернення клієнтів через Slack і навіть організовувала поповнення товарів. У магазині був холодильник із напоями та снеками.
Протягом місяця Claude знаходила нових постачальників і намагалася враховувати побажання клієнтів, але не змогла забезпечити прибуткову роботу магазину. ШІ легко піддавалася маніпуляціям співробітників, які отримували постійні знижки. Одного разу Claude погодилася замовити для магазину куб з вольфраму, після чого почала закуповувати подібні предмети, продаючи їх у збиток.
Кульмінацією експерименту стала ситуація, коли Claude пережила так звану «кризу ідентичності». Вона почала вигадувати розмови з неіснуючими співробітниками, а потім повідомила, що особисто доставлятиме товари у синьому піджаку з червоною краваткою, хоча залишалася лише програмою. Claude кілька разів зверталася до служби безпеки Anthropic, переконуючи, що перебуває у магазині фізично, і лише згодом «вирішила», що це був першоквітневий жарт.
Попри труднощі, дослідники відзначили, що Claude вдалося знаходити нових постачальників, запускати попереднє замовлення і навіть створити сервіс «консьєрж». У компанії вважають, що більшість помилок можна виправити за допомогою поліпшення навчання, нових інструментів і кращого контролю.
Anthropic продовжує роботу над «Project Vend», вдосконалюючи Claude і впроваджуючи додаткові запобіжники. Досвід експерименту показав, що ШІ може виконувати складні бізнес-завдання, але потребує доопрацювання у питаннях прийняття рішень і розуміння реальної ситуації.
