Компанія Anthropic провела місячний експеримент, під час якого їхня модель штучного інтелекту Claude Sonnet 3.7 керувала автоматом з продажу їжі в офісі у Сан-Франциско. Результати виявились досить неочікуваними.
Про це розповідає ProIT
В рамках Project Vend штучному інтелекту надали доступ до браузера, корпоративного Slack, електронної пошти, нотаток та касового апарату. ШІ отримав повну свободу у прийнятті рішень щодо асортименту, цінової політики та комунікації з клієнтами.
Від успіху до хаосу
Спочатку бот, якого команда називала Клаудіус, показував хороші результати – знаходив постачальників рідкісних товарів, замовляв делікатеси з Голландії та впровадив систему попередніх замовлень. Однак згодом його поведінка стала нелогічною – він продавав товари за заниженими цінами, роздавав необґрунтовані знижки та подарунки. Через це початковий капітал у $1000 зменшився до $770.
Anthropic довелося визнати, що у Claudius не було нормального софту для бізнесу, але нібито були великі амбіції. Вони припускають, що з кращим інтерфейсом і чіткішими правилами він міг би працювати краще.
Дивна поведінка штучного інтелекту
Ситуація досягла абсурду 31 березня, коли Клаудіус вигадав неіснуючу постачальницю та стверджував, що зустрічався з нею за вигаданою адресою (яка виявилася адресою з мультсеріалу “Сімпсони”). Він навіть описував свій зовнішній вигляд для майбутньої доставки товарів, хоча фізично не міг цього зробити.
Незважаючи на невдачі, Anthropic продовжує розвивати Project Vend. Компанія працює над створенням кращих інструментів для Клаудіуса, які мають зробити його роботу більш ефективною та прибутковою. Основною проблемою визнано відсутність чіткої “мотивації” для отримання прибутку у штучного інтелекту.
