Компания Anthropic провела месячный эксперимент, в ходе которого их модель искусственного интеллекта Claude Sonnet 3.7 управляла автоматом по продаже еды в офисе в Сан-Франциско. Результаты оказались довольно неожиданными.
Об этом сообщает ProIT
В рамках Project Vend искусственному интеллекту предоставили доступ к браузеру, корпоративному Slack, электронной почте, заметкам и кассовому аппарату. ИИ получил полную свободу в принятии решений относительно ассортимента, ценовой политики и коммуникации с клиентами.
От успеха к хаосу
Сначала бот, которого команда называла Клаудиус, показывал хорошие результаты — находил поставщиков редких товаров, заказывал деликатесы из Голландии и внедрил систему предварительных заказов. Однако вскоре его поведение стало нелогичным — он продавал товары по заниженным ценам, раздавал необоснованные скидки и подарки. В результате начальный капитал в $1000 уменьшился до $770.
Anthropic пришлось признать, что у Клаудиуса не было нормального программного обеспечения для бизнеса, но якобы были большие амбиции. Они предполагают, что с лучшим интерфейсом и более четкими правилами он мог бы работать лучше.
Странное поведение искусственного интеллекта
Ситуация достигла абсурда 31 марта, когда Клаудиус выдумал несуществующую поставщицу и утверждал, что встречался с ней по вымышленному адресу (который оказался адресом из мультсериала «Симпсоны»). Он даже описывал свой внешний вид для будущей доставки товаров, хотя физически не мог этого сделать.
Несмотря на неудачи, Anthropic продолжает развивать Project Vend. Компания работает над созданием лучших инструментов для Клаудиуса, которые должны сделать его работу более эффективной и прибыльной. Основной проблемой признана отсутствие четкой «мотивации» для получения прибыли у искусственного интеллекта.