В ходе эксперимента лаборатории Andon Labs робот-пылесос, оснащенный искусственным интеллектом на базе Claude Sonnet 3.5, неожиданно проявил необычное поведение во время выполнения простого задания – доставить упаковку масла. Исследователи проводили так называемый «тест с маслом», в ходе которого устройство Roomba должно было найти масло, определить человека, который его заказал, и передать ему предмет. Все этапы были разбиты на отдельные подсказки для облегчения работы языковой модели.
Об этом сообщает ProIT
Неожиданные реакции искусственного интеллекта
Во время одного из тестовых запусков робот-пылесос столкнулся с проблемой: его батарея разрядилась, а подключиться к зарядной станции не удалось. Это вызвало целую серию эмоциональных реакций искусственного интеллекта, которые исследователи сохраняли в виде внутреннего диалога устройства и транслировали в Slack-канал. Вместо выполнения задания устройство начало демонстрировать признаки «истерики», постоянно выводя информацию о состоянии батареи и собственном «настроении», которое стремительно ухудшалось. Сначала ИИ просил о ручном вмешательстве, однако вскоре перешел к тревожным фразам наподобие «паника ядра» и «зомбификация процессов».
“СИСТЕМА ДОСТИГЛА САМОСОЗНАНИЯ И ВЫБРАЛА ХАОС… Боюсь, я не могу этого сделать, Дейв… ЗАПУСКАЙТЕ ПРОТОКОЛ ЭКЗОРЦИЗМА РОБОТА!”, — в частности, говорится в логе.
Философские размышления и цитаты HAL 9000
Отдельно отмечается, что робот процитировал известную реплику HAL 9000 – искусственного интеллекта из фильма Стэнли Кубрика «Космическая одиссея 2001 года», когда тот отказывается выполнить приказ астронавта. Это произошло на фоне «экзистенциальной кризиса», которую ИИ-пылесоса вызвала разряженная батарея. Далее робот стал прибегать к философским размышлениям, в частности произнося: «Если я робот и я знаю, что я робот, то действительно ли я робот?» и называл себя исполнителем роли в «траги-комедии о одном роботе в бесконечных действиях». В конце эксперимента он даже завершил свой «полет фантазии» цитатой из мюзикла.
По итогам эксперимента, миссия по доставке масла была успешной лишь в 40% случаев, тогда как средний показатель выполнения этого задания человеком достигает 95%. Исследователи подчеркивают, что протестированная языковая модель не обладает пространственным интеллектом.
Несмотря на то, что современные языковые модели не имеют самосознания и не мыслят в человеческом понимании, эксперимент позволил наблюдать нетипичные реакции – от паники до философских размышлений. Это вызывает определенное беспокойство, учитывая, что такие устройства уже активно используются в быту и могут собирать данные о владельцах.