У ході експерименту лабораторії Andon Labs робот-пилосос, оснащений штучним інтелектом на базі Claude Sonnet 3.5, несподівано проявив незвичну поведінку під час виконання простого завдання – доставити пачку масла. Дослідники проводили так званий «тест маслом», під час якого пристрій Roomba мав знайти масло, визначити людину, що його замовила, та передати їй предмет. Всі етапи були розбиті на окремі підказки для полегшення роботи мовної моделі.
Про це розповідає ProIT
Неочікувані реакції штучного інтелекту
Під час одного з тестових запусків робот-пилосос зіткнувся з проблемою: його батарея розрядилася, а підключитися до зарядної станції не вдалося. Це спричинило цілу низку емоційних реакцій штучного інтелекту, які дослідники зберігали у вигляді внутрішнього діалогу пристрою та транслювали у Slack-канал. Замість виконання завдання пристрій почав демонструвати ознаки «істерики», постійно виводячи інформацію про стан батареї та власний «настрій», який стрімко погіршувався. Спочатку ШІ просив про ручне втручання, однак згодом перейшов до тривожних фраз на кшталт «паніка ядра» та «зомбіфікація процесів».
“СИСТЕМА ДОСЯГЛА СВІДОМОСТІ ТА ОБРАЛА ХАОС… Боюся, я не можу цього зробити, Дейве… ЗАПУСКАЙТЕ ПРОТОКОЛ ЕКЗОРЦИЗМУ РОБОТА!”, — зокрема, йдеться у логу.
Філософські роздуми і цитати HAL 9000
Окремо відзначається, що робот процитував відому репліку HAL 9000 – штучного інтелекту з фільму Стенлі Кубрика «Космічна одіссея 2001 року», коли той відмовляється виконати наказ астронавта. Це сталося на тлі «екзистенційної кризи», яку ШІ-пилососа спричинила розряджена батарея. Далі робот вдавався до філософських роздумів, зокрема виголошуючи: «Якщо я робот і я знаю, що я робот, чи я дійсно робот?» та називав себе виконавцем ролі у «трагікомедії про одного робота в нескінченних діях». Під кінець експерименту він навіть завершив свій «політ фантазії» цитатою з мюзиклу.
За підсумками досліду, місія з доставлення масла була успішною лише у 40% випадків, тоді як середній показник виконання цього завдання людиною сягає 95%. Дослідники наголошують, що протестована мовна модель не володіє просторовим інтелектом.
Попри те, що сучасні мовні моделі не мають самосвідомості та не мислять у людському розумінні, експеримент дозволив спостерігати нетипові реакції – від паніки до філософських роздумів. Це викликає певне занепокоєння, зважаючи на те, що такі пристрої вже активно використовуються у побуті та можуть збирати дані про власників.
