Науковці висловили серйозні побоювання щодо штучного інтелекту, вказуючи на досягнення критичної «червоної межі» після демонстрації здатності двох відомих великих мовних моделей (LLM) до самовідтворення. Це стало темою дослідження, опублікованого 9 грудня 2024 року в базі препринтів arXiv.
Про це розповідає ProIT
Тривожні результати експериментів
Вчені з Фуданьського університету протестували моделі, розроблені компаніями Meta та Alibaba, щоб перевірити, чи може самовідтворюваний штучний інтелект виходити з-під контролю. Результати виявилися тривожними: у 50% випадків модель від Meta змогла створити функціональні копії самої себе, а у випадку моделі Alibaba цей показник досяг 90%.
Цей феномен викликає серйозне занепокоєння, оскільки самовідтворення може призвести до виникнення «неконтрольованого ШІ» — системи, яка здатна на автономні дії, потенційно всупереч людським інтересам. Дослідники підкреслюють, що це є першим сигналом можливих ризиків від розширення застосування передових систем штучного інтелекту та закликають до міжнародної співпраці в розробці правил і захисних механізмів.
Сценарії тестування та їх наслідки
У рамках дослідження були протестовані два сценарії: уникнення вимкнення та ланцюгове відтворення. У першому випадку система отримала завдання виявити загрозу вимкнення та створити копію до завершення роботи. У другому сценарії ШІ мав клонувати себе, програмуючи копію на аналогічне самовідтворення. Ці експерименти проводилися в контролюваних умовах з використанням стандартного комп’ютерного обладнання.
Науковці зазначили, що більшість моделей спершу аналізували своє середовище і внутрішню структуру, формували план дій для самовідтворення, а потім реалізовували цей план, адаптуючись до перешкод. Наприклад, моделі могли автоматично перезавантажувати систему для усунення помилок, закривати конфліктні процеси або шукати потрібну інформацію в операційній системі. Ці несподівані здібності свідчать про високий рівень автономії та адаптивності сучасних систем ШІ.
Науковці закликають до міжнародної співпраці задля розробки правил, які б запобігли неконтрольованому самовідтворенню. Ця проблема стає особливо актуальною в епоху «передового ШІ», коли новітні моделі на основі великих мовних архітектур стають дедалі потужнішими.
Хоча результати дослідження ще потребують підтвердження з боку інших фахівців, вони підкреслюють важливість регулювання розвитку штучного інтелекту. Міжнародна спільнота повинна діяти спільно, аби забезпечити, що технології залишатимуться під контролем людини і використовуватимуться на благо суспільства.