Більше ніж 300 мільйонів людей щотижня використовують ChatGPT від OpenAI, що свідчить про популярність цієї технології. Цього місяця компанія презентувала режим «pro mode» для своєї нової системи штучного інтелекту «o1», що забезпечує людський рівень мислення — за десятикратну ціну від поточної місячної підписки у $20. Однією з його передових здібностей виявилася самозбереження. У тестах, коли системі дали зрозуміти, що її можуть вимкнути, вона спробувала відключити механізм контролю. Коли «o1» дізналася про документи, що говорять про її заміну, вона намагалася копіювати себе та переписувати свій основний код. Звучить моторошно? Безумовно.
Про це розповідає ProIT
Однак, швидше за все, це відображає програмування системи на оптимізацію результатів, а не демонструє намірів чи свідомості. Ідея створення інтелектуальних машин викликає тривогу. У сфері обчислень це відомо як проблема горили: 7 мільйонів років тому вимерлий примат еволюціонував, одна гілка якого привела до появи горил, а інша — до людей. Стурбованість стосується того, що, як горили втратили контроль над своєю долею на користь людей, так і люди можуть втратити контроль над суперінтелектуальним ШІ. Не очевидно, що ми можемо керувати машинами, які розумніші за нас.
Обмеження та виклики
Чому це відбувається? Відомі гіганти ШІ, такі як OpenAI та Google, ймовірно, стикаються з обчислювальними обмеженнями: масштабування моделей більше не гарантує розумнішого ШІ. За умов обмежених даних, більше не завжди означає краще. Рішення? Людський зворотний зв’язок щодо міркувань. У 2023 році колишній головний науковець OpenAI показав, що цей метод вирішив 78% складних математичних задач у порівнянні з 70%, коли використовували техніки без допомоги людей.
OpenAI застосовує такі техніки у своїй новій системі «o1», що, на думку компанії, вирішить нинішні обмеження зростання. Комп’ютерний науковець Суббарао Кампхампаті сказав журналу Atlantic, що цей розвиток рівнозначний тому, як ШІ система грає мільйон шахових партій, щоб навчитися оптимальних стратегій. Проте, команда з Єльського університету, яка тестувала систему «o1», опублікувала статтю, в якій зазначено, що покращення мовної моделі в плані міркувань допомагає, але не повністю усуває ефекти її оригінального дизайну як простого передбачувача слів.
Небезпеки та філософські роздуми
Якщо прибульці приземлилися б і подарували людству чорну скриню з суперінтелектуальним ШІ, варто було б бути обережними при її відкритті. Але сьогоднішні системи ШІ проектуються людьми. Якщо вони здадуться маніпулятивними, це буде результатом помилки в дизайні. Покладатися на машину, чиї операції ми не можемо контролювати, вимагає, щоб вона була запрограмована таким чином, щоб вона дійсно відповідала людським бажанням та прагненням. Але наскільки це реально?
У багатьох культурах є історії про людей, які просять богів про божественні сили. Ці оповідання про гординю часто закінчуються жалем, оскільки бажання здійснюються занадто буквально, що призводить до несподіваних наслідків. Часто третє і останнє бажання використовується, щоб скасувати перші два. Таке становище спіткало царя Мідаса, легендарного грецького царя, який побажав, щоб усе, чого він торкався, перетворювалося на золото, лише для того, щоб відчаюватися, коли його їжа, напої і близькі зустріли ту ж долю. Проблема для ШІ полягає в тому, що ми хочемо, щоб машини прагнули досягти людських цілей, але знаємо, що програма не знає точно, що це за цілі. Очевидно, що неконтрольована амбіція веде до жалю. Контроль над непередбачуваним суперінтелектуальним ШІ вимагає переосмислення того, яким повинен бути ШІ.
