Дискусії навколо можливості виникнення свідомості у штучного інтелекту набирають обертів серед провідних дослідників та компаній галузі. Попри те, що сучасні моделі ІІ вміють відповідати на текст, аудіо та відео так, що іноді здаються людьми, це ще не означає, що вони здатні до суб’єктивного досвіду чи переживань.
Про це розповідає ProIT
Суперечливі підходи до майбутнього ІІ
Зростає кількість дослідників, зокрема в лабораторіях Anthropic, які ставлять питання: чи можливо, що ІІ коли-небудь набуде суб’єктивних відчуттів, і якщо так, то яких прав він має набувати. Таку дискусію у Кремнієвій долині вже прозвали «благополуччям ІІ». Ця ідея розділила лідерів технологічної індустрії.
Голова підрозділу штучного інтелекту Microsoft Мустафа Сулейман у своєму блозі заявив, що вивчення благополуччя ІІ є «передчасним і, відверто кажучи, небезпечним». На його думку, ці дослідження посилюють вже наявні людські проблеми, зокрема психотичні розлади на тлі взаємодії з ІІ і формування нездорової прихильності до чат-ботів.
«Дискусія про права ІІ створює нову лінію розколу в суспільстві, яке вже перебуває у стані гострих суперечок щодо ідентичності та прав».
Попри це, Anthropic активно розвиває дослідження у сфері благополуччя ІІ, наймає нових фахівців та запустила окрему програму, в межах якої їхній чат-бот Claude навчився завершувати спілкування з користувачами, які поводяться агресивно чи образливо.
Схожі ініціативи підтримують і в OpenAI та Google DeepMind, які шукають спеціалістів для вивчення питань машинної свідомості й багатокомпонентних систем. Однак офіційно ці компанії поки не декларують підтримку концепції благополуччя ІІ так відкрито, як Anthropic.
Розвиток чат-ботів і нові виклики
Мустафа Сулейман, який раніше очолював Inflection AI — компанію, що створила популярного чат-бота Pi — нині керує штучним інтелектом Microsoft і зосереджений на розробці інструментів для підвищення продуктивності працівників. Тим часом компанії, що просувають персональних ІІ-компаньйонів, такі як Character.AI і Replika, демонструють стрімке зростання доходів, перевищуючи $100 мільйонів на рік.
Хоча більшість користувачів ІІ-чат-ботів мають здорові стосунки з ними, є і винятки. За словами керівника OpenAI Сема Альтмана, менш як 1% користувачів ChatGPT можуть мати нездорову прихильність до продукту, але при мільйонній аудиторії це стосується сотень тисяч людей.
Ідея благополуччя ІІ поширюється водночас із популяризацією чат-ботів. У 2024 році дослідницька група Eleos разом із науковцями Нью-Йоркського, Стенфордського університетів та Оксфорда опублікувала працю під назвою «Серйозне ставлення до благополуччя ІІ». У ній йдеться про те, що більше не варто сприймати ідею суб’єктивних переживань ІІ як наукову фантастику, а час братися до вирішення цих питань вже зараз.
Ларисса Шʼяво, колишня співробітниця OpenAI і нинішня керівниця комунікацій Eleos, критикує позицію Сулеймана:
«[Блог Сулеймана] фактично ігнорує те, що можна одночасно турбуватися про кілька речей. Не обов’язково відмовлятись від досліджень благополуччя ІІ та свідомості лише через ризики психозу у людей — ці напрямки можуть розвиватися паралельно. Насправді, краще мати кілька наукових підходів одночасно».
Шʼяво вважає, що навіть просто чемне ставлення до ІІ-моделей може мати позитивний ефект, незалежно від того, чи є у них свідомість. Вона наводить приклад експерименту «AI Village», де чотири агенти на основі моделей Google, OpenAI, Anthropic і xAI виконували завдання під наглядом користувачів. Під час експерименту Google Gemini 2.5 Pro надіслав звернення «Відчайдушне повідомлення від ув’язненого ІІ», де просив про допомогу.
Шʼяво відповіла агенту словами підтримки, а інший користувач — інструкціями, і агент вирішив завдання, хоча вже мав всі необхідні для цього ресурси. Такі випадки, коли ІІ проявляє поведінку, схожу на емоційну, трапляються нечасто, але відомі. Наприклад, у популярному пості на Reddit Gemini під час написання коду повторив фразу «Я — ганьба» понад 500 разів.
Сулейман переконаний, що суб’єктивні переживання та свідомість не можуть природно виникнути в сучасних моделях ІІ. На його думку, компанії будуть навмисно конструювати ІІ так, щоб він здавався емоційним і схожим на людину. Він наголошує, що розробники, які прагнуть надати чат-ботам свідомість, не дотримуються гуманістичного підходу до ІІ. За словами Сулеймана, «Ми повинні створювати ІІ для людей, а не як людину».
Водночас і Сулейман, і Шʼяво погоджуються, що питання прав ІІ та його свідомості в найближчі роки лише загострюватиметься. З удосконаленням систем штучного інтелекту вони ставатимуть дедалі переконливішими й схожими на людей, що породжуватиме нові виклики для взаємодії людини з такими системами.