Ідеологія завжди лежить у серці будь-якої імперії, визначаючи напрями розвитку та виправдовуючи масштабування — навіть якщо ціна цього суперечить заявленій меті. У сучасній сфері штучного інтелекту (ШІ) новою ідеологією стала ідея створення штучного загального інтелекту (AGI), що, за словами лідерів галузі, має «працювати на користь всього людства». Головним пропагандистом цієї ідеї виступає компанія OpenAI, яка докорінно змінила підхід до розвитку ШІ у світі.
Про це розповідає ProIT
Імперія OpenAI: політична й економічна міць та ціна віри у AGI
Журналістка та авторка бестселера «Empire of AI» Карен Хао порівнює вплив OpenAI та індустрії ШІ із справжньою імперією. Вона підкреслює, що OpenAI вже володіє значно більшою потужністю, ніж більшість національних держав, не лише в економічному, а й у політичному вимірі. Компанія впливає на глобальну геополітику, змінює стиль життя мільйонів людей та трансформує сучасний світ.
“Єдиний спосіб по-справжньому зрозуміти масштаби діяльності OpenAI — це визнати, що вони вже стали потужнішими за більшість країн світу, консолідували надзвичайну економічну і політичну владу. Вони змінюють планету, переписують нашу геополітику, наше життя. Це справжня імперія”.
Водночас, OpenAI визначає AGI як «високоавтономну систему, що перевершує людей у більшості економічно цінних завдань» і має «піднести людство, збільшуючи достаток, прискорюючи економіку та допомагаючи відкривати нові наукові знання». Проте ці абстрактні обіцянки призвели до стрімкого зростання індустрії ШІ — з величезними витратами ресурсів, використанням величезних обсягів даних та енергії й запуском недопрацьованих систем, наслідки яких уже відчутні для суспільства.
Гонитва за AGI: ризики, втрати та альтернативні підходи до розвитку ШІ
Карен Хао наголошує, що обраний індустрією шлях не був єдино можливим: розвиток ШІ міг би йти шляхом удосконалення алгоритмів, що зменшило б потребу у даних і обчислювальних потужностях. Однак у гонитві за першість, особливо коли переможець отримує все, як це визначила OpenAI, найголовнішим стає швидкість — навіть на шкоду безпеці, ефективності та фундаментальним дослідженням.
Для досягнення цієї швидкості, за словами Хао, OpenAI використовує вже наявні техніки, нарощуючи обсяги даних і обчислювальні ресурси, а інші компанії вимушені наслідувати цей підхід, щоб не відставати. Внаслідок цього весь напрям досліджень у сфері ШІ дедалі більше підконтрольний великим корпораціям, а не академічній науці.
Інвестиції у ШІ вже набули гігантських масштабів: OpenAI планує витратити 115 мільярдів доларів до 2029 року, Meta — до 72 мільярдів доларів на інфраструктуру лише цього року, а Google — до 85 мільярдів доларів на розвиток ШІ та хмарних технологій у 2025 році. Проте обіцяні «блага для людства» так і не стали реальністю, водночас збільшується шкода: втрата робочих місць, концентрація багатства, соціальні та психологічні проблеми, пов’язані з використанням чат-ботів на базі ШІ.
У своїй книзі Карен Хао також розповідає про працівників із країн, що розвиваються, наприклад Кенії та Венесуели, які займалися модерацією контенту й маркуванням даних, отримуючи мізерну оплату — близько 1–2 доларів на годину — й були змушені переглядати травматичні матеріали, включно з дитячою експлуатацією.
Попри це, Хао вважає хибним протиставляти поступ ШІ і його реальні ризики. Вона наводить приклад AlphaFold від Google DeepMind — системи, яка передбачає структури білків і вже допомогла в розробці ліків та дослідженні хвороб, не створюючи при цьому соціальних чи екологічних проблем.
Ідея «перемогти Китай» у гонці ШІ також стала частиною ідеології — але, за спостереженнями Хао, це призвело лише до посилення домінування Силіконової долини, а не до глобального поширення ліберальних цінностей.
Багато хто вважає, що продукти OpenAI, такі як ChatGPT, відкрили нові горизонти продуктивності та автоматизації для бізнесу. Однак гібридна структура OpenAI — поєднання некомерційної та комерційної діяльності — ускладнює оцінку реального впливу на людство. Додатковий резонанс викликала і новина про досягнення угоди компанії з Microsoft, що може підштовхнути OpenAI до виходу на публічний ринок.
Деякі колишні дослідники з безпеки OpenAI висловлюють побоювання, що компанія почала плутати свої некомерційні цілі з комерційними, а успіх продуктів, на кшталт ChatGPT, неправомірно вважається достатньою підставою для заяв про «користь для людства».
Карен Хао застерігає від небезпеки настільки глибокого занурення в місію, що реальні проблеми залишаються поза увагою. Вона підкреслює: навіть коли з’являються докази негативних наслідків, компанія продовжує ігнорувати їх, захищаючи свою ідеологію.
