У п’ятницю уряд США оголосив про розрив співпраці з компанією Anthropic, яка спеціалізується на розробці штучного інтелекту. Це сталося після того, як засновник компанії Даріо Амодей відмовився надавати технології для масового стеження за громадянами США та для створення автономних бойових дронів, здатних самостійно обирати та знищувати цілі без участі людини. Відповідно до рішення міністра оборони Піта Гегсета, компанію внесли до чорного списку, що забороняє їй працювати з Пентагоном. Президент США Трамп також закликав усі федеральні відомства негайно припинити використання технологій Anthropic, що ставить під загрозу контракт на суму до 200 мільйонів доларів та подальшу співпрацю з іншими оборонними підрядниками. Anthropic вже заявила про намір оскаржити це рішення в суді.
Про це розповідає ProIT
Криза довіри та безпеки у сфері штучного інтелекту
Останні події навколо Anthropic стали приводом для гострої дискусії щодо відповідальності AI-компаній та потреби державного регулювання у сфері штучного інтелекту. Відомий фізик з MIT та засновник Інституту майбутнього життя Макс Тегмарк, який організовував відкритий лист із закликом призупинити розробку надпотужного ШІ, вважає, що Anthropic та її конкуренти самі створили для себе таку ситуацію, роками уникаючи державного контролю. На його думку, провідні компанії — Anthropic, OpenAI, Google DeepMind та xAI — багато говорили про безпеку, але не підтримували обов’язкового державного регулювання, внаслідок чого зараз опинились у правовому вакуумі.
“Якщо ви скажете, що не будете продавати бутерброди, а продаватимете AI-друзів для 11-річних дітей, які вже пов’язані із самогубствами, або випустите щось під назвою суперінтелект, що може повалити уряд США, то інспектор змушений сказати: ‘Добре, тільки не продавайте бутерброди’.”
Аналітики вказують, що компанії могли б уникнути нинішніх проблем, якби ще раніше ініціювали перетворення своїх добровільних етичних зобов’язань на законодавчі норми. Однак, лобіювання проти регулювання призвело до практично повної відсутності правил у галузі штучного інтелекту в США.
Міжнародний контекст і майбутнє розвитку ШІ
Захисники AI-компаній часто апелюють до необхідності обганяти Китай у розробці суперінтелекту, однак, за словами Тегмарка, навіть у Китаї вже розглядають заборону деяких продуктів на основі штучного інтелекту, побоюючись негативного впливу на молодь і суспільство загалом. У той же час, в американському суспільстві зростає усвідомлення того, що неконтрольований розвиток суперінтелекту несе не лише переваги, а й суттєві ризики національній безпеці, подібно до гонки ядерних озброєнь у часи холодної війни.
Експерти відзначають надшвидкий прогрес у сфері штучного інтелекту: за кілька років системи перейшли від рівня школяра до перемог на міжнародних олімпіадах та досягнення рівня університетських професорів у низці завдань. За підрахунками провідних дослідників, GPT-5 вже реалізує понад половину функціоналу, необхідного для створення AGI (штучного загального інтелекту).
Після інциденту з Anthropic галузь уважно спостерігає за реакцією інших гравців. Так, СЕО OpenAI Сем Альтман заявив про солідарність із позицією Anthropic, тоді як Google та xAI поки утримуються від коментарів.
Попри кризу, Макс Тегмарк залишається обережним оптимістом, наголошуючи, що вихід із ситуації можливий: якщо застосувати до AI-компаній ті ж правила, що й до інших високоризикових галузей, і вимагати незалежних перевірок перед запуском потужних систем, суспільство зможе отримати всі переваги штучного інтелекту без екзистенційних загроз.