Керівник OpenAI Сем Альтман заявив, що людство перебуває за декілька років від створення штучного загального інтелекту (AGI), здатного автоматизувати більшість людської праці. У зв’язку з цим виникає гостра необхідність у прозорості й суспільному контролі над тими, хто розробляє таку потужну та потенційно дестабілізуючу технологію.
Про це розповідає ProIT
Проєкт OpenAI Files: новий рівень контролю над розробниками ШІ
Ініціативою підвищення прозорості став архівний проєкт «The OpenAI Files», започаткований некомерційними організаціями Midas Project та Tech Oversight Project. Ця добірка містить задокументовані занепокоєння щодо практик управління, доброчесності керівництва та організаційної культури OpenAI. Метою проєкту є не лише інформування суспільства, а й створення дорожньої карти для відповідального управління та етичного лідерства у сфері розробки штучного інтелекту.
“The governance structures and leadership integrity guiding a project as important as this must reflect the magnitude and severity of the mission. The companies leading the race to AGI must be held to, and must hold themselves to, exceptionally high standards”.
Критика дій OpenAI та виклики для галузі
Розвиток штучного інтелекту супроводжується агресивною гонкою за лідерство, що призводить до масового збору даних без згоди користувачів для навчання моделей, а також до будівництва величезних дата-центрів, які викликають перебої з електроенергією та зростання цін для місцевих громад. Прагнення до комерціалізації змушує компанії запускати продукти без належних заходів безпеки під тиском інвесторів, які вимагають швидкої окупності.
Цей тиск з боку інвесторів суттєво змінив структуру OpenAI. Архів «OpenAI Files» зазначає, що на ранньому етапі, коли компанія мала статус неприбуткової, максимальний прибуток для інвесторів був обмежений рівнем 100x — надлишкові кошти мали бути спрямовані на благо людства. Однак компанія нещодавно оголосила про скасування цього обмеження, пояснюючи зміни вимогами інвесторів, які поставили фінансування в залежність від реформ структури.
Увагу також привертають питання щодо поспішних процедур перевірки безпеки, «культури безвідповідальності», а також потенційних конфліктів інтересів серед членів ради директорів OpenAI та самого Сема Альтмана. Відомо, що у «OpenAI Files» міститься перелік стартапів, пов’язаних з інвестиційним портфелем Альтмана, які мають перетин із діяльністю OpenAI.
Окремо розглядається питання доброчесності Альтмана, що стало предметом обговорень після невдалої спроби вищого керівництва звільнити його у 2023 році через «оманливу та хаотичну поведінку».
Інтригу додають і публічні заяви колишніх топ-менеджерів OpenAI. Зокрема, колишній головний науковець компанії Ілля Суцкевер висловив сумніви щодо лідерства Альтмана у питаннях AGI:
“I don’t think Sam is the guy who should have the finger on the button for AGI,” Ilya Sutskever, OpenAI’s former chief scientist, reportedly said at the time.
Питання та пропозиції, висвітлені в архіві OpenAI Files, нагадують суспільству, що величезна влада у сфері штучного інтелекту зосереджена в руках небагатьох людей із мінімальною прозорістю та слабким контролем. Архів дозволяє зазирнути у цю «чорну скриньку» та закликає перейти від сприйняття неминучості до реальної відповідальності.