Ілля Суцкевер, співзасновник OpenAI й колишній головний науковий співробітник, відкрив нову компанію розробки рішень штучного інтелекту, зосереджену на безпеці. Його нова компанія – Safe Superintelligence Inc. (SSI) – це стартап з «одною метою та одним продуктом». Метою є створення безпечної та потужної системи ШІ.
В анонсі SSI описується як стартап, який «підходить до безпеки та можливостей у тандемі», що дозволяє компанії швидко вдосконалювати свою систему штучного інтелекту, водночас приділяючи пріоритет безпеці. Також згадується, що «єдиний фокус компанії» дозволяє їй уникнути «відволікання накладними витратами на управління або циклами продукту».
«Наша бізнес-модель означає, що безпека та прогрес ізольовані від короткострокового комерційного тиску», — йдеться в повідомленні. «Таким чином ми зможемо мирно масштабуватися».
Окрім Суцкевера, співзасновниками SSI є Деніел Гросс, колишній керівник відділу штучного інтелекту в Apple, і Деніел Леві, який раніше працював у технічному персоналі OpenAI.
Минулого року Суцкевер очолював ініціативу з усунення генерального директора OpenAI Сема Альтмана. Суцкевер залишив OpenAI у травні та натякнув на початок нового проєкту. Незабаром після відходу Суцкевера дослідник штучного інтелекту Ян Лейке оголосив про свою відставку з OpenAI, посилаючись на процеси безпеки, які «відійшли на другий план, ніж блискучі продукти». Гретхен Крюгер, дослідник політики OpenAI, також згадала про проблеми безпеки, оголошуючи про свою відставку.
Під час інтерв’ю Bloomberg Суцкевер сказав, що першим продуктом SSI буде безпечний суперінтелект, і до того часу компанія «нічого більше не робитиме».
Джерело: The Verge