Компания Irregular, специализирующаяся на безопасности искусственного интеллекта, объявила о привлечении $80 миллионов инвестиций в новом раунде финансирования. Раунд возглавили Sequoia Capital и Redpoint Ventures, к нему также присоединился генеральный директор Wiz Ассаф Раппапорт. По информации источника, близкого к сделке, оценка Irregular после раунда достигла $450 миллионов.
Об этом сообщает ProIT
Irregular: от тестирования рисков до выявления новых угроз
Irregular, ранее известная под названием Pattern Labs, уже стала заметным игроком в сфере безопасности искусственного интеллекта. Ее разработки используются в процессе оценки безопасности таких моделей, как Claude 3.7 Sonnet, а также моделей OpenAI o3 и o4-mini. Особый интерес индустрии вызвал фреймворк SOLVE для оценки способности моделей к выявлению уязвимостей, который широко внедряется в отрасли.
Сейчас компания работает над еще более амбициозной целью — выявлением новых рисков и поведенческих шаблонов AI еще до их появления в открытом доступе. Для этого Irregular создала сложную систему симуляций, позволяющую тщательно тестировать модели перед их релизом.
Безопасность AI: новые вызовы для индустрии
Растущая сложность больших языковых моделей делает вопрос безопасности критически важным для всей AI-индустрии. Как отмечает соучредитель компании Омер Нево, Irregular использует сложные сетевые симуляции, в которых искусственный интеллект выступает как в роли атакующего, так и защитника. Это позволяет понять, насколько устойчивы защитные механизмы новых моделей и где именно они могут дать сбой.
«Наша точка зрения заключается в том, что вскоре значительная часть экономической активности будет происходить в формате взаимодействия человека с AI и AI между собой, и это приведет к появлению уязвимостей во многих точках защиты», — считает соучредитель Дан Лахав.
Вопрос безопасности стал одним из главных фокусов для разработчиков AI после появления новых рисков, связанных с использованием передовых моделей. Так, летом этого года OpenAI пересмотрела свои внутренние протоколы безопасности, в частности с учетом потенциальной корпоративной шпионской деятельности.
В то же время модели искусственного интеллекта становятся все более эффективными в выявлении программных уязвимостей, что имеет существенные последствия как для защитников, так и для потенциальных злоумышленников. Основатели Irregular убеждены, что это лишь первый из многих вызовов, которые будут возникать по мере развития технологий.
Как подчеркивает Лахав, если задача исследовательских лабораторий заключается в создании более сложных и мощных AI-моделей, то Irregular сосредоточена на их защите. Однако из-за постоянного прогресса в сфере искусственного интеллекта работа в направлении безопасности должна стать еще более масштабной в будущем.