Американские страховые компании, среди которых AIG, Great American и WR Berkley, обращаются к регуляторным органам с просьбой разрешить исключить ответственность, связанную с использованием искусственного интеллекта, из страховых полисов для бизнеса. Представители отрасли отмечают, что работа современных моделей ИИ слишком непрозрачна и непредсказуема, что создает существенные трудности для оценки рисков.
Об этом сообщает ProIT
Растущие опасения из-за инцидентов с ИИ
В страховых компаниях подчеркивают, что оснований для беспокойства достаточно. Например, в марте этого года функция AI Overview от Google ошибочно обвинила солнечную компанию в юридических нарушениях, что привело к иску на 110 миллионов долларов. В прошлом году Air Canada была вынуждена выполнить обещание своего чат-бота о скидке, которую тот выдуманно предложил клиентам. Еще один громкий случай произошел, когда мошенники использовали цифровой клон голоса топ-менеджера и во время видеозвонка смогли присвоить 25 миллионов долларов у лондонской инженерной компании Arup.
Системные риски и страховая отрасль
Страховщики больше всего опасаются не отдельных крупных выплат, а системных рисков — когда программный сбой или ошибка массово затрагивает тысячи клиентов. Один из цитируемых представителей Aon отмечает, что страховщики способны справиться с единовременной потерей в 400 миллионов долларов для одной компании, но не смогут компенсировать ущерб, если, например, автономная система искусственного интеллекта вызовет 10 тысяч страховых случаев одновременно.
Один из андеррайтеров в разговоре с FT описал результаты работы ИИ как «слишком черный ящик».
Таким образом, страховая индустрия стоит на пороге масштабных изменений, ведь растущая непредсказуемость решений ИИ заставляет пересматривать подходы к оценке и покрытию рисков в корпоративном сегменте.