Страховые компании начинают массово отказываться от выплат по искам к разработчикам систем искусственного интеллекта, когда суммы компенсаций достигают десятков миллионов долларов. Страховщики ссылаются на исключительные риски и непредсказуемость технологии, что ставит под вопрос саму возможность страхования ответственности в этой сфере.
Растущий вал претензий
За последние два года количество судебных исков к компаниям, разрабатывающим ИИ, выросло втрое. Основные претензии касаются нарушения авторских прав при обучении моделей, дискриминации в алгоритмах подбора персонала и финансовых потерь из-за ошибок в автоматизированных системах принятия решений.
Особенно тревожным для страховщиков стал случай, когда страховая компания отказалась выплачивать $47 миллионов по иску к крупному разработчику ИИ, чья система некорректно проанализировала медицинские данные и привела к ошибочным диагнозам.
Проблемы страхового покрытия
Страховые полисы для технологических компаний традиционно включают исключения для:
- Преднамеренных нарушений
- Системных сбоев в программном обеспечении
- Непредвиденных последствий использования технологий
Однако с ИИ ситуация осложняется тем, что даже разработчики не всегда могут предсказать поведение своих систем в реальных условиях. Страховщики утверждают, что многие инциденты попадают под категорию «непредвиденных последствий», которые не покрываются стандартными полисами.
Страховщики, которые должны оценивать риски, сами не понимают, как оценить риски ИИ. Они действуют по старой схеме: если не понимаешь — исключи из покрытия. Но в случае с фундаментальными технологиями это похоже на попытку застраховать дом от землетрясения, исключив само землетрясение. Разработчикам ИИ придется либо создавать собственные страховые пулы, либо значительно повышать цены на свои продукты, чтобы покрывать потенциальные убытки.
Последствия для индустрии
Отказ страховых компаний от выплат может серьезно замедлить внедрение ИИ в критически важных областях:
- Медицина и диагностика
- Финансовые услуги
- Автономные транспортные системы
- Юридические технологии
Без страхового покрытия компании будут вынуждены либо ограничивать функциональность своих систем, либо самостоятельно резервировать средства на возможные судебные разбирательства, что значительно увеличит стоимость разработки.
По материалам Ars Technica.