Финансовый гигант TP ICAP решил проблему ручного анализа десятков тысяч записей встреч в своей CRM-системе, построив интеллектуального ассистента на базе Amazon Bedrock. Решение ClientIQ сократило часы ручной работы до секунд автоматизированного анализа.
Проблема неиспользуемых данных
За годы работы TP ICAP накопила в своей CRM-системе Salesforce десятки тысяч записей встреч с поставщиками. Эти заметки содержали богатую качественную информацию о продуктах, интеграционных обсуждениях, отношениях с клиентами и стратегическом направлении. Однако данные практически не использовались — бизнес-пользователи тратили часы на ручной поиск по записям, зная о существовании информации, но не имея возможности эффективно её находить.
ClientIQ: умный CRM-ассистент
Созданный Innovation Lab компании, ClientIQ позволяет пользователям взаимодействовать с данными Salesforce через естественные языковые запросы. Система поддерживает:
- Вопросы на обычном английском: «Как улучшить отношения с клиентами?», «Что клиенты думают о нашем решении?», «Как повлиял Brexit на наших клиентов?»
- Уточняющие вопросы в диалоге
- Фильтрацию по временным периодам
- Прямой доступ к исходным документам через ссылки на конкретные записи Salesforce
ClientIQ обеспечивает полную прослеживаемость, включая ссылки на исходные данные и прямые ссылки на оригинальные записи Salesforce.
Архитектура решения
Рассмотрев встроенного AI-ассистента CRM, команда выбрала разработку кастомизированного, более экономичного решения, точно соответствующего их требованиям. Партнерство с AWS позволило построить enterprise-решение на базе Amazon Bedrock.
Решение использует два подхода для обработки запросов:
- RAG workflow — для получения инсайтов из неструктурированных заметок встреч
- SQL generation workflow — для ответов на аналитические запросы через структурированные данные
Система автоматически определяет оптимальный путь обработки каждого запроса с помощью LLM и генерирует ответы на естественном языке. Важно, что ClientIQ соблюдает существующие границы разрешений — пользователи получают доступ только к данным, к которым у них есть права в CRM-системе.
Ключевые технологии Amazon Bedrock
TP ICAP использовала несколько управляемых возможностей Amazon Bedrock:
- Foundation models — выбор лучших моделей для конкретных задач: Anthropic Claude 3.5 Sonnet для классификации и Amazon Nova Pro для генерации SQL из текста
- Knowledge Bases — полностью управляемая RAG-функциональность со встроенным управлением контекстом сессии и атрибуцией источников
- Bedrock Evaluations — автоматизированная оценка качества и производительности системы
Интересно наблюдать, как финансовые гиганты переходят от пилотных проектов к production-решениям на базе управляемых AI-сервисов. TP ICAP демонстрирует классический кейс enterprise-внедрения: вместо экспериментов с open-source моделями они выбрали готовую платформу, что позволило сократить время разработки с месяцев до недель. Особенно впечатляет комбинация RAG и text-to-SQL подходов — это именно то, что нужно бизнесу: не просто чат-бот, а полноценный аналитический инструмент.
Решение было развернуто в продакшн всего за несколько недель вместо месяцев, которые потребовались бы при самостоятельной настройке инфраструктуры для хостинга моделей.
По материалам AWS Machine Learning Blog.