«Bercut» представил комплексное решение для внедрения языковых моделей и создания ИИ-агентов

Это эффективное и безопасное решение.

Компания «Bercut», входящая в коммерческий ИТ-кластер «Ростелекома», разработала «AI Data Fabric»* – новый продукт в составе гибридной интеграционной платформы «Bercut» HIP 2.0. «AI Data Fabric» позволяет безопасно использовать корпоративные данные в сценариях искусственного интеллекта – подключить к любой большой языковой модели (LLM**) файлы, базы знаний, бизнес-приложения и другие источники данных. Это, в том числе, повышает качество и предсказуемость работы ИИ-ассистентов.

Согласно оценкам экспертов, в 55% компаний проекты внедрения LLM-моделей занимают от полугода. Чем дольше длится проект, тем ниже показатель окупаемости сделанных инвестиций (ROI***), поэтому многие компании не решаются на реализацию ИИ-проектов. Дополнительным барьером к внедрению становятся риски информационной безопасности и дезинформации.

Опыт команды «Bercut» показывает, что внедрение ИИ-проектов буксует в первую очередь из-за отсутствия в компаниях системы управления данными. Информация зачастую распределена между различными источниками и не оптимизирована для прямого использования языковыми моделями. Дополнительно задачу внедрения ИИ усложняет обязанность организаций соблюдать требования к защите персональной и конфиденциальной информации.

Для помощи бизнесу «Bercut» запустил решение для интеграции языковых моделей искусственного интеллекта в корпоративные ИТ-системы – «AI Data Fabric». Оно предоставляет инструменты для безопасного использования внутренней информации компании моделями искусственного интеллекта и позволяет подключать базы данных, документы и корпоративные сервисы. При наличии шины (соединение для передачи данных. – Ред.) «Bercut» решение может быть интегрировано с внешними системами через готовые коннекторы. Новый продукт поможет сократить путь от идеи до практического применения искусственного интеллекта в бизнесе.

«Бизнесу понятен потенциал искусственного интеллекта, но при его внедрении компании сталкиваются с инфраструктурными барьерами. „AI Data Fabric“ помогает их преодолевать. Наше решение позволяет быстрее подключать ИИ к реальным бизнес-процессам с соблюдением всех требований безопасности. Механизм анонимизации конфиденциальных данных преобразовывает информацию так, чтобы исключить возможность прямого или косвенного определения субъекта персональных данных. За счёт этого чувствительная информация не передаётся напрямую нейросетям, а остаётся внутри корпоративного контура. При этом пользователи получают ответы с учётом полного контекста», – отметил технический лидер «Bercut» Алексей Чистяков.

С учётом растущей популярности ИИ-ассистентов «Bercut» предусмотрел в «AI Data Fabric» возможность создания помощников для различных ролей в интерфейсе. Их можно интегрировать в корпоративные процессы, например, для поиска информации в документации, обработки обращений клиентов или поддержки работы инженеров. Подробнее об этой функциональности «Bercut» можно узнать в материалах вебинара, посвящённого практическому внедрению искусственного интеллекта в бизнес.

Платформа «Bercut HIP 2.0», в состав которой входит «AI Data Fabric», создаёт единый интеграционный слой над разнородными ИТ-системами (legacy, облачные, партнёрские API. – Ред.) и обеспечивает автоматизированный, высокопроизводительный и безопасный обмен данными между ними. Она закрывает весь цикл работы с данными и помогает подготовить инфраструктуру к созданию собственных ИИ- и ML-моделей****.

*«AI Data Fabric» – фабрика данных для искусственного интеллекта, т.е. среда для оптимизации создания, развёртывания и масштабирования систем ИИ.
**LLM («Large Language Model», большая языковая модель) – это алгоритмы ИИ, обученные на огромных массивах данных.
***ROI («Return on Investment» – «возврат инвестиций») – это показатель, который отражает рентабельность или окупаемость вложенных в бизнес инвестиций.
****ИИ- и ML-модели – модели ИИ и машинного обучения, т.е. алгоритмы, обученные на данных для выявления закономерностей, классификации объектов или прогнозирования числовых значений.