МТС запускает LLM-агрегатор на базе облачных сервисов MWS
МТС объявляет о запуске MWS GPT — облачной B2B-платформы, объединяющей большие языковые модели компании. Сервис дает возможность единовременно использовать разные LLM, а также работать с любыми open source-моделями, дообучать их, применять функционал function calling, а затем внедрять и использовать готовые решения на инфраструктуре экосистемы. Ранее LLM-агрегатор был запущен внутри МТС,
количество обращений к платформе достигло к настоящему времени свыше 1,2
млн в сутки.
Внутри платформы есть собственный чат-интерфейс, который позволяет сохранять промпты и обмениваться ими, а также no-code конструктор для проектирования и создания приложений без привлечения разработчиков.
На первом этапе можно подключить облачную версию MWS GPT, в дальнейшем появится возможность развертывания сервиса на инфраструктуре заказчика. На следующих этап планируется увеличить число доступных моделей, в том числе с помощью популярных на рынке продуктов других компаний.
Ранее LLM-агрегатор был запущен внутри МТС, количество обращений к платформе достигло к настоящему времени свыше 1,2 млн в сутки. Так как сервис показал себя эффективными и надежным, было принято решение о выводе его на внешний рынок.
«В основе MWS GPT лежит агентская архитектура, которая позволяет любой модели быть ИИ-Агентом. Помимо обычного текстового ответа, MWS GPT принимает решение использовать тот или иной навык в зависимости от задачи. К примеру, в случае математических расчетов модель обращается напрямую к интерпретатору, вместо попытки продолжить текст, основываясь на корпусе обучения, а если данных обучения не хватает для полного ответа — делает запрос в поисковую систему», — прокомментировал первый вице-президент по технологиям МТС Павел Воронин.
Оплата за использование сервиса будет взиматься в зависимости от количества обработанных токенов.
Источник: МТС
Заметили неточность или опечатку в тексте? Выделите её мышкой и нажмите: Ctrl + Enter. Спасибо!
Оставить свой комментарий:
Комментарии по материалу
Данный материал еще не комментировался.