Было
Использование облачных решений с ограниченной конфиденциальностью и низкой точностью для русскоязычных задач
Стало
Выбор локальных моделей Saiga-Mistral-7b-Lora и Saiga-Llama3-8b для задач извлечения данных и анализа документов, а также облачных решений YandexGPT и GigaChat для генерации и диалогов
Ваш голос влияет на рейтинг лучших решений.
Хотите участвовать в обсуждении?
Использование методов оптимизации файнтюнинга, таких как заморозка слоев, добавление адаптеров, префиксное и промпт-обучение, а также применение LoRA для снижения затрат и ускорения процесса дообучения.
Использование различных методов и практик, таких как детекция и валидация ошибок, RAG/grounding, калибровка вероятностей, контроль декодирования, фильтрация, ансамблирование, дообучение и human-in-the-loop, для снижения ошибок и повышения точности моделей.
Использование больших языковых моделей, моделей машинного обучения и мультиагентных систем для автоматизации взыскания, скоринга, персонализации маркетинга и автоматизации разработки приложений на платформе FIS Platform.
Тонкая настройка LLM — это процесс дообучения существующих моделей на специализированных наборах данных, что позволяет повысить их точность, релевантность и уменьшить систематические ошибки.
Проведение полугодового практического эксперимента, включающего тестирование гипотез, создание MVP, работу с тёплыми лидами и анализ рынка через работу внутри компании, а также выявление ключевых проблем и сегментов для дальнейших автоматизаций.
Создание контекстного бота на базе GPT, который консультирует клиентов, классифицирует обращения и определяет негативные кейсы для эскалации. Проект включал аудит, интеграцию, тестирование и работу над качеством ответов, что позволило сократить время обработки обращений и повысить качество обслуживания.