Александр Клаковский на AiConf 2025

Как мы создали LLM code completion с нуля и смогли заменить Copilot

ML Edge — оптимизация обучения и инференса, дистилляция, квантизация, hardware и т.д.

Google Outlook Apple

Доклад принят в программу конференции

Мнение Программного комитета о докладе

Это не просто история про то, как из open source компонент собрать copilot-помощника для разработчиков. Эти компоненты надо ещё допиливать и докручивать, потому что "из коробки" качество не очень. Главная ценность и интерес здесь как раз в том, что и как "допилить" и "докрутить".

Целевая аудитория

Разработчики, MLE-инженеры, архитекторы, DevOps

Тезисы

Большие языковые модели (LLM) для автодополнения кода стали стандартом, но что делать, если Copilot недоступен? В этом докладе разберем, как мы построили свой аналог с нуля: MVP, выбор модели, подходы к тестированию, оптимизация инференса, метрики, файн тюн модели, оптимизацация сбора контекста, фильтрация.

Александр Клаковский

Т-Банк

В ИТ 24 года, последние 8 лет бекенд разработчик. Проекты: поиск в деливери клаб, поиск в сбермаркете, llm code completion tools в ТБанк