Свои модели вместо публичных: подводные камни AI‑инфраструктуры

Почему даже при наличии идей и бюджета компании застревают на этапе внедрения ИИ? Какие технические сложности возникают у IT-отделов и чем инфраструктура для машинного обучения принципиально отличается от привычной «офисной»?

Фото: Сергей Елагин / Бизнес Online / Global Look Press

Эксперты Selectel отмечают, что ключевые барьеры внедрения ИИ — дефицит и долгие поставки специализированного оборудования, а также нехватка экспертизы по сборке и запуску ML‑кластеров, из‑за чего техника простаивает и успевает устареть. Инфраструктура для ИИ опирается на GPU, без которых модели работают на порядки медленнее и фактически непригодны для масштабных задач бизнеса.

С точки зрения безопасности главный риск связан с отправкой корпоративных данных в публичные зарубежные модели. Решение — изолированные модели в российских ЦОДах и приватные сети, чтобы данные оставались внутри защищенного периметра. При выборе партнера компании стоит ориентироваться на комплексный подход: от консалтинга и формулировки бизнес‑задачи до проектирования архитектуры и подбора инфраструктуры совместно с технологическими интеграторами.

Подробнее об этом — в интервью с экспертами компании Selectel Александром Туговым, директором по AI-вертикали, и Владиславом Кирпинским, директором направления облачной интеграции.

— Александр, вопрос к вам. Сейчас многие компании хотят использовать искусственный интеллект. С какими сложностями им предстоит столкнуться?

— По нашему опыту, еще до технических сложностей — это проблема с поставками оборудования — от сроков поставок, и в целом дефицита оборудования на мировом рынке, до проблем с логистикой. У нас были кейсы, когда компания ожидала поставку в три месяца, а в реальности оборудование ехало все восемь.

Когда оборудование уже прибыло, все замечательно, возникает следующая проблема — недостаток экспертизы. Потому, что это не так просто собрать кластер для ML-моделей и их запуска. Это может занимать месяцы, особенно если внутри компании просто не было до этого такого опыта. Опять же, у нас был кейс, когда один из наших заказчиков пытался самостоятельно все решить, и заняло у него это почти год. Хотя он мог бы обратиться к нам.

— Что происходит с оборудованием, пока оно простаивает?

— По сути, это прямой убыток. Оборудование для ИИ достаточно быстро устаревает. За год простоя выходит уже новое, гораздо более производительное поколение. То есть, по факту, компания заморозила деньги и получила в результате еще и просадку не только в деньгах, но и по производительности. Результат в два раза хуже, чем могло бы быть.

— А в чем специфика инфраструктуры для проекта в сфере искусственного интеллекта?

— Основная специфика — это, собственно, наличие так называемых GPU. То есть это специальные карты, которые ускоряют вычисления для искусственного интеллекта. Без них можно запускать модели, но они будут работать в сотни раз медленнее. То есть практически невозможно этим пользоваться будет.

— Давайте поговорим по безопасности, Владислав, вопрос вам: безопасность — это один из ключевых страхов бизнеса. Какие архитектурные решения и модели развертывания вы считаете более-менее безопасными?

— Есть такой тезис, который мне очень нравится. Данные — это новое золото. И здесь он как никогда актуален. Почему? Ну, вот смотрите: если вы пользуетесь публичными моделями, такими как Qwen, DeepSeek, Chat GPT, отправляя туда данные — какие-то свои таблицы, корпоративные данные, фотографии, что угодно, вы решаете вроде бы бизнес-задачи, но отправляете данные за границу, за рубеж. Они попадают вот в эти компании, как-то там обрабатываются и, возможно, даже хранятся.

В Selectel есть свое решение — Foundation Model Catalog. Это когда модель поднимается у нас в ЦОДе на нашем оборудовании внутри России. И данные, когда вы отправляете к такой модели запрос, за границу уже не уходит.

Самое важное, что этой моделью пользуетесь только вы, то есть ваша компания. Данные за пределы в соседнюю модель никак не утекают. Таким образом, вы получаете изолированное решение. А чтобы уж совсем не переживать, можно построить приватную сеть, чтобы эти данные вообще через интернет не отправлялись, а вы по приватной сети из вашей локальной сети предприятия подключались к этой модели. Тогда получается изолированное, безопасное решение.

— На что обратить внимание при выборе партнера, если компания только начинает свой путь в AI?

— В первую очередь на такую какую-то комплексность предложения. То есть не обрывочные внедрения, а чтобы этот партнер мог помочь решить задачу комплексно.

Что я имею в виду? Как правило, приходят с какой-то бизнес-задачей. То есть, мы хотим внедрить AI для того, чтобы оптимизировать какой-то бизнес-процесс, получить какой-то бизнес-результат, либо сэкономить средства, либо повысить нашу выручку. Здесь надо начинать с консалтинга. И вот, начиная с него, необходимо постепенно спускаться на этапы внедрения, на этапы подбора инфраструктуры и так далее. И разрабатывать уже архитектуру всего этого проекта целиком.

Именно для этого мы, например, недавно анонсировали партнерство с компанией GlowByte, где мы комплексно подходим к решению подобных задач. Мы предоставляем платформенный слой с точки зрения AI, тот же Foundation Model Catalog, изолированные инфраструктуры. А они как раз предлагают ту самую экспертизу комплексного закрытия задач.