🚀 Seldon MLServer пушка для быстрого инференса

Всем привет! Написал недавно много материла про инференс ML моделей, буду понемногу публиковать. Сегодня опубликовал статейку о мощных возможностях Seldon MLServer. MLServer предоставляет простой способ масштабирования и управления жизненным циклом моделей машинного обучения.

🔧 В качестве примера используем YOLOv8 для обнаружения объектов на изображении. Настройка сервера проста: установите необходимые пакеты, создайте класс модели и запустите сервер.

📈 Добавление кастомных метрик через MLServer помогает лучше понять потребности пользователей, анализируя, какие запросы они отправляют.

📚 Подробнее об этом вы можете прочитать в статье на сайте! Перейти к статье

Для тех кто не понимает нафига ему занать матан

https://www.youtube.com/watch?v=cbutcWr3T6g

Мотивация и пинки

На школе математического моделирования МАИ, которая проходит уже в четвертый раз (уже не первый раз выступаю в качестве эксперта), я получил много вопросов про мотивацию в плане развития и поиска себя в IT-сфере.

Лично для меня такой вопрос достаточно странный, ведь у меня проблем с мотивацией в работе никогда не было. Для меня все просто: занимаешься тем, что тебе лично интересно, и проблем с мотивацией у тебя нет. Ты получаешь удовольствие от процесса, и любопытство и желание разобраться работают лучше любых дедлайнов.

После общения с некоторыми студентами создается впечатление, что IT им вовсе не нужно. Все спрашивают, с чего начать, какие курсы пройти и так далее. В 2015 году, когда я пришел на первый курс, у меня таких проблем не было — с каких курсов начать и так далее. Тогда не были так сильно развиты Skillbox и прочие подобные платформы. Раньше была отличная Coursera, где было много курсов на русском и английском по всем тематикам, и только начинающий Stepik, где была база в виде курсов по начальной разработке на Python. Мне очень помог YouTube, туда выкладывали лекции из Техносферы и Технопарка — это открытые лекции от Mail, где в топовых институтах Mail читал разные лекции по разным тематикам (мб МАИ не топ вуз как говорят). Я, конечно, не прослушал до конца ни один курс, но часто обращался к ним за базовыми знаниями.

Если честно, глядя сейчас на YouTube и тысячи каналов, посвященных образованию и курсам, у меня возникает жуткое непонимание: а зачем вообще нужны курсы от Skillbox? Нужна помощь и экспертиза? Есть сообщества, которые могут тебе помочь. Есть мелкий вопрос — задай его ChatGPT, тебе там все пояснят. Нужна какая-то сверхузкая специфика или что-то свежее — ищи на GitHub. Если нужно, чтобы все разжевали и положили в рот — Udemy. На Udemy я лично нашел хороший курс по React за 700 рублей, где неплохо разжевывали только появляющийся фреймворк. Сейчас же ты можешь спокойно найти все эти курсы на YouTube. Я говорю не только про русский сегмент: есть переводчик видео от Яндекса, а английский сегмент просто великолепно наполнен различными курсами от специалистов и индусов — сиди и учись не хочу. Stanford, MIT публикуют все свои лекции в открытый доступ на YouTube — вообще шик.

Если лично тебя все это все еще останавливает и ты ищешь для себя мотивацию заняться всем этим, так, может быть, это все не для тебя? Может быть, стоит развиваться в другом направлении? Может быть, IT не твое? Если думаешь, что в IT много денег, то нет, на рынке сейчас так же много таких идиотов как ты, которые думают, что IT — это их путь, и заставляют себя работать. Плюс весь рынок просто засран студентами всех этих Skillbox, Skillfactory и прочих онлайн-курсов, где тебе обещают офигенную зарплату за полгода обучения. Проблема не только в том что он засран ими, а что у них нет желания и любопытсва брать сложные задачи развиваться и тд, они думают что им дали навыки и все дальше развиваться не нужно.

Лично у меня много знакомых, которые за два года, имея только базовые знания Python, но имея желание и любопытство разбираться в задачах, к окончанию бакалавриата получают по 200-300 тысяч рублей, и таких примеров не два-три человека, а десять-пятнадцать.

Любое начинание, которому ты посвятишь 10 000 часов, сделает из тебя эксперта и тебе многие будут готовы за этот опыт и знания заплатить. Просто займись тем, к чему у тебя лежит душа и интерес, тогда у тебя не будет проблем с мотивацией и прокрастинацией.

https://huecker.io/

Не благодарите

На всех прилавках митинского радио рынка

Самое главное, что мы подготовились к санкциям и готовы дать отпор пиндосом. Под радостные аплодисменты - "КОРОБКИ"

https://habr.com/ru/articles/811375/

Я полгода назад: солидный Lead DS делаю курсы по ML System Design, Business ML строю стратегии по MLOps
Я сейчас: Руководитель направления ML Inference, сижу кручу сундуки в Dota 2

Вот она карьерная лестница

Никогда не думал, что Гена Букин - Синдзи, а Даша Букина - Аска. А весь сериал, это продолжене после отмены комплиментации человечества.

А все DSы просто - Бимбо

https://www.youtube.com/watch?v=b_nrIOT1-zM

Такс, ну что могу сказать? Защиты прошли на той неделе. Если вы думали, чтоя я жестил задавая вопросы по вашему диплому, то нет. Мне важно было понять вас, вашу точку зрения: зачем и почему, чтобы что и т. д. Единицы могли пояснить за свои решения, тем, кто мог объяснить зачем и почему, без "б" ставил 5.

Бакалавры в этом году порадовали; я прямо на некоторых дипломах кафовал. Тройки были у тех, кто совсем дичь сделал. Если вы думали, что из-за моей одной тройки вам ставили 3, то, как бы, пройдите курс базовой математики: сидит 5 членов комиссии, если я ставлю 3, а они все 5, то моя оценка никак не влияет, даже если я 0 ставлю, то в тройку это не перерастёт.

Магистры — просто пиздец. Те, кто с работы взял, ну как бы ок, но это читерство: вы работу команды выдаёте за свою, так нельзя. Мага продуктов — парад кринжа, 2-3 нормальных работы, остальное кринж.

Мага VR/AI — парад стыда. Некоторые дипломы вообще не понимаю, как допустили до защиты. Там хотя бы из ГосНИИАСа смогли что-то толковое показать и ещё парочка, остальные прям стыд. Скоре всего такая дичь, чисто из-за кривой программы. Хотя казалось, возьми программу Стэнфорда, переведи на русский и читай, кайфуй: материал не надо придумывать. Но так всрать магу, чтобы в маге по VR/AI читали про дизайн и откровенную шизу про управление — трэш.

В этом году думаю многое поменяется: мага продуктов будет действительно про продуктовые подходы и исследование, а не про лабы на Spark. В СКТ будет реально про суперкомпы и их управление, а в маге AI — действительно будет много AI.

Плюс маленький анонс для любителей ковыряться в контейнерах: в этом году Cloud.ru совместно с МАИ открываем магу по DevOps/DevSecOps.

Программу глянул, и прям прифигел, как кайфово продумано.

Самое главное, что мага будет идти всего один год, и там не будет шизы вроде философии, английского и прочего, чисто херачим DevOps-штуки.

Думаю, в течение месяца появится анонс на сайте МАИ.

Наконец-то сетки сделали что то годно

Шиза нового поколения

Офтоп шиза

Листал тут ТикТок как обычно, и наткнулся на такое
По началу я подумал что это очередная шиза, которая придумала Блиновская или типо того. НО НЕТ!

Это люди специально ловят шизофрению, что бы общаться с выдуманными друзьями и вот эти выдуманные друзья и называются Тульпами.

Тульпа — это стабильная, самовнушенная, осознанная визуализация. Она способна к самостоятельным мыслям и действия. Тульпа может выглядеть человеком, животным или фантастическим существом. Источник

Это в прямом смысле один из видов шизофрении. Они умудряются делать все с этой Тульпой как с человеком, по началу я подумал, что это одна такая с шизой, но не есть даже целый словарь с терминами

Вот пару шизо-тиктоков
- Они реально задумаются как с помощью Тульпы сдать ЕГЭ
- Как не быть шизом но быть шизом
- Туторы как словить шизу
- Шиза шизейшая
- Они блять ГАЙДЫ СОЗДАЮТ
- Даже сраться с ними могут

Короче, шиза поланая
Если у вас есть кто-то с такой шизой, отправьте его на лечение в ПНД.

Вакаса в нашу команду

https://hh.ru/vacancy/104412412

Сейчас в команду ищу Go lang разраба, для работы над новым продуктом - ML Inference
Ищем где-то от джуна плюс до сыра.

Че будем делать?
Пилить систему распределенного инференса, что бы сделать копеечный инференс на A100 и выше.

По работке
Пилить сервисы на го
Писать тесты
Code-review

Что нужно знать?
Нужно шарить за postgres (индексы хотя бы, знаешь как работает репликация, шардирование, партиционирование - тебе же плюс)
Мы тут код стараемся долгоживущий и понятный писать так что знание чистой архитектуры в плюс
Понимание 12 FA тоже в плюс
Понимание работы DS'ера в плюс
Многопоточность, горутины
Понимание паттернов ООП, паттернов в межсервисной архитектуре, паттерны DDD тоже в плюс, знание чем отличается синхронное взаимодействие икросервисов от асинхронного


Команда
Все парни (и не только) молодые, скуфов нет, токсиков тоже

Приоритет
Приоритет больше отдаю тем, кто проходил ML курсы в инситуте
Так же роляет высокий MMR (нужен core игрок тянуть рейтинг игры)

Формат работы
Лучше всего гибрид но и полную удаленку тоже принимаем
Технику всю выдаем Mac, Монитор и тд

+ есть отсрочка от призыва и мобилизации

По зп не обидем, если есть за что платить

В рассмотрение примем даже тех у кого мало опыта коммерческой разработки, но при этом есть знания че и как делать.

По вопросам и резюме пишите в лс @amazaew

VPN

Накатал тут гайд по создаю VPN сервера, расписал как можно подробнее с скринами и командами. В принципе его можно раскатать где угодно главное, что бы виртуалка была за бугром.
Я знаю только два облака, которые дают норм ВМки за бугром TimeWeb и Aeza. По цене плюс минус одно и тоже.

Если будут проблемы или пожелания пишите в комменты, резберемся.

https://telegra.ph/Rukovodstvo-po-sozdaniyu-sobstvennogo-VPN-servera-na-baze-TimeWeb-08-02-2

Как-то меня спросили, как посадить 4-ех разработчиков на один стул.

Ответ убил.