Произошел разъеб очка там где я не ожидал, пока мы тут все сидим дрочим GPU и оптимизацию, пиндосы сделали новый проц для инференса, в 70 раз быстрее GPU H100

Выглядит это как огромный кусок платы. Интересно че у нее по TDP.

Ну че вот и конкурент Nvidia появляется.

А че у нас там по процам? НТЦ Модуля на своей железке научился запускать Bert? Или в 2024 наш предел это Yolo v5s?

Arch - это прокся, созданная для защиты, мониторинга и созданию AI-агентов.

Эта штука позволяет строить своих LLM-Агентов используя под капотом модели OpenAI и модели с тем же форматом API.
Плюс оч много полезных инструментов для мониторинга и трейсинга промтов к LLM. Всяких защит на уровне промтов и тд.
Маст хев штука если делаете своих агентов.

GitHub

Новая дифузионка от Nvidia

SANA — text2image модель, SOTA в text2image, низкий FID и высокакя скорость.
По метрике FID - 5,76, тот же Flux - 7,94. По сути это значит что модель генерит оч реальные изображения.
Может генерить изображения от 512x512 до 4096x4096 за секунды. И рабоает на ноуте, что не может радовать.

Судя по всему модель может следовать очень хорошо по заданному промту.
Обещают скоро добавить в diffusers
Короче новый топ.

HuggingFace
Папира
Демка Gradio
GitHub

Ох и ох
Тут такое Эндрю Ын (Andrew Ng) представил


Vision Agent. По сути это замена джунов в CV командах, результаты прям на дастойном уровне.
Даешь видос, пишешь че надо сделать, на выходе код.

Для примера взял два их примера, и свой с упаковками соусов. Ну где-то качество храмает, но как итог это вау. Я потратил 5 секунд, а уже имею относительно рабочее решение для проверки гипотез и отмазок для своего руководителя.


Презентация сервиса
Сервис