01releases
ГлавноеMust read
Docling — open-source обработка документов для GenAI и RAGDocling brings open-source document processing to GenAI and RAG
Docling разбирает широкий набор форматов, включая PDF с продвинутым пониманием структуры, DOCX, PPTX, XLSX, HTML, EPUB, письма, аудио и изображения. Проект подготавливает документы к использованию в GenAI-пайплайнах и интегрируется с экосистемой RAG.Docling parses a broad range of formats, including PDFs with advanced structural understanding, DOCX, PPTX, XLSX, HTML, EPUB, emails, audio, and images. It prepares documents for GenAI pipelines and integrates with the RAG ecosystem.
TakeawayПрактичный базовый слой для ingestion в корпоративных RAG и agentic-системах: можно сократить число отдельных парсеров и конвертеров.It is a practical ingestion layer for enterprise RAG and agentic systems, reducing the need for separate parsers and converters.
02releases
ГлавноеMust read
NVIDIA TensorRT-LLM оптимизирует inference LLM и visual generation на GPUNVIDIA TensorRT-LLM optimizes LLM and visual-generation inference on GPUs
TensorRT-LLM предоставляет Python API и runtime-компоненты для эффективного запуска LLM на NVIDIA GPU. Проект использует специализированные kernels и оптимизации для inference LLM и моделей visual generation.TensorRT-LLM provides a Python API and runtime components for efficiently running LLMs on NVIDIA GPUs. It uses specialized kernels and optimizations for LLM and visual-generation inference.
TakeawayКомандам с NVIDIA-инфраструктурой стоит рассмотреть TensorRT-LLM для снижения задержки и стоимости self-hosted inference.Teams running NVIDIA infrastructure should consider TensorRT-LLM to reduce latency and cost for self-hosted inference.
03releases
ГлавноеMust read
Coder предлагает self-hosted cloud workspaces и AI coding agentsCoder offers self-hosted cloud workspaces and AI coding agents
Coder разворачивает изолированные cloud development environments и AI coding agents внутри инфраструктуры компании. Workspaces описываются Terraform, подключаются через защищённый WireGuard-туннель и автоматически выключаются при простое; агент выполняется в control plane заказчика.Coder deploys isolated cloud development environments and AI coding agents inside a company’s own infrastructure. Workspaces are defined with Terraform, connected through a secure WireGuard tunnel, and automatically shut down when idle; the agent runs in the customer’s control plane.
TakeawayЭто вариант для организаций, которым нужны coding agents без передачи кода и среды разработки внешнему SaaS-провайдеру.It is an option for organizations that need coding agents without handing source code and development environments to an external SaaS provider.
04releases
ГлавноеMust read
Higgsfield открыла fault-tolerant orchestration для обучения LLM на тысячах GPUHiggsfield open-sources fault-tolerant orchestration for training LLMs on large GPU clusters
Higgsfield — open-source GPU workload manager и ML-фреймворк для отказоустойчивенного распределённого обучения моделей от миллиардов до триллионов параметров. Проект нацелен на multi-node training LLM и берёт на себя orchestration и масштабирование GPU-нагрузок.Higgsfield is an open-source GPU workload manager and ML framework for fault-tolerant distributed training of models with billions to trillions of parameters. It targets multi-node LLM training and handles orchestration and scaling of GPU workloads.
TakeawayПроект интересен командам, строящим собственные крупные training-кластеры: он может стать альтернативой самописной orchestration-обвязке.The project is relevant to teams building their own large training clusters, where it may replace custom orchestration layers.
