Проблема: мощный ПК с RTX 3090 потребляет сотни ватт и не может сутками работать от ИБП при отключениях света
Мощные графические карты, такие как NVIDIA RTX 3090, требуют значительного количества энергии для работы. В условиях домашнего использования, где электроснабжение может быть ненадежным, это становится серьезной проблемой. Использование ИБП (источника бесперебойного питания) позволяет поддерживать работу системы в течение короткого времени после отключения основного питания, но для длительной работы от аккумулятора требуется мощный и дорогой ИБП.
В данной статье рассматривается архитектура домашнего AI-сервера, который включает в себя автоматическое управление задачами и переключение на облачные ресурсы при необходимости. Это позволяет обеспечить непрерывную работу автоматизации (n8n, боты, вебхуки, сайт) 24/7, даже при длительных отключениях электроэнергии.
Автоматизация и критически важные задачи
Автоматизация процессов с использованием инструментов n8n, ботов и вебхуков требует постоянного доступа к ресурсам. В случае отключения электроэнергии такие системы должны быть способны перейти на резервные источники питания или облачные сервисы без потери производительности.
Для решения этой проблемы была разработана архитектура, включающая Control Plane и Worker Plane.
Архитектура Control Plane vs Worker Plane
+---------------------+
| Control Plane |
| +-----------------+|
| | Ubuntu Mini ||
| | Server (wplanc)||-------> Docker, n8n, Nginx, MariaDB, WordPress, очереди задач
| +-----------------+|
| DC-UPS 12В |
+---------------------+
|
v
+---------------------+
| Router Keenetic |
+---------------------+
+---------------------+
| Worker Plane |
| +-----------------+|
| | Xeon LGA2011-v3 ||-------> LM Studio (порт 1234), ComfyUI (порт 8188)
| | RTX 3090 24GB ||
| +-----------------+|
+---------------------+
Control Plane: маломощный Ubuntu мини-сервер на DC-UPS 12В
Control Plane включает в себя маломощный Ubuntu мини-сервер, работающий от DC-UPS 12В. Этот сервер отвечает за управление задачами и обеспечение их непрерывной работы. На нем установлены Docker, n8n, Nginx, MariaDB, WordPress и очереди задач.
Использование Docker позволяет легко разворачивать и масштабировать приложения, обеспечивая изоляцию и удобство управления. n8n используется для автоматизации процессов, а Nginx и MariaDB — для обслуживания веб-сайтов и баз данных.
Worker Plane: стационар на Xeon LGA2011-v3 с RTX 3090
Worker Plane включает в себя мощный стационарный компьютер на базе процессора Xeon LGA2011-v3 (материнская плата X99, 32 ГБ оперативной памяти quad-channel) и графической карты RTX 3090 с 24 ГБ видеопамяти. Этот узел отвечает за выполнение тяжелых вычислительных задач.
На Worker Plane установлены LM Studio (порт 1234) и ComfyUI (порт 8188), которые используются для работы с AI-моделями и графическими задачами. Эти приложения требуют значительного количества вычислительных ресурсов, что делает их зависимыми от стабильного электроснабжения.
Механика автоподъёма и отказоустойчивости
Для обеспечения непрерывной работы системы при отключении электроэнергии была реализована механика автоподъема и отказоустойчивости. Она включает в себя настройку BIOS, использование Wake-on-LAN через роутер Keenetic и логику управления задачами в n8n.
Настройка BIOS (Restore on AC Power Loss) + Wake-on-LAN
В BIOS Worker Plane была включена функция «Restore on AC Power Loss». Это позволяет системе автоматически перезагружаться при восстановлении питания после отключения. Для дополнительной безопасности и удобства управления используется функция Wake-on-LAN через роутер Keenetic.
Логика в n8n: health-check к локальному GPU
В n8n была реализована логика для мониторинга состояния системы. Она включает в себя регулярный health-check к локальному GPU (RTX 3090). Если питание восстановлено и узел жив, задачи выполняются на RTX 3090. В случае отключения электроэнергии тяжелые задачи ставятся в локальную очередь SQLite/Redis или переключаются на облачный Gemini API.
Опыт эксплуатации и мысли про апгрейд
В процессе эксплуатации данной архитектуры были выявлены несколько ключевых моментов, которые стоит учитывать при дальнейшем развитии системы.
128 ГБ ECC RAM под 70B модели vs вторая RTX 3090
Одним из возможных апгрейдов является увеличение объема оперативной памяти до 128 ГБ с поддержкой ECC (Error-Correcting Code). Это позволит использовать более крупные AI-модели, такие как 70B, которые требуют значительного количества оперативной памяти для эффективной работы.
Альтернативным вариантом является установка второй RTX 3090. Это позволит увеличить вычислительную мощность системы и распараллеливать задачи между двумя графическими картами, что может значительно улучшить производительность в некоторых сценариях.
В заключение, данная архитектура домашнего AI-сервера с разделением на Control Plane и Worker Plane позволяет обеспечить непрерывную работу автоматизации и критически важных задач даже при длительных отключениях электроэнергии. Использование маломощного Ubuntu мини-сервера и мощного стационарного компьютера, а также реализация механики автоподъема и отказоустойчивости делают систему надежной и масштабируемой.
Добавить комментарий