문제점은 개선이 필요합니다.

하지만, 서버 기반 VMS에는 아직 해결해야 할 몇 가지 문제점이 있습니다.

1. 디스크 어레이에서 실패한 디스크를 다시 구축하는 데 시간이 너무 오래 걸립니다.데이터 손실 위험은 디스크의 크기와 함께 증가합니다. VMS 서버가 내부 저장소 또는 외부 저장소 시스템을 사용하더라도, 데이터 손실을 방지하기 위해 RAID 컨트롤러를 사용합니다. 디스크 드라이브가 고장나면, 디스크 어레이 컨트롤러는 예비 드라이브로 파일을 다시 구축하는 데 매우 오랜 시간이 걸립니다.재구축 시간과 재구축 실패 가능성은 디스크의 크기에 비례합니다.오늘날, 가장 큰 하드 드라이브는 16TB이며 곧 20TB 드라이브가 출시될 것입니다.작은 크기의 디스크를 사용하면 저장 서버의 총 비용이 증가합니다.
2. 디그레이드 재구성 모드 중에는 저장소 처리량이 큰 영향을 받습니다.
3. 전통적인 서버는 큰 장애 영역을 가지고 있습니다. 서버가 고장나면 서버 내의 모든 동영상에 접근할 수 없거나 심지어 손실될 수 있습니다.서버에 더 많은 디스크가 설치되면, 서버가 실패할 때 동시에 더 많은 비디오 파일이 손실됩니다.
4. VMS는 유연한 하드웨어 아키텍처를 갖추지 못하고 있습니다.

소프트웨어 정의 저장소와 Arm 마이크로서버를 이용한 Network Optics Nx Witness 비디오 관리 시스템을 사용하세요

이 글에서는 Ambedded의 소프트웨어 정의 저장장치와 Arm 기반 마이크로서버가 Network Optics의 VMS 소프트웨어를 통합하여 현재 솔루션에서 발생하는 문제들을 어떻게 해결하는지를 소개하겠습니다.

소프트웨어 정의 저장장치

Ambedded의 소프트웨어 정의 스토리지 Mars 400 Ceph Storage 어플라이언스는 기업을 위한 턴키 소프트웨어 정의 스토리지 솔루션입니다.이 기기는 ARM 기반 마이크로서버와 저장소 소프트웨어 Ceph 및 웹 사용자 인터페이스를 통합합니다.Mars 400는 객체, 블록 및 파일 시스템을 지원하는 통합 스토리지 클러스터를 제공합니다.이는 우수한 성능, 신뢰성 및 확장성을 제공하기 위해 설계되었으며, 단일 장애 지점이 없고 최소한의 장애 도메인을 가지고 있습니다.

Nx Witness 비디오 관리 시스템 및 Nx 서버

Nx Witness VMS는 오픈 IP 비디오 관리 시스템(IPVMS)으로, IP 비디오 카메라를 찾고, 보고, 녹화하고, 관리하는 것뿐만 아니라 3rd 파티 시스템과 장치와 빠르게 통합할 수 있도록 설계되었습니다. Nx Server 애플리케이션은 경량이면서도 강력한 미디어 서버로, Nx Witness 시스템 장치와 데이터를 발견하고 관리하는 역할을 담당합니다. Nx Server는 IP 카메라에서 비디오를 내부 또는 외부에 연결된 저장소에 기록합니다. 서버 하이브 아키텍처를 갖추어 단일 장애 지점이 없도록 보장합니다.

암 마이크로서버 아키텍처

마이크로서버 플랫폼은 1U 샤시에 8개의 쿼드 코어 ARM 64비트 서버 모듈을 수용합니다. 샤시 내 두 개의 중복 스위치는 수평 확장 및 클라이언트 액세스를 위해 4x10 Gbps 업링크를 제공합니다. 각각의 ARM 마이크로서버 모듈은 애플리케이션 소프트웨어를 위한 전용 CPU, 메모리, 스토리지 및 네트워크 인터페이스 리소스를 소유한 독립적인 Linux 서버입니다.

마이크로서버 아키텍처는 단일 장애 지점이 없어 더 큰 접근성을 제공합니다. 각 마이크로서버 노드는 스토리지 클러스터의 스토리지 노드 또는 VMS 클러스터의 VMS 서버 노드로 구성될 수 있습니다.

마이크로서버가 저장 노드로 구성되면, 다른 저장 노드와 함께 작동하기 위해 Ceph 저장 클러스터에 참여합니다. 마이크로서버를 Nx 서버로 구성하면 VMS 서버로 작동하며, 저장된 비디오 파일을 저장하기 위해 스토리지 클러스터에서 가상 디스크를 마운트합니다. 이는 필요한 수의 Nx 서버와 Ceph 스토리지 서버를 모두 Mars 400 마이크로서버에 유연하게 배치할 수 있다는 것을 의미합니다. 마이크로서버의 장점으로 인해, 작은 증가로도 감시 시스템을 유연하게 확장할 수 있습니다.

하드웨어 장애에 대비하여 소프트웨어 정의 스토리지가 데이터를 보호하고 복구하는 방법

Ceph 스토리지는 RAID 컨트롤러 대신 복제 또는 손상 코드 알고리즘을 사용하여 데이터 손실을 방지합니다. 이레이저 코딩은 디스크 어레이의 RAID 5 또는 RAID 6과 유사하지만 현재 더 많은 디스크 장애를 허용하는 더 큰 유연성을 가지고 있습니다. 디스크 드라이브 장애뿐만 아니라 서버 장애, 랙 장애 및 어떤 규모의 장애 도메인으로부터 데이터를 보호할 수 있습니다. 데이터 또는 비디오 파일은 먼저 객체로 변환되고 각 객체는 여러 데이터 청크로 분할되어 중복 청크가 계산됩니다. 저장 서버는 데이터와 중복 청크를 저장 클러스터의 다른 저장 서버에 분산하여 저장합니다. 스토리지 서버가 고장나면 해당 서버에 저장된 모든 데이터를 복구해야 합니다. 모든 건강한 서버와 디스크에서 데이터 복구가 이루어집니다. 그리고, 잃어버린 청크만 다시 복구하면 되고 전체 디스크를 다시 빌드할 필요가 없습니다.

RAID 저장 시스템과 비교하여 분산 소프트웨어 정의 저장소의 세 가지 주요 장점이 있습니다.

1. 데이터는 하나 이상의 서버 노드가 고장 나더라도 살아남을 수 있습니다.
2. 데이터 재회복은 RAID보다 훨씬 빠릅니다. 클러스터의 모든 건강한 디스크가 병렬로 데이터 회복을 도와주고, 손실된 데이터만 회복이 필요합니다. 클러스터에 더 많은 디스크가 있다면 회복 속도가 더 빨라집니다. 36개 드라이브 클러스터에서 60% 사용률의 10TB 드라이브 하나를 잃는 실험은 2.5일이 걸렸습니다. 이 실험 규모에서의 회복 속도는 28.5MB/s입니다. (Clay Erasure code 4+2 프로필)
3. 리힐 중에는 비디오 녹화가 중단되지 않습니다.
4. Ceph 스토리지 클러스터에서 16TB HDD와 같은 대용량 디스크 드라이브를 사용하여 더 적은 서버로 동일한 용량을 얻을 수 있습니다.

한 대의 마이크로서버는 몇 개의 카메라 녹화를 지원할 수 있나요?

Ambedded에서 Nx 서버를 스트레스 테스트하기 위한 테스트 환경을 구축했습니다. 마스 400 마이크로서버. 실험은 먼저 서버를 사용하여 IP 카메라를 시뮬레이션하여 Arm 마이크로서버로 비디오 스트리밍을 수행했습니다. 비디오 스트림 형식은 H.264이며, 초당 30프레임의 고품질 1080p입니다. Arm VMS 서버는 가상 디스크를 저장 장치로 마운트합니다. 테스트 결과에 따르면 한 대의 마이크로서버는 비디오 프레임을 잃지 않고 최대 30개의 카메라를 기록할 수 있습니다. 가상 디스크가 가득 찬 상황에서도 테스트가 진행됩니다. 이는 8개의 마이크로서버를 수용하는 1U 마스 400이 240개의 고화질 비디오 카메라를 지원할 수 있다는 것을 의미합니다. 이는 8개의 마이크로서버를 수용하는 1U 마스 400이 최대 240개의 고화질 비디오 스트림을 지원할 수 있다는 것을 의미합니다. 1U 서버를 사용하여 이런 위업을 달성하는 것은 대단한 성과입니다. 전력 소비는 단지 100 와트뿐입니다.

실제 IP 카메라를 사용한 테스트

다른 테스트에서는 실제 환경에서 50개의 IP 카메라를 사용하여 테스트를 진행합니다.

장비 목록:

• IP 카메라: 유선 25대, 무선 25대
• Mars 400Nx 서버: 1U에 8개 노드. 4코어 Arm A72, 4GB RAM 및 2x 2.5Gbps LAN
• Nx 서버: Mars 400Nx Arm 노드 3개,

♦ 3개의 노드는 녹화 및 재생을 위해 활성화되어 있습니다. 각 노드에는 한 노드 장애 대비를 위한 여분의 리소스가 있습니다.

• 저장소:

♦ 데이터 보호: erasure code 4+2, 동시에 최대 2개의 하드 드라이브 장애 허용

♦ Ceph 서버: Ceph OSD용 마이크로서버 21대 + Ceph 모니터용 마이크로서버 3대

♦ 하드 드라이브: 21개의 16TB Seagate Exos Enterprise SATA HDD. 224TB가 사용 가능합니다.

• 네트워크:

♦ 4개의 10Gb 포트를 가진 Mars 400Nx 4대

♦ 카메라용 1개의 Gb 스위치

♦ 무선 액세스 포인트 2대

녹화 및 재생 중에는 CPU 자원의 150%만 사용됩니다. 최대 사용 가능한 CPU 자원은 400%입니다. 그림 1을 참조하세요.

그림 1: Nx 서버 노드 CPU 사용량

각 노드에는 총 4GB의 메모리가 있습니다. 1GB의 메모리는 예비 용도로 예약되어 있습니다. 테스트 중에 사용된 메모리 양은 약 2.8GB입니다. 서버 노드는 최대 30개의 카메라를 안정적으로 지원할 수 있습니다.

그림 2: Nx 서버 노드 미사용 메모리

테스트 중의 네트워크 트래픽은 다운로드 시 약 150Mbps, 업로드 시 130Mbps입니다. 2개의 2.5Gb 네트워크 대역폭은 실제 트래픽보다 훨씬 높습니다.

그림 3: Nx 서버 노드 네트워크 트래픽

VMS 서버 노드 장애 조치

네트워크 광학 VMS 서버에는 자동 서버 장애 조치 기능이 있어서 정상적인 VMS 서버가 실패한 Nx VMS 서버에서 카메라를 연결할 수 있습니다. 우리의 테스트에서는 Nx VMS 서버로 세 개의 마이크로서버를 설정했습니다. 이들은 총 90개의 카메라를 처리할 수 있습니다. 정상적인 상태에서는 테스트 중인 50개의 카메라가 세 개의 서버에 균등하게 연결됩니다. 우리는 서버를 오프라인으로 시뮬레이션하기 위해 끕니다. 실패한 서버에 연결된 18개의 카메라가 약 1분 정도에 걸쳐 자동으로 다른 두 개의 서버에 재연결되는 것을 증명합니다.

이는 Nx VMS 서버에 마이크로서버 솔루션을 사용하는 것을 의미합니다. 장애 조치를 위해 1/8 크기의 1U Mars 400Nx 서버만 필요합니다. 대형 노드 서버와 비교하여, 마이크로서버 아키텍처는 장애 조치 설정을 위해 한 대의 서버 비용을 절약할 수 있습니다.

디자인 예시

프로젝트 요구 사항

1. 카메라 수: 200대
2. 1080p, 고품질, 30 FPS 당 카메라 비트레이트: 4.87Mbps
3. 하루에 녹화하는 시간: 16시간
4. 녹화 기간: 60일

서버 요구 사항 계산

1. 필요한 총 사용 가능한 저장 용량: 411TB
2. 4+2의 이레이저 코드를 사용하는 경우 필요한 총 원시 용량: 678TB
3. 하드 드라이브 용량: 16 TB
4. 필요한 하드 디스크 수: 43개의 HDD
5. 저장을 위해 필요한 노드 수 (Ceph OSD): 43개
6. Ceph 모니터 노드: 3개
7. 200개 카메라에 대한 Nx 서버 노드: 200/30 = 7개의 노드.
8. NxServer 장애 조치용 예비 노드: 1개의 노드
9. 필요한 총 마이크로서버 노드: 43 + 3 + 7 + 1 = 54개의 노드
10. 필요한 총 Mars 400Nx: 54/8 = 7x 1U Mars 40Nx
11. 예비 노드: (7 x 8) - 54 = 2개의 노드
12. HDD 제외한 서버의 총 전력 소비량: 7 x 100 와트 = 700 와트

결론

Ambedded Mars 400Nx는 Nx VMS 서버와 소프트웨어 정의 스토리지를 결합하여 다음과 같은 장점을 가지고 있습니다:

1. Mars 400Nx의 소프트웨어 정의 스토리지는 디스크 장애뿐만 아니라 서버 장애에 대해서도 데이터를 보호할 수 있습니다.
2. 디스크 장애가 발생하면 Mars 400Nx는 모든 건강한 드라이브를 통해 데이터를 병렬로 다시 복구합니다. 이는 RAID 컨트롤러와 비교하여 4~5배 더 빠릅니다.
3. Mars 400Nx는 데이터 복구 중에도 비디오 녹화와 재생을 유지할 수 있습니다.
4. Mars 400Nx 스토리지 클러스터에는 대용량 디스크 드라이브를 사용하여 저장 시스템의 총 비용을 줄일 수 있습니다.
5. 1U Mars 400Nx VMS 서버는 최대 240개의 1080p 카메라를 지원할 수 있습니다. 저장 및 VMS 서버의 유연한 조합으로 VMS 시스템을 설계할 수 있습니다.
6. Mars 400Nx Arm 서버는 x86 서버와 비교하여 전력 소비량을 70% 절약합니다.

Ambedded에 대하여

Ambedded는 리눅스 운영체제, 커널, 소프트웨어 정의 스토리지, 임베디드 시스템 및 Arm 서버에 대한 전문 지식을 가진 소프트웨어 정의 스토리지 회사입니다.

Ambedded의 비전은 Ceph 소프트웨어 정의 스토리지의 사용을 쉽게 만들어 기업이 Ceph를 더 짧은 학습 곡선으로 이용할 수 있도록 하는 것입니다.

Ambedded는 사용자 인터페이스를 쉽게 제공하고 사용 준비가 된 스토리지 어플라이언스, 안정성 및 성능 튜닝, 자동화 배포, 그리고 전문적인 지원을 통해 Ceph를 간단하게 만듭니다.

특별 제작된 Ceph 장치로, Ambedded 팀은 다양한 산업, 예를 들어 통신, 의료, 군사, 엣지 데이터 센터 및 고가용성 스토리지가 필요한 기업들이 우리의 Ceph 솔루션을 채택하는 데 도움을 주는 폭넓은 경험을 보유하고 있습니다.

Ambedded 웹 사이트에서 자세한 내용을 확인하세요.

네트워크 광학에 대해

Network Optix는 혁신적인 비디오 관리 솔루션을 만드는 소프트웨어 개발 회사입니다. 저희 핵심 제품인 Nx VMS는 오픈, 가벼운, 맞춤 설정 가능한 비디오 관리 플랫폼으로 오프라인 미디어, 실시간 비디오 스트림, 통합된 제3자 시스템 및 장치를 관리할 수 있습니다. Nx VMS는 무료 라이브 스트리밍 플랫폼입니다 - 클라우드 기능이 활성화되어 있으며 원격으로 접근할 수 있으며 어떤 크기에도 확장 가능하며 IP 비디오 카메라의 녹화 및 검색이 필요한 경우에만 라이선스가 부여됩니다. Nx VMS는 개발자들을 위해 열려 있으며, 포괄적인 API 및 SDK 문서가 내장되어 있으며 무료로 사용할 수 있습니다. 이를 통해 조직 또는 개인은 수직 시장이나 프로젝트에 맞는 자체 비디오 기반 애플리케이션을 만들 수 있습니다.

감사의 말씀

이 프로젝트에 사용된 Exos X16 엔터프라이즈 하드 드라이브와 IP 카메라를 제공해준 Seagate 및 Network Optix에게 감사드립니다.

참고:

• 2019년에 왜 RAID가 작동을 멈추게 되었을까요, Robin Harris 에 의해 Storage Bits
  https://www.zdnet.com/article/why-raid-6-stops-working-in-2019/

• 왜 최고의 RAID 구성은 RAID 구성이 아닌 것인가 게스트 블로거 → https://blog.shi.com/hardware/best-raid-configuration-no-raid-configuration/