우리는 제조에서 자동차, 금융업에서 소매, 스마트 도시에서 의료에 이르기까지 다양한 산업의 엣지 디바이스에서 페타바이트 규모의 데이터가 생성되는 시대에 살고 있습니다. 기업은 사물 인터넷(IoT) 실시간 분석을 사용하여 데이터에서 가치를 도출함으로써 혁신을 도모하며 총 비용을 최소화하며 경쟁력을 유지할 수 있는 방법을 지속적으로 찾고 있습니다. IoT는 우리가 비즈니스를 수행하는 방식에 대한 근본적인 재고를 요구하며 올바른 디지털 인프라와 운영 전략을 사용하는 데 영향을 미치고, 최고의 애플리케이션 세트를 사용하여 빠르고 분석적인 통찰력을 제공합니다. 기업은 데이터를 활용하여 비즈니스 효율성과 최적화를 높이고 고객 만족도를 높이며 시장에서 차별화되는 새로운 서비스 및 기타 가치 제안에 투자하는 엄청난 가치를 목격하고 있습니다. 물론 기업이 전통적인 비즈니스 모델에서 데이터 중심의 사업 체계로 이동해 나아가는 것은 쉽지 않게 느껴지더라도 분명 도전할 만한 가치가 있습니다. 강력한 기능을 만들어내며 최상의 결정을 내리고 다른 대안으로는 발견하지 못했을 기회를 선사합니다.
SAS는 IoT, 인공 지능(AI) 및 머신 러닝(ML) 분야의 끊임없는 혁신을 이뤄내며 고급 예측 분석 소프트웨어 솔루션의 선구자로서 기업이 데이터에서 발견, 배포에 이르는 분석의 전체 수명 주기를 포괄하는 혁신적인 결과를 달성할 수 있도록 지원합니다. SAS Analytics와 Microsoft Azure를 통합하면 타의 추종을 불허하는 클라우드 네이티브 기능, 고급 대규모 인프라에 대한 온디맨드 액세스, 보장된 고성능, 엣지-클라우드 및 클라우드-엣지 통신을 위한 다양한 통합 관리형 서비스 및 향상된 가시성 및 보안 및 규정관리 대한 설명 등을 제공합니다.
고장난명
SAS와 Microsoft Azure는 이상적인 엣지-클라우드 IoT 실시간 스트리밍 분석 플랫폼을 제공하여 IoT 데이터를 활용하고 엣지, 게이트웨이 또는 클라우드에서 바로 분석을 수행합니다. 이들은 엣지 디바이스에 연결하기 위해 엔드투엔드 확장이 가능하고 강력한 플랫폼을 제공합니다. IoT 데이터를 준비, 정리 및 관리합니다. 가치 있는 인사이트를 얻어 지능적인 결정을 내리기 위해 온디멘드 컴퓨팅으로 분석 모델을 개발 및 배포합니다. 기업이 데이터를 비즈니스 자산으로 수익화하고 Microsoft Azure 클라우드에서 실행되는 중앙 관리 분석을 활용할 수 있는 엄청난 잠재력을 선보입니다.
엣지 투 클라우드 IoT 실시간 스트리밍 분석
그림 1은 Azure Edge 스트리밍 데이터에서 Azure에 배포된 SAS 스트리밍 분석에 이르기까지 SAS 및 Microsoft Azure로 구동되는 엣지 투 클라우드 IoT 실시간 스트리밍 분석 파이프라인을 보여줍니다. 파이프라인은 세 가지 주요 목록(빌딩 블록)과 각 기능을 설명합니다.
<그림 1: SAS 및 Microsoft Azure를 기반으로 하는 엣지 투 클라우드 IoT 실시간 스트리밍 분석 파이프라인>
1. Edge Analytics: 다양한 엣지 디바이스에서 데이터 수집, 엣지 내 분석, 클라우드 게이트웨이를 통한 클라우드 연결을 통해 스트리밍 데이터를 전송
2. 클라우드 분석: 엣지를 통해 수신한 스트리밍 데이터 수집, 스트리밍 및 저장 데이터를 사용하여 실시간 스트리밍 분석 수행, 클라우드 네이티브 서비스 활용
3. 조치: 소비자가 데이터 기반 통찰력을 제공하고 필요한 작업을 수행할 수 있도록 비즈니스 애플리케이션을 보호
이 세 가지 사안과 관련된 SAS 및 Microsoft Azure의 다양한 구성 요소에 대해 소개합니다.
Edge Analytics
엣지 디바이스의 수천 개에 달하는 센서가 모든 단일 시점에서 데이터 및 이벤트를 생성하고 있습니다. Edge Analytics는 이벤트가 발생하는 즉시 처리 및 조치를 취할 수 있도록 합니다. 웨어러블 디바이스, 스마트 차량, 카메라 등과 같은 다양한 엣지 디바이스에는 컴퓨팅 리소스가 장착되어 있지만 일부 엣지 디바이스는 연결된 엣지 게이트웨이로 데이터를 전송해야 합니다. 엣지 게이트웨이는 모든 엣지 디바이스의 허브로 간주됩니다. 엣지 게이트웨이는 엣지에 관한 통신 및 보안을 관리합니다. 엣지 게이트웨이를 통한 통신으로 엣지 디바이스의 보안 노출을 줄일 수 있습니다. 엣지 게이트웨이는 또한 엣지와 클라우드 리소스 간의 간헐적인 연결을 관리합니다. SAS ESP(Event Stream Processing)는 엣지 디바이스와 엣지 게이트웨이 모두에 배포되여 실시간으로 업무를 처리합니다. Azure는 다양한 게이트웨이 프로토콜을 사용하여 디바이스 연결을 지원하는 강력한 IoT Edge 플랫폼을 제공합니다.
엣지-투-클라우드 IoT 실시간 스트리밍 분석의 상위 수준 참조 아키텍처 내 Edge Analytics 블록은 그림 2과 같습니다.
엣지 내 SAS ESP(Event Stream Processing)
SAS Event Stream Processing (ESP)는 실시간 스트리밍 분석을 수행하여 엣지와 클라우드에서 귀중한 인사이트를 발굴하여 실시간으로 지능적인 결정을 내립니다. 짧은 대기 시간으로 초당 수백만 개의 이벤트를 대량으로 처리할 수 있습니다. SAS ESP는 클라우드 및 엣지와 완전히 통합되어 대용량, 속도 및 다양한 스트리밍 데이터를 처리하고 몇 초 만에 우수한 결정을 내리는 강력한 실시간 스트리밍 분석 솔루션입니다. 엣지에서 분석 및 머신러닝 모델을 실행할 수 있는 기능을 제공하므로 대역폭 비용을 줄이고 모든 이벤트를 클라우드로 스트리밍하는 것을 방지하며 더욱 빠른 의사 결정을 내릴 수 있습니다. 분석 및 머신러닝 모델은 클라우드에서 관리되고 Azure IoT Hub를 통해 엣지로 푸시됩니다. SAS ESP Edge는 다양한 엣지 디바이스에서 이벤트를 가져오기 위해 필요한 모든 라이브러리, 바이너리 종속성, 플러그인, 커넥터 및 어댑터와 함께 컨테이너에 배포됩니다.
Azure IoT Edge
간단히 말해서 Azure IoT Edge는 클라우드로 전송되기 전에 데이터를 연결하고 스트리밍하는 IoT 엣지 게이트웨이의 엣지 컴퓨팅 성능을 활용하는 솔루션을 구축하는 기술입니다. 클라우드의 엣지 디바이스 및 Azure IoT Hub와의 양방향 통신을 위해 설계되었습니다. Docker와 함께 엣지 게이트웨이에 설치되는 IoT Edge Runtime으로 구성되어 있습니다. Azure Services 및 타사 서비스를 실행하는 컨테이너인 IoT Edge 모듈을 실행하기 위해 docker를 활용하며, 여기에서 SAS ESP Edge 또한 docker 컨테이너에서 실행됩니다. IoT Edge 모듈이 최신 상태로 정상 작동 중이며 클라우드와의 통신이 원활하게 이루어지도록 합니다. IoT Edge Runtime은 디바이스 관리, 자동 프로비저닝, 자동 배포 및 통신 작업을 위해 Azure IoT Hub와 연결됩니다. IoT 엣지 디바이스와 클라우드의 가교 역할을 합니다.
<그림 2: IoT 실시간 스트리밍 분석의 상위 수준 참조 아키텍처>
클라우드 분석
Cloud Analytics는 클라우드 지원 IoT를 위한 공간입니다. Azure는 SAS 고급 분석을 실행하여 대량의 이벤트를 처리하며 저장 및 데이터 관리를 수행하고, 모니터링 및 시각화가 가능한 플랫폼을 제공합니다. 그림 2에서 볼 수 있듯이, 클라우드 분석 블록 아키텍처에는 다음을 포함하고 있습니다.
1. Azure IoT 허브
2. 스트리밍 수집
3. SAS ESP(Event Stream Processing)를 통한 실시간 스트림 처리
1. Azure IoT 허브
Azure IoT Hub는 IoT 엣지 디바이스, 엣지 게이트웨이, 클라우드에서 실행되는 서비스 및 애플리케이션 간에 안정적이며 안전한 씽방향 통신을 제공하는 확장 가능한 관리형 클라우드 서비스입니다. 엣지에 엣지 게이트웨이가 장착되어 있는 것과 같은 역할을 합니다. IoT Hub는 클라우드에서 보안 및 통신 관리를 하기 위해 Edge의 모든 통신을 위한 브로커 역할을 합니다.
IoT Hub는 클라우드에서 디바이스를 제어하며 디바이스 상태를 모니터링하기 위해 다양한 메시징 패턴을 지원합니다. 모든 디바이스를 IoT Hub에 연결할 수 있습니다. 그 중 일부 기능은 다음과 같습니다.
1.확장성: IoT Hub는 초당 수백만 건의 IoT 워크로드를 지원하고 처리할 수 있도록 확장
2.고가용성: 99.9% SLA(Service Level Agreement) 보장 제공
3.보안 통신: 디바이스별 토큰 기반 인증 또는 X.509 인증서를 사용하여 디바이스를 IoT Hub에 안전히 연결
4.라우팅: 별도의 추가 비용 없이 여러 엔드포인트로 기본 제공되는 노 코드 규칙 기반 메시지 라우팅
5.다른 서비스와의 통합: Event Hub, Machine Learning, Event Grid 등과 같은 Azure 서비스와의 원활한 통합
6.디바이스 구성 및 모니터링: 디바이스의 메타데이터 및 상태 정보를 저장하고 쿼리하며 디바이스 구성 및 연결 및 메시지 라우팅 모니터링
7.언어 지원: 다양한 언어 및 플랫폼을 지원하는 라이브러리 포함
8.연결 디바이스 프로토콜 지원: HTTPS, AMQP, WebSocket을 통한 AMQP, MQTT, WebSocket을 통한 MQTT 및 Azure IoT Edge 및 Azure IoT 프로토콜 게이트웨이 등의 사용자 지정 프로토콜에 대한 옵션을 제공하며 device streams을 통해 다른 프로토콜에 프록시
2. 스트리밍 수집
스트리밍 수집의 경우 Azure IoT Hub는 다중 이벤트 스트림을 다음 중 하나로 전송하도록 구성됩니다.
1.Azure Event Hub 동적 파이프라인을 구축하기 위한 확장 가능하고 안정적이며 훌륭한 처리량을 가진 분산 실시간 데이터 수집 통합 관리형 서비스
2.Apache Kafka 완전 관리형 또는 원격 관리형 서비스
3 AKS(Azure Kubernetes Services) 클러스터에서 실행되는 SAS ESP 서버에 직접 연결
항상 SAS ESP는 pub/sub 커넥터를 통해 데이터를 수집합니다. 즉, IoT Hub, Event Hub 또는 Kafka에 연결하여 SAS ESP 서버 Kubernetes 포드로 이벤트를 전달합니다. ESP 커넥터를 사용하면 클라우드 리소스와의 기본 통합이 가능합니다. Azure IoT Hub, Azure Event Hub 및 Kafka는 대용량 스트리밍 이벤트를 SAS ESP 서버에 수집, 처리 및 배포합니다. 데이터 손실 없는 안정적인 전송 보장, 정확히 처리, 일일 테라바이트의 이벤트를 처리하도록 확장 및 축소되는 탄력적 클러스터로 고가용성을 제공합니다. 또한 주제, 파티션 및 소비자 그룹과 같은 주요 아키텍처 구성 요소는 SAS ESP 서버가 런타임에 자동 확장되도록 합니다.
3. SAS ESP(Event Stream Processing)를 통한 실시간 스트림 분석
SAS ESP(Event Stream Processing)를 Edge와 클라우드 모두에 배포할 수 있다는 것을 이미 유명합니다. 다양한 AI 혹은 ML 및 스트리밍 알고리즘을 완벽히 지원하여 엣지 및 클라우드 전반에 걸친 다단계 모델 배포 분석을 제공합니다. 개발을 위한 다양한 언어를 지원하는 시각적 인터페이스가 있는 유연하고 개방된 모델링 로우 코드 환경을 갖추고 있습니다.
SAS ESP는 클라우드에서 Kubernetes와 통합되며 탄력성, 유연성, 탄력성, 장애 조치를 통한 고가용성 및 기타 분산 서비스와 같은 클라우드 네이티브 서비스를 활용합니다. SAS ESP with Kubernetes repository는 즉시 사용 가능합니다. 이 아키텍처에서 SAS ESP 및 모든 웹 클라이언트는 통합 관리형 AKS(Azure Kubernetes Services) 클러스터에 배포됩니다. 멀티 테넌시는 Kubernetes 네임스페이스를 통해 이뤄지며 다중 사용자 계정 및 액세스의 경우 CloudFoundry User Account and Authentication (UAA) 또는 타사 도구를 구성할 수 있습니다. SAS ESP 패키지에는 UAA 배포가 디폴트로 포함됩니다.
<그림 3: SAS ESP 패키지 구성>
SAS ESP 패키지에는 AKS 클러스터에 배포된 구성을 포함하여 그림 3에 표시된 구성 요소가 포함되어 있습니다.
1.SAS ESP Operator는 SAS ESP 서버 포드의 오케스트레이터입니다. Kubernetes 클러스터에서 실행 중인 ESP 서버 포드를 시작, 중지, 업데이트, 삭제 등과 같은 작업을 합니다. 오픈 소스 Kubernetes Operator API를 사용하여 구축됩니다.
2.세 가지 그래픽 사용자 인터페이스 -
SAS Event Stream Processing Studio ESP 프로젝트 설계, 개발 및 테스트
SAS Event Stream Manager (ESM) 통합 ESP 프로젝트 배포 및 관리. SAS ESP Metering Server는 AKS 클러스터의 ESP 서버 포드에서 발생하는 모든 이벤트를 자동 기록. SAS ESM에서 액세스됨
SAS Streamviewer 맞춤형 대시보드를 통해 ESP 프로젝트를 통해 스트리밍되는 이벤트를 모니터링하고 시각화
모든 웹 기반 클라이언트는 Kubernetes 클러스터와 실행되는 ESP 서버 포드를 파악합니다. CPU 및 메모리 요구 사항과 같은 ESP 서버 포드의 배포 설정과 ESP 프로젝트의 영구 볼륨은 SAS ESP Studio 및 SAS ESM에서 구성할 수 있습니다. SAS ESM을 통해 각 ESP 프로젝트에 대한 자동 크기 조정 매개변수를 정의할 수 있습니다. 커맨드 라인에서 직접 해당 설정을 수정할 수 있습니다. 각 ESP 서버 Kubernetes 포드는 ESP 프로젝트를 하나만 단독 실행합니다.
Nginx Ingress Controller 및 Azure Load Balancer 는 신규 요청 트래픽을 Kubernetes 클러스터의 올바른 애플리케이션 포드로 쉽게 전달합니다.
SAS ESP는 AI 및 ML, 고급 분석, 비즈니스 인텔리전스 기능이 모두 포함된 확장 가능한 IoT 솔루션인 SAS Analytics for IoT (AIoT)와 상호작용합니다. 센서 데이터에 대한 유연한 데이터 모델을 제공합니다. 비즈니스 중심 데이터 선택 사용자 인터페이스를 통해 더 빠른 가치 창출을 위한 간소화된 ETL 작업과 더불어 저장 데이터와 스트리밍 데이터 모두에 대한 분석 모델을 등록, 수정, 추적, 배포, 스코어링, 통제, 모니터링 및 보고하기 위한 간소화된 모델 관리 및 실행을 하기도 하며 기타 SAS 솔루션, SAS Visual Analytics, SAS Visual Data Mining & Machine Learning, SAS Studio 및 쉼표로 구분된 파일용 런처와도 관련이 있으며, SAS 또는 타사 솔루션과 통합하기 위한 공용 API 등이 해당됩니다. SAS AIoT는 또한 완전한 클라우드 통합과 함께 컨테이너를 배포합니다.
시각화 및 모니터링을 위한 스토리지 및 실시간 대시보드
SAS ESP는 Azure의 완전 관리형 영구 볼륨에서 타사 데이터베이스에 이르기까지 다양한 스토리지를 사용합니다.
1. SAS ESP 서버 포드는 공유 Azure 파일 시스템을 사용하여 ESP 프로젝트에 필요한 입출력 파일, ASTORE 모델 등을 실행
2. ESP 프로젝트 메타데이터 관리용 PostgreSQL DB에서 사용하는 Azure 디스크
3. SAS ESP는 또한 커넥터, 어댑터 및 플러그인을 통해 Aerospike, Teradata, DB2, ODBC, Oracle 등과 같은 데이터베이스와 연결하여 다양한 요구 사항을 충족할 수 있습니다. 예를 들어, NoSQL Aerospike는 조회 데이터를 저장하고, 유지율이 높은 대용량 데이터에 대한 집계를 계산하고, ESP 서버 포드의 상태를 일시적으로 유지하는 데 활용됩니다.
Microsoft Azure는 리소스와 관련하여 수준 높은 보고, 시각화, 추적 및 모니터링을 위한 다양한 실시간 대시보드 도구를 위한 플랫폼을 제공합니다. Power BI, SAS Streamviewer, Grafana 및 Prometheus가 그에 속합니다. Power BI는 데이터를 분석하고 통찰력을 공유하기 위한 비즈니스 분석 도구 모음입니다. AKS 클러스터의 리소스를 모니터링하기 위해 실시간 메트릭을 Prometheus에 노출하도록 SAS ESP를 구성할 수 있습니다. 메트릭을 수집하여 향후에 사용하도록 시계열 데이터베이스에 저장합니다. Grafana가 Prometheus에서 직접 데이터를 수집할 수 있도록 하는 내장 데이터 소스 플러그인이 있는 Prometheus Operator를 사용합니다. Grafana를 다루어 공유 가능한 맞춤형 대시보드를 생성할 수 있습니다.
작업
작업을 통해 모바일 또는 웹 애플리케이션을 통해 비즈니스 사용자가 데이터 기반의 귀중한 인사이트를 손쉽게 사용할 수 있습니다. 모든 SAS 솔루션에는 공용 REST API가 포함되어 있어 다른 애플리케이션과 원활히 통합됩니다. 비즈니스 사용자는 배포된 모델의 성능과 비즈니스 영향을 지속적으로 모니터링하여 개선된 비즈니스 결과를 도출하도록 합니다.
기능
클라우드 지원 탄력성 및 확장성
SAS ESP는 수신되는 스트리밍 데이터의 수신 볼륨과 속도를 개선하기 위해 사용 가능한 리소스를 사용하여 확장하도록 구축되었습니다. SAS ESP는 수평 및 수직 런타임 탄력성, 즉 Azure의 즉각적인 자동 조정 기능을 활용합니다. Azure의 분산된 데이터 센터는 고객에게 더 가까이 분석을 배포하도록 개선하여 대기 시간을 줄이고 서비스 품질을 개선하며 고성능을 보장합니다. 확장 가능한 SAS 모델은 더욱 폭넓은 분석을 제공합니다.
확실한 장애 조치를 통한 복원력
SAS ESP 아키텍처는 고가용성과 안정성을 제공하도록 설계되었습니다. 장애 조치 및 복구 시스템은 쉽고 빠른 설정을 가지고 있으며 관리 또한 용이합니다.
전체 컨테이너 지원
SAS 분석 솔루션은 클라우드 서비스 통합으로 완전히 컨테이너화되어 클라우드 인프라에서 강력한 분석을 실행할 수 있는 속도, 민첩성 및 지원을 제공합니다. Docker 사용을 지원하는 모든 플랫폼에서 빠르고 쉽게 배포할 수 있습니다. 단 한 번의 빌드를 통해 수 차례 배포가 가능합니다. SAS는 특정 SAS 제품의 기본 이미지를 기반으로 사용자 정의 구성을 지원합니다.
거버넌스 및 운영
SAS는 엣지-투-클라우드 및 클라우드-투-엣지 강력한 실시간 스트리밍 분석 솔루션을 제공하는 반면 Azure는 적절한 인프라, 서비스 및 애플리케이션의 연결성, 상호 운용성 및 유지 관리성을 선사합니다. 두 서비스의 협력으로 비용 효율적인 분석 플랫폼을 마련했으며 비즈니스 사용자에게 컨텍스트 데이터와 결합된 스트리밍 데이터에 직접 액세스하고 전체 분석 수명 주기를 제공할 수 있게 되었습니다. 의사 결정 지원을 위한 비즈니스 규칙에 분석 모델을 포함하여 분석 기반의 자동화된 의사 결정을 내립니다.
추가 리소스
SAS Event Stream Processing
SAS Analytics for IoT
SAS & Microsoft Partnership
SAS and Microsoft partner to further shape the future of analytics and AI
SAS Event Stream Processing Documentation
SAS Event Stream Processing Kubernetes Repository
SAS Event Stream Processing with Kubernetes Video
SAS Event Stream Processing Kubernetes Operator Framework Video
SASSoftware YouTube Channel
SAS Developers Community
... View more