Editorial Board

세 가지 유형의 센서 노이즈(즉, 컬러 노이즈, 상태 종속 노이즈, 상관관계 노이즈)를 갖는 선형화된 이산시간 시스템은 다음과 같이 구성된다.

where

여기서 xk∈Rn 및 yk∈Rm는 이산시간 k에서의 각각 상태 및 측정값이다. F_k는 역학 모델의 자코비안 행렬이고, H_k는 센서 모델의 자코비안 행렬이다. 이 논문은 센서 시스템에만 관심이 있기 때문에, F_k는 모델링 오류 없이 완벽히 안다고 가정한다. 하지만, 외란이나 높은 비선형성으로 인해 실제 센서 모델 H_k는 정확히 알 수 없고, 대신 대략적인 H^k만으로 모델링이 가능하다. 여기서 .^ 은 근사나 추정치를 나타낸다. 또한, w_k 및 v_k는 각각 프로세스 및 측정 노이즈이다. 유사하게, 이 논문에서 센서 시스템에 집중하기 위해, 프로세스 노이즈는 제로-평균 백색 노이즈(즉, w_k~N(0.Q_k))라고 가정하고, 여기서 Q_k는 사전에 알고 있는 정보라 가정한다. 일반적으로 우리는 세 가지 유형의 측정 노이즈를 수학적으로 공식화한다. 측정 노이즈에서 A_k는 컬러 측정 잡음 행렬, B_k 상태 종속 측정 잡음 행렬, C_k 상관관계 측정 잡음 행렬, 그리고 η_k 제로-평균 백색 측정 노이즈(즉, η_k~N(0.Q_k))이다.

각 노이즈 공분산은 다음과 같이 주어진다.

v_k는 다른 이산시간 l에서 자신과 상관되므로 컬러 노이즈가 포함된다. v_k는 다른 이산시간 l의 상태 x에 따라 달라지며, 프로세스 노이즈 w와 상관관계도 있다. 센서 노이즈에 대한 추가 통계 정보가 없으면 노이즈 모델의 행렬 매개변수를 알 수 없다. 즉, 식 (1)에서 A, B, C 및 R행렬은 완전히 알려져 있지 않다. 가우시안 분포가 덧셈 및 뺄셈에서 닫혀 있지 않기 때문에, 결국 측정 노이즈는 다중 모드 및 비가우시안이 된다.

2.1절에서 언급한 수학적 센서 모델 공식화의 불확실성을 추정하기 위해, 이 절에서는 기계학습을 통한 일괄 처리 접근 방식을 제안한다. 다시 말해, 이 절의 목표는 데이터 기반 지도형 기계학습 기술(예: 커널 임베딩)을 반복적으로 활용하여 센서 모델 및 노이즈 매개변수를 교정하는 것이다. 노이즈가 많은 센서 시스템에서 알려지지 않은 매개변수를 학습하기 위해서는 커널 임베딩 [8],[9]이 적절한 학습 기법 중 하나이다. 시계열 데이터 X1:q=x1,x2,⋯,xj,⋯,xq 및 Y1:q=y1,y2,⋯,yj,⋯,yq가 주어지면, 식 (1)과 (3)에 따라 접근 가능한 근사 잔차 W, V^를 생성하기 위해 데이터를 마이닝한다.

그리고 학습 데이터 입력-출력 쌍을 정의한다.

여기서 아래첨자 1:q는 샘플 개수를 의미한다. 일반성을 잃지 않고 센서 시스템을 선형 시불변(LTI) 시스템으로 단순화하기 때문에, 이제 교정할 센서 모델과 노이즈 매개변수는 시불변이다. 2.1절로부터 F는 알고 있고, 대략적인 H^가 모델링되었으나 정확한 H는 알 수 없다.

데이터 기반 기계학습 기법을 적용하여 새로운 상태 증강 행렬의 요소 값을 학습한다. 즉, 알 수 없는 노이즈 매개변수 A, B’, C’ 및 R은 커널 임베딩 [8],[9]을 통해 학습된다. 새로운 상태 증강 식 (5)로부터, 입력 데이터와 출력 데이터 간의 관계는 다음과 같이 작성된다.

LTI 시스템에서 선형 커널 임베딩은 선형 최소 제곱 [10-12]과 동일하므로 θ의 최소 제곱 추정 θ^는 다음과 같이 계산된다.

선형 커널 임베딩을 통해 위의 최적화는 다음과 같이 해결된다.

여기서 곱 DXDXT이 특이인 경우, 정규화 매개변수 λ가 필요하다. 식 (9)는 Moore-Aronszajn 정리에 기초하여 성립된다. 내적은 함수 연산자 중 하나이고, 선형 커널 kx,x'=x,x'=xTx'은 양의 semi-definite이고 보편적이지 않으므로, 일대일이 아니다. 따라서, 선형 커널은 최적의 커널 함수가 아니며 선형 커널로 매핑하면 일부 오차(예: ε)가 발생할 수 있다.

식 (8), (9)를 새로운 상태 증강 식 (5)에 적용하면 다음과 같다.

시불변 측정 노이즈 공분산 행렬은 주어진 훈련 데이터셋을 사용한 오프라인 일괄 처리를 통해 학습된다. 즉, A, B’, C'은 상기 선형 커널 임베딩을 통해 학습된다.

이 일괄 처리에서는 센서 시스템의 색상도, 상태 종속성 또는 노이즈 상관 관계도를 테스트하게 된다. 또한, 주어진 훈련 데이터세트를 사용하여, 다음과 같은 오프라인 프로세스를 통해, 시불변 R도 학습된다. R을 학습하려면,

다양한 노이즈 조건에서의 MATLAB 시뮬레이션 결과는 제안한 방법론의 교정 성능을 검증한다. 식 (1)으로부터, 시뮬레이션 검증을 위한 센서 시스템의 실제 매개변수는 다음과 같다.

Fig. 1은 주어진 매개변수를 갖는 센서 시스템의 백색, 가우시안 프로세스 노이즈와 비교하여 측정 노이즈가 얼마나 비백색이고, 비가우시안인지 보여준다. 여기서, 측정 노이즈 매개변수 R,A,B,C는 전혀 알 수 없다. 따라서, 초기 추측은 모두 0이다. 이 논문은 센서 모델링과 센서 노이즈에 집중하기 때문에 F와 Q는 알고 있다고 가정한다. H에 대해서는 물리적 수식화를 통한, 모델링 오류가 있는, 근사 모델 H^로 모델링 가능하다. 다시 말해, 실제 H는 정확히 알 수 없다. 시뮬레이션 세팅을 위해 10% 모델링 오류(알 수 없음)가 있다고 가정하면, 식 (14)에서 근사 모델의 초기 추측 H^0=0.9H=0.9 0이다.

Fig. 1. 
Colored, State-dependent, Correlated Measurement Noise

학습률 γ = 0.75로 제안한 교정 일괄 처리가 반복 수행된다. 먼저, 1초 동안(q = 101)의 시계열 데이터 X, Y를 수집하여 식 (6), (7)를 통해 훈련 데이터 입출력 쌍을 생성한다. 다음으로, 식 (9)로부터 추정값 θ^을 계산하고, 식 (11), (12)로부터 재귀 접근 방식의 첫 번째 반복에서 센서 노이즈 매개변수 추정값 A^1,B'^1,C'^1, 그리고 R^1을 얻는다, 다음으로, 식 (13), (14)로부터 첫 번째 반복에서 모델 매개변수 추정값 H^1을 업데이트한다. 이 때 식 (13)에서 모델링 오류의 절대값 ∥∆H⁽¹⁾∥이 미리 설정된 임계값 10^-6보다 크면, 이 일괄 처리 과정은 다음 루프를 반복 실행된다. 즉, 이 처리 과정은 ∥∆H⁽¹⁾∥<10^-6가 만족할 때까지 반복적으로 실행된다. 수렴성에 의해, 반복이 많을수록 모델링 오류가 적어진다. 마침내, 36번째 실행 인덱스(즉, 종료된 반복 횟수 (i = 36)에서 상기 조건이 만족되고 루프가 종료된다.

36번째 실행했을 때, Fig. 2는 센서 모델 매개변수 H가 어떻게 교정되는지 보여준다. 반복이 될수록 모델링 오류가 적어져 실제값으로 수렴한다.

Fig. 2. 
Estimation of Sensor Model Parameters

또한, 36번째 실행까지 Fig. 3은 센서 노이즈 매개변수 R,A,B,C가 어떻게 교정되는지 보여준다. 즉, 각 매개변수 추정치는 각 실제 값으로 빠르게 수렴된다.

Fig. 3. 
Estimation of Sensor Noise Parameters

최종 반복 인덱스 (i)=36에서 센서 모델 및 노이즈 매개변수의 추정치는 Table 1과 같다. 또한, Table 1은 교정 결과의 오차도 나타낸다. 즉, 추정값의 오차 스케일은 제한되어 있고 상당히 적다.

Fig. 4는 실제 센서 시스템의 시계열 측정 데이터와 최종 교정된 센서 매개변수를 사용한 예측되는 시계열 데이터와의 비교이다. 또한, 초기 추측값을 사용하여 매개변수가 교정되지 않은 센서 모델의 예측 데이터와의 비교도 포함된다. 교정된 결과가 실제와 매우 유사하고, 시간이 지남에 따라 교정되지 않은 데이터의 상대 에러가 커지기 때문에 센서 시스템 매개변수 교정의 중요성이 확인된다.

Fig. 4. 
Non-calibration vs. Calibration