센서 시스템의 매개변수 교정을 위한 데이터 기반 일괄 처리 방법
This is an Open Access article distributed under the terms of the Creative Commons Attribution Non-Commercial License(https://creativecommons.org/licenses/by-nc/3.0/) which permits unrestricted non-commercial use, distribution, and reproduction in any medium, provided the original work is properly cited.
Abstract
When modeling a sensor system mathematically, we assume that the sensor noise is Gaussian and white to simplify the model. If this assumption fails, the performance of the sensor model-based controller or estimator degrades due to incorrect modeling. In practice, non-Gaussian or non-white noise sources often arise in many digital sensor systems. Additionally, the noise parameters of the sensor model are not known in advance without additional noise statistical information. Moreover, disturbances or high nonlinearities often cause unknown sensor modeling errors. To estimate the uncertain noise and model parameters of a sensor system, this paper proposes an iterative batch calibration method using data-driven machine learning. Our simulation results validate the calibration performance of the proposed approach.
Keywords:
Sensor System, Parameter Calibration, Batch Processing, Machine Learning, Data-Driven1. 서 론
센서 시스템을 수학적으로 모델링할 때, 모델을 단순화하기 위해 센서 노이즈가 가우시안 및 백색이라고 가정한다. 이 가정이 실패하면, 잘못된 모델링으로 인해 모델 기반 제어기나 추정기의 성능이 저하된다[1-3]. 한 예로, 카메라와 관성측정장치를 사용하는 센서 시스템인 경우에는 매개변수 초기 추측 값으로 시작하여 칼만 필터 프레임워크를 통해 교정되는 기존 방법[4],[5]이 존재하나, 이는 카메라나 관성측정장치에 국한된 방법이고, 초기 정보값이 사전에 필요하며, 결정적으로 칼만 필터링은 가우시안 및 백색 노이즈라고 가정할 때만 작동한다. 실제로, 비가우시안 또는 비백색성 노이즈 소스는 수많은 디지털 센서 시스템에서 종종 발생하며[6], 이러한 노이즈 모델의 매개변수는 추가 정보 없이는 사전에 알 수 없다. 또한, 외란이나 높은 비선형성은 알 수 없는 센서 모델링 오류를 생성한다. 이러한 센서 모델 공식화의 불확실성을 추정하기 위해, 본 논문에서는 데이터 기반 기계학습을 통한 일괄 처리 교정 방식을 제안한다.
먼저, 일반화를 위해 컬러 노이즈, 상태 종속 노이즈, 상관관계 노이즈[7]의 세 가지 유형의 센서 노이즈를 수학적으로 공식화한다. 다음으로, 파라메트릭 센서 모델에는 알 수 없는 모델링 오류가 포함되어 있을 수 있기 때문에, 접근 가능한 근사 측정 잔차를 정의한다. 상태 증강 기법[7]을 통해, 접근 가능한 잔차를 사용하여 시계열 센서 시스템을 표현하는 행렬 관계식을 유도한다. 다시 말해, 모델링 오류가 없으면 새로운 상태 증강식은 원래의 파라메트릭 모델과 동일해진다. 즉, 본 논문에서는 센서 모델링 오류의 영향도 분석한다. 주어진 실제 센서 시스템에 백색 측정 노이즈만 포함되어 있더라도, 모델링 오류로 인해 새로운 증강식은 컬러, 상태 종속 및 상관관계 측정 노이즈를 보유하게 된다.
이 논문의 목표는 데이터 기반 지도형 기계학습 기술(예: 커널 임베딩 [8,9]을 반복적으로 활용하여 센서 노이즈 매개변수를 교정하는 것이다. 측정한 시계열 센서 데이터를 마이닝하여 대략적인 잔차를 생성하고, 기계학습을 위한 훈련데이터 입력-출력 쌍을 정의한다. 기계학습 기법을 적용하여 새로운 증강 행렬의 요소 값을 학습한다. 결국, 본 논문에서 도출된 관계식으로부터 모델링 오류와 센서 노이즈 매개변수를 결정하게 된다. 즉, 이 과정은 노이즈의 색상도 및 종속관계를 테스트하는 과정이기도 하다. 또한, 주어진 훈련데이터 세트를 사용한 오프라인 일괄 처리를 통해 측정 공분산 행렬도 학습된다. 일괄 처리는 모델링 오류의 절대값이 미리 설정된 임계값보다 낮을 때까지 반복적으로 실행된다.
이 논문의 나머지 부분은 다음과 같이 구성된다. 다음절에서는 풀고자하는 문제를 공식화한다. 2.2절에서는 기계학습 기반 오프라인 일괄 처리를 통해 센서 모델 및 노이즈 매개변수를 교정하는 방법을 제안한다. 다음으로 시뮬레이션 결과를 제시하고, 마지막으로 결론과 향후 작업이 논의된다.
2. 연구 방법
2.1 센서 시스템의 공식화
세 가지 유형의 센서 노이즈(즉, 컬러 노이즈, 상태 종속 노이즈, 상관관계 노이즈)를 갖는 선형화된 이산시간 시스템은 다음과 같이 구성된다.
(1) |
where
여기서 및 는 이산시간 k에서의 각각 상태 및 측정값이다. Fk는 역학 모델의 자코비안 행렬이고, Hk는 센서 모델의 자코비안 행렬이다. 이 논문은 센서 시스템에만 관심이 있기 때문에, Fk는 모델링 오류 없이 완벽히 안다고 가정한다. 하지만, 외란이나 높은 비선형성으로 인해 실제 센서 모델 Hk는 정확히 알 수 없고, 대신 대략적인 만으로 모델링이 가능하다. 여기서 은 근사나 추정치를 나타낸다. 또한, wk 및 vk는 각각 프로세스 및 측정 노이즈이다. 유사하게, 이 논문에서 센서 시스템에 집중하기 위해, 프로세스 노이즈는 제로-평균 백색 노이즈(즉, wk~N(0.Qk))라고 가정하고, 여기서 Qk는 사전에 알고 있는 정보라 가정한다. 일반적으로 우리는 세 가지 유형의 측정 노이즈를 수학적으로 공식화한다. 측정 노이즈에서 Ak는 컬러 측정 잡음 행렬, Bk 상태 종속 측정 잡음 행렬, Ck 상관관계 측정 잡음 행렬, 그리고 ηk 제로-평균 백색 측정 노이즈(즉, ηk~N(0.Qk))이다.
각 노이즈 공분산은 다음과 같이 주어진다.
vk는 다른 이산시간 l에서 자신과 상관되므로 컬러 노이즈가 포함된다. vk는 다른 이산시간 l의 상태 x에 따라 달라지며, 프로세스 노이즈 w와 상관관계도 있다. 센서 노이즈에 대한 추가 통계 정보가 없으면 노이즈 모델의 행렬 매개변수를 알 수 없다. 즉, 식 (1)에서 A, B, C 및 R행렬은 완전히 알려져 있지 않다. 가우시안 분포가 덧셈 및 뺄셈에서 닫혀 있지 않기 때문에, 결국 측정 노이즈는 다중 모드 및 비가우시안이 된다.
이산시간 시스템에서 상태 증강 방법의 단계를 소개한다. 즉, 식 (1)을 다음과 같이 행렬형태로 상태 증강한다:
(2) |
상기절에서 언급한 대로, 우리는 모델링 오류가 있는 대략적인 만 알고 있다. 또한, 센서 측정값 y를 읽을 수 있지만, 센서 노이즈 v자체에는 별도 접근 불가능하다. 따라서. 근사 모델 를 사용하여 접근 가능한 근사 측정 잔차 를 식 (3)과 같이 정의한다.
(3) |
여기서 ΔHk는 알 수 없는 모델링 오류이다.
식 (2)를 잔차 로 다시 작성한다.
(4) |
식 (2)는 접근 가능한 새 상태 벡터의 함수로 변환되므로 새로운 상태 증강 식은 다음과 같이 형성된다.
(5) |
여기서 새 행렬 B′, C′은 식(4)에서 정의되었다. 행렬 A는 새로운 상태 증강 식에서도 계속 동일하다. 상태 증강을 통해 센서 시스템과 접근 가능한 측정 잔차 간의 관계가 도출되었다.
다음 단계를 설명하기 앞서, 식(5)로부터 모델링 오류의 영향을 분석한다. 만약 모델링 오류가 없는 경우 (즉, ΔHk = 0), 식 (4)에서
즉, 식 (5)는 원래의 파라메트릭 센서 모델인 식 (2)와 동일해진다. 두번째 분석으로, 만약 실제로 센서 시스템에 컬러 노이즈만 있는 경우 (즉, 시스템 식 (1)에 Bk = Ck = 0), 식 (4)로부터
즉, 실제 센서 시스템에 컬러 노이즈만 있는 경우에도, 모델링 오류로 인해, 상태 종속 노이즈와 상관관계 노이즈가 식 (5)에 여전히 존재한다. 유사하게, 시스템 식 (1)에 실제로 백색 노이즈만 있는 경우 (즉, Ak = Bk = Ck =0), 식 (4)로부터
다시 말해, 실제 센서 시스템에 백색 측정 노이즈만 포함되어 있더라도, 식 (5)는 모델링 오류로 인해 상태 종속 측정 노이즈와 상관 관계 측정 노이즈를 보유하게 된다.
2.2 기계학습 기반 매개변수 교정
2.1절에서 언급한 수학적 센서 모델 공식화의 불확실성을 추정하기 위해, 이 절에서는 기계학습을 통한 일괄 처리 접근 방식을 제안한다. 다시 말해, 이 절의 목표는 데이터 기반 지도형 기계학습 기술(예: 커널 임베딩)을 반복적으로 활용하여 센서 모델 및 노이즈 매개변수를 교정하는 것이다. 노이즈가 많은 센서 시스템에서 알려지지 않은 매개변수를 학습하기 위해서는 커널 임베딩 [8],[9]이 적절한 학습 기법 중 하나이다. 시계열 데이터 및 가 주어지면, 식 (1)과 (3)에 따라 접근 가능한 근사 잔차 W, 를 생성하기 위해 데이터를 마이닝한다.
(6) |
그리고 학습 데이터 입력-출력 쌍을 정의한다.
(7) |
여기서 아래첨자 1:q는 샘플 개수를 의미한다. 일반성을 잃지 않고 센서 시스템을 선형 시불변(LTI) 시스템으로 단순화하기 때문에, 이제 교정할 센서 모델과 노이즈 매개변수는 시불변이다. 2.1절로부터 F는 알고 있고, 대략적인 가 모델링되었으나 정확한 H는 알 수 없다.
데이터 기반 기계학습 기법을 적용하여 새로운 상태 증강 행렬의 요소 값을 학습한다. 즉, 알 수 없는 노이즈 매개변수 A, B’, C’ 및 R은 커널 임베딩 [8],[9]을 통해 학습된다. 새로운 상태 증강 식 (5)로부터, 입력 데이터와 출력 데이터 간의 관계는 다음과 같이 작성된다.
(8) |
LTI 시스템에서 선형 커널 임베딩은 선형 최소 제곱 [10-12]과 동일하므로 θ의 최소 제곱 추정 는 다음과 같이 계산된다.
선형 커널 임베딩을 통해 위의 최적화는 다음과 같이 해결된다.
(9) |
여기서 곱 이 특이인 경우, 정규화 매개변수 λ가 필요하다. 식 (9)는 Moore-Aronszajn 정리에 기초하여 성립된다. 내적은 함수 연산자 중 하나이고, 선형 커널 은 양의 semi-definite이고 보편적이지 않으므로, 일대일이 아니다. 따라서, 선형 커널은 최적의 커널 함수가 아니며 선형 커널로 매핑하면 일부 오차(예: ε)가 발생할 수 있다.
식 (8), (9)를 새로운 상태 증강 식 (5)에 적용하면 다음과 같다.
(10) |
시불변 측정 노이즈 공분산 행렬은 주어진 훈련 데이터셋을 사용한 오프라인 일괄 처리를 통해 학습된다. 즉, A, B’, C'은 상기 선형 커널 임베딩을 통해 학습된다.
(11) |
이 일괄 처리에서는 센서 시스템의 색상도, 상태 종속성 또는 노이즈 상관 관계도를 테스트하게 된다. 또한, 주어진 훈련 데이터세트를 사용하여, 다음과 같은 오프라인 프로세스를 통해, 시불변 R도 학습된다. R을 학습하려면,
(12) |
2.1절에서 도출된 관계식으로부터, 모델링 오류와 노이즈 매개변수를 결정하게 된다. 먼저, 식 (4)를 통해 모델링 오류를 반복적으로 업데이트하는 방법에 대한 프로세스를 제안한다.
(13) |
여기서 (i)는 반복 인덱스이다. 예를 들어, 초기에는 노이즈에 대한 정보가 없으므로, 이다. 다음으로 첫 번째 반복에서, 노이즈 매개변수 교정을 위한 일괄 처리인 식 (6)~(12)를 수행하면 식 (11)에 의해 값이 추정된다. 식 (13), (14)를 사용하면 근사 모델 가 업데이트된다.
(14) |
여기서 γ는 학습률이다. 는 근사 센서 모델의 초기 추측이다. 식 (13), (14)에 의해 근사 모델 가 새로 교정되면, 다음 반복 인덱스 (i + 1)에서 학습 데이터 입출력 쌍을 새로이 정의하고(즉, 식 (6), (7)), 상기 기계학습 기반 일괄 처리(즉, 식 (11)~(14))를 재수행한다. 이로 인해, 센서 노이즈 및 모델 매개변수가 새로이 교정된다. 이 과정은 모델링 오류 의 절대값이 미리 설정된 임계값보다 낮을 때까지 반복적으로 실행된다. 수렴성이 보장된 최소 제곱 추정에 의해 가 수렴한다.
3. 결과 및 고찰
3.1 시뮬레이션 결과
다양한 노이즈 조건에서의 MATLAB 시뮬레이션 결과는 제안한 방법론의 교정 성능을 검증한다. 식 (1)으로부터, 시뮬레이션 검증을 위한 센서 시스템의 실제 매개변수는 다음과 같다.
Fig. 1은 주어진 매개변수를 갖는 센서 시스템의 백색, 가우시안 프로세스 노이즈와 비교하여 측정 노이즈가 얼마나 비백색이고, 비가우시안인지 보여준다. 여기서, 측정 노이즈 매개변수 R,A,B,C는 전혀 알 수 없다. 따라서, 초기 추측은 모두 0이다. 이 논문은 센서 모델링과 센서 노이즈에 집중하기 때문에 F와 Q는 알고 있다고 가정한다. H에 대해서는 물리적 수식화를 통한, 모델링 오류가 있는, 근사 모델 로 모델링 가능하다. 다시 말해, 실제 H는 정확히 알 수 없다. 시뮬레이션 세팅을 위해 10% 모델링 오류(알 수 없음)가 있다고 가정하면, 식 (14)에서 근사 모델의 초기 추측 이다.
학습률 γ = 0.75로 제안한 교정 일괄 처리가 반복 수행된다. 먼저, 1초 동안(q = 101)의 시계열 데이터 X, Y를 수집하여 식 (6), (7)를 통해 훈련 데이터 입출력 쌍을 생성한다. 다음으로, 식 (9)로부터 추정값 을 계산하고, 식 (11), (12)로부터 재귀 접근 방식의 첫 번째 반복에서 센서 노이즈 매개변수 추정값 , 그리고 을 얻는다, 다음으로, 식 (13), (14)로부터 첫 번째 반복에서 모델 매개변수 추정값 을 업데이트한다. 이 때 식 (13)에서 모델링 오류의 절대값 ∥∆H(1)∥이 미리 설정된 임계값 10-6보다 크면, 이 일괄 처리 과정은 다음 루프를 반복 실행된다. 즉, 이 처리 과정은 ∥∆H(1)∥<10-6가 만족할 때까지 반복적으로 실행된다. 수렴성에 의해, 반복이 많을수록 모델링 오류가 적어진다. 마침내, 36번째 실행 인덱스(즉, 종료된 반복 횟수 (i = 36)에서 상기 조건이 만족되고 루프가 종료된다.
36번째 실행했을 때, Fig. 2는 센서 모델 매개변수 H가 어떻게 교정되는지 보여준다. 반복이 될수록 모델링 오류가 적어져 실제값으로 수렴한다.
또한, 36번째 실행까지 Fig. 3은 센서 노이즈 매개변수 R,A,B,C가 어떻게 교정되는지 보여준다. 즉, 각 매개변수 추정치는 각 실제 값으로 빠르게 수렴된다.
최종 반복 인덱스 (i)=36에서 센서 모델 및 노이즈 매개변수의 추정치는 Table 1과 같다. 또한, Table 1은 교정 결과의 오차도 나타낸다. 즉, 추정값의 오차 스케일은 제한되어 있고 상당히 적다.
Fig. 4는 실제 센서 시스템의 시계열 측정 데이터와 최종 교정된 센서 매개변수를 사용한 예측되는 시계열 데이터와의 비교이다. 또한, 초기 추측값을 사용하여 매개변수가 교정되지 않은 센서 모델의 예측 데이터와의 비교도 포함된다. 교정된 결과가 실제와 매우 유사하고, 시간이 지남에 따라 교정되지 않은 데이터의 상대 에러가 커지기 때문에 센서 시스템 매개변수 교정의 중요성이 확인된다.
4. 결 론
본 논문에서는 센서 모델 및 노이즈 매개변수의 교정을 위한 기계학습 기반 반복 일괄처리 방법을 제안한다. 매개변수를 추정하기 위해 먼저 접근 가능한 상태 벡터(잔차 포함)를 사용하여 상태 증강 식을 수학적으로 유도한다. 다음으로, 데이터 기반 커널 임베딩 기법을 반복 활용하여 센서 모델 및 노이즈 매개변수를 추정하는 교정방법론을 제안한다. 시뮬레이션 결과는 제안한 방법의 교정 성능이 현실적으로 수용 가능함을 보여준다.
교정된 센서 매개변수를 사용하면, 센서 모델 기반 추정기와 제어기가 더 나은 성능 결과를 제공할 수 있을 것이다. 향후 연구에서는 센서 시스템 매개변수 뿐만 아니라 역학 모델의 모델링 오류나 프로세스 노이즈 매개변수도 모르는 경우에 대해 일괄 교정하는 방법을 연구하고자 한다.
Acknowledgments
이 성과는 정부(과학기술정보통신부)의 재원으로 한국연구재단의 지원을 받아 수행된 연구임(No. 2021R1G1A1095335). 본 연구는 2021년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 연구되었음. (No.2021-0-00320, 실공간 대상 XR 생성 및 변형/증강 기술 개발). 본 연구는 과학기술정보통신부의 재원으로 한국연구재단, DNA+드론기술개발사업의 지원을 받아 수행되었음.(No. NRF-2020M3C1C2A01080819)
REFERENCES
- W.-R. Wu and D.-C. Chang, “Maneuvering target tracking with colored noise”, IEEE Trans. Aerosp. Electron. Syst., Vol. 32, No. 4, pp. 1311-1320, 1996. [https://doi.org/10.1109/7.543852]
- K. Lee and E. N. Johnson, “State estimation using Gaussian process regression for colored noise systems”, Proc. of 2017 IEEE Aerospace Conf., pp. 1-8, Montana, USA, 2017. [https://doi.org/10.1109/AERO.2017.7943781]
- K. Lee, Y. Choi, and E. N. Johnson, “Kernel embedding-based state estimation for colored noise systems,” Proc. of 2017 IEEE/AIAA 36th Digital Avionics Syst. Conf. (DASC), pp. 1-8, St. Petersburg, USA, 2017. [https://doi.org/10.1109/DASC.2017.8102036]
- J. Rehder, J. Nikolic, T. Schneider, T. Hinzmann, and R. Siegwart, “Extending kalibr: Calibrating the extrinsics of multiple IMUs and of individual axes,” Proc. of 2016 IEEE International Conference on Robotics and Automation (ICRA), pp. 4304-4311, Stockholm, Sweden, 2016. [https://doi.org/10.1109/ICRA.2016.7487628]
- Y. Yang, P. Geneva, X. Zuo, and G. Huang, “Online Self-Calibration for Visual-Inertial Navigation: Models, Analysis, and Degeneracy”, IEEE Transactions on Robotics, Vol. 39, No. 5, pp. 3479-3498, 2023. [https://doi.org/10.1109/TRO.2023.3275878]
- V. Stojanovic and N. Nedic, “Identification of time-varying OE models in presence of non-gaussian noise: Application to pneumatic servo drives,” International Journal of Robust and Nonlinear Control, vol. 26, no. 18, pp. 3974–3995, 2016 [https://doi.org/10.1002/rnc.3544]
- D. Simon, Optimal state estimation: Kalman, H infinity, and nonlinear approaches, NewYork, John Wiley & Sons, USA, pp. 189-190, 2006. [https://doi.org/10.1002/0470045345]
- K. Muandet, K. Fukumizu, B. Sriperumbudur, and B. Schölkopf, “Kernel mean embedding of distributions: A review and beyond”, Foundations and Trends in Machine Learning, Vol. 10, No. 1-2, pp. 1-141, 2017. [https://doi.org/10.1561/2200000060]
- L. Song, K. Fukumizu, and A. Gretton, “Kernel embeddings of conditional distributions: A unified kernel framework for nonparametric inference in graphical models”, IEEE Signal Process. Mag., Vol. 30, No. 4, pp. 98-111, 2013. [https://doi.org/10.1109/MSP.2013.2252713]
- Å Björck, “Least squares methods”, Handb. Numer. Anal., Vol. 1, pp. 465-652, 1990. [https://doi.org/10.1016/S1570-8659(05)80036-5]
- B. J. Odelson, M. R. Rajamani, and J. B. Rawlings, “A new autocovariance least-squares method for estimating noise covariances”, Automatica, Vol. 42, No. 2, pp. 303-308, 2006. [https://doi.org/10.1016/j.automatica.2005.09.006]
- J. Brown, D. Su, H. Kong, S. Sukkarieh, and E. C. Kerrigan, “Improved noise covariance estimation in visual servoing using an autocovariance least-squares approach”, Mechatronics, Vol. 68, p. 102381, 2020. [https://doi.org/10.1016/j.mechatronics.2020.102381]