복잡한 환경에서 레이저 통신의 고정밀 정렬 및 추적 기술 요구를 충족하기 위해, 본 논문에서는 압전 세라믹 구동의 고속 반사경(Fast Steering Mirror, FSM)에 대한 제어 알고리즘을 설계하여 추적 성능과 다양한 작업 환경에 대한 적응 능력을 향상시켰다. 먼저 Hammerstein 구조를 기반으로 압전 구동기의 비선형 수학 모델을 구축하였고, Prandtl-Ishlinskii 모델을 사용하여 정적 히스테리시스를 모델링하였으며, 역모델을 기하학적 방법으로 구해 전단 제어를 위한 전가감으로 시스템을 선형화하였다. 그런 다음 선형화된 시스템에 대해, 반경 기저 함수(Radial Basis Function, RBF) 신경망과 슬라이딩 모드 제어를 결합한 제어 방법을 설계하여, RBF 신경망이 비모델링된 비선형 부분의 매개변수를 비특이 빠른 종단 슬라이딩 모드 제어 법칙에서 근사함으로써 추적 정확도를 유지하며 강인성을 더욱 향상시켰다. 마지막으로 서보 실험 플랫폼에서 실험을 수행하였고, 실험 결과는 제안된 제어 알고리즘이 복합 주파수 참조 궤적을 효과적으로 추적하며 빠르고 정밀한 응답을 달성하고, 평균 제곱근 오차가 2.7 μrad 이하이며 시스템의 비모델링 동적 특성을 보상할 수 있음을 보여주었다. 모델 불일치가 10%일 때 50 Hz 사인파 신호 추적 평균 제곱근 오차는 7.3 μrad 미만으로 비특이 빠른 종단 슬라이딩 모드 제어 대비 약 40.16%, 자항 제어 대비 약 75.9% 향상되어 파라미터 섭동에 효과적으로 대응할 수 있다.