통합 검색어 입력폼

청각장애인에게 촉각 통한 소리 전달 성공

조회수 2020. 7. 5. 16:37 수정
글자크기 설정 파란원을 좌우로 움직이시면 글자크기가 변경 됩니다.

이 글자크기로 변경됩니다.

(예시) 다양한 분야의 재밌고 유익한 콘텐츠를 카카오 플랫폼 곳곳에서 발견하고, 공감하고, 공유해보세요.

By 이웃집과학자

한국전자통신연구원(ETRI)은 주위 소리와 자신 목소리의 음높이(Pitch)를 분석해 촉각 패턴으로 변환해주는 '촉각 피치 시스템'을 개발했다고 밝혔습니다. 

출처: ETRI
연구진이 개발한 촉각 피치 시스템의 장갑형 버전과 밴드형 버전 장비 모습.
청각이 아닌 촉각 신경 이용

청각장애인들도 청신경에 전기 자극을 주어 소리를 들을 수 있게 해주는 장치인 '인공와우' 수술을 받으면 일반인과 원활한 구어 대화가 가능할 정도로 의료와 ICT의 발전이 이뤄졌습니다. 그러나 아직까지는 의사소통에 필요한 소리의 의미를 파악할 수 있는 정도이며 음의 높낮이를 구분하는 데 한계가 있습니다. 이로 인해 청각장애인들이 음악을 감상하거나 노래를 부르는 활동에 많은 제약이 있었습니다.

이를 해결하기 위해 ETRI가 청각이 아닌 촉각 신경을 통해 소리를 들을 수 있는 기술을 개발했습니다. 음악이나 소리 등 청각 정보로부터 소리의 주파수 신호를 뽑아내 음을 인식한 뒤, 촉각 패턴으로 만들어 착용자의 피부에 전달하는 사용자 인터페이스(UI) 기술입니다.


출처: ETRI
피치에 따른 촉각 패턴 설계.

본 기술을 활용하면 주변 소리나 자신의 목소리에서 나오는 음의 높이를 피부로 느낄 수 있습니다. 연구진이 고안한 방법은 주변에서 4옥타브 계이름 '도'소리가 들리면 사용자가 왼손에 낀 장갑을 통해 검지 첫째 마디에 진동이 느껴지도록 하는 방식입니다. 이처럼 손의 구조와 인지 용이성을 설계에 반영해 한 손에 3개 옥타브 범위(3옥타브 '도'에서 5옥타브 '시'까지)에 해당하는 반음 포함 36개의 음계를 촉각 패턴으로 표현했습니다. 손 부위별 진동 위치에 따라 음의 높낮이를 파악할 수 있기에 주변 소리와 내 목소리의 높낮이를 촉각으로 익히는 훈련이 한 달가량 필요합니다.


나아가 함께 개발된 학습 방법 및 훈련 과정을 거치면 자신의 목소리를 원하는 음에 맞춰 낼 수도 있습니다. 청각장애인뿐 아니라 고령인 등도 언어 및 음향 학습 보조수단으로 활용할 수 있습니다. 연구진은 촉각 피치 시스템의 효과를 관찰하기 위해 강남대학교와 위탁 연구를 수행했습니다. 임상연구에는 인공와우 수술을 받은 청각장애인 2명이 참여했습니다.

출처: ETRI
실험 후 발성 음역 해상도 및 정확도 변화.

참가자들은 약 한 달간 15시간 훈련을 통해 촉각을 이용, 음을 이해하고 자신의 목소리로 원하는 음을 낼 수 있는 능력이 약 3배 향상됐습니다. 뿐만 아니라 촉각으로 훈련한 노래를 정확한 음으로 낼 수 있게 됐습니다.

출처: ETRI
실험 후 노래 시 음 정확도 변화.
촉각으로 정보를 전달한다?!

기존에도 미국의 스탠포드대(Stanford), 라이스대(Rice), 페이스북(Facebook) 등 여러 기관에서 음성, 텍스트 정보를 촉각으로 전달하는 연구들이 다수 진행됐습니다. 하지만 모든 정보를 촉각을 통해서만 전달할 수 있을 정도로 상용화 하기엔 아직 많은 후속 연구가 필요한 상황이었습니다.

ETRI 촉각 피치 시스템은 인공와우 및 보청기 사용자들이 모든 정보가 아니라 음 높낮이라도 파악하기를 원한다는 실제 요구사항을 토대로 개발한 시스템입니다. 덕분에 사용자 환경에 바로 적용할 수 있다는 장점이 있으며 임상을 통해 증명한 연구 중 최초 사례입니다. 

출처: ETRI
연구진이 개발한 촉각 피치 시스템으로 진동을 통해 정확한 음정을 파악하는 훈련 과정을 시연하는 모습(신승용 선임연구원, 정승은 선임연구원)

한편, 언어 재활 훈련 과정 중 음악 활동을 병행하면 음성 언어 및 소리에 관한 이해력 발전에 도움이 된다는 기존 연구가 있습니다. 연구진은 본 기술로 단순히 청각장애인의 음악 활동뿐만 아니라 의사소통을 개선하는데도 크게 도움을 줄 수 있을 것으로 보고 있습니다. 이렇게 촉각 피치 시스템과 언어 재활 훈련법 병행 연구를 발전시켜나가면 청각장애인들이 언어뿐 아니라 음악 활동도 동일하게 즐길 수 있을 것으로 기대됩니다. 연구진은 시스템의 착용성 및 완성도를 개선 시키고 보다 효과적인 특수교육법 및 훈련 기법 표준안을 만들기 위해 관련 협회 및 단체와도 협력을 진행할 예정입니다.


연구책임자인 ETRI 신형철 휴먼증강연구실장은 "기술을 위한 기술이 아닌 우리 사회 소수자들이 정말로 필요로 하는 적정(適正)을 개발하기 위해 노력했다"며 "본 기술이 실질적으로 여러 사람들을 도울 수 있는 따뜻한 복지 ICT로 많이 활용되었으면 한다"고 밝혔습니다. 강남대학교 사회복지학부 이준우 교수도 "일반적으로 청각장애인이 낼 수 있는 소리의 범위가 있다"며 "본 훈련을 통해 그동안 내기 어려웠던 소리 영역 부분을 낼 수 있다는 자체가 획기적이라 생각한다"고 말했습니다.


출처: ETRI
연구진이 개발중인 촉각 피치 시스템의 다양한 웨어러블 시제품(손목밴드, 암밴드, 장갑).

연구진은 향후 더욱 쉽게 훈련을 진행하고 편한 착용이 이뤄질 수 있도록 손목ㆍ암배드 등 웨어러블 형태로 장비를 개발할 계획입니다. 또한 한국전자통신연구원(ETRI)는 이외에도 화재 알람이나 교통 신호 등 위험 상황을 알리는 소리를 어느 방향, 위치에서 발생했는지 파악해 웨어러블 기기 등을 통해 촉각으로 전달하는 기술을 개발 중이며 청각장애인 대상 필드 테스트를 준비 중이라고 합니다.

이 콘텐츠에 대해 어떻게 생각하시나요?