해양교육 웹사이트 사용성 분석 연구 : 부산해양교육가이드를 중심으로
Abstract
The purpose of this study is to contribute to enhancement of user accessibility of web-site by searching for problems and improvement plan through user analysis of web site for Busan Marine Education Guide. Prior to the opening of the Busan Marine Education Guide web-site, which is currently operated by Young-Nam SeaGrant, we are going to look at Jacob Nielsen's user analysis for key points to consider for user-centered web-site operation. According to Jacob Nielsen's usability test, we looked at the information and helping and information items on the web page. First, according to gender, differences in usability of Busan Marine Education Guide web-sites are found to be different in Visibility and Error prevention factors. Second, the usability difference according to the information retrieval ability showed that the difference between the flexibility and efficiency of the person with high information retrieval ability and the ordinary person.
Keywords:
Usability testing, Marine education, Web-siteⅠ. 서 론
바다를 접하고 있는 부산・경남지역은 해양과 관련된 다양한 교육프로그램과 문화행사 그리고 체험활동을 제공하는 기관들이 밀집해 있다. 대한민국 제1의 해양도시를 자랑하는 부산과 영남권에서는 다양한 수・해양관련 교육과 체험을 할 수 있는 관련 기관과 시설을 만나 볼 수 있다.
해운대, 광안리해수욕장과 같은 모래해변에서는 여름철 해수욕과 다양한 바다행사를 즐길 수 있으며, 국립해양박물관, 해양자연사박물관, 수산과학관, 부산아쿠아리움 등에서는 해양관련 역사를 체험하거나 살아있는 해양 생물을 관람할 수 있다. 이러한 시설과 기관들에 관한 주요정보와 진행 중인 프로그램 안내는 주로 웹사이트를 통해 제공 하고 있다. 또한 행사에 참여하기 위해 관련 기관을 이용할 때도 주로 웹사이트를 통해 그 내용이 상세히 안내되고 있다.
수・해양관련 기관의 체험과 교육 행사나 프로그램에 관심을 가지는 시민들은 주로 기관의 웹사이트를 통해 필요한 정보를 많이 획득하며, 이러한 교육정보를 찾는 연령층은 어린 자녀를 둔 30대~40대 부모님들이다(Korea Advertising Association, 2013).
우리나라의 인터넷 이용실태를 조사한 미래창조과학부는 ‘2016년 인터넷 이용 실태조사’를 통해 한국 가구 인터넷 이용률이 88.3%로 10명중 8명이 인터넷 이용자라고 조사 발표하였다. 또한 광고 매체 중 인터넷을 통해 얻는 비율이 62.2%로 다른 광고 매체 중 가장 긍정적인 효과를 미친다(Korea Advertising Association, 2013). 우리나라의 이러한 세계 1위의 인터넷 환경에서(Ministry of Science, ICT and Future Planning, 2017)도 웹 접근성을 준수하지 않고 제공되는 웹 서비스로 인하여 불편을 겪는 사례가 많이 발생하고 있다.
웹 서비스의 동시성에 의해 많은 사용자가 이용하는 웹사이트의 경우 그 ‘사용성(Usability)’이 웹사이트의 성패를 좌우하는데, 이는 ‘사용자에게 얼마나 편리한가’를 고려하는 중요한 요인이 되기 때문이다(Nielson, 1999). 이러한 ‘사용편리성’은 최근 웹 개발자에게 요구되는 웹사이트의 주요 요인이 되고 있다(HEO and LEE, 2009). 웹사이트의 사용성 평가는 사용자에게 테스크(task)를 주고 수행하는 모습을 관찰하거나(Chung, 2009), 사용의 의견을 접할 수 있는 설문지나 인터뷰를 활용한다(Jung et al., 2004; Kang, Lee, 2005). 이러한 방법은 웹사이트의 개선사항을 확인시켜주고 문제를 파악하는데 많은 도움을 준다.
본 연구에서는 영남권의 해양체험을 필요로 하는 사용자들의 편의를 제공하고, 유관기관과의 교류 활성화를 위해 영남씨그렌트에서 제작한 부산해양교육가이드 웹페이지를 대상으로 사용성 평가를 하고자 한다. 사용성 평가는 Nielsen (1993)의 사용성 평가기준에 따라 평가항목을 도출하여 설문 실시하고 분석하였다. 이러한 연구는 웹사이트의 서비스 개선과 품질향상을 위한 방안을 제시함으로 웹사이트의 완성도를 높이고, 사용자들에게 편리한 사용성을 제공하는데 그 목적을 가지고 있다.
본 연구에서는 해양교육 웹사이트에 정보를 검색할 때 성별로 나누어 남녀의 사용성 차이를 분석하고자 하였다. 다음으로는 인터넷활용 수준에 따라 사용성이 어떻게 차이가 나는지 알아보고자 정보검색능력을 능숙, 보통, 미숙의 3단계로 나누어 분석하였다.
Ⅱ. 이론적 배경
1. 사용성(Usability)
사용성은 주로 인간과 컴퓨터 사이의 상호작용에서 사용자의 편리성과 만족성 그리고 기술적인 효율성을 최대화 하는 것으로 사용편의성 등의 단어로 사용되기도 한다. 사용성은 웹사이트의 인터페이스가 사용자에게 편리하고 보다 정확한 정보를 획득하도록 설계되어 있는가, 쉽고 빠르게 찾으며 그 경험적 만족도가 높은가를 의미한다(Nielson, 2003).
Shackel(1991)은 ‘인간이 시스템을 쉽고 효율성 있게 사용할 수 있는 능력’을 사용성이라고 정의하면서, 사용성 평가 요인으로 효과성, 학습성, 유연성, 사용자 만족을 들고 있다. Nielsen(2000)은 “이용자가 인터페이스를 이용하기가 얼마나 쉬운지, 그 질을 판단하는 속성” 이라고 정의하며, 사용성이란 시스템의 수용성을 말하며 학습성, 효율성, 기억성, 사용상 오류, 사용 만족도로 규정하고 있다. Bevan(1995)은 ‘사용자의 시스템 사용의 질을 높이기 위한 방법을 논하는 것’이라고 정의하였다.
이처럼 시스템을 사용하는 자는 최소한의 시간과 에너지를 사용하여 원하는 정보를 획득하기 위한 인터페이스를 찾게 된다. 사용성의 정의는 학자마다 다르지만 대체로 사용자의 목적을 추구하는데 효과적인 환경을 제공하는 정도로 볼 수 있을 것이다. 사용성의 공통적인 요소는 편의성, 효과성, 유용성 그리고 만족도로 정리할 수 있다. 즉, 사용자가 불필요한 시간을 줄이고 필요한 정보를 얻는 경험을 하도록 하는 효과적이고 효율적인 시스템을 만드는 것이라고 할 수 있다.
따라서 사용자의 편의성이 높은 웹사이트는 사용자와의 상호작용이 수월해지고 사용빈도가 증가 할 뿐 아니라, 웹사이트의 사용을 통해 사용자의 이익과 만족을 충족시켜 사용자의 가치를 높이는 역할을 하게 된다.
2. 사용성 평가(Usability Test)
웹사이트 사용성 평가는 사용자에게 웹사이트 이용의 편리성을 제공하기 위해 인터페이스의 문제점을 도출하고 분석하여(Chung, 2009) 사용자에게 맞춰 개선하는 단계이다.
사용성 평가가 필요한 이유는 인간의 정보처리시스템은 특정정보에 집중하기 위해 다른 감각정보를 무시하고, 선택적 주의를 하는 한계를 가지고 있다(HEO and LEE, 2009). 인간의 인지적 한계를 고려할 때 웹사이트의 실제 사용성은 떨어지게 되므로, 사용자 중심의 웹사이트를 설계하기 위해 사용자의 사용성 평가가 요구된다. 사용성을 구성하는 항목은 다양하게 연구되고 있으며 서로의 연구가 장단점을 가지고 있다(Wiberg, 2003). 사용성 평가의 방법은 연구자들에 의해 다양하게 제시되고 있다. 사용성 평가를 수행함에 있어서 적절한 사용성 평가기준에 맞추어 평가가 이루어져야하며 사용성 기준은 위에서 논의된 사용성 기준에 기초하여 마련되어야한다.
Scharl and Bauer(1999)는 컨텐츠, 네이게이션, 상호작용 이 세가지 기준을 웹페이지 사용 평가 기준으로 제시했으며, Tilson et al.(1998)은 15가지 사용성 원칙을 제안하면서 단순성, 분류, 범위, 제품묘사, 명확성, 이용지원, 피드백 등을 제시하였다. Neilsen(1996)은 사용자의 웹페이지 이용의 질적인 부분을 강조하며 다섯가지 평가 기준을 제시하였는데 학습용이성, 사용효율성, 기억용이성, 에러 빈도, 주관적 만족을 제시하였다.
위의 여러 연구들의 사용성 평가 기준을 정리하면 사용자의 편의성, 효과성, 유용성 그리고 만족도의 기준으로 요약된다. 즉 사용자가 원하는 정보를 쉽게 찾고 그 과정을 쉽게 기억하고 정서적인 만족감이 높을 때 사용성이 높다고 평가 할 수 있다.
Nielson(1993)의 사용성 평가 방법을 보면 검증법(Testing), 감정법(Inspection), 질문법(Inquiry)로 분류한다. 검증법 기법으로는 생각말하기(thin king aloud), 수행측정(performance) 및 안구추적(eye tracking) 등의 방법이 있다. 이러한 방법은 사용자가 직접 웹사이트의 인터페이스를 사용하면서 일어나는 다양한 사건을 즉시로 측정이 가능하며 실증적 데이터를 통해 웹사이트의 분석이 가능하다. 감정법(Inspection)은 발견평가(heuristic evaluaton), 속성검사(feature inspection) 및 지침체크(guideline checklist)의 방법이 있다. 소수의 전문가 집단을 통해 웹사이트의 문제점을 도출해 낼 수 있다. 질문법(Inquiry)은 설문법(question naire)이 일반적이고 다수의 웹사이트에 대한 평가를 받아 볼 수 있다.
본 연구의 사용성 평가 방법은 질문법의 설문을 통해 웹사이트의 평가를 실시하였다. 이는 다양한 사용자의 의견을 반영한 개선의 방향을 찾기 위해서이다.
3. 부산해양교육가이드 웹사이트
부산해양교육가이드 웹사이트는 영남씨그렌트에서 영남지역의 해양관련 기관의 프로그램을 통합관리를 위해 만들어진 포털사이트이다. 영남의 각 지역에 흩어져 있는 해양관련 기관들의 프로그램을 한눈에 확인할 수 있으며, 현재 진행되는 프로그램의 정보를 각 기관의 개별사이트가 아닌 해양교육가이드 사이트에서 확인이 가능하다. 또한 사용자가 원하는 프로그램을 웹사이트에서 선택하여 개인 장바구니에 담아 둘 수 있으며, 선택된 프로그램을 이용하기 위해 이동해야할 시간과 소요되는 시간을 지도정보를 통해서도 확인이 가능하다(HEO et al., 2015)
Ⅲ. 연구 방법
1. 연구절차
첫째, 문헌분석을 토대로 웹사이트 활용, 사용성 평가와 관련된 이론적 근거를 정리하였다.
둘째, 연구대상의 선정은 해양교육에 관심이 있는 교육기관의 교사, 자녀를 둔 학부모 그리고 해양대학교 학생들을 대상으로 선정하였으며 대상의 특징은 연구 대상에서 소개하고 있다.
셋째, 부산해양교육가이드 웹사이트의 주소를 알려주고 5~10분정도 자유롭게 서치를 하도록 한다. 그리고 연구자가 준비한 특정 미션을 수행하도록 하였다.
넷째, 닐슨의 10가지 사용성 평가 설문을 분석후 사용성 향상 방안을 제시하였다.
2. 연구대상
해양교육가이드 웹사이트 사용성 분석을 하기 위해 부산지역의 대학생 및 일반 성인을 선정하였다. 설문대상은 20~40대 성인을 대상으로 설문을 하였으며, 20대는 해양과 관련된 전공을 가진 대학생을 중심으로 대상을 선정하였다. 30~40대는 부산해양교육가이드를 통해 해양관련기관에 방문하여 프로그램을 직접 체험 하거나 프로그램에 참여 가능한 자녀를 둔 기혼자를 중심으로 기관의 프로그램에 접근성이 높은 대상을 선정하여 설문하였다. 전체 172부의 설문지를 배부하고 160부(97%)를 회수하였다. 이 중, 무응답과 불성실 응답자를 제외하고 최종적으로 160부중 152부를 분석하였다.
3. 평가도구
사용성 평가는 평가방법 중 가장 많이 사용하는 제이콥 닐슨의 10가지 휴리스틱스 평가기준을 사용하였다.
⑴ 시스템 상태에 대한 가시성 (Visibility of sy stem status)
⑵ 시스템과 실세계간의 일치 (Match between system and the real world)
⑶ 사용자의 통제와 자유 (User control and freedom)
⑷ 일관성과 표준성 (Consistency and standards)
⑸ 실수방지 (Error Prevention)
⑹ 회상보다는 재인 (Recognition rather than re call)
⑺ 사용자의 유연성과 효율성 (Flexibility)
⑻ 심미적이고 최소화된 디자인 (Aesthetic and minimalist design)
⑼ 에러 발생시 사용자 스스로 문제 파악 및 수정 (Help users recognize, diagnose and recover from errors)
⑽ 도움말과 사용자 설명서 (Help and documen tation)
위의 10가지 요소의 평가기준을 바탕으로 해양교육가이드 웹사이트 사용성 분석을 위해 10가지 평가기준을 모두 사용하여 24개의 설문문항을 개발하였다. 설문의 문항 간 신뢰도는 Cronbach’s α값이 .924로 문항의 신뢰도가 높다고 볼 수 있다.
4. 분석방법
설문지는 152부가 회수되어 분석에 사용되었으며 자료 분석을 위해 SPSS/PC Ver. 18 프로그램을 사용하였다. 응답자의 일반현황 및 사용성 분포를 파악하기 위해 먼저 빈도분석을 실시하였다. 그리고 집단별 차이를 확인하기 위해 ANOVA와 T-test를 실시하여 사용성에 차이가 있는지를 분석하였다.
Ⅳ. 연구 결과
1. 일반현황
조사응답자들의 일반현황은 <Table 2>에 상세히 제시하였다.
유효응답자는 남자가 112명(73.7%)이며 여자가 40명(26.3%)으로 나타났으며, 여성에 비해 남성의 참여 비율이 다소 높은 것을 알 수 있다. 해양교육가이드 웹사이트는 해양교육에 관한 정보를 정보검색수준에 관계없이 쉽고 편리하게 검색할 수 있도록 제작된 홈페이지다.
이러한 특성을 반영하여 설문 응답자의 정보를 검색하는 능력이 사용성 분석 결과에 영향을 미칠 수 있을 것이라는 가설을 설정하였다. 이에 따라 개인의 정보검색능력에 대한 일반현황을 변수로 설정하여 설문한 결과 자신이 정보검색에 능숙하다고 생각하는 사람은 49명(32.3%)이었으며, 검색능력이 보통인 사람은 96명(63.2%)로 가장 많은 부분을 차지했다. 정보검색능력이 낮은 사람은 7명(4.6%)으로 나타났다.
2. 사용성 분석
닐슨의 10가지 요인을 통한 사용성 분석 24가지 문항에 대해 전체 빈도를 분석한 결과 요인별로 <Table 3>과 같은 결과를 얻을 수 있었다.
가장 높게 평가된 요인은 10가지 요인 중 현실성 요인으로 시스템과 실세계간의 일치 요인으로 사용자 중심으로 웹사이트의 언어를 사용하고 있으며, 현실세계에서의 관습과 흐름에 맞게 정보를 제공하고 있다는 것을 보여준다.
그 중 가장 낮은 평가를 받은 요인은 도움말과 사용자 설명서 요인이다. 도움말을 제공할 때 동일한 도움말이 아니라 현재의 상황을 반영한 도움말이 제공되지 않았다는 것으로 볼 수 있다.
다음으로 성별에 따라 빈도를 분석한 결과는 <Table 4>와 같은 결과가 나타났다. 남성은 가시성, 통제와 자유, 직관적 인지, 유연성과 효율성 4가지 요인에서 여성보다 평균점수가 높았으며, 나머지 현실성, 통제와 자유, 에러방지, 심미성과 간결성, 에러발생시 문제파악, 도움말 제공의 6가지 항목에서 남성보다 높은 점수를 책정하였다.
성별에 따른 사용성 평가에서도 현실성을 반영하는 시스템과 실세계간의 일치 요인이 가장 높은 수치를 나타내었다. 하지만 성별에 따른 빈도의 차이는 크게 나타나지 않는 것을 알 수 있다.
남녀의 집단별 차이를 알아보기 위해 분산분석(T-test)을 한 결과는 사용성 평가 요인에서 남녀의 차이는 통계적으로 유의하지 않은 것으로 나타났다. 이는 모바일인터페이스 사용성 연구에서 성별에 따른 사용성 평가 요인이 남녀 성별의 집단별 차이가 유의하지 못하다는 결과(Chung, 2009)와 일치한다. 그 외 논문들은 성별에 따른 사용성 차이에 대해 표본 대상의 선정 한계(Ryu, Kim and Rho, 2005; 2006; Jung, 2015)로 그 결과를 보고하고 있지 않았다.
다음으로 정보검색능력에 따른 요인별 평균을 분석하였다. 정보검색능력을 능숙, 보통, 미숙 3단계로 나누어 요인별 평균을 비교해본 결과 전체 평균과 크게 다르지 않다는 것을 확인할 수 있었다. 정보검색능력이 능숙한 집단은 현실성 요인이 가장 높게 평가했으며, 보통인 집단도 동일하게 현실성 요인을 가장 높게 평가 했다. 반면 정보검색 미숙 집단은 심미적이고 최소화된 디자인 요인에 가장 높은 점수를 주었다.
다음으로 정보검색능력에 따른 요인별 평균을 분석하였다. 검보검색능력을 능숙, 보통, 미숙 3단계로 나누어 요인별 평균을 비교해본 결과 전체 평균과 크게 다르지 않다는 것을 <Table 5>를 통해 알 수 있었다.
정보검색능력이 능숙한 집단은 현실성 요인이 가장 높게 평가했으며, 보통집단도 동일하게 현실성 요인을 가장 높게 평가 했다. 반면 정보검색 미숙 집단은 심미적이고 최소화된 디자인 요인에 가장 높은 점수를 주었다. 컴퓨터 활용능력 차이에 따른 집단 간 차이를 분석할 결과 성별에 따른 집단 간 차이 결과와 동일하게 통계적으로 유의미한 차이를 얻지 못했다.
Ⅴ. 결론 및 제언
이상의 연구결과에 따른 결론을 정리하면 다음과 같다.
첫째, 닐슨의 사용성 평가 10가지 요인 중 가장 높은 수준 요인은 현실성으로 나타났다. 이것은 해양교육가이드 웹사이트가 현재 부산・경남 지역의 해양교육관련 기관들의 소개와 함께 프로그램 정보가 사용자 중심으로 설계 되었다는 것으로 이야기 할 수 있다. 이는 바다와 해양에 대한 관심을 가진 부산시민이 사용하는 언어와 바다와 친숙한 이미지를 웹사이트에 잘 녹여 사용하여 현실성을 잘 반영한 것으로 사료된다. 또한 정보의 제공에 있어 정보의 흐름이 사용자가 원하는 논리적 흐름으로 전개가 되었음을 알 수 있다. 가장 낮게 평가된 항목은 도움말 제공과 관련된 항목으로 나타났다. 문제가 발생했을 때 도움말이 현재 상황에 맞게 적절하게 제공되지 못했다는 것을 알 수 있다. 현실성에 맞게 친숙한 웹사이트를 만들었지만 사용자가 원하는 적절한 도움말 정보를 제공받지 못하는 웹사이트의 현상황에 대해서는 개선의 노력이 필요하다.
성별에 따른 집단별 차이를 확인하였지만 통계적으로 유의미한 결과를 얻지 못했다. 이는 해양교육가이드 웹사이트는 사용자의 성별에 따라 정보수집의 차이가 발생하지 않아 접근성이 성별에 상관없이 용이하다는 것을 알 수 있다.
둘째, 정보검색능력에 따른 집단별 평균을 비교한 결과 정보검색능력이 능숙한 집단은 현실성요인에 가장 점수가 높았다. 이는 웹사이트에서 제공한 정보가 사용자 중심의 언어와 현실을 반영한 내용과 논리적 전개를 보여주고 있다는 것을 능숙한 집단에서는 높게 평가하였다. 반면 정보검색 능력이 미숙한 집단에서는 심미성과 간결성 요인에 높은 점수를 주었다. 정보검색 능력이 미숙한 집단이 심미성과 디자인에 높은 점수를 부여했는지에 대해서는 추후 심층연구가 더 필요하겠지만, 현재의 웹페이지가 부적절한 정보를 제거하고 사용자가 보고 싶어 하는 정보를 시각적으로 아름답고 조화롭게 제공하고 있음을 이 집단에서는 평가하는 것을 알 수 있다.
정보검색능력에 따른 집단별 차이를 확인할 결과 정보검색능력이 능숙한 집단, 보통인 집단, 미숙한 집단 간 유의미한 차이를 보이지 않았다. 이러한 결과는 정보검색능력의 수준에 관계없이 해양교육가이드 웹사이트를 누구나 쉽게 사용할 수 있다는 것이며, 웹사이트 사용의도에 맞추어 잘 제작되었다는 것을 확인할 수 있었다.
결과를 종합하면 사용성 평가 요인 중 웹페이지의 도움말 제공에 관한 요인은 다시 한 번 검토가 필요할 것이다. 또한 정보검색능력에 따른 집단별 차이가 생겨나지 않은 이유에 대해서는 차후에 좀 더 심도 있는 연구가 필요할 것으로 생각된다. 이와 더불어 pc를 기반으로 한 웹사이트의 사용성과 함께 가장 많이 사용하는 스마트폰 환경에서의 사용성 평가도 함께 이루어져야한다.
References
- Bevan Niegel(1995). Usability is Quality of Use. In Symbiosis of Human and Artifact. Edited by Y. Anzai, K. Ogawa and H. Mori. New York: Elsevier Science, 349~354. [https://doi.org/10.1016/S0921-2647(06)80241-8]
- Boyd D(2007). Why youth (heart) social network sites: The role of networked publics in teenage social life. In D. Buckingham (Ed.), MacArthur Foundation Series on Digital Learning-Youth, Identity, and Digital Media. Cambridge, MA: MIT Press, 119~142.
- Chung HK(2009). Exploratory study of Usability Evaluation for Mobile User Interface - Focused on touch interface design of mobile phone -Korea Society of Design Trend, 24, 146.
- Heo G and Lee GM(2009). A Case Study of Teachers' Usability Test on the Using Educational Website. JOURNAL OF FISHRIES AND MARINE SCIENCES EDUCATION, 21(1), 161~172.
- Heo G, Cho JH, Han SJ and Won HH(2015). A Study on the Design of Prototype for Developing Webpage of Fisheries and Marine Education. The Journal of Fisheries and Marine Sciences Education, 27(6), 1602~1609. [https://doi.org/10.13000/JFMSE.2015.27.6.1602]
- Chung HK(2009). Exploratory study of Usability Evaluation for Mobile User Interface - Focused on touch interface design of mobile phone. Korea Society of Design Trend, 24, 141~151. [https://doi.org/10.21326/ksdt.2009..24.013]
- Jung LS(2015). The Effect of Characteristics of Web-site Usability on Trust and Purchase Intention of Social Commerce Sites. Management & Information Systems Review, 34(1), 1~20. [https://doi.org/10.29214/damis.2015.34.1.001]
- Jung SM, Kim SH, Park GS and Choi GG(2004). Application of EDNET Academic Information Service in 2004. Korea Education and Research Information Service. http://www.riss.kr/link?id=E846197
- Kang EJ and Lee MJ(2005). Evaluation and Improvement Strategies of 'Edunet' Instructional Materials for ICT : Applied Education. Journal of Educational Technology, 21(1), 63~91. [https://doi.org/10.17232/KSET.21.1.63]
- Leem JH(2001). An Analytical Study on the Concept of Virtual Education and Cyber Education. Journal of Educational Technology, 17(3), 165~194. [https://doi.org/10.17232/KSET.17.3.165]
- Mayhew Deborah J(1999) The Usability Engineering Life cycle. Morgan Kaufman Publishers. Inc.
- Ministry of Science, ICT and Future Planning(2017). 2016 Internet Usage Survey Summary Report. http://news.donga.com/3/all/20170131/82641098/1
- Nielsen Jakob(1992). Finding usability problems through heuristic evaluation. proceeding of the HCI. '92 Conference on Human factors in computing system, 373~380. [https://doi.org/10.1145/142750.142834]
- Nielsen Jakob(1993). Usability engineering. Morgan Kaufman Publishers, Inc. https://www.nngroup.com/books/usability-engineering/ [https://doi.org/10.1016/B978-0-08-052029-2.50009-7]
- Park HS(2019). Advertising Media Research : Focusing on Domestic and International Comparisons of Media Research over the Past 20 Years. The Korean Journal of Advertising, 30(8), 33~52. [https://doi.org/10.14377/KJA.2019.11.30.33]
- Ryu I, Kim JJ and Rho HO(2005). The Effect of Web Site Usability on the Revisiting Intention of Customers in Internet Book Stores. Journal of information systems, 14(1), 87~105.
- Ryu I, Kim JJ and Rho HO(2006). The Effect of Web Site Usability on Customer Satisfaction and Customer Loyalty in Internet Shopping Malls. Journal of Industrial Economics and Business, 19(4), 1597~1614.
- Shackel Brian(1991). Human factors and usability. Human-computer interaction, Cambridge: 27~41.
- Zimmer DE and Muraski ML(1995) The elements of information gathering. Phoenix, AZ: Oryx Press.