![The Korean Society Fishries And Sciences Education](/images/basic/pubreader_back.gif)
AI 교육콘텐츠 사용성에 대한 학습자 인식 차이 연구
Abstract
The purpose of this study is to suggest a plan to improve the development of AI educational contents through the usability test of AI educational contents. Among the seven factors of the AI education content usability test result, the ‘content readability’ factor was the lowest, suggesting that correction and supplementation are required first for usability improvement. Second, there is a difference in the average of AI education contents according to gender, so it is necessary to develop a balanced content UI considering gender. It was confirmed that the high average of female students compared to male students was not a specific test index, but rather high overall. Third, AI education contents showed a difference in average according to school level. The average of high school showed lower usability compared to elementary and middle school, and above all, the responses that the contents of high school contents were difficult to understand and were not remembered were high. In conclusion, the overall readability of the content should be corrected, but above all, the overall correction and supplementation including the readability of the content for high school is the most necessary.
Keywords:
AI educational contents, Usability test, Learner’s cognitionⅠ. 서 론
최근 AI 교육 콘텐츠 제작이 활발하게 이뤄지고 있다. AI 기술개발과 확산으로 인해 초중고 교육 현장에서도 AI 교육에 대한 노력은 확산되어 이뤄지고 있다.
예를 들어, 미국은 NSF(국가과학재단), AAAI(미국인공지능협회) 및 CSTA(미국컴퓨터교사협회)가 공동 참여하여 미국 초중등 AI 교육을 위한 ‘AI4K12 이니셔티브’를 구성하고, 초중등 AI 교육 가이드 라인 개발 및 AI 교재 개발, AI 교육자 커뮤니티를 운영 중에 있다(Kim et al., 2019; Kim et al., 2020; Lee, 2020; Jang et al., 2020).
교육부에서는 2020년 3월 교육부 주관으로 ‘미래 변화를 선도할 AI·첨단 분야 인재 양성’ 전략을 기반으로 ‘AI 교육 종합 방안 수립’을 통해 AI 교육의 비전 및 전략을 제시하였다(MOE and KOFAC, 2020). 여기에서는 AI 기본 소양 함양과 빅데이터, AI, 가상·증강 현실(VR·AR) 등을 교육 현장에 도입하는 방안이 제시되어 있다.
구체적 실행으로 교육부와 과학기술정보통신부는 SW·AI 교육환경을 구축하기 위하여 AI 교육플랫폼과 AI 교육콘텐츠를 개발 계획 수립(MOE and KOFAC, 2020)하여 현재 개발 중이다.
하지만 개발과정에서 학생들이 겪게 될 수 있는 사용성(Usability)에 대한 고민은 부족한 실정이다. 사용성은 HCI(Human-Computer Interaction)에 기반하여 사용자가 콘텐츠의 사용과정에 효율성, 효과성, 만족도 등을 포함한 사용 편의성을 의미한다(Kim, 2005; Hyun et al., 2011; Choi, 2018). Heo and Lee(2009)는 “사용성이란 사용자의 불편함, 시간과 노력을 최소화할 수 있도록 효과적이며 효율적인 시스템을 만드는 것”이라 정의하며 사용자가 불편함이 없게 시스템을 사용하는 것이라 정의하였다.
AI 콘텐츠 개발과정에서 현장 학습자의 사용성 평가가 생략되어 학습자의 목소리나 사용에서 불편한 점을 놓치기 쉽다. Nielsen(2000)에 따르면 사용성 평가는 소규모의 인원만으로도 많은 불편한 문제점을 찾을 수 있다고 주장하였다. 하지만 이러한 중요성에도 불구하고 지금 개발되고 있는 AI 교육콘텐츠의 사용성 평가 지표나 학습자가 어떻게 인식하고 있는지에 관한 연구는 부족한 실정이다. 특히, 사용성 평가 지표가 성별이나 학교급별에 따른 어떠한 차이가 있는지는 더욱 부족한 실정이다.
선행연구 조사 결과, Chung(2009)은 ‘모바일 사용자 인터페이스의 사용성 평가에 관한 탐색적 연구’를 통해 성별로는 남성이 여성보다 사용성 평가 점수를 후하게 책정하며, 특히 일관성과 심미성에서 성별에 따른 차이가 뚜렷하게 나타난다고 하였다. 또한, 연령에 따른 차이로는 30대가 10대나 20대와 비교해 사용성 평가 점수가 높으며, 10대와 20대는 시각요소별 차이가 크지 않았다는 연구결과를 발표하였다. Sim and Song(2019)의 ‘사이버대학에서 이러닝 콘텐츠 사용자 인터페이스의 질 개선을 위한 사용성 평가연구’ 역시 남학생이 여학생보다 사용성 평가 점수의 평균이 유의미하게 높았으며, 이는 성별에 따른 이러닝 콘텐츠 사용성 여부가 뚜렷한 차이가 있음을 알 수 있다고 하였다. 반면, 동일 연구에서 학년별에 따른 이러닝 콘텐츠 사용성 여부는 유의미한 차이가 나타나지 않았으며, 전공별로는 유의미한 차이가 있었음을 알 수 있었다.
이렇듯, 교육콘텐츠의 사용성 평가에 있어서 성별, 연령 혹은 학교급별, 전공별로 다양한 기준에 의한 학습자 인식을 조사해 볼 필요가 있다.
이에 본 연구에서는 교육부와 과학기술부에서 개발하고 있는 AI 교육콘텐츠의 사용성에 대한 학습자 인식을 살펴보고자 하였다. 이를 통해 이로써 콘텐츠의 개발과 수정, 보완에 도움을 줄 수 있을 것으로 기대된다.
이러한 연구목적을 달성하기 위한 연구 문제는 다음과 같다.
- 첫째, AI 교육콘텐츠의 사용성은 7가지 평가지표에 따라 어떻게 나타나는가?
- 둘째, AI 교육콘텐츠의 사용성 평가 결과는 성별에 따라 차이가 있는가?
- 셋째, AI 교육콘텐츠의 사용성 평가 결과는 학교급에 따라 차이가 있는가?
Ⅱ. 연구 방법
1. 연구대상
연구대상은 초중고 학생 총 97명(남자 66명, 여자 31명)이다. 연구대상자들은 사전에 한국창의재단의 추천으로 지정된 대상자들로 AI 교육콘텐츠 및 지도교사를 사전에 배정하였다.
구체적으로, 사용성 평가대상은 4개교(고등학교 1개교, 중학교 1개교, 초등학교 2개교) 총 97명의 학생을 사전에 지정하였다. 초등학교 사용성 평가대상은 울산◦◦초등학교(1~4학년) 24명, 전남◦◦초등학교(5~6학년) 23명으로 총 47명이 참여하였다. 중학교는 전북◦◦중학교(1학년) 23명, 고등학교는 전남 ◦◦고등학교(1~3학년) 27명으로 전체 97명이었다.
2. AI 교육 컨텐츠 및 측정도구
학생들은 사용성 평가대상 AI 교육콘텐츠를 사용한 뒤 설문에 응답하였다. 사용성 평가대상 AI 교육콘텐츠는 한국창의과학재단에서 개발 진행 중인 콘텐츠를 활용하였다. 이들 콘텐츠는 AI Oasis에서 개발 중이며 사용성 평가를 위한 프로토타입 주소를 사전에 받아서 활용하였다.
사용성 평가대상 콘텐츠는 인공지능과 우리 사회, 데이터, 탐색, 추론, 기계학습과 딥러닝의 대주제를 다루고 있다. 아래 [Fig. 1]은 이러한 콘텐츠의 예시 화면을 나타낸다.
설문의 문항은 학생용 AI 교육콘텐츠 사용성 평가 지표(Kim et al., 2022; Heo. 2022)를 활용하였다. 이 지표는 AI 교육콘텐츠의 사용성 평가를 위해 델파이 연구 방식을 통해 최종 51개의 문항을 개발하여 만든 사용성 평가 도구이다. 본 연구에서는 이 중 10가지 문항으로 구성된 7가지 평가 요소를 활용하였으며, Cronbach’s α값이 .854이었다. 이 측정 도구는 피검사자로 하여금 사전에 AI 교육콘텐츠를 사용해 본 후 설문을 통해 본인의 느꼈던 내용에 대해 사용 편리성의 정도와 일치하는 정도에 대해 각 문항에 대해 동의하는 정도를 5점 리커르트 형태의 척도(1점: 아주 그렇지 않다. 3점: 보통이다, 5점, 아주 그렇다)로 응답하게 되어 있다.
3. 연구 절차 및 분석 방법
본 연구는 학습자들의 AI 교육콘텐츠 사용성 평가 인식을 파악하기 위해 사전에 몇 가지 선행 절차가 이뤄졌다.
먼저, 사용성 평가를 위한 AI 교육콘텐츠 선정이 이뤄졌다. AI 교육콘텐츠는 현재 교육부와 한국창의재단이 개발하고 있는 교육콘텐츠로 이뤄졌으며 구체적으로 다음절에 예시를 제시하였다.
다음으로 연구대상자의 사전 선정 작업이 있었다. 단순히 설문에 응답하는 것이 아니라 개발 중인 콘텐츠를 사용한 후 설문이 이뤄졌다. 이를 위해서 한국창의재단의 도움으로 대상 학교 및 지도교사를 선정하였다.
마지막으로 학생들은 AI 교육콘텐츠를 활용해 보고 설문에 응답하였고, 이를 바탕으로 연구분석을 하였다.
분석을 위해 기술통계분석, t-test, ANOVA 분석을 시행하였다. 사용성 지표에 따른 결과를 살펴보기 위해서 기술통계분석을 하였다. 성별이나 학교급별로 집단 간 차이를 알아보기 위해서는 t-test와 ANOVA 분석을 활용하였다. 통계용 소프트웨어는 SPSS를 사용하였다.
Ⅲ. 연구 결과
1. 지표에 따른 사용성 기술통계 분석
AI 교육콘텐츠의 사용성 평가를 위해 Heo(2022)에서 개발한 7가지 사용성 지표(Usability Test Index)를 바탕으로 기술통계 분석을 시행하였다. 이러한 배경에는 기존에 평가 지표가 없는 상황에서 전반적인 응답 분포를 확인하기 위함이다. <Table 2>는 7가지 사용지표 내용을 나타낸다.
AI 사용성 평가 지표의 7가지 지표(indicator)를 통해 사용성 분석 10문항에 대한 전체 빈도는 지표별로 <Table 3>과 같이 나타났다. 가장 높게 평가된 지표는 콘텐츠 조작의 편의성(M=4.41, SD=.77)으로 나타났으며, 가장 낮게 나타난 항목은 콘텐츠의 가독성(M=3.87, SD=1.03)으로 나타났다.
향후 AI 교육콘텐츠의 사용성 향상에 있어 가장 먼저 보완되어야 할 지표는 콘텐츠의 가독성임을 알 수 있다. 교육콘텐츠의 가독성은 집중력과 내용 이해력에 필수 요소이기 때문에 가장 급선무로 콘텐츠의 수정이 필요한 부분이라 할 수 있다.
AI 교육콘텐츠의 사용성을 좀 더 구체적으로 확인하기 위해 문항별 분석을 시행하였다. 그 결과, 콘텐츠 UI에 있어 편의성의 콘텐츠 조작의 편의성을 묻는 문항인 “학습 콘텐츠는 사용하기 편리하다.”라는 응답 결과는 ‘매우 그렇다(54.6%)’, ‘그렇다(35.1%)’로 긍정적인 응답이 89.7%로 <Table 4>와 같이 나타났다.
부정적인 응답은 2.0%로 나타나, 학습 콘텐츠는 학생들이 사용하기에는 매우 사용하기 편리하게 제작되었음을 알 수 있다.
콘텐츠 UI에 있어 편의성의 학습 내용 접근 용이성을 묻는 문항인 “원하는 학습 내용 및 자료를 쉽게 찾을 수 있다.”라는 응답 결과는 ‘매우 그렇다(44.3%)’, ‘그렇다(43.3%)’로 긍정적인 응답이 87.6%로 <Table 5>와 같이 나타났다.
부정적인 응답은 3.1%로 나타나, 원하는 학습 내용 및 자료를 검색 기능을 통해 쉽게 찾을 수 있고, 학습 내용 접근이 쉬움을 확인할 수 있다.
콘텐츠 UI에 있어 심미성의 메시지 설계원리에 따른 디자인을 묻는 문항인 “학습 내용이 이해하기 쉽고, 기억에 잘 남도록 디자인되어있다.”라는 응답 결과는 ‘매우 그렇다(43.3%)’, ‘그렇다(37.1%)’로 긍정적인 응답이 80.4%로 <Table 6>과 같이 나타났다.
‘보통이다(11.3%)’ 그리고 부정적인 응답이 8.2%로 나타나 학습 내용이 이해하기 쉽고, 기억에 잘 남도록 디자인되어있음을 확인할 수 있다. 하지만 높은 평균점수에도 불구하고 감수성이 예민한 청소년에게 심미성은 편의성과 용이성보다 가장 낮은 평균을 나타내고 있음을 확인할 수 있다. 또한, 이 항목에 대해 학생들은 좀 더 엄격한 평가를 했다는 것을 알 수 있다.
콘텐츠 UI에 있어 가독성의 콘텐츠 가독성을 묻는 문항인 “그림 및 글자가 간결하여 가독성이 높다.”라는 응답 결과는 ‘매우 그렇다(29.9%)’, ‘그렇다(41.2%)’로 긍정적인 응답이 71.1%로 <Table 7>과 같이 나타났다.
부정적인 응답은 11.3%, ‘보통이다(17.5%)’로 다른 항목에 비해 가장 낮은 점수를 나타내고 있다. 콘텐츠의 글자가 작거나 그림이 잘 읽히지 않아 가독성이 다소 떨어진다는 의견이 있음을 확인할 수 있다. 텍스트보다 영상과 이미지에 빠르게 반응하는 청소년들에게 다른 항목에 비교하여 가독성이 가장 낮게 평가되는 것은 콘텐츠를 이해하는데 어려움을 줄 우려가 있다.
“메뉴의 구조가 시각적으로 편리하게 구성되어 있다.”라는 응답 결과는 ‘매우 그렇다(51.5%)’, ‘그렇다(37.1%)’로 긍정적인 응답이 88.6%로 나타났다. 부정적인 응답은 1.0%로 나타나, 메뉴의 구조가 매우 시각적으로 편리하게 구성되어 있다는 것을 알 수 있다.
콘텐츠 UI에 있어 메뉴명에 대한 직관적 이해를 묻는 문항인 “메뉴명은 직관적으로 이해하기 쉽다.”라는 응답 결과는 ‘매우 그렇다(47.4%)’, ‘그렇다(38.1%)’로 긍정적인 응답이 85.5%로 나타났다. 부정적인 응답은 3.1%로 나타나, 메뉴명은 직관적으로 이해하기 쉽게 구현되었음을 알 수 있다.
2. 성별에 따른 사용성 차이 분석
연구 결과 성별에 따른 차이가 있는 것으로 나타났다. <Table 8>은 t-test 결과를 나타낸다. 전반적으로 여학생이 사용성에 있어서 상대적으로 높은 것을 확인할 수 있다.
구체적으로, 남학생의 평균은 4.14(M=.56), 여학생은 4.39(M=.52)로 나타났으며, t=-2.08, p=.04로 사용성 평가 평균의 차이가 남학생과 여학생 사이에 통계적으로 유의하게 나타났다. 이는 Chung(2009) 및 Sim and Song(2019)의 연구결과와는 상반된 결과가 나타났지만, 결과적으로는 AI 교육콘텐츠 UI의 개발에 있어 남학생과 여학생 사이에 유의미한 차이가 분명 존재하며, 따라서 성별을 고려하여 콘텐츠가 개발되어야 함을 의미한다. 또한, Oasis AI 교육콘텐츠는 남학생과 비교해 여학생에게 잘 맞춰진 콘텐츠라고 할 수 있다.
<Table 9>는 7가지 지표별로 성별에 따른 평균 나타낸다.
표에 따르면, 남학생은 ‘콘텐츠 조작의 편의성’에 가장 높은 평균(M=4.39)을 나타냈으며, ‘콘텐츠의 가독성’에 가장 낮은 평균(M=3.73)을 나타내고 있다. 여학생의 경우 전반적으로 높은 평균을 나타내고 있으며, ‘메시지의 설계원리에 따른 디자인’에 가장 높은 평균(M=4.52)을 나타내고 있다.
3. 학교급별에 따른 사용성 차이 분석
연구결과 학교급별로 집단 간 차이가 있는 것으로 나타났다. <Table 10>은 이러한 결과를 나타낸다.
구체적으로, 초등학교 평균은 4.27(M=0.50), 중학교 4.46(M=0.45), 고등학교 3.91(M=0.63)로 나타났다. F=7.089, p=.001 수준에서 통계적으로 유의하게 나타났다.
사후검정 결과 초등학교 평균이 고등학교보다 높았으며, 중학교 역시 고등학교 평균보다 높았다.
<Table 11>은 7가지 사용성 지표별로 학교급에 따른 평균을 나타낸다.
특이한 점은, ‘메시지의 설계원리에 따른 디자인’ 지표는 초·중학교의 경우 높은 평균(M=4.30, 4.39)을 각각 나타냈지만, 고등학교는 낮은 평균(M=3.67)을 나타내었다. 또, 고등학교 콘텐츠의 ‘콘텐츠 가독성’ 지표의 평균(M=3.04)이 초·중학교 평균(M=4.13, 4.30)보다 가장 눈에 띄게 낮게 나타났다. 이러한 결과는, 먼저 중학교 학생들의 인공지능 교육콘텐츠 노출 빈도가 타 학교급에 비해 높은 것과 관련이 있을 것이다. 2019년 정부가 발표한 ‘인공지능(AI) 국가전략’에 의하면 현재 학교 현장에서 인공지능 교육을 초등학교급에서는 5~6학년 중 1학기 17시간을, 중학교급에서는 1~3학년 중 1년 34시간을 의무교육으로 이수하고 있다. 반면, 고등학교급에서는 진로 과목 중 하나로 인공지능 교육을 선택할 수 있다(The Ministry of Science and ICT, 2019). 이에 인공지능 교육콘텐츠를 많이 접해본 중학교급 학생들의 사용성 평가 결과가 타 학교급에 비해 높게 나타나는 주요한 원인으로 볼 수 있다. 따라서 학교급별 인공지능 교육콘텐츠 사용 수준과 학교급별 학생 특성을 고려한 설계가 수반되어야 할 것이다.
Ⅳ. 결론 및 제언
본 연구의 목적은 AI 교육콘텐츠의 사용성 평가를 통해 AI 교육콘텐츠 개발 향상 방안을 제시하는 것이다. AI 교육콘텐츠 사용성 평가 결과 평가 지표 7가지 중 ‘콘텐츠의 가독성’이 가장 낮게 나타나 사용성 향상에 가장 우선하여 수정, 보완을 요한다고 할 수 있다. 좀 더 자세히 문항별로 결과를 살펴본 결과 콘텐츠의 가독성을 낮지만, 메뉴는 체계적으로 잘 구성되어 있으며, 메뉴를 보면 현재 내 위치를 알 수 있도록 UI가 구조화되어 있다는 긍정적인 답변이 많았다. 또한, 메뉴의 구조가 단순하여 원하는 내용을 쉽게 찾아갈 수 있고, 메뉴의 구조가 시각적으로 편리하게 구성되어 있어 AI 교육콘텐츠의 UI가 잘 구조화되어 있음을 확인할 수 있다. 메뉴에 따라 사용하는 콘텐츠가 일관성 있게 구성되어 있으며, 메뉴명도 직관적으로 이해하기 쉽게 되어 있다는 것을 개별 문항의 답변을 통해 알 수 있다. AI 교육콘텐츠 사용성 향상에 보완해야 할 지표는 콘텐츠의 가독성이며, 이는 학습의 효과성을 위해 가장 우선 보완해야 할 지표이다.
둘째, AI 교육콘텐츠는 성별에 따라 평균의 차이가 있어 콘텐츠 UI에 성별을 고려하여 균형을 맞춰 개발할 필요가 있다. 남학생과 비교해 여학생의 평가는 특정한 평가지표에 국한되지 않고 전반적으로 다 높게 나타나는 것을 확인하였다. 하지만 ‘메시지의 설계원리에 따른 디자인’은 남학생의 경우 학습 내용이 이해하기도 어려울뿐더러 기억에 잘 남지 않는다는 의견이 있는 반면에 여학생의 경우 디자인이 잘 설계되어 학습 내용의 이해와 기억이 잘된다고 응답하였다. 이는 남학생의 디자인 인식과 여학생의 디자인 인식의 차이에 기반할 수도 있겠지만, 교육콘텐츠의 특성에 맞추어 남녀 모두 학습 내용을 이해하고 기억이 잘 남는 설계가 필요할 것으로 판단된다. 또한, 첫 번째 결과와 같이 콘텐츠 가독성의 어려움은 남녀 모두에게 이미지와 텍스트가 간결하지 못하고 가독성이 낮아 콘텐츠 사용성 향상이 시급히 필요함을 시사하고 있다.
셋째, AI 교육콘텐츠는 학교급에 따라 평균의 차이가 나타났다. 고등학교의 평균이 초·중학교에 비해 낮은 사용성을 나타냈으며, 무엇보다 고등학교 콘텐츠에서 제공하는 학습의 내용이 이해가 어렵고 기억되지 않는다는 응답이 높았다. 이는 콘텐츠가 고등학교 학습자들에게 친절하게 설명을 제공하지 못하거나 수준에 맞게 제작되지 않았다고 할 수 있다. 더불어 첫째, 둘째 연구 결과와 맥을 같이하는데 콘텐츠의 가독성이 초·중학교에 비교하여 가장 낮게 나타났다. 결론적으로 콘텐츠의 전반적인 가독성도 수정되어야겠지만, 무엇보다 고등학교 콘텐츠에 대하여 콘텐츠 가독성을 포함한 전반적인 수정 보완이 가장 시급하다.
Acknowledgments
이 논문은 2021년도 교육부의 재원으로 한국과학창의재단의 지원을 받아 수행된 성과물임.
References
-
Choi EY(2018). Analysis of usability factors for Educational Mobile application. Cartoon and Animation Studies, 453~478.
[https://doi.org/10.7230/KOSCAS.2017.50.453]
-
Chung HK(2009). Exploratory study of Usability Evaluation for Mobile User Interface - Focused on touch interface design of mobile phone -. Journal of Korea Design Forum, 24, 141~151.
[https://doi.org/10.21326/ksdt.2009..24.013]
- Heo G and Lee GM(2009). A Case Study of Teachers' Usability Test on the Using Educational Website, KSFME, 21(1), 161~172.
- Hyun HH, Park MS, Lee TS, and Choi HK(2011). Step-by-step strategy to improve website usability. KISTI Knowledge Report, 28, Korea Institute of Science and Information, 1~48.
- Jang YJ, Kim SH, Choi SY, Jung HS and Kim HC(2020). Analysis of Overseas AI Curriculum Based on AI’s 5 Big Ideas. The Korean Association Of Computer Education, 24(2(A)), 67~70.
- Kim JW(2005). Introduction to Human Interface Interaction. Ahn graphics publishers. Gyeonggi-do.
- Kim SH, Kim SH, and Kim HC(2019). Analysis of International Educational Trends and Learning Tools for Artificial Intelligence Education. The Korean Association Of Computer Education Conference, 23(2), 25~28.
-
Kim SH, Kim SH, Lee MJ and Kim HC(2020). Review on Artificial Intelligence Education for K-12 Students and Teachers. The Journal of Korean Association of Computer Education, 23(4), 1~11.
[https://doi.org/10.32431/kace.2020.23.4.001]
-
Kim YY, Kim DG, Han SJ, Yun HJ, Park MH and Heo G(2022). A Delphi Study on the Development of Usability Evaluation Tools of AI Educational Contents for Students, KSFME, 34(3), 256~265.
[https://doi.org/10.13000/JFMSE.2022.4.34.2.256]
- Heo G(2022). AI Educational Content Usability Test Study. Korea Foundation for the Advancement of Science & Creativity.
-
Lee EK(2020). A Comparative Analysis of Contents Related to Artificial Intelligence in National and International K-12 Curriculum. The Korea Contents Association, 23(1), 37~44.
[https://doi.org/10.32431/kace.2020.23.1.003]
- Ministry of Education, Korea Foundation for Science and Creativity(2020). Artificial intelligence classes at school. Cmass.
- The Ministry of Science and ICT(2019). National strategy for artificial intelligence, 5~9.
- Nielsen J(2000). Designing Web Usability. Ahngraphics press.
- Sim HY and Song HD(2014). A Usability Evaluation Study for Improving the Quality of e-Learning Contents User Interface in a Cyber University. The Journal of Korean Association of Computer Education, 17(1), 13~23.