'이루다 사태' 막는다… 교육 분야 AI 윤리원칙 첫 제정

대원칙 '사람의 성장 지원' 아래 10대 세부원칙 제시
향후 교육 현장에서의 활용 실태 고려해 원칙 타당성 검토

AI 챗봇 '이루다'. 매일신문DB

인공지능(AI)을 활용한 교육이 활발해지는 가운데 교육 분야의 인공지능 윤리원칙이 처음으로 마련됐다.

교육부는 10일 개발자와 교육 당사자들이 함께 준수해야 할 '교육분야 인공지능 윤리원칙'을 발표했다.

정부 국정 과제에 '100만 디지털 인재 양성', '모두를 인재로 양성하는 학습 혁명' 등이 포함됐고, 이미 일부 AI 기반 교육 시스템들이 학교 현장에서 사용되고 있다. AI가 빠르게 발전하고 있는 만큼 향후 교육 현장에서 더 활발히 사용될 것으로 전망된다.

그러나 AI 분야의 발전 속도가 빠른 만큼 지난해 혐오 발언 및 개인정보 유출 등 논란이 있었던 AI 챗봇 '이루다'의 사례처럼, 예상치 못한 윤리적 이슈가 발생할 수 있다. 이에 대비하고자 세계적으로 사후적 규제보다 예방적·자율적 규범이 강조되고 있다.

이번 원칙은 교육 분야에서의 AI 활성화 시 부작용을 최소화하기 위한 규제 차원에서 탄생했다. 지난 1월 27일 시안 발표 이후 각종 공청회, 전문가 간담회 등 다양한 의견 수렴을 거쳤다.

지난 5, 6월엔 주요 7개국 정상회담(G7) 국가 및 국제연합 교육과학문화기구(유네스코) 등에 의견을 조회했고, 특히 영국 교육부에서 관심을 표명하고 지지 의견을 제출하기도 했다.

교육부 제공

'사람의 성장을 지원하는 인공지능'을 대원칙으로 두고, 교육계 및 관련 산업 종사자가 준수해야 할 원칙과 실천 과제를 담았다.

10대 세부 원칙으로는 교육 분야 AI가 인간 성장의 잠재성을 이끌어내고, 학습자의 주도성과 다양성을 보장한다는 내용 등이 포함됐다.

교육부는 이번 원칙을 인공지능 윤리교육과 교원의 역량 강화 연수 자료 등에 쓰고, 관련 연구의 촉진 및 교육기술(에듀테크) 기업과의 협업 지침(가이드라인)으로 활용하는 식으로 구체적으로 실천할 계획이다.

또한, 인공지능 기술의 발전과 교육현장에서의 활용 실태 등을 고려해 원칙의 타당성을 주기적으로 검토할 예정이다.

오석환 교육부 기획조정실장은 "인공지능이 미래 세대의 인지·정서에 미치는 영향이 클 수 있는 만큼, 교육 분야 인공지능의 개발과 안전한 활용이 균형을 이룰 수 있도록 교육계·산업계와 지속적으로 소통하고 협력하겠다"고 말했다.