(한국정보통신기술협회 제공)

정부가 이르면 올해 말까지 국내 기업들이 준비 중인 생성형 인공지능(AI)의 신뢰성 평가 도구를 만든다.

윤리적 문제 등을 막기 위한 사전적인 조치인데, 민간의 자율성은 보장하면서 구체적인 기준 마련으로 한국판 생성형 AI의 신뢰성 확보를 돕는다는 계획이다.

21일 과학기술정보통신부 등에 따르면 한국정보통신기술협회(TTA)는 최근 'GPT 서비스 평가 기반 마련 연구 용역', '신뢰가능한 인공지능의 정량적 및 정성적 평가 도구 연구 용역', '인공지능 신뢰성 검인증 플랫폼 구축 ISP(인터넷서비스사업자) 수립 용역' 등 3건의 입찰 공고를 냈다.

TTA는 제안서에서 "사람 중심의 'AI 강국' 실현을 위해 AI의 혜택은 극대화하면서 위험·부작용을 최소화하고자 AI 신뢰성 확보를 위한 사업을 추진하고 있다"고 설명했다.

네이버, 카카오 등 국내 기업이 출시하는 생성형 AI가 우선 평가 대상이 될 전망이다.

GPT 서비스의 경우 '공평성', '사실 정확성', '데이터 적정성', '활용 적절성' 등을 평가하게 된다. TTA는 이르면 11월 중 이 같은 평가지표를 적용한 시뮬레이션도 진행한다.

규제 우려가 이는 것과 관련해 정부는 민간 자율 규제 방침을 강조했다. 협의를 통해 평가 지표를 변경하는 등 기업의 의견을 충실히 반영할 수 있다는 것이다.

과기정통부 관계자는 "국내 기업이 내놓을 생성형 AI의 문제점은 없는지 사전에 점검하려는 취지"라며 "AI 신뢰성 확보를 돕기 위해 기업과 협업하는 구조"라고 말했다.