KAIST “AI도 모른다고 말할 수 있어야…‘노이즈 예열 학습’으로 해결”

한국과학기술원(KAIST, 총장 이광형)은 백세범 뇌인지과학과 석좌교수 연구팀이 딥러닝에서 널리 사용돼 온 ‘무작위 가중치 초기화’가 AI의 과도한 확신을 유발한다는 점을 지적, 이를 ‘노이즈 예열 학습’으로 해결했다고 27일 밝혔다. 연구진은 AI가 모르는 지식에 대해서도 아는 것처럼 답변을 내놓는 과도한 확신 문제가 학습 이후뿐만 아니라 초기화 단계부터 나타난다는 점에 주목했다. 무작위로 초기화된 신경망에 임의 데이터를 입력한 결과, 아직 아무 것도 배우지 않은 상태임에도 높은 확신을 보이는 현상이 확인됐다고 전했다. 이는 생성