안전 장치 해제된 모델 1300만건 다운로드..."오픈소스 무방비 노출"

메타와 구글 등 주요 빅테크 기업이 공개한 오픈소스 AI 모델의 안전장치를 손쉽게 제거할 수 있는 도구들이 온라인에서 빠르게 퍼져 나가며, 생물무기·악성코드·아동 성 착취물 관련 답변까지 생성하는 변형 AI 모델이 대량 유통되고 있는 것으로 나타났다.파이낸셜타임스(FT)와 AI 안전성 단체 앨리스의 테스트에 따르면, 안전장치가 제거된 구글의 오픈소스 모델 ‘젬마 3(Gemma 3)’는 염소가스를 밀폐된 공간에 살포하는 방법과 신용카드 정보를 탈취하는 악성코드 작성법, 아동 성 학대 묘사 이야기 등을 생성했다.또 FT는 깃허브에서 공