)
챗GPT에 사용자의 연령을 예측해 미성년자에게 일부 유해 콘텐츠를 제한하는 기능이 도입된다.
챗GPT 개발사 오픈AI는 20일(현지시간) 자사 블로그를 통해 “ChatGPT 소비자 플랜에 연령 예측 기능을 도입해 계정이 18세 미만 사용자일 가능성이 있는지를 판단하고, 적절한 보호장치를 적용한다”고 밝혔다.
연령 예측은 계정 생성 기간, 사용자 활동 시간대, 사용 패턴, 입력한 나이 등 행동 및 계정을 기반 신호를 종합적으로 분석해 이뤄진다.
연령 예측 모델을 통해 미성년자로 분류된 이용자에게는 폭력적인 콘텐츠, 미성년자에게 유해한 행동을 부추길 수 있는 유행 챌린지, 성적·폭력적 역할극, 자해 묘사, 극단적인 미의 기준, 건강하지 않은 다이어트를 조장하는 콘텐츠와 같은 민감한 콘텐츠 노출이 제한된다.
오픈AI는 해당 방식이 전문가 자문과 학술 문헌을 기반으로 한 조치로, 위험 인식과 충동 조절, 또래 영향, 정서 조절 측면에서 청소년이 성인과 다르다는 점을 반영한 것이라고 설명했다.
보호 장치를 우회하려는 시도에 대응하는 등 미성년자 보호를 지속적으로 개선하는 데 집중하고 있으며, 사용자의 나이에 대해 확신이 없거나 정보가 불완전한 경우에는 보다 안전한 경험을 기본값으로 적용한다고 밝혔다.
18세 미만으로 잘못 분류된 사용자는 언제든지 신원 확인 서비스를 통해 셀피를 제출해 간단히 나이를 확인하고 전체 접근 권한을 복구할 수 있다. 보호장치 적용 여부는 설정 > 계정 메뉴에서 확인 가능하다.
부모는 보호자 통제 기능을 통해 자녀의 ChatGPT 이용 경험을 추가로 맞춤 설정할 수 있다. ChatGPT 사용 제한 시간 설정, 메모리나 모델 학습 기능 제어, 급성 스트레스 징후 감지 시 알림 수신 기능 등이 포함된다.
오픈AI는 연령 예측 과정에서 정확도를 높이는 신호를 학습해 모델을 지속적으로 개선하고 있으며, 초기 롤아웃에서 얻은 결과를 바탕으로 성능 고도화를 이어가고 있다고 밝혔다.
회사 측은 이번 조치가 중요한 이정표라며, 미국심리학회(APA)와 글로벌 의사 네트워크 등 전문가들과의 협업을 통해 청소년 보호를 위한 노력과 진행 상황, 학습 결과를 지속적으로 공유할 계획이라고 덧붙였다.
앞서 오픈AI는 청소년의 챗GPT 이용과 관련한 논란이 이어지자 ‘청소년 안전 청사진’과 ‘18세 미만 사용자에 대한 모델 행동 원칙’을 마련해 청소년 보호 원칙을 명문화했다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
