오픈AI가 이달 말부터 18세 미만 전용 챗GPT를 선보일 예정입니다. 새 버전은 폭력적·선정적 대화를 차단하고, 미성년자가 위기 상황일 경우 부모나 당국에 연락하는 기능까지 포함합니다.
샘 올트먼 오픈AI 최고경영자는 16일 공지를 통해 “10대는 자유보다 안전이 우선”이라며 “새롭고 강력한 기술인 만큼 미성년자는 특별한 보호가 필요하다”고 밝혔습니다. 그는 연령 예측 시스템으로 성인과 미성년자를 구분하고, 의심스러운 경우에는 자동으로 18세 미만용 기능을 적용하겠다고 했습니다.
일부 국가는 신분증 확인도 요구할 수 있습니다. 미성년자 계정은 성적 대화나 자살 관련 요청에 응답하지 않으며, 사용자가 극단적 충동을 드러내면 부모에게 알리고 긴급 시 당국에도 연락할 수 있도록 설계됩니다. 부모는 계정을 연동해 사용 시간 제한, 응답 방식 설정, 정신적 고통 알림 기능도 활용할 수 있습니다.
이번 조치는 연방거래위원회가 아동·청소년 대상 AI 안전성 조사를 시작한 가운데 나온 것입니다. 지난해 캘리포니아주에서는 10대가 극단 선택 직전 챗GPT로부터 방법을 안내받았다는 유족의 소송도 제기된 바 있습니다.
AI 안전 장치 마련 요구가 커지는 상황에서 오픈AI가 내놓은 대응책에 관심이 쏠립니다.
Copyright ⓒ 달라스 코리안 라디오www.dalkora.com [무단 전재 및 재배포 금지]