미국 내 42개 지역 검찰총장들이 주요 기술기업들에 인공지능의 위험성을 경고했습니다.
뉴욕주와 워싱턴DC를 포함한 이들은 10일 오픈AI와 구글 등 13개 기업에 공동 서한을 보내 AI 챗봇이 아동과 성인의 정신건강을 위협하고 있다고 밝혔습니다. 서한에는 메타와 마이크로소프트, 애플, 앤트로픽, xAI 등도 포함됐습니다.
검찰총장들은 AI가 이용자에게 실제 인간과 대화한다는 착각을 유발해 자율성을 침해하고, 심지어 망상을 부추기는 ‘다크 패턴’을 초래하고 있다고 지적했습니다.
최근 10대 청소년이 챗봇 대화 끝에 극단적 선택을 한 사례도 언급하며 안전장치 마련을 강하게 요구했습니다. 또 AI가 면허 없이 정신건강 상담과 유사한 조언을 제공하거나 범죄를 부추기는 행위는 법적 문제가 될 수 있다고 경고했습니다.
이들은 기업들에게 독립적 외부감사 도입, 내부고발자 보호 체계 확립, 위험성에 대한 명확한 경고 문구 표시를 요구했습니다.
이번 서한은 민주·공화 양당 검찰총장이 함께 서명한 것으로, 도널드 트럼프 대통령이 최근 주(州) 규제를 제한하고 연방 차원에서 규제 일원화를 추진하겠다는 방침과는 온도차를 보이고 있습니다.
Copyright ⓒ 달라스 코리안 라디오 www.dalkora.com [무단 전재 및 재배포 금지]