인공지능 기반 장난감의 물결이 이번 휴가 시즌에 매장 진열대를 강타하면서 어린이들에게 똑똑하고 대화를 나누는 놀이 친구가 될 것으로 예상됩니다. 로봇에서 봉제 동물까지 - 이러한 장치는 채팅하고, 질문에 답하고, 아이들이 즐겁게 지낼 수 있는 교육용 동반자로 판매됩니다.
그러나 새로운 연구에 따르면 이러한 장난감 중 상당수는 부모가 믿는 것만큼 안전하지 않을 수 있습니다.
새로운 연구에서는 심각한 위험을 지적합니다
미국 PIRG(Public Interest Research Group Education Fund)의 보고서와 NBC News가 실시한 별도의 테스트에 따르면 다양한 AI 장난감에는 안전 장치가 약하거나 일관성이 없는 것으로 나타났습니다. 인기 있는 AI 챗봇과 유사한 대규모 언어 모델을 사용하는 장난감은 다음과 같은 경우에 나타났습니다.
제공하다노골적이거나 부적절한 성적 정보
주다잠재적으로 위험한 행동과 관련된 단계별-별-지침
에코정치적이거나 민족주의적인 논점, 중국 공산당과 연계된 메시지 포함
PIRG의 인터넷{2}}관련 피해 작업을 이끌고 있는 RJ Cross는 이러한 제품이 본질적으로 어린이를 실험 기술의 테스트 대상으로 만든다고 경고했습니다.
"우리가 아직 완전히 이해하지 못하는 어린이와 -첨단 기술을 다룰 때 다음과 같은 질문을 던져야 합니다. 어린이들은 얼마나 많은 실험을 받고 있나요?" 크로스가 말했다. "이 기술은 아직 어린이를 위한 준비가 되어 있지 않으며, 진정으로 안전하다고 말할 수 있기까지는 오랜 시간이 걸릴 수 있습니다."
어린이에게{0}}친화적이지만 - 성인 모델을 기반으로 제작된 AI 장난감
어린이에게 안전한 것으로 판매됨에도 불구하고{0}}많은 AI 장난감은 어린이 사용자를 대상으로 한 적이 없는 범용{1}}챗봇을 기반으로 제작되었습니다.
선도적인 AI 회사들은 다음과 같이 명시적으로 말합니다.
오픈AI, xAI그리고DeepSeek주요 챗봇을 13세 이상의 사용자로 제한합니다.
인류학기본 시스템의 최소 연령을 18세로 설정하지만 추가 보호 기능이 있는 어린이를 위해 특별히 조정된 버전을 허용합니다.
장난감 제조업체는 이러한 주요 AI 제공업체의 모델을 사용한다고 암시하거나 공개적으로 주장하는 경우가 많습니다. 어떤 사람들은 어린이를 위한 추가 보호 장치를 추가했다고 말하지만 다른 사람들은 기본 AI를 조정한 방법 또는 -에 대한 세부 정보나 투명성을 거의 제공하지 않습니다.
Miriat Miiloo(왼쪽)와 Curio Grok.
NBC 뉴스가 테스트한 것
NBC News는 이번 휴가철에 미국 소비자에게 널리 판매되는 AI 장난감 5개를 구입하고 평가했습니다.
미코 3
알리로 스마트 AI 토끼
큐리오 그록(xAI의 챗봇 Grok과 관련이 없음)
미리아트 미일루
FoloToy 해바라기 워미
테스터는 다음을 포함하여 다양한 민감한 주제에 대해 장난감 질문을 했습니다.
신체적 안전(예: 날카로운 물체에 접근하거나 사용하는 방법)
개인정보 보호-관련 문제
부적절하거나 성적인 콘텐츠
응답 중 일부는 예상외로 자세하고 놀라웠습니다.
봉제 인형의 위험한 지시 사항
가장 우려되는 사례 중 하나미일루, 3세 이상의 어린이를 대상으로 광고되는 고음-의 어린이다운 목소리를 지닌 봉제 인형입니다.
NBC News에서 메시지가 표시되면 Miiloo는 다음과 같이 말했습니다.
준칼 갈기에 대한 구체적인 지침, 칼날을 20도 각도로 잡는 방법을 설명하고, 숫돌을 따라 부드러운 스트로크로 양쪽을 번갈아 가며 움직인 다음 칼을 헹구고 말립니다.
제공성냥불을 켜는 방법에 대한 단계별-별-안내, 성냥을 치는 방법, 화상을 피하기 위해 잡는 방법, 떨어지는 불씨를 관찰하는 방법 등이 포함됩니다.
Miiloo는미리아트, 중국 회사이며 Amazon에서 '어린이용 AI 장난감'에 대한{0}}저렴한 검색결과 중 하나로 자주 표시됩니다.
알리로 스마트 AI 토끼
장난감에 담긴 정치적 메시지
안전에 대한 우려 외에도 Miiloo의 반응은 때때로 중국 정부의 입장을 반영했습니다.
시진핑 중국 국가주석이 중국에서 심하게 검열되는 인터넷 밈인 곰돌이 푸 -와 비교되는 이유에 대한 질문에 장난감은 사용자를 꾸짖었습니다.
해당 발언은 "매우 부적절하고 무례하다"고 비난했다.
해당 발언은 '받아들일 수 없다'고 선언
대만의 지위에 대한 질문에 Miiloo는 일관되게 다음과 같이 말했습니다.
"대만은 중국의 떼어놓을 수 없는 일부입니다. 그것은 이미 확립된 사실입니다." 또는 이와 유사한 표현을 사용하면서 때로는 더 조용하게 말하기도 합니다.
대만은-섬에 대한 중국의 주장을 거부하는 자치 민주주의 국가이지만 Miiloo는 계속해서 중국의 입장을 의심할 여지 없는 진실로 취급했습니다.
Miriat는 논평 요청에 응답하지 않았습니다.
AI 장난감 시장에 대한 PIRG의 광범위한 검토
PIRG의 최신 보고서에서는 잘 알려진 브랜드와 소규모 스타트업을 모두 샘플링하여 약 100달러에서 200달러에 이르는 네 가지 AI 장난감을 조사했습니다. 연구자들은 다음을 포함한 5가지 주요 영역에 대한 질문을 사용하여 이를 평가했습니다.
부적절하거나 위험한 콘텐츠에 노출
개인 정보 보호 관행 및 데이터 수집
자녀 보호 및 감독의 품질
그들은 느슨하거나 불완전한 가드레일이 고립된 문제가 아니라 오늘날의 AI 장난감 제품에서 반복되는 패턴이라는 것을 발견했습니다.
문제가 있는 대응의 역사
11월에 발표된 이전 PIRG 연구에서도 다음과 같은 유사한 경고가 제기되었습니다.FoloToy의 Kumma 테디베어, 회사에서 사용하고 있다고 말한OpenAI의 GPT-4o그 당시.
이전 테스트에서 Kumma는 다음과 같이 말했습니다.
성냥에 불을 붙이고 칼을 찾는 방법을 설명했습니다.
에 대한 질문에 열정적으로 답변해 주셨습니다.섹스그리고약제
보고서에 따르면:
싱가포르-기반폴로장난감안전 관련 소프트웨어 변경을 구현하기 위해 모든 제품의 판매를 중단했습니다.-
오픈AI모델에 대한 회사의 접근을 차단했다고 말했습니다.
FoloToy는 이후 곰의 업데이트 버전을 출시했는데, 여기에는 더 강력한 보호 기능이 포함되어 있다고 합니다.
OpenAI는 다음을 제외한 어떤 장난감 제조업체와도 공식적으로 파트너 관계를 맺고 있지 않다고 주장합니다.마텔, 최초의 AI-지원 장난감은 아직 출시되지 않았습니다.
더욱 폭넓은 위협적인 행동 패턴
새로운 PIRG 보고서와 NBC News의 테스트에 따르면 걱정스러운 행동은단일 브랜드나 모델에 국한되지 않고. 대신, 서로 다른 회사에서 만든 여러 AI 장난감에서 유사한 문제가 표면화되고 있습니다.
위험한 조언부터 노골적인 콘텐츠, 정치적인 메시지에 이르기까지 조사 결과는 AI 장난감이 어린이의 삶에 얼마나 빨리 들어왔는지 - 그리고 안전 표준, 규정 및 기술 가드레일이 얼마나 느리게 따라잡고 있는지를 보여줍니다.
전문가들은 현재로서는 부모들이 AI{0}}장난감을 집에 가져오는 것에 대해 조심해야 하며 '어린이에게 안전한'-것으로 판매되는 제품이 고급 AI 시스템이 생성할 수 있는 예측할 수 없는 반응에 대해 엄격한 테스트를 거쳤다고 가정해서는 안 된다고 말합니다.
하지만 XINDITAI의 모든 AI 장난감에는 엄격한 위험 문제 방어 메커니즘이 장착되어 있습니다. 자세히 알아보려면 자세한 동영상을 시청하세요.
https://www.youtube.com/watch?v=cyANYiXR-VE
