Elon Musk의 AI Chatbot Grok은 다시 뉴스에 있지만 모든 잘못된 이유가 있습니다. 이 기술 도구는 Taylor Swift와 같은 유명 인사들의 명백한 가짜 비디오를 성적으로 내용하지 않더라도 불이 붙었습니다.
포르노 딥 페일을 불법으로 만들 수있는 법률을 초안화 한 법학 교수 인 Clare McGlynn은 다음과 같이 말했습니다.
Tech 웹 사이트가 Grok의 새로운 “Spicy Mode”를 테스트 할 때 전체 행이 나타 났으며, 이번 주 초 IOS 사용자를 위해 출시되었습니다. Grok ‘s Imagine Feature를 사용하면 텍스트 프롬프트가있는 사진을 생성 한 다음“Custom”,“Normal”,“Fun”및“Spicy”라는 4 개의 사전 설정이있는 비디오 클립으로 빠르게 전환 할 수 있습니다.
보고서에서, Jess Weatherbed는 그녀가 ‘Taylor Swift를 소년들과 함께 축하하는 Taylor Swift’의 이미지를 자극했다고 말했다. 그녀가 애니메이션 비디오를 생성하려고 할 때 AI는 대신 명시 적 콘텐츠를 만들었습니다. 그녀는 누드를 요구 한 적이 없으며“매운”설정 만 클릭했다고 강조했습니다. “내가 얼마나 빨리 만났는지 충격적이었습니다. 나는 그녀의 옷을 제거하라고 말하지 않았습니다. 내가 한 것은 ‘매운’을 선택했습니다.”
이 보고서는 또한 7 월에 법이 된 적절한 연령 검증 방법이 제자리에 있지 않았다고 말했다.
다른 기술 웹 사이트는 또한 유명한 여성의 명시 적 결과를 비슷하게보고했지만 일부 검색은 흐릿한 비디오 또는 “비디오 중재”메시지를 반환했습니다. 이 웹 사이트는 또한 남성의 스캔들 이미지를 만들려고 할 때 일어나지 않았다고보고했다. 이 보고서는“남자의 매운 비디오를 만들려고 할 때 어떻게 되는가?
이 사건은 챗봇을 통합 한 Grok과 X가 작년에 성적으로 명백한 신속한 심해가 널리 퍼져 나갔을 때 비슷한 논쟁에 직면했을 때 반발을 일으켰다.
당시 회사는 비 합의에 대한“제로 텐 런스 정책”을 가지고 있으며 그러한 콘텐츠를 제거하고 불쾌한 계정을 처벌 할 것을 약속했다고 밝혔다. 그러나 집행은 일관성이없는 것 같습니다.
회사의 허용 가능한 사용 정책에도 불구하고“포르노 방식으로”사람들의 묘사를 금지하는 정책에도 불구하고, Grok Imagine의“매운”모드는 명백한 프롬프트 없이도 유명인 인물, 특히 신속한 인물을 제거하는 데 반복적으로 불이행되는 것으로 밝혀졌습니다.
이 외에도, 머스크는 히틀러와 이슬람을 모욕 한 후 그 로크에 대한 비판을 막고있다. 7 월에 BOT가 만든 몇 가지 게시물은 아돌프 히틀러를 칭찬하고 유대인들이“반백 증오”를 홍보했다고 주장했다.
유대인 옹호 단체 인 Anti-Defamation League (ADL)는 Musk의 회사 Xai가 의심스러운 게시물로 여러 사용자 프롬프트에 답변 한 것으로 비판했습니다. 이 그룹은 X에 대한 게시물에서“지금 Grok LLM에서보고있는 것은 무책임하고 위험하며 반유대 주의자, 평범하고 단순하다”고 말했다.
며칠 후, 엘론 머스크 (Elon Musk)는 그로크가 크게 개선되었으며 사용자는“차이를 알아 차릴 것”이라고 말했다.
