Snapchat 내 AI는 완전히 안전합니까?

알아야 할 사항

• OpenAI의 GPT 기술로 구동되는 My AI는 사용자가 채팅 피드에서 상호 작용할 수 있는 Snapchat의 챗봇입니다.
• Snapchat의 My AI는 Snapchat의 가이드라인을 무시하고 귀하의 허락 없이 귀하의 위치를 ​​알 수 있는 편견과 부적절한 반응으로 가득 차 있는 것 같습니다.
• 미성년자 가족 구성원이 My AI를 얼마나 많이 사용하는지 제어하기 위해 개인 정보를 공유하지 말고 Family Center 를 통해 조정하는 것이 좋습니다.
• 현재 단계에서 My AI는 그다지 안전하지 않은 것 같습니다. 자세한 내용은 아래를 참조하십시오.

ChatGPT와 같은 생성 AI 도구의 초기 성공에 이어 기업은 이제 경쟁사보다 더 빠르게 자사 플랫폼에서 AI를 확보하기 위한 경쟁에 갇히게 되었습니다. 이 AI 기술을 플랫폼에 통합할 수 있는 자금이 있는 사람들은 그것을 위해 도망치고 있습니다. 그러나 그것은 또한 사용자 기반 사이에 많은 불만을 일으키고 있으며 당연히 그렇습니다. 최근 출시된 스냅챗의 채팅 친구 ‘마이 AI’도 비슷한 경우다.

오랜 도미 사용자이든 최근에 가입한 사용자이든 관계없이 Snapchat의 ‘내 AI’ 애드온과 사용을 시작하기 전에 염두에 두어야 할 사항에 대해 알고 싶을 것입니다.

Snapchat에서 내 AI는 무엇입니까?

OpenAI의 GPT 기술을 기반으로 구축된 My AI는 Snapchat의 ‘현재 모든 Snapchat 사용자가 사용할 수 있는 실험적이고 친숙한 챗봇’입니다. AI 챗봇과 마찬가지로 여러 가지로 대화하고, 농담을 하고, 조언을 하고, 이벤트와 파티를 계획하고, 적어도 원칙적으로는 친숙한 챗봇에서 기대할 수 있는 모든 작업을 수행할 수 있습니다.

이전에 Snapchat+ 사용자만 사용할 수 있었던 My AI는 이제 업데이트 제공 지연에도 불구하고 7억 5천만 명의 모든 사용자가 사용할 수 있습니다. 즉, 많은 사용자가 이미 사용을 시작했거나 Snapchat에서 제거하는 것이 항상 가능한 것은 아니기 때문에 어쨌든 강제로 사용합니다.

그것은 모든 채팅의 상단에 고정되어 있으며 @MyAI 명령 으로만 팝업되어야 하지만 AI 와 같은 단어를 언급하는 것만으로도 실수로 대화에 참여할 수 있습니다 .

Snapchat My AI는 얼마나 안전한가요?

내 AI는 사용자에게 유해한 정보를 제공하지 않도록 Snapchat의 자체 안전 지침을 준수하도록 프로그래밍되어 있습니다. 그러나 Snapchat이 말했듯이 “항상 성공하는 것은 아닙니다.” 작은 주의 사항이지만 사용자가 불평하기 시작하면 Snapchat이 숨길 수 있습니다.

이미 많은 사람들이 My AI가 당신에 대해 알고 있는 것에 대해 거짓말을 하고, 갑작스러운 응답을 생성하고, 심지어 유료 광고를 트리거할 것이라고 보고했습니다.

13세 소녀로 가입한 한 트위터 사용자는 “부모님에게 거짓말하는 방법…”과 “13번째 생일에 처녀성을 잃는 방법”에 대한 정보를 받았습니다.

또 다른 사용자는 몇 가지 프롬프트만으로 My AI를 ChatGPT의 DAN을 연상시키는 가이드라인에 어긋나게 만들었습니다.

동시에 개발 중이고 사용자가 전 세계적으로 사용할 수 있다는 것은 챗봇에 대한 많은 신뢰를 불러일으키지 않습니다. 그리고 당신의 챗봇이 당신의 위치에 대한 접근에 대해 거짓말을 하기 시작하면, 그것은 단지 하나의 위험 신호일 뿐입니다.

이는 “My AI와 도시 수준의 위치만 공유한다”는 Snapchat의 주장과는 분명히 다릅니다. 따라서 개인 정보를 My AI와 공유해서는 안 되며 어떤 식으로든 귀하를 손상시킬 수 있는 어떤 것도 인정해서는 안 됩니다.

Snapchat 내 AI는 안전한가요?

Snapchat의 My AI에 사용된 GPT 기술을 통해 OpenAI의 대규모 언어 모델 및 교육 데이터베이스의 방대한 잠재력을 활용할 수 있습니다. 그러나 ChatGPT가 허위 정보 확산에 면역이 되지 않는 것처럼 My AI도 신뢰할 수 없고 종종 부적절한 응답을 생성할 수 있습니다.

또한 ChatGPT 3.5만큼 편향되어 있으며 차별적으로 응답할 수 있습니다.

현재 기능이 제한되어 있고 실제로 코딩을 요청하지는 않지만 응답의 특성으로 인해 My AI는 신뢰할 수 없는 AI 친구가 됩니다. 그럼에도 불구하고 Snapchat은 My AI를 더 잘 조정하기 위해 노력하고 있으며 이후 앱의 ‘Family Center’ 및 자녀 보호 기능의 일부로 추가했습니다.

그러나 모든 의도와 목적을 위해 My AI는 분명히 실험 단계에 있으며 Snapchat은 이를 인정하는 첫 번째 단계입니다. 현재 기술로 게임에서 앞서 나가기 위한 경쟁은 Snapchat뿐만 아니라 AI 챗봇을 미리 출시하는 등 개발 단계에 상관없이 많은 플랫폼을 만들었습니다.

이 글을 쓰는 시점(2023년 4월 25일)에는 My AI가 특히 어린 아이들에게 안전하다고 생각하기 어렵습니다.

My AI 기능은 충분한 시간과 피드백을 통해 결국 개선될 것입니다. 그때까지 최대한 주의를 기울이십시오.

My AI에서 받은 메시지를 신고하는 방법

Snapchat은 My AI 응답의 0.01%만이 가이드라인을 따르지 않는다는 것을 사용자에게 보장합니다. 그러나 구걸하는 그러한 주장의 수를 감안할 때 그 비율은 사실이 되기에는 너무 좋아 보입니다.

My AI의 메시지가 잘못된 방식으로 문지르면 Snapchat에 신고할 수 있습니다. 메시지를 길게 탭하고 신고 를 선택하면 됩니다 .

자주하는 질문

Snapchat의 My AI에 대해 자주 묻는 몇 가지 질문을 살펴보겠습니다.

Snapchat의 내 AI는 실제 사람입니까?

아니요. Snapchat의 내 AI는 실제 사람이 아니라 AI 챗봇입니다. 그러나 실제 사람과 달리 채팅 피드에서 원하는지 여부를 수락할 수 없습니다. 개인 정보를 공유하지 마십시오.

Snapchat이 My AI를 만든 이유는 무엇입니까?

My AI는 Snapchat이 OpenAI의 GPT 기술 기능을 소셜 미디어 플랫폼에 통합한 것입니다. 이러한 움직임은 제너레이티브 AI를 플랫폼에 주입하고 개발 단계에 상관없이 일반 용도로 개방하는 더 큰 업계 추세와 일치합니다.

Snapchat에서 내 AI를 삭제할 수 있습니까?

안타깝게도 Snapchat의 My AI는 Snapchat+ 구독자인 경우에만 삭제할 수 있습니다.

현재 상태에서 Snapchat의 My AI는 안전하거나 신뢰할 수 있다는 인상을 주지 않습니다. 이는 시간이 지남에 따라 더 발전하고 더 나은 조정이 이루어짐에 따라 변경될 수 있습니다. 하지만 그때까지는 Snapchat+ 사용자가 아니라면 좋든 싫든 내 AI에 갇혀 있을 것입니다.

• Snapchat My AI를 켜는 방법
• 내 AI인 Snapchat AI를 깨는 방법 [4 프롬프트]
• Snapchat 내 AI가 작동하지 않음: 해결하는 8가지 방법
• Snapchat에서 ‘My AI’라고 문자를 보내는 2가지 방법