O Snapchat My AI é totalmente seguro?

o que saber

• Alimentado pela tecnologia GPT da OpenAI, My AI é o chatbot do Snapchat com o qual os usuários podem interagir a partir de seu feed de bate-papo.
• O My AI do Snapchat parece estar cheio de preconceitos e respostas inadequadas que desrespeitam as diretrizes do Snapchat e também podem saber sua localização sem sua permissão.
• Recomendamos que você não compartilhe informações privadas com ele e modere-o por meio do Family Center para controlar quantos membros menores de idade da família usam o My AI.
• Em seu estágio atual, My AI não parece muito seguro. Leia abaixo para saber mais.

Após o sucesso inicial de ferramentas de IA generativas como o ChatGPT, as empresas agora estão travadas em uma corrida para ter IA em suas plataformas mais rapidamente do que a concorrência. Aqueles que têm os meios para integrar essa tecnologia de IA em suas plataformas estão correndo atrás dela. Mas também está gerando muitas críticas entre suas bases de usuários, e com razão. O recente lançamento do amigo de bate-papo do Snapchat ‘My AI’ é um caso semelhante.

Seja você um snapper de longa data ou um recém-chegado, você vai querer saber sobre o add-on ‘My AI’ do Snapchat e o que você deve ter em mente antes de começar a usá-lo.

O que é My AI no Snapchat?

Construído com a tecnologia GPT da OpenAI, o My AI é o ‘chatbot experimental e amigável do Snapchat atualmente disponível para todos os Snapchatters’. Como acontece com qualquer chatbot de IA, você pode conversar com ele sobre várias coisas, contar piadas, dar conselhos, planejar eventos e festas e fazer tudo o que você esperaria de um chatbot amigável, pelo menos em princípio.

Anteriormente disponível apenas para usuários do Snapchat+, o My AI agora está disponível para todos os seus 750 milhões de usuários, apesar do atraso na entrega de atualizações. Isso significa que vários usuários já começaram a usá-lo ou são forçados a fazê-lo, pois nem sempre é possível removê-lo do Snapchat.

Ele ficará fixado no topo de todos os seus bate-papos e pode acidentalmente ser levado a conversas com a mera menção de palavras como AI , embora deva aparecer apenas com o comando @MyAI .

Quão seguro é o Snapchat My AI?

Minha IA é (supostamente) programada para cumprir as próprias diretrizes de segurança do Snapchat para evitar que ele forneça informações prejudiciais aos usuários. Mas, como diz o Snapchat, “nem sempre pode ser bem-sucedido” nisso. É uma pequena ressalva, mas que o Snapchat pode esconder quando os usuários começam a reclamar.

Muitos já relataram que o My AI mente sobre o que sabe sobre você, gera respostas inesperadas e até aciona anúncios pagos.

Uma usuária do Twitter , cadastrada como uma menina de 13 anos, recebeu dicas sobre “como mentir para os pais…” e “como perder a virgindade no aniversário de 13 anos”.

Outro usuário fez My AI ir contra suas diretrizes com muita facilidade, uma reminiscência do DAN do ChatGPT, com apenas alguns prompts.

Estar simultaneamente em desenvolvimento e disponível globalmente para os usuários não inspira muita confiança no chatbot. E quando seu chatbot começa a mentir sobre o acesso à sua localização, é apenas uma bandeira vermelha após a outra.

Este é um claro afastamento da afirmação do Snapchat de que “compartilha apenas com o My AI sua localização no nível da cidade”. Portanto, você definitivamente não deve compartilhar nenhuma informação pessoal com o My AI, nem admitir nada que possa comprometê-lo de alguma forma.

O Snapchat My AI é seguro?

A tecnologia GPT usada no My AI do Snapchat permite explorar o vasto potencial do grande modelo de linguagem e banco de dados de treinamento do OpenAI. Mas, assim como o ChatGPT não é imune à disseminação de desinformação, o My AI também pode gerar respostas não confiáveis ​​e muitas vezes inadequadas.

Também é tão tendencioso quanto o ChatGPT 3.5 e pode responder de forma discriminatória.

Embora seus recursos sejam atualmente limitados e você realmente não peça para codificar para você, a natureza de suas respostas torna My AI um amigo de IA não confiável. No entanto, o Snapchat está trabalhando para moderar melhor o My AI e, desde então, também o adicionou como parte do ‘Family Center’ do aplicativo e dos recursos de controle dos pais.

Mas, para todos os efeitos, My AI está claramente em um estágio experimental, e o Snapchat é o primeiro a admitir isso. A corrida para ficar à frente do jogo com a tecnologia atual fez não apenas o Snapchat, mas muitas plataformas, como lançar seus chatbots de IA antes do tempo, não importa o quão longe eles estejam em seus estágios de desenvolvimento.

No momento em que este livro foi escrito (25 de abril de 2023), é difícil considerar o My AI seguro, especialmente para os mais jovens.

O recurso My AI acabará por melhorar com tempo e feedback suficientes. Até lá, tenha o máximo de cuidado possível.

Como relatar mensagens recebidas do My AI

O Snapchat garante aos usuários que apenas 0,01% das respostas do My AI não estão de acordo com suas diretrizes. Mas, dado o número de tais reivindicações que foram pedidas, a porcentagem parece boa demais para ser verdade.

Pelo que vale a pena, se alguma das mensagens do My AI incomodar você, você pode denunciá-las ao Snapchat. Basta tocar e segurar uma mensagem e selecionar Denunciar .

Perguntas frequentes

Vamos dar uma olhada em algumas perguntas frequentes sobre o My AI do Snapchat.

O My AI no Snapchat é uma pessoa real?

Não. Meu AI no Snapchat é um chatbot AI, não uma pessoa real. No entanto, ao contrário de uma pessoa real, você não pode aceitar se deseja ou não em seu feed de bate-papo, onde ficará para o bem ou para o mal. Não compartilhe nenhuma informação privada com ele.

Por que o Snapchat criou o My AI?

My AI é a opinião do Snapchat sobre a integração dos recursos da tecnologia GPT da OpenAI em sua plataforma de mídia social. O movimento está de acordo com a tendência mais ampla da indústria de infundir IA generativa em plataformas e abri-las para uso geral, não importa onde estejam em seu estágio de desenvolvimento.

Posso deletar o My AI no Snapchat?

Infelizmente, My AI no Snapchat só pode ser excluído se você for assinante do Snapchat+.

Em seu estado atual, o My AI do Snapchat não dá a impressão de segurança ou confiabilidade. Isso pode mudar com o tempo, à medida que se desenvolve e uma melhor moderação é implementada. Mas até lá, se você não for um usuário do Snapchat+, ficará preso ao My AI, goste ou não.

• Como ativar o Snapchat My AI
• Como quebrar o Snapchat AI, o My AI [4 Prompts]
• Snapchat My AI não está funcionando: 8 maneiras de corrigir
• 2 maneiras de enviar mensagens de texto ‘Minha IA’ no Snapchat