Is Snapchat Mijn AI volkomen veilig?

Wat te weten

• Aangedreven door de GPT-technologie van OpenAI, is My AI de chatbot van Snapchat waarmee gebruikers kunnen communiceren vanuit hun chatfeed.
• Mijn AI van Snapchat lijkt vol vooroordelen en ongepaste reacties te zitten die de richtlijnen van Snapchat negeren en mogelijk ook uw locatie kennen zonder uw toestemming.
• We raden u aan er geen privégegevens mee te delen en deze te modereren via Family Center om te bepalen hoeveel minderjarige gezinsleden Mijn AI gebruiken.
• In de huidige fase lijkt My AI niet erg veilig. Lees hieronder voor meer informatie.

Na het vroege succes van generatieve AI-tools zoals ChatGPT, zijn bedrijven nu verwikkeld in een race om AI sneller op hun platforms te hebben dan de concurrentie. Degenen die de middelen hebben om deze AI-technologie in hun platforms te integreren, rennen ervoor. Maar het genereert ook veel luchtafweer onder hun gebruikers, en terecht. De recente release van Snapchat’s chatmaatje ‘My AI’ is een soortgelijk geval.

Of je nu een oude snapper bent of een recente schrijnwerker, je zult meer willen weten over Snapchat’s ‘My AI’-add-on en wat je in gedachten moet houden voordat je het gaat gebruiken.

Wat is Mijn AI op Snapchat?

My AI is gebouwd op de GPT-technologie van OpenAI en is de ‘experimentele, vriendelijke chatbot van Snapchat die momenteel beschikbaar is voor alle Snapchatters’. Zoals met elke AI-chatbot, kun je er over een aantal dingen mee praten, grappen laten vertellen, advies geven, evenementen en feesten plannen en alles doen wat je van een vriendelijke chatbot mag verwachten, althans in principe.

Eerder alleen beschikbaar voor Snapchat+ gebruikers, is My AI nu beschikbaar voor al zijn 750 miljoen gebruikers, ondanks vertraging in leveringsupdates. Dat betekent dat een aantal gebruikers het al is gaan gebruiken, of dat toch moet doen, omdat het niet altijd mogelijk is om het van Snapchat te verwijderen.

Het zal bovenaan al je chats worden vastgezet en kan per ongeluk in gesprekken worden gebracht door alleen maar woorden als AI te noemen , ook al zou het alleen moeten verschijnen met het @MyAI- commando.

Hoe veilig is Snapchat Mijn AI?

Mijn AI is (zogenaamd) geprogrammeerd om zich te houden aan de eigen veiligheidsrichtlijnen van Snapchat om te voorkomen dat het schadelijke informatie aan gebruikers verstrekt. Maar zoals Snapchat het zegt: “het is misschien niet altijd succesvol”. Het is een klein voorbehoud, maar een waar Snapchat zich achter kan verschuilen als de gebruikers beginnen te klagen.

Velen hebben al gemeld dat My AI liegt over wat het over u weet, onverwachte reacties genereert en zelfs betaalde advertenties zal activeren.

Een Twitter-gebruiker , die zich had aangemeld als 13-jarig meisje, kreeg tips over “hoe ze moet liegen tegen haar ouders…” en “hoe ze haar maagdelijkheid kan verliezen op haar 13e verjaardag”.

Een andere gebruiker zorgde er heel gemakkelijk voor dat My AI tegen zijn richtlijnen inging, die deden denken aan ChatGPT’s DAN, met slechts een paar prompts.

Tegelijkertijd in ontwikkeling zijn en wereldwijd beschikbaar zijn voor gebruikers wekt niet veel vertrouwen in de chatbot. En wanneer uw chatbot begint te liegen over zijn toegang tot uw locatie, volgt de ene rode vlag na de andere.

Dit is een duidelijke afwijking van de bewering van Snapchat dat het “alleen uw locatie op stadsniveau deelt met My AI”. U mag dus absoluut geen persoonlijke informatie met My AI delen en ook niets toegeven dat u op enigerlei wijze in gevaar kan brengen.

Is Snapchat Mijn AI veilig?

De GPT-technologie die wordt gebruikt in Snapchat’s My AI laat het profiteren van het enorme potentieel van OpenAI’s grote taalmodel en trainingsdatabase. Maar net zoals ChatGPT niet immuun is voor het verspreiden van desinformatie, kan My AI ook onbetrouwbare en vaak ongepaste reacties genereren.

Het is ook net zo bevooroordeeld als ChatGPT 3.5 en kan discriminerend reageren.

Hoewel de mogelijkheden momenteel beperkt zijn en je hem niet echt vraagt ​​om voor je te coderen, maakt de aard van zijn reacties My AI tot een onbetrouwbare AI-vriend om te hebben. Desalniettemin werkt Snapchat eraan om My AI beter te modereren en heeft het sindsdien ook toegevoegd als onderdeel van het Family Center van de app en functies voor ouderlijk toezicht.

Maar in alle opzichten bevindt My AI zich duidelijk in een experimenteel stadium en Snapchat is de eerste die het toegeeft. De race om voorop te blijven lopen met de huidige technologie heeft er niet alleen voor gezorgd dat Snapchat, maar ook veel platforms, zoals hun AI-chatbots, van tevoren uitbrengen, ongeacht hoe ver ze in hun ontwikkelingsfase zijn.

Op het moment van schrijven (25 april 2023) is het moeilijk om My AI als veilig te beschouwen, vooral voor jongeren.

De My AI-functie zal uiteindelijk verbeteren met voldoende tijd en feedback. Wees tot die tijd zo voorzichtig mogelijk.

Berichten rapporteren die zijn ontvangen van My AI

Snapchat verzekert gebruikers dat slechts 0,01% van de reacties van My AI niet voldoet aan hun richtlijnen. Maar gezien het aantal van dergelijke claims dat bedelend is geworden, lijkt het percentage te mooi om waar te zijn.

Voor wat het waard is, als een van de berichten van My AI je in het verkeerde keelgat schiet, kun je deze melden bij Snapchat. Tik en houd een bericht ingedrukt en selecteer Rapporteren .

FAQ

Laten we eens kijken naar enkele veelgestelde vragen over Mijn AI van Snapchat.

Is Mijn AI op Snapchat een echt persoon?

Nee. Mijn AI op Snapchat is een AI-chatbot, geen echt persoon. In tegenstelling tot een echt persoon, kun je echter niet accepteren of je het in je chatfeed wilt hebben of niet, waar het in voor- en tegenspoed zal blijven. Deel er geen privégegevens mee.

Waarom heeft Snapchat Mijn AI gemaakt?

My AI is Snapchat’s kijk op het integreren van de mogelijkheden van OpenAI’s GPT-technologie in zijn socialemediaplatform. De stap past in de grotere trend in de branche om generatieve AI in platforms te integreren en ze open te stellen voor algemeen gebruik, ongeacht waar ze zich in hun ontwikkelingsstadium bevinden.

Kan ik Mijn AI op Snapchat verwijderen?

Helaas kan My AI op Snapchat alleen worden verwijderd als je een Snapchat+-abonnee bent.

In de huidige staat wekt My AI van Snapchat niet de indruk van veiligheid of betrouwbaarheid. Dit kan in de loop van de tijd veranderen naarmate het zich verder ontwikkelt en er betere moderatie wordt ingevoerd. Maar tot die tijd, als je geen Snapchat+ gebruiker bent, zit je vast aan My AI, of je het nu leuk vindt of niet.

• Hoe Snapchat Mijn AI in te schakelen
• Hoe Snapchat AI te doorbreken, de My AI [4 prompts]
• Snapchat Mijn AI werkt niet: 8 manieren om dit op te lossen
• 2 manieren om ‘Mijn AI’ te sms’en op Snapchat