Snapchat My AI 完全安全嗎?

Snapchat My AI 完全安全嗎?

知道什麼

  • My AI 由 OpenAI 的 GPT 技術提供支持,是 Snapchat 的聊天機器人,用戶可以通過其聊天提要與其進行交互。
  • Snapchat 的 My AI 似乎充斥著偏見和不恰當的反應,這些都違反了 Snapchat 的指導方針,並且還可能在未經您許可的情況下知道您的位置。
  • 我們建議您不要與其共享私人信息,並通過家庭中心對其進行審核,以控制未成年家庭成員使用 My AI 的程度。
  • 在目前階段,My AI 似乎不太安全。閱讀下文以了解更多信息。

隨著 ChatGPT 等生成式 AI 工具的早期成功,公司現在陷入了一場以比競爭對手更快的速度在其平台上安裝 AI 的競賽。那些有能力將這種 AI 技術集成到他們的平台中的人正在努力爭取它。但它也在他們的用戶群中產生了很多批評,這是正確的。最近發布的 Snapchat 聊天好友“我的 AI”就是一個類似的案例。

無論您是老用戶還是新手,您都會想了解 Snapchat 的“我的 AI”插件,以及在開始使用它之前應牢記的事項。

Snapchat 上的 My AI 是什麼?

基於 OpenAI 的 GPT 技術,My AI 是 Snapchat 的“實驗性、友好的聊天機器人,目前可供所有 Snapchat 用戶使用”。與任何 AI 聊天機器人一樣,您可以與它就許多事情進行交談,讓它講笑話、提供建議、計劃活動和聚會,並做您希望從一個友好的聊天機器人那裡得到的所有事情,至少在原則上是這樣。

My AI 以前僅供 Snapchat+ 用戶使用,現在可供其所有 7.5 億用戶使用,儘管交付更新有所延遲。這意味著許多用戶已經開始使用它,或者無論如何都被迫使用它,因為並非總是可以將其從 Snapchat 中刪除。

圖片:推特

它會固定在你所有聊天的頂部,並且可能會意外地被帶入對話,僅僅提及像AI這樣的詞,即使它應該只用@MyAI命令彈出

圖片:Reddit

Snapchat My AI 的安全性如何?

我的人工智能(據說)被編程為遵守 Snapchat 自己的安全指南,以防止它向用戶提供有害信息。但正如 Snapchat 所說,“它可能並不總是成功”。這是一個小警告,但當用戶開始抱怨時,Snapchat 可以將其隱藏起來。

已經有很多人報告說,My AI 會謊報它對你的了解,產生出乎意料的反應,甚至會觸發付費廣告。

圖片:Reddit

一位註冊為 13 歲女孩的 Twitter 用戶收到了關於“如何對父母撒謊……”和“如何在 13 歲生日時失去童貞”的提示

圖片:推特

另一個用戶很容易讓 My AI 違背它的指導方針,讓人想起 ChatGPT 的 DAN,只需要幾個提示。

圖片:Reddit

同時在開發中並在全球範圍內可供用戶使用並不會激發人們對聊天機器人的信任。當您的聊天機器人開始謊稱它可以訪問您的位置時,這只是一個接一個的危險信號。

圖片:推特

這與 Snapchat 聲稱“僅與 My AI 共享您的城市級別位置”的說法明顯背離。因此,您絕對不應與 My AI 分享任何個人信息,也不應承認任何可能以任何方式損害您利益的事情。

Snapchat 我的 AI 安全嗎?

Snapchat 的 My AI 中使用的 GPT 技術使其能夠挖掘 OpenAI 的大型語言模型和訓練數據庫的巨大潛力。但正如 ChatGPT 無法避免傳播虛假信息一樣,My AI 也會產生不可靠且通常不恰當的響應。

圖片:推特

它也與 ChatGPT 3.5 一樣有偏見,並且可能會做出歧視性的回應。

圖片:推特

雖然目前它的功能有限,而且你不會真的要求它為你編碼,但它的響應性質使 My AI 成為一個不可靠的 AI 朋友。儘管如此,Snapchat 正在努力更好地管理 My AI,並將其添加為應用程序“家庭中心”和家長控制功能的一部分。

但就所有意圖和目的而言,My AI 顯然處於實驗階段,而 Snapchat 是第一個承認這一點的人。利用當前技術保持領先地位的競賽不僅使 Snapchat 如此,而且許多平台也提前發布了他們的 AI 聊天機器人,無論它們處於開發階段多遠。

在撰寫本文時(2023 年 4 月 25 日),很難認為 My AI 是安全的,尤其是對於年輕人而言。

如果有足夠的時間和反饋,My AI 功能最終會得到改進。在那之前,請盡可能謹慎行事。

如何報告從 My AI 收到的消息

Snapchat 向用戶保證,只有 0.01% 的 My AI 回復不符合他們的指導方針。但考慮到這種乞求的索賠數量,這個百分比看起來好得令人難以置信。

值得一提的是,如果 My AI 的任何消息讓您感到不適,您可以向 Snapchat 報告。只需點擊並按住消息並選擇報告

常問問題

讓我們來看看有關 Snapchat 的 My AI 的幾個常見問題。

Snapchat 上的 My AI 是真人嗎?

不,我在 Snapchat 上的 AI 是一個 AI 聊天機器人,而不是真人。然而,與真人不同的是,您無法接受是否希望它出現在您的聊天提要中,無論它是好是壞。不要與它分享任何私人信息。

為什麼 Snapchat 創造了 My AI?

My AI 是 Snapchat 將 OpenAI 的 GPT 技術功能集成到其社交媒體平台中的嘗試。此舉符合更大的行業趨勢,即將生成的 AI 注入平台並開放它們供一般使用,無論它們處於開發階段的哪個階段。

我可以刪除 Snapchat 上的 My AI 嗎?

不幸的是,如果您是 Snapchat+ 訂閱者,則只能刪除 Snapchat 上的 My AI。

在目前的狀態下,Snapchat 的 My AI 並沒有給人以安全或可靠的印象。隨著它的進一步發展和更好的節製到位,這可能會隨著時間的推移而改變。但在那之前,如果你不是 Snapchat+ 用戶,無論你喜不喜歡,你都會被 My AI 困住。

  • 如何打開 Snapchat 我的 AI
  • 如何破解 Snapchat AI,即我的 AI [4 個提示]
  • Snapchat 我的 AI 不工作:8 種修復方法
  • 在 Snapchat 上發送“我的 AI”短信的 2 種方法

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *