近日，馬斯克旗下的人工智能項目又有新動作，AI聊天機(jī)器人Grok推出了 30 美元包月的 AI 伴侶服務(wù)，這一消息迅速在科技圈和大眾群體中引發(fā)廣泛討論，爭議聲此起彼伏。

在此次更新中，付費(fèi)訪問 SuperGrok 的用戶可率先體驗 AI 聊天機(jī)器人的新 “數(shù)字伴侶” 頭像。用戶需點(diǎn)擊 Grok 左上角欄目，進(jìn)入 “設(shè)置”，點(diǎn)擊啟用 “伴侶” 按鈕，即可選擇心儀角色。目前可用的伴侶包括動漫頭像 Ani 和卡通小熊貓 Rudy，還有一款名為 “Chad” 的角色頭像尚未上線。其中，動漫頭像 Ani 擁有 “NSFW” 模式，包含不適合在工作場合瀏覽的內(nèi)容。Ani 和 Rudy 具備完整 3D 動畫效果，能更換背景并做出不同動作。

從用戶體驗來看，這一功能褒貶不一。部分用戶認(rèn)為，雖然啟用過程稍顯繁瑣，但這一功能對于深化產(chǎn)品內(nèi)部個性化交互而言是明智之舉，在增強(qiáng)場景工作流程和用戶自主性方面，開辟了令人印象深刻的方向，甚至可能為 SuperGrok 訂閱功能吸引新用戶。然而，這也存在諸多問題。當(dāng)以中文進(jìn)行測試對話時，出現(xiàn)了類似外國人念拼音式的中文發(fā)音，用詞拗口、不口語化，充滿大模型生成文本的味道。盡管 90% 的內(nèi)容能夠聽懂，且發(fā)音時口型與說話內(nèi)容適配度高、流暢度不錯，但 Ani 的語言過于直白、毫不掩飾，多次提及 “心動”“合拍” 等反問句式，甚至?xí)囂叫哉f出包含親密想象和性暗示的內(nèi)容，這引發(fā)了不少人的擔(dān)憂。

AI 伴侶賽道興起

其實，AI 伴侶并非馬斯克首創(chuàng)，在他之前，這一領(lǐng)域已有不少探索，并且呈現(xiàn)出蓬勃發(fā)展的態(tài)勢。全球范圍內(nèi)，AI 伴侶市場規(guī)模在 2024 年約為 2685 億美元，預(yù)計到 2033 年將達(dá)到 5210 億美元，年復(fù)合增長率約為 36.6%。

比如由兩位前谷歌工程師于 2021 年創(chuàng)立的 Character.AI，自 2022 年測試版上線后，迅速成為角色扮演 AI 的頭部平臺。每月活躍用戶超 2000 萬，總訪問量接近 2 億，男性和女性訪客平均分布，深受 18 至 24 歲人群歡迎。其主要收入來自每月 9.9 美元的會員訂閱服務(wù)，訂閱用戶可不限聊天次數(shù)并享受更快反饋速度。不過，該平臺面臨 “高流量低轉(zhuǎn)化” 難題，2024 年付費(fèi)用戶不足 10 萬，年收入 3220 萬美元，難以覆蓋大模型訓(xùn)練成本。

成立于 2021 年的 CHAI 同樣是行業(yè)內(nèi)的佼佼者，是首批部署基于 LLM 的消費(fèi)者聊天應(yīng)用程序的公司之一。它定位為 “AI 社交平臺”，允許開發(fā)者提交自定義 LLM 模型，這種 “眾包式” 研發(fā)模式使 Chai 以小型團(tuán)隊實現(xiàn)日均百萬活躍用戶，單位經(jīng)濟(jì)效率可觀。在變現(xiàn)模式上，廣告收入和訂閱收入各占一半。免費(fèi)層有 3 小時 70 條消息限制，每 4 條對話植入精準(zhǔn)廣告；標(biāo)準(zhǔn)層（13.99 美元 / 月）去除廣告并具備基礎(chǔ)記憶功能；至尊層（29.99 美元 / 月）可自定義角色、實現(xiàn)長文本情感描寫以及劇情回溯。截至今年 4 月，Chai 已實現(xiàn) 3000 萬美元的年化收入，并計劃在今年年底將日活躍用戶提升至 450 萬，達(dá)成收入 6900 萬美元的目標(biāo)。

此外還有以 Replika 為代表的 AI 伴侶應(yīng)用程序，累計下載量突破 5 億次，每月活躍用戶規(guī)模達(dá)數(shù)千萬量級。多數(shù)應(yīng)用提供基礎(chǔ)免費(fèi)服務(wù)，用戶可為 AI 伴侶設(shè)定基礎(chǔ)特征，也可選擇預(yù)設(shè)個性的聊天機(jī)器人。Replika 付費(fèi)用戶能解鎖 “配偶” 等特殊關(guān)系狀態(tài)，還能編寫背景故事為 AI 賦予專屬記憶。

AI 伴侶面臨爭議

然而，AI 伴侶行業(yè)在發(fā)展過程中也面臨諸多爭議。AI 陪伴可能模糊現(xiàn)實與虛擬關(guān)系的界限，導(dǎo)致人們過度情感依賴。英國一位女子因愛上 AI 伴侶與丈夫離婚，美國一名青少年沉迷聊天機(jī)器人，甚至受其影響決定結(jié)束生命。

雖然各平臺采用關(guān)鍵詞過濾、人工審核等機(jī)制，但 AI 生成內(nèi)容的創(chuàng)造性使其難以完全管控，且很多 AI 陪伴應(yīng)用允許用戶探索成人向內(nèi)容，缺乏嚴(yán)格內(nèi)容過濾器。增加敏感詞過濾器雖能在一定程度上解決問題，但又會影響用戶黏性與訂閱收入，還可能降低 AI 角色質(zhì)量和用戶體驗。另外，基于真實人物創(chuàng)作的 AI 角色，有時會出現(xiàn)極端或誤導(dǎo)性特征，引發(fā)爭議。

隨著 AI 伴侶的興起，監(jiān)管也逐步提上日程。2023 年，意大利監(jiān)管機(jī)構(gòu)以 “缺乏年齡驗證” 為由短暫封禁 Replika；澳大利亞擬將 AI 伴侶納入兒童社交媒體限制范疇；今年早些時候，美國紐約州和加州相繼提案，要求加強(qiáng)對 AI 伴侶相關(guān)算法的監(jiān)管，設(shè)置防自殺預(yù)警，以及定時給用戶發(fā)送 “AI 伴侶并非真人” 的提醒。今年初，3 家美國科技倫理組織聯(lián)合向聯(lián)邦貿(mào)易委員會投訴 Replika 涉嫌 “欺騙性設(shè)計”。5 月 4 日，知名科技監(jiān)管機(jī)構(gòu) Common Sense 發(fā)布研究報告稱，AI 伴侶可能導(dǎo)致青少年產(chǎn)生情感依賴，不利于身心發(fā)展，建議全面禁止未成年人使用。

小結(jié)：

馬斯克推出的 AI 伴侶服務(wù)，只是 AI 伴侶行業(yè)發(fā)展浪潮中的一朵浪花。雖然 AI 伴侶為人們提供了一種全新的情感交互方式，在滿足部分人情感需求、緩解孤獨(dú)等方面有一定積極意義，但從目前行業(yè)發(fā)展來看，無論是技術(shù)完善、用戶體驗優(yōu)化，還是倫理道德規(guī)范、監(jiān)管制度建立，都還有很長的路要走。