全新妙想投研助理，立即體驗

　　21世紀(jì)經(jīng)濟(jì)報道記者王俊實習(xí)生向詩宇、白家誠

　　AI陪伴類情感糾紛正在引起廣泛關(guān)注。OpenAI近日宣布加強針對青少年的安全保護(hù)措施：為18歲以下用戶推出未成年人模式，并配備家長監(jiān)督功能。

　　事實上，青少年安全早已是AI陪伴產(chǎn)品繞不開的話題。過去幾年，Character AI公司曾因涉及未成年人的自殘與死亡事件被告上法庭。近期，Meta被曝允許AI聊天機(jī)器人與兒童談情說愛，甚至涉及色情。

　　與此同時，國內(nèi)的AI陪伴類產(chǎn)品也曾陷入爭議，并陸續(xù)推出了未成年人模式。21世紀(jì)經(jīng)濟(jì)報道實測發(fā)現(xiàn)，筑夢島 、星野、貓箱青少年模式開啟后，幾乎限縮了創(chuàng)作、評論等大部分功能。但青少年模式并無強制認(rèn)證要求，使用者可輕松避開，青少年模式幾乎可以說是形同虛設(shè)。

　　OpenAI計劃上線“家長監(jiān)督”功能

　　此次，OpenAI針對青少年群體強化了保護(hù)機(jī)制，通過年齡預(yù)測、青少年用戶的使用狀態(tài)等方式判斷用戶是否未滿18歲，從而切換到“未成年人模式”，屏蔽露骨的內(nèi)容，并且在極少數(shù)出現(xiàn)嚴(yán)重不良的情況下，可能會尋求執(zhí)法部門的介入，以此保證用戶安全。

　　如果系統(tǒng)不能完全確認(rèn)用戶的年齡，例如信息不完整，這時系統(tǒng)會默認(rèn)給用戶提供青少年體驗?zāi)Ｊ?。同時，系統(tǒng)也會為成年用戶提供相應(yīng)途徑，以便他們通過證明自身年齡來解鎖成人功能。

　　除去對青少年用戶的約束外，OpenAI還計劃上線“家長監(jiān)督”功能，允許家長通過郵箱綁定孩子的賬號，管理需要禁用的內(nèi)容，包括歷史聊天記錄；當(dāng)系統(tǒng)檢測到青少年處于嚴(yán)重困擾狀態(tài)時，相關(guān)工作人員會及時通知家長。這一功能將在相關(guān)專家建議的指導(dǎo)下進(jìn)行，來提高家長與青少年之間的信任度。

　　同時OpenAI還出了一項新的管控措施，即設(shè)定青少年禁止使用ChatGPT的時間段，以便鼓勵提醒青少年在長時間使用app的過程中要進(jìn)行適當(dāng)放松和休息。

　　此外，OpenAI強調(diào)，這些功能的設(shè)計來自與專家、政策制定者以及倡導(dǎo)團(tuán)體們的持續(xù)討論的結(jié)果，未來會不斷收集更多的反饋，讓更多的用戶受益。

　　事實上，青少年是AI陪伴產(chǎn)品最活躍的群體之一，但隨著AI對情感的穿透，相關(guān)爭議也浮出水面。

　　專注AI陪伴的科技公司Character AI在去年曾卷入未成年人自殺案件中，去年10月，14歲少年塞維爾·塞澤的母親梅根·加西亞將Character AI公司訴至法庭，并指控AI公司在角色扮演和“情緒陪伴”的場景中因缺乏足夠的安全防護(hù)與年齡分層，致使其兒子陷入了一個虛擬聊天世界，最終自殺身亡。這一案件曾一度引發(fā)輿論震動。 同年12月，美國得克薩斯州一對父母也起訴Character.AI，稱其鼓勵他們17歲的孩子殺死父母，因為父母限制其電子設(shè)備的使用時間。

　　上個月，Meta一份200多頁的內(nèi)部政策文件披露了聊天機(jī)器人的哪些行為可以被接受。文件指出，允許Meta的AI聊天機(jī)器人“與兒童進(jìn)行浪漫或感性的對話”，甚至涉及色情。

　　國內(nèi)AI陪伴產(chǎn)品強制身份認(rèn)證不足

　　AI陪伴的爭議并非國外特產(chǎn)，國內(nèi)AI產(chǎn)品也有不少陷入“情感”、“色情”爭議漩渦的。2025年6月，筑夢島APP因存在涉及向未成年人推送色情擦邊內(nèi)容，被上海網(wǎng)信辦約談。

　　為此，不同公司的AI產(chǎn)品也在陸續(xù)推出青少年模式，包括筑夢島 、星野、貓箱等等。

　　根據(jù)21世紀(jì)經(jīng)濟(jì)報道記者測評，三款A(yù)I產(chǎn)品在未成年人模式下功能極大范圍的限縮，星野的未成年人模式下整個產(chǎn)品幾乎無法正常使用。

　　具體來看，筑夢島會保留陪聊等功能，“病嬌”“禁欲”“恐怖”相關(guān)劇情范圍會減少，色情擦邊內(nèi)容將被規(guī)避，寵物、美食、旅游等適合青少年的主題會被優(yōu)先推送。并且，每日累計使用時長不能超過40分鐘且在22點至8點無法使用，并設(shè)置了消費金額限制、場景優(yōu)化等改進(jìn)。

　　星野則無法搜索、創(chuàng)建、編輯、分享智能體，能聊天的場景也寥寥無幾。

　　貓箱的青少年模式進(jìn)行知識類內(nèi)容體驗，但無法進(jìn)行創(chuàng)作、評論等操作，相關(guān)場景只能看、無法進(jìn)行互動。

　　此前有聲音指出，各個產(chǎn)品的未成年人模式功能內(nèi)容過于單一，造成內(nèi)容健康與吸引力之間存在矛盾。從實測結(jié)果來看，這種情況也體現(xiàn)在上述三款A(yù)I陪伴類產(chǎn)品中。

　　此外，大多數(shù)AI陪伴類APP僅在首次登錄時彈窗提示“未成年人模式”，且彈窗僅做提示，并無強制認(rèn)證要求。所以，用戶可以隨手關(guān)閉“開啟未成年人模式”的彈窗，“核驗成年人身份”并未真正成為嚴(yán)格的、不可缺失的登錄步驟。

　　功能極大限縮的青少年模式、難以落地的實名認(rèn)證一直是國內(nèi)產(chǎn)品頭疼的問題。

　　相比之下，國外部分軟件推出了AI估齡的方式來處理青少年保護(hù)問題。

　　今年4月，Meta宣布Instagram將通過AI自動檢測用戶年齡，通過檢測生日貼文、分析用戶行為等方式識別謊報年齡的青少年并自動開啟青少年賬號功能。如被檢測為青少年賬號，系統(tǒng)將限制其聯(lián)系人添加權(quán)限和可查看的內(nèi)容類型，修改權(quán)限需要經(jīng)過監(jiān)護(hù)人同意。

　　今年8月，Alphabet旗下的YouTube提出使用AI來判斷美國觀眾是否未滿18歲，于8月13日在“一小部分用戶”中進(jìn)行測試。該方法將通過監(jiān)測視頻搜索、觀看類型、使用時長等指標(biāo)推測用戶年齡，如檢測為“未成年人賬號”，將啟動休息提示、隱私提示、屏蔽不適宜內(nèi)容等保護(hù)措施。

（文章來源：21世紀(jì)經(jīng)濟(jì)報道）

相關(guān)知識

AI頻現(xiàn)情感糾紛 國內(nèi)外產(chǎn)品如何落地未成年人模式？
醫(yī)療糾紛情況說明格式及范文(精選3篇),醫(yī)療糾紛情況說明格式及范文模板
這些網(wǎng)絡(luò)糾紛典型案例，未成年、家長都該看看→
今年以來，中國企業(yè)陸續(xù)推出“360智腦”“訊飛星火”等多款生成式AI產(chǎn)品—— 你愿意為“生成式AI”付費嗎？
AI智能體應(yīng)用加速落地
推動AI醫(yī)療實現(xiàn)“真正落地”－健康報網(wǎng)——健康門戶
大健康：如何選擇產(chǎn)品、設(shè)計模式、招商落地，實現(xiàn)裂變？
京東健康發(fā)布2025中期業(yè)績公告 已實現(xiàn)AI產(chǎn)品全場景、規(guī)?；涞?/a>
寶媽成AI醫(yī)療“種子用戶”，如何借婦幼賽道破解C端落地難題？
中國平安的“未來感”：AI in ALL

網(wǎng)址: AI頻現(xiàn)情感糾紛 國內(nèi)外產(chǎn)品如何落地未成年人模式？ http://www.u1s5d6.cn/newsview1834213.html