(相關(guān)資料圖)

Meta公司周五宣布，旗下社交平臺(tái)Instagram將為青少年推出新的安全功能，其中包括讓家長(zhǎng)能夠阻止孩子與平臺(tái)AI角色聊天的功能。這是Meta與OpenAI推出的多項(xiàng)新安全功能之一，旨在應(yīng)對(duì)人們對(duì)AI可能影響青少年心理健康的日益擔(dān)憂。

這家社交媒體巨頭在一篇博客文章中表示，家長(zhǎng)既可以關(guān)閉青少年與AI角色的單獨(dú)聊天權(quán)限，也可以只屏蔽對(duì)特定AI角色的訪問(wèn)。該應(yīng)用還會(huì)向家長(zhǎng)展示青少年與AI角色討論的話題相關(guān)信息。Meta稱目前正在開(kāi)發(fā)這些控制功能，用戶將于明年初開(kāi)始看到這些功能上線。

此前，Meta及整個(gè)科技行業(yè)一直面臨家長(zhǎng)和立法者的批評(píng)，他們認(rèn)為在線平臺(tái)在保護(hù)兒童網(wǎng)絡(luò)安全方面做得還不夠，此次推出新功能正是在這一背景下進(jìn)行的。

人們也對(duì)“是否存在過(guò)度依賴AI獲取情感支持與陪伴”的問(wèn)題表示擔(dān)憂。今年有多篇報(bào)道顯示，部分人在與ChatGPT等聊天機(jī)器人建立密切關(guān)系后，出現(xiàn)了情緒困擾，并與家人保持距離。

Meta表示，其AI角色“設(shè)計(jì)初衷就是不與青少年討論‘自殘、自殺或飲食失調(diào)’相關(guān)話題，也不涉及任何‘鼓勵(lì)、宣揚(yáng)或促成’此類行為的內(nèi)容”。博客文章還提到，青少年僅能與特定AI角色聊天，這些角色多與教育、體育等類型的內(nèi)容相關(guān)。

Instagram此次推出新的家長(zhǎng)控制功能前，已更新過(guò)多項(xiàng)功能以加強(qiáng)對(duì)青少年的保護(hù)。本周早些時(shí)候，該平臺(tái)調(diào)整了“青少年賬戶”設(shè)置，使其符合PG-13分級(jí)標(biāo)準(zhǔn)，這意味著平臺(tái)將不再顯示或推薦包含粗俗語(yǔ)言、或可能宣揚(yáng)“有害行為”的帖子。9月底，OpenAI也為ChatGPT推出了家長(zhǎng)控制功能，以減少“露骨內(nèi)容、熱門挑戰(zhàn)、涉及性、浪漫或暴力的角色扮演，以及極端審美標(biāo)準(zhǔn)”相關(guān)內(nèi)容的出現(xiàn)。

關(guān)鍵詞：