日前，實(shí)驗(yàn)室博士生趙雯欣作為第一作者的論文“YouthCare: Building a Personalized Collaborative Video Censorship Tool to Support Parent-Child Joint Media Engagement”被 CCF A類會議The ACM CHI Conference on Human Factors in Computing Systems (CHI) 會議錄用。該論文是復(fù)旦計(jì)算機(jī)學(xué)院與社會發(fā)展與公共政策學(xué)院社會工作學(xué)系跨學(xué)科研究團(tuán)隊(duì)AI4SS（AI for Social Science）的最新研究成果。

該研究通過多模態(tài)大模型（MLLMs）與社會科學(xué)理論的深度融合，構(gòu)建了面向親子數(shù)字生態(tài)的智能協(xié)作系統(tǒng)。研究以發(fā)展心理學(xué)中的父母調(diào)節(jié)理論（Parental Mediation Theory）為認(rèn)知基礎(chǔ)，采用以人為中心的參與式設(shè)計(jì)方法，開發(fā)出面向親子場景的YouthCare智能協(xié)作系統(tǒng)。具體來說，論文探討了在線視頻對青少年的潛在負(fù)面影響，并深入分析了家長與青少年在親子聯(lián)合媒體參與（Parent-Child Joint Media Engagement, JME）過程中的需求與挑戰(zhàn)。針對于現(xiàn)有親子聯(lián)合媒體參與機(jī)制高度依賴家長的時(shí)間、知識和經(jīng)驗(yàn)等問題，論文設(shè)計(jì)了一種個(gè)性化協(xié)作視頻審核系統(tǒng)YouthCare，充分利用多模態(tài)大模型的強(qiáng)大能力，結(jié)合視頻內(nèi)容解析和自然語言處理，旨在幫助家長與青少年高效過濾不適宜內(nèi)容并選擇適宜內(nèi)容。該系統(tǒng)可延伸至家庭數(shù)字教養(yǎng)實(shí)踐、青少年網(wǎng)絡(luò)保護(hù)等社會科學(xué)應(yīng)用場景，為AI技術(shù)賦能人文社科研究提供了可擴(kuò)展的跨學(xué)科范式。

會議簡介

ACM CHI 2025 (The ACM Conference on Human Factors in Computing Systems)是國際公認(rèn)的人機(jī)交互頂級學(xué)術(shù)會議，其在學(xué)術(shù)界和工業(yè)界享有極高聲譽(yù)，是中國計(jì)算機(jī)學(xué)會推薦的A類國際學(xué)術(shù)會議。與其它計(jì)算機(jī)科學(xué)會議相比，CHI規(guī)模龐大，更加注重人與技術(shù)之間的互動、探索創(chuàng)新的交互方式、新興技術(shù)在真實(shí)世界的應(yīng)用、以及技術(shù)使用中的社會影響與倫理因素。今年CHI2025會議錄用結(jié)果公布，本次會議共收到5014份完整投稿，最終錄用1249篇，錄用率為24.9%。該會議計(jì)劃于2025年4月26日至5月1日在日本橫濱召開。

論文簡介

YouthCare：支持父母和孩子聯(lián)合媒體參與的個(gè)性化協(xié)作視頻審查系統(tǒng)

論文鏈接：https://arxiv.org/abs/2503.02151

隨著數(shù)字時(shí)代的進(jìn)步，越來越多的青少年開始頻繁使用互聯(lián)網(wǎng)。目前，全球互聯(lián)網(wǎng)用戶中約三分之一是青少年，在英國、加拿大等國家，12-14歲青少年使用互聯(lián)網(wǎng)的比例超過了95%，在美國超過96% 。近五年來，中國青少年網(wǎng)民的規(guī)模從1.69億增長到1.93億，青少年互聯(lián)網(wǎng)普及率從93.7%增長到97.2%，其中小學(xué)生互聯(lián)網(wǎng)普及率都已達(dá)到95.1%。在這種背景下，視頻平臺因其豐富的資源內(nèi)容而深受青少年的喜愛，成為青少年在線學(xué)習(xí)和娛樂主要平臺。然而，現(xiàn)有的視頻平臺往往缺乏針對青少年的設(shè)計(jì)考慮，平臺內(nèi)容與該年齡群體的特征存在顯著不匹配。因此，青少年經(jīng)常接觸到不健康或不適宜的視頻內(nèi)容，如暴力、色情和犯罪，這嚴(yán)重影響了他們的在線體驗(yàn)，甚至對身心健康造成影響。根據(jù)皮亞杰的認(rèn)知發(fā)展理論，青少年，特別是處于具體運(yùn)算階段（7-11歲）和形式運(yùn)算階段（11歲及以上）的青少年，在自我認(rèn)知、抽象思維和經(jīng)驗(yàn)性推理方面存在一定的局限性。對于這些階段的青少年來說，父母的參與對其成長和發(fā)展至關(guān)重要。這種參與不僅有助于保護(hù)青少年免受潛在危害，還能促進(jìn)代際溝通，增強(qiáng)相互理解與信任，并培養(yǎng)積極的家庭氛圍。

在此背景下，現(xiàn)有的研究和視頻平臺已引入了各種父母調(diào)節(jié)機(jī)制，以減輕在線視頻環(huán)境對青少年的負(fù)面影響。例如，父母調(diào)節(jié)理論（PMT）提出了三種策略，幫助父母最大化媒體使用的益處并最小化相關(guān)風(fēng)險(xiǎn)：限制性調(diào)節(jié)、積極調(diào)節(jié)和共同使用。聯(lián)合媒體參與（JME）框架強(qiáng)調(diào)父母和孩子之間共同參與的必要性。然而，父母調(diào)節(jié)往往依賴于父母的時(shí)間、知識和經(jīng)驗(yàn)。一方面，父母需要為孩子選擇合適的視頻內(nèi)容，并了解為青少年量身定制的各種設(shè)置，這既繁瑣又耗時(shí)且勞動密集。另一方面，由于知識和經(jīng)驗(yàn)的局限，父母為孩子過濾的內(nèi)容可能仍會暴露于風(fēng)險(xiǎn)之中，且可能與青少年的興趣不一致。多模態(tài)大語言模型（MLLMs）的發(fā)展為上述問題提供了一個(gè)有前景的解決方案。首先，MLLMs在解析和理解文本、視頻以及其他形式的媒體方面表現(xiàn)出強(qiáng)大的能力。其次，MLLMs通過指令學(xué)習(xí)、上下文學(xué)習(xí)和少量樣本學(xué)習(xí)表現(xiàn)出顯著的交互能力。最后，MLLMs易于使用，無需額外的訓(xùn)練要求，使其能夠輕松地在現(xiàn)實(shí)場景中部署。

然而，基于MLLMs設(shè)計(jì)一個(gè)支持JME的視頻審查系統(tǒng)面臨著多個(gè)挑戰(zhàn)。首先，青少年及其父母對該系統(tǒng)的期望和需求尚不明確。例如，如何在確保父母參與的同時(shí)減輕他們的負(fù)擔(dān)，MLLMs在這一過程中應(yīng)扮演什么角色，以及如何有效促進(jìn)系統(tǒng)、父母和孩子之間的合作，所有這些問題都阻礙了該系統(tǒng)的設(shè)計(jì)。其次，協(xié)助青少年和父母審查視頻內(nèi)容可能涉及多個(gè)潛在任務(wù)，如有效過濾風(fēng)險(xiǎn)內(nèi)容、識別感興趣的內(nèi)容以及促進(jìn)青少年和父母之間的合作。利用大語言模型共同實(shí)現(xiàn)這些目標(biāo)是復(fù)雜的。最后，為了驗(yàn)證該系統(tǒng)的有效性，有必要招募一些父母和青少年配對，在真實(shí)場景中使用并評估該系統(tǒng)。一些度量標(biāo)準(zhǔn)，如選定視頻的適宜性，往往依賴于個(gè)性化判斷和具體情境，因此很難評估，這也增加了研究的復(fù)雜性。

考慮到這些問題和挑戰(zhàn)，我們的目標(biāo)是設(shè)計(jì)一個(gè)自動化的視頻審查系統(tǒng)，以促進(jìn)父母和孩子在聯(lián)合媒體參與（JME）中共同篩選不適當(dāng)內(nèi)容并選擇合適內(nèi)容。本研究的對象為8-15歲之間的青少年。首先，通過問卷和半結(jié)構(gòu)化訪談，我們探索了他們對視頻審查系統(tǒng)的需求和期望，并確定了五個(gè)設(shè)計(jì)目標(biāo)?；谶@些目標(biāo)，我們設(shè)計(jì)了YouthCare，一個(gè)個(gè)性化的協(xié)作視頻審查系統(tǒng)，旨在幫助父母和孩子在聯(lián)合媒體參與中共同篩選不適當(dāng)內(nèi)容并選擇合適內(nèi)容。我們招募了10對父母和孩子來使用并評估該系統(tǒng)。結(jié)果表明，YouthCare在滿足用戶需求方面表現(xiàn)良好，且用戶對其接受度高，愿意繼續(xù)使用。基于這些發(fā)現(xiàn)，我們?yōu)槲磥碛H子協(xié)作JME系統(tǒng)的設(shè)計(jì)提供了新的見解。

用戶研究

為了指導(dǎo)我們的設(shè)計(jì)過程，我們進(jìn)行了一項(xiàng)形成性研究，以調(diào)查當(dāng)前父母在青少年媒體使用中的參與情況。我們最終選擇了11對親子組合參與研究，并得到了以下五個(gè)設(shè)計(jì)目標(biāo)：

D1：從風(fēng)險(xiǎn)和適宜性兩個(gè)角度進(jìn)行視頻審核；

D2：通過中介支持協(xié)作配置個(gè)性化審核需求；

D3：支持直接和間接兩種方式配置個(gè)性化審核需求；

D4：提供即時(shí)和長期的審核需求解釋性反饋；

D5：確保用戶控制權(quán)。

模型構(gòu)造

圖1 YouthCare系統(tǒng)設(shè)計(jì)

根據(jù)設(shè)計(jì)目標(biāo)，我們開發(fā)了YouthCare，這是一款自動化的視頻審查系統(tǒng)，旨在幫助父母和孩子在聯(lián)合媒體參與（JME）中共同過濾和選擇視頻內(nèi)容。通過利用多模態(tài)大語言模型（MLLMs），YouthCare能夠促進(jìn)用戶配置和視頻內(nèi)容的共同理解。

① 1協(xié)作配置模塊

我們設(shè)計(jì)了協(xié)作配置模塊，以促進(jìn)個(gè)性化視頻審查需求的協(xié)作配置。該模塊支持直接手動配置，如自定義視頻關(guān)鍵詞和分配權(quán)重，也支持間接自動配置，通過用戶的視頻選擇推斷出偏好的特征。然后，它通過聊天機(jī)器人界面幫助父母和青少年建立“共同偏好”。

② 個(gè)性化視頻審查模塊

我們基于MLLMs設(shè)計(jì)了個(gè)性化視頻審查模塊，以實(shí)現(xiàn)YouthCare中的可解釋性審查。該模塊集成了多模態(tài)信息融合提取視頻特征，并利用 MLLM 分析特征以評估視頻的風(fēng)險(xiǎn)性和適宜性，同時(shí)生成相應(yīng)的解釋。為確保審查結(jié)果的個(gè)性化和標(biāo)準(zhǔn)化。我們定義了兩類視頻審查指南：基于“共同偏好”的個(gè)性化指南和基于權(quán)威標(biāo)準(zhǔn)政策的通用指南。前者通過匹配用戶偏好與視頻特征提供個(gè)性化解釋，后者則依據(jù)權(quán)威標(biāo)準(zhǔn)確保審查的規(guī)范性和全面性。

③ 反饋報(bào)告模塊 

根據(jù)形成性研究，父母和青少年都關(guān)注審查解釋，而父母尤其關(guān)心關(guān)于青少年使用情況的總結(jié)。因此，我們設(shè)計(jì)了反饋報(bào)告模塊，以根據(jù)用戶的審查需求提供及時(shí)和長期的解釋性反。該模塊提供了全面的視頻審查理解，包括對當(dāng)前視頻的及時(shí)反饋和對特定時(shí)間段的長期總結(jié)。

評估與討論

此次評估表明，YouthCare的各個(gè)模塊均成功實(shí)現(xiàn)了設(shè)計(jì)目標(biāo)：個(gè)性化配置滿足了用戶多樣化需求；協(xié)作式配置促進(jìn)了家長與青少年的溝通；視頻審查模塊精準(zhǔn)實(shí)現(xiàn)了內(nèi)容過濾與管理；反饋與總結(jié)功能優(yōu)化了用戶體驗(yàn)。同時(shí)，YouthCare支持直觀的關(guān)鍵詞和偏好調(diào)整，使家長和青少年能夠靈活管理視頻內(nèi)容。基于LLM的系統(tǒng)顯著提升了審查效率，但也帶來了過度審查和家長依賴性增加等風(fēng)險(xiǎn)；聊天機(jī)器人通過支持個(gè)性化需求表達(dá)和沖突緩解，提高了親子協(xié)作效率，但可能因角色差異引發(fā)權(quán)力失衡，并減少直接互動機(jī)會。此外，YouthCare的反饋機(jī)制雖改善了親子關(guān)系，卻也存在隱私泄露和家庭沖突增加的風(fēng)險(xiǎn)?？傮w而言，YouthCare在青少年視頻內(nèi)容審查和親子互動方面成效顯著，為家庭提供了有效的數(shù)字內(nèi)容管理系統(tǒng)，但未來需在提升系統(tǒng)功能的同時(shí)，平衡技術(shù)介入與親子直接互動，以更好地支持家庭協(xié)作與溝通。

小結(jié)

在本研究中，我們旨在通過設(shè)計(jì)YouthCare這一個(gè)性化協(xié)作視頻審查系統(tǒng)，解決傳統(tǒng)親子聯(lián)合媒體互動（JME）機(jī)制的局限性，從而促進(jìn)JME中更高效且更有效的視頻審查。通過形成性研究，我們識別了父母和青少年在個(gè)性化和協(xié)作方面的需求和期望，這為YouthCare的設(shè)計(jì)提供了依據(jù)，以支持視頻內(nèi)容的過濾和選擇。通過對10對親子組合的評估，驗(yàn)證了YouthCare在增強(qiáng)內(nèi)容控制和促進(jìn)協(xié)作方面的有效性，同時(shí)也發(fā)現(xiàn)了需要改進(jìn)的地方，比如解決父母和青少年需求差異、提高反饋過程的效率和效果等。這些發(fā)現(xiàn)表明，未來的親子聯(lián)合媒體互動系統(tǒng)可以考慮如何平衡人類與AI之間的控制邊界、間接與直接溝通方式以及主導(dǎo)權(quán)與隱私之間的關(guān)系。

作者信息

如果您對本文內(nèi)容感興趣的話，可以與作者聯(lián)系：

趙雯欣 復(fù)旦大學(xué)計(jì)算機(jī)學(xué)院協(xié)同信息與系統(tǒng)實(shí)驗(yàn)室 博士研究生

研究方向：人智協(xié)同、推薦系統(tǒng)、人機(jī)交互

聯(lián)系方式：zhaowx21@m.fudan.edu.cn

實(shí)驗(yàn)室相關(guān)論文

[1] Yubo Shu, Haonan Zhang, Hansu Gu, Peng Zhang, Tun Lu, Dongsheng Li, and Ning Gu. RAH! RecSys–Assistant–Human: A Human-Centered Recommendation Framework With LLM Agents. IEEE Transactions on Computational Social Systems (2024).

[2] Baoxi Liu, Peng Zhang, Yubo Shu, Zhengqing Guan, Tun Lu, Hansu Gu, and Ning Gu. 2022. Building a Personalized Model for Social Media Textual Content Censorship. Proceedings of the ACM on Human-Computer Interaction 6, CSCW2, Article 499 (2022), 31 pages.

[3] Yaqiong Li, Peng Zhang, Hansu Gu, Tun Lu, Siyuan Qiao, Yubo Shu, Yiyang Shao, Ning Gu. DeMod: A Holistic Tool with Explainable Detection and Personalized Modification for Toxicity Censorship. In Proceedings of the ACM on Human-Computer Interaction, 2025.

如果您對我們實(shí)驗(yàn)室的相關(guān)工作感興趣，歡迎訪問我們的網(wǎng)站：

協(xié)同信息與系統(tǒng)（CISL）實(shí)驗(yàn)室

實(shí)驗(yàn)室網(wǎng)站主頁：https://cscw.fudan.edu.cn/

實(shí)驗(yàn)室Github主頁：https://github.com/FudanCISL