元宇宙法律篇（三十五）——虚拟人产业发展与企业合规

　　一、虚拟人产业发展

 

　　虚拟人起源于20世纪80年代，近年来随着建模、AI、动捕、渲染等技术的发展进入高速成长期。2021年6月26日B站12周年庆，董事长陈睿表示过去一年共有32412名虚拟主播在B站开播。2021年，虚拟人市场规模已超2000亿元。

 

　　01.政策支持，资本加速入局

 

　　2021年10月20日，国家广电总局发布《广播电视和网络视听“十四五”科技发展规划》，首次明确地鼓励和支持虚拟人的发展，文中提出“推动虚拟主播广泛应用于新闻播报、天气预报、综艺科教等节目生产，创新节目形态，提高制播效率和智能化水平。”，并在虚拟主播方面指出“面向新闻、综艺、体育、财经、气象等电视节目研究虚拟形象合成技术，包括2D虚拟形象的合成、3D虚拟形象的驱动、虚拟引擎构建、语音驱动、动作捕捉、面部表情捕捉等技术，提升节目制作效率及质量；”、“同时探索短视频主播、数字网红、直播带货等虚拟形象在节目互动环节中的应用，增加个性化和趣味性。”该规划首次明确地鼓励和支持虚拟人的发展。虚拟人正以看得见的生命形式出现在我们的现实世界里，逼真的建模技术可以制作高度逼真的人脸并支持人体动作和面部动画，通过语义记忆、情景记忆和情感记忆实现双向交互并与现实世界建立真实的联系，全息影像技术打造的3D裸眼风格让虚拟人直接出现在现实世界。

 

　　近日，国内首个数字人产业专项支持政策《北京市促进数字人产业创新发展行动计划（2022-2025 年）》出台，提出到2025年北京数字人产业规模突破500亿元，突破一批关键领域核心技术，建成10家校企共建实验室和企业技术创新中心，培育1~2家营收超50亿元的头部数字人企业、10家营收超10亿元的重点数字人企业。艾媒咨询发布《2022-2023年中国虚拟人行业深度研究及投资价值分析报告》，2021年中国虚拟人带动产业市场规模和核心市场规模分别为1074.9亿元和62.2亿元，预计2025年分别达到6402.7亿元和480.6亿元。目前，腾讯、百度、网易、字节跳动等互联网企业，软银基金、建银国际、红杉资本、GGV纪源资本、峰瑞资本等知名投资机构皆重金进入虚拟数字人赛道，而哔哩哔哩、芒果超媒、奥飞娱乐、西安文旅等上市公司也纷纷搭车入局。虚拟人企业魔珐科技今年连续完成B轮、C轮融资，总金额1.3亿美元。

 

　　02.商业模式分析

 

　　虚拟人产业步入快速发展期，虚拟人来自于小说、动漫、游戏、明星等各种场景，具体可表现为写实、破次元、古风等多种形象，他们可以像真人一样进行拍广告、拍摄短视频、做直播、演戏、上综艺等活动，全方位展示自己的技能和价值观并与粉丝进行互动，最终进行商业变现。

 

　　（1）“初音未来”创作者社区

 

　　最初，初音未来是作为人的歌声的虚拟乐器软件开发的。2007年8月，采用了雅马哈开发的VOCALOID技术，并对动画中活跃的声优藤田咲的声音设计了虚拟形象，初音未来就诞生了。初音未来开发了创作者社区PIAPRO，设置投稿网站和奖项来鼓励创作，初音未来的形象著作权归属CRYPTON，内容的权利所有者开放权利使得被使用的频率增高，进而提高了作品本身的知名度。《初音未来终端用户使用许诺契约书》等相关协议规定，无论商业还是非商业使用均可以自行生成合成语音，但商业使用必须得到C社的追加许诺；允许以修改、转换或以作品为基础进行创作，并支持署名；改编作品、二次创作作品的“P主”（Producer）进行商业化用途时，需取得C社的同意。初音未来有公式形象，但她会和各国的运营者与创作者一起来开发初音的商品，其具体形象是随创作者而千变万化的，粉丝可以根据自己的喜好挑选不同作品和不同的初音未来形象。初音未来的发型、发色、饰品、妆容大多是从广大创作者中征集而来，初音未来收获了大量不同风格的内容，但由于其是中心化的，对“P主”（Producer）的激励机制不够，导致大量“P主”（Producer）离开，优质内容减少，IP影响力下降。

 

　　（2）AI being技术产品+运营双重创新

 

　　2021年6月1日，华智冰，一位虚拟女大学生进入清华大学计算机科学与技术系知识工程实验室学习。华智冰与一般的虚拟数字人大有不同，不仅具有作诗、作画、创作音乐等技能，而且还有持续的学习能力，可以不断从文字、图像、视频中自我学习，就像人类能够不断从身边经历的人和事中来学习行为模式一样，从而变得越来越聪明。小冰公司作为华智冰主创之一，提供了全球领先的人工智能完备框架，可以自我学习。小冰公司前身为微软（亚洲）互联网工程院人工智能小冰团队，经过多年孵化最终于2020年宣布拆分为小冰公司进行本土化运营。分拆出来后，小冰得到快速发展并确定了小冰框架的基本发展思路，就是AI being（虚拟人）。现在小冰框架内虚拟人已具备超级自然的语音及形象，同时更具有自己设定的六大要素，包括persona（性格）、attitude（态度）、biological character（生物学特征）、creation（内容创造）、knowledge（知识）和skill（技能），并且persona（性格）和attitude（态度）可协同一致。小冰公司既是一家技术输出的公司，也是一家运营公司，其成功地采用基于云的云和端的协同，创造了AI being（虚拟人）后再将这些AI being（虚拟人）派遣出去，包括万科集团2021年度优秀新员工“崔筱盼”，这也就是类似一个技术产品+运营双重创新的模式，也可以称之为“订阅制”的商业模式。

 

　　值得一提的是，今年小冰公司还中标2025日本大阪世博会的项目，即：2025年日本大阪世博会期间，为当地的60万个老年家庭提供一批虚拟陪伴（companion）。该虚拟陪伴并不是传统意义上定制的虚拟人，每位陪伴都各不相同，可能拥有不同的能力，并且每位老人都可以参与到每个虚拟人的训练过程（深度学习）中，这些虚拟人身份可以为老人的儿孙、初恋情人，甚至可以复活逝去的亲人。

 

　　（3）魔珐科技全栈立体式的技术和产品

 

　　2020年，魔珐科技与次世文化共同打造的虚拟KOL–翎Ling，以秀眉、白面、凤眼的面孔和极具东方特色的绝尘气质，以个性、神秘的定位传递中国传统的文化和价值观，在央视《上线吧!华彩少年》节目一炮而红。目前，她已在全网累积数十万粉丝，并与TISSOT天梭、100年润发、百雀羚、奈雪的茶等品牌达成了合作，并受邀担任天猫奢品“双11”数字推荐官、“热汗瑜伽”推广官、特斯拉“特约体验官”等，实现了虚拟人的商业破圈。2022年3月，魔珐科技使用了虚拟内容协同制作智能云平台和消费级虚拟直播产品，使得聚划算旗下的虚拟IP章鱼娘在B站和淘宝两大平台进行了真人+虚拟人沉浸式的直播互动，使“异次元代言人”章鱼娘从“二次元”变成“三次元”（接近于真人的2.5D形象）。

 

　　魔珐科技创始人柴金祥曾预测虚拟人行业的三个阶段：标杆阶段、规模化阶段和成熟阶段，并表示“我们聚焦于为虚拟内容和虚拟人的规模化、互动化、智能化提供基础设施，赋能各行各业进入元宇宙时代。”在“标杆阶段”，魔珐科技已经为众多企业打造虚拟形象代言人或内容，其虚拟直播技术和产品服务了诸多虚拟IP，其AI虚拟人也服务了众多客户。现在，魔珐科技的虚拟人产业正从树立标杆迈向规模化应用阶段，其构建了依托TTSA技术（文本驱动语音及动画技术）、STA技术（语音驱动动画技术）、智能动作与表情合成及核心美术能力等技术和标准化流程的AI虚拟人能力平台，可为市场输出表演动画系统、消费级的虚拟直播技术、虚拟IP线下互动技术和语音合成、智能交互等技术产品，赋能各行各业自行、直接地生产出所需要的AI虚拟人，将应用场景进一步衍生至“虚拟IP+”，如虚拟客服、虚拟医生、虚拟老师、虚拟主播等。

 

　　（4）垣宇科技拟打造虚拟IP矩阵，探索虚拟IP运营与变现

 

　　今年冬奥会前夕，捷成股份旗下虚拟IP运营商垣宇科技打造了中国花滑首个世界冠军陈露女士的虚拟分身，布局冬奥品牌营销、赛事直播等场景的商业化营销及运营。垣宇科技CEO田棣表示：计划于2022-2023年打造20+位明星、达人的数字虚拟人矩阵，运营策略将深度链接虚拟世界与现实世界，通过明星虚拟IP、原创虚拟IP、品牌定制IP，串联虚拟内容版权和生态运营的传播生态，探索虚拟IP流量运营与变现。

 

　　（5）洛天依，UGC用户生态

 

　　2012年，以雅马哈公司的VOCALOID3语音合成引擎为基础制作的全世界第一款VOCALOID中文声库和虚拟形象诞生，这个虚拟形象是一个15岁花季少女，具有灰发绿瞳、软萌可爱特质，取名为“洛天依”。洛天依作为首个中文虚拟歌手，国内二次元虚拟偶像的代表，多次参加演唱会、综艺等节目，并登陆央视春晚，成为中国虚拟数字人产业的破冰者。洛天依演唱的歌曲都是UGC用户生态，用户可以购买声库软件选择歌曲和Vsinger虚拟歌手的声音，对歌词进行创作和改编，创作只属于用户自己的歌曲。VOCALOID产业已经形成颇具规模的创作圈，用户创作的歌曲可以自产自销，创作圈子里的人既是生产者也是消费者。洛天依主要变现途径是为品牌形象代言、举办演唱会、形象授权、直播联合互动等商业合作方式，洛天依演唱会收入以赞助、门票和周边衍生品收入为主。洛天依的商业合作也从游戏、动漫领域拓展到了电子、快消等日常生活领域，在平台进行直播带货、现场演出等方面十分谨慎，希望先稳定优质内容输出后再实现商业变现。

 

　　（6）柳夜熙，元宇宙短视频破圈

 

　　2021年10月31日，创壹科技旗下的创壹视频开设了“柳夜熙”虚拟人物账号，简介为“一个会捉妖的虚拟美妆达人”，并发布了一条时长2分8秒的短视频。在短视频里，“2.5次元”的柳夜熙与真人互动，有悬疑剧情、镜头语言、背景音效，整体呈现充满科幻感的电影质感。整个短视频场景亦真亦幻，真实和虚拟的边界恍如一念之间。柳夜熙整体给人的感觉，就是游走于虚拟世界和真实世界之间的真实虚拟人。创壹科技成立于2018年，公司以一年一个爆款账号的速度占据抖音，包括2018年的“慧慧周”、2019年的“非非宇Fay”和2020年的“宇航员小五”。“柳夜熙”短视频的破圈，直接为创壹科技开辟了IP、剧情短视频、虚拟人三个赛道。创壹科技法定代表人谢多盛表示，柳夜熙只是团队设想的元宇宙矩阵IP中的一个角色，其他的虚拟人IP也将陆续公开，设想在3年之内要成为元宇宙世界的漫威。创壹科技的变现方式主要有广告代言、带货、知识付费、代运营等，广告代言大多是在自己的视频内容中通过故事情节、特效动画、镜头移动来植入。柳夜熙也已经开始商业变现之旅，在今年《地支迷阵》系列故事中植入vivo手机和小鹏汽车两个品牌，为抖音奇妙故事会站台、代言法国娇韵诗， 618“直播带货”。不过，创壹科技创始人兼CEO梁子康，表示等柳夜熙们逐渐塑造成熟后，再考虑IP化、影视化和游戏方面的开发。

 

　　（7）AYAYI，国内首位超写实数字人

 

　　2021年5月，一个看起来和真人无异的形象AYAYI出现在小红书上，一夜之间吸粉近4万，首发帖阅读量达到了近300万。AYAYI的外形、皮肤质感上做到了对真人的高强度还原，具有极致的美感及灵动、高雅的气质，是国内第一个Metahuman（超写实数字人）。2021年11月，在北京冬奥会开幕前夕，AYAYI 参与了“魅力冬奥”知识传播行动，让人们感受到虚拟人已经成为我们生活感受的组成部分。AYAYI同时具备明星KOL与虚拟偶像双重属性，更具有真实感、故事感与氛围感。AYAYI先后与娇兰、LV、Bose、保时捷等知名品牌合作，并和安慕希合作研发全球首款“能懂你的数字酸奶”，并作为“数字员工”入驻了阿里，成为天猫超级品牌日的数字主理人。未来，AYAYI还将可能拥有潮牌主理人、数字策展人、顶流数字人等多个身份。

 

　　创造出AYAYI的是燃麦科技，一家超写实数字人IP创作及运营公司。燃麦科技曾提出，其对外合作有三种模式：一是与客户合作，共同进行数字人开发与运营，权利与收益共享；二是客户拥有自己核心的数字版权资产，也就是自有超写实数字人，而由燃麦科技负责运营；三是燃麦科技为客户完全定制超写实数字人，按照客户的需求进行人设、价值观等设计，并负责运营和执行。前两种模式在版权运营方面使燃麦科技处于被动地位，只有第三种模式使燃麦科技在版权运营方面处于主动地位，可以实现针对不同场景设计和不同价值观的版权运营。目前，超写实数字人的商业变现模式主要有社交账号运营、广告等流量变现方式，未来可能变现的模式在于品牌合作、跨界合作、IP化和影视化。

 

　　（8）绊爱，无限期停止活动

 

　　2016年12月1日，绊爱以二次元小女孩虚拟形象在YouTube平台上正式出道。绊爱的形象设计到运营均由官方完成，采用“中之人+动捕设备”的形式与粉丝互动，2018年粉丝数量突破200万，又被亲切地称为“爱酱”，成为了全球粉丝数量第一的虚拟主播。绊爱的虚拟形象称之为皮套，中之人在幕后负责与观众互动，又称为“套中人”。绊爱的初代“中之人”是日本女性声优春日望，2019年5月25日，绊爱运营方为了削弱初代“中之人”春日望的影响力而启动“四个绊爱”，将绊爱的中之人增加至4人，践踏了粉丝的感情，欺骗了他们的信任。2021年12月4日，绊爱召开了出道五周年纪念直播，直播中她宣布自己将于2022年2月26日的最后一场演唱会“Hello，World 2022”后，无限期停止活动。

 

　　虚拟偶像的人设非常重要，中之人的声音、性格、行为举止等因素构成了虚拟偶像的灵魂，故而粉丝是将中之人与虚拟偶像的形象进行牢牢绑定的。在粉丝看来，虚拟偶像的声音、性格、行为举止等因素与其外表一样，是不能也不应该被更换的。中之人春日望是绊爱的灵魂所在，她很好地扮演着一位青春期主播的感觉，她的天真的语气能让你隔着屏幕也能感到她的欢脱。绊爱的中之人春日望被替换后，粉丝觉得绊爱已经不是以前的绊爱了，即使中之人春日望回归后，粉丝也认为绊爱不再特殊了。

 

　　（9）A-SOUL，开盒和休眠

 

　　2020年末，乐华娱乐发布了首个虚拟偶像团体“A-SOUL”，由五个外形性格各不相同的女生贝拉、珈乐、乃琳、嘉然、向晚五人组成，在出道短短几个月内，全网粉丝数便突破三百万。乐华娱乐“养成+技术”的运营模式很快让A-SOUL登上了V圈的巅峰，从全国范围内进行了中之人招募，对A-SOUL团队成员最开始的才艺展示到练习培训、线下漫展、生日会等活动的开展，都有粉丝的参与进而拉近虚拟偶像与观众间的距离，让粉丝能感觉到虚拟偶像的真实感，有陪伴感和养成感；实现A-SOUL全身3D化和全程动捕，实现对肢体动作与角色表情的精细表现。另外，A-SOUL的成功也离不开其成员中之人的魅力。2022年4月开始，乃琳、伽乐、贝拉和嘉然中之人陆续被开盒，中之人隐私信息陆续被曝光。2022年5月10日，A-SOUL官方宣布：团队中的一员珈乐要“休眠”了。这与此前网传的“A-SOUL有成员将于5月初毕业”相符。这也意味着虚拟偶像也会塌房。央视网评A-SOUL事件: 再好的技术，也是用来为人服务的，脱离了人、忽视了人，都将毫无意义。虚拟偶像产业，乃至未来更宏大的元宇宙产业，不能丢了“以人为本”的伦理根基。资本具有逐利本性，技术力往往被高度重视，但真正让人动容的，是感情，是人与人之间的情感联结。企业打造虚拟偶像的同时，应该遵守劳动法相关规定，以人为动力，切莫为捧红虚拟人，而压制“中之人”,让真实存在的人，成为牺牲品。

 

　　A-Soul的商业变现主要有直播打赏和广告代言等商务合作。2021年，A-SOUL成员贝拉和珈乐举办的两场生日会直播，直播的收入分别超过了210万元和197万元；其中，贝拉在生日会当天成为了B站历史上第一位“万舰”虚拟主播，所谓舰长是b站开发的月票机制，价格为198元/月；今年5月，A-SOUL成员嘉然开始直播带货。另外，A-SOUL先后与KFC、华硕、Keep、欧莱雅等知名品牌开展商务合作，但A-SOUL尚未开展IP授权、改编和衍生品的商务变现模式。

 

　　叶修诞生于电竞小说《全职高手》，主角叶修是一名职业电竞选手，曾经三连冠但因为和经理的运营理念不同，被迫和志同道合的游戏玩家重组战队又再次拿到了冠军。阅文动画开发了《全职高手》动画，叶修这位从高人气网文中走出的男主角，正式拥有了动漫形象。随着动画特别篇、大电影《全职高手之巅峰荣耀》等作品的热播，具有电竞、勤奋、绅士、专注等众多标签的叶修开始大热，并收获了大量粉丝。叶修，开始在各大东方卫视荧屏亮相，开始参与虚拟直播，开始虚拟明星代言等商业活动。

 

　　阅文集团是一家以数字阅读为基础、进行IP培育与开发为核心的文化产业集团。阅文旗下包括QQ阅读、起点中文网等网站，同时汇聚了大量作者和作品储备。阅文集团拥有一条完整的IP产业链，叶修的价值在IP产业链上被充分挖掘、打磨、锤炼和运营，包括网文、国漫、舞台剧、影视、游戏等多种形式开发。叶修的变现模式现在主要有直播和广告代言等商业合作，叶修生日会当天与美特斯邦威官宣发售叶修专属潮流Tee，成为了S10比赛的星推官，并先后与中国银行、麦当劳、舒耐、美年达、中国银行、旁氏、舒耐、清扬、伊利、酷狗开展广告代言等商务合作。

 

　　（11）无限王者团，跨界破圈

 

　　2019年，《王者荣耀》旗下虚拟偶像男团——“无限王者团”携单曲《wake me up》正式出道，成员由《王者荣耀》全玩家票选出的得票数最高的白、亮、信、云、守约五位英雄组成。无限王者团依托《王者荣耀》日均1个亿的日活跃用户数的游戏IP，与电竞内容进行深度绑定，通过持续推出专辑或单曲、演唱电视剧主题曲等形式下开发出具备差异性的衍生音乐IP，随后又通过AR等新技术呈现不同以往的精彩舞台表演，接着又在护肤、美妆、饮料、时尚杂志等多个领域开展跨界商务合作。无限王者团通过音乐这一基础场景的构建，无限王者团就像现实中的艺人团队一样具有较高的形象认知度，具有更丰富的IP内涵，可以为粉丝提供真人偶像一样的沉浸式追星体验。无限王者团以《王者荣耀》游戏IP为价值内核，从多个圈层进行IP圈层裂变，不断刷新受众认知拓宽受众，打造出了一条独属于无限王者团的虚拟偶像路径。虚拟偶像是一个全新的内容载体，无限王者团完美的人设、不变的容貌，让粉丝们更易与他们亲近，更容易代入自己的情感。对于腾讯而言，从王者荣耀的IP裂变到无限王者团的运营，是对其内部资源的一次裂变、整合和提高，总体上扩展和丰富了腾讯整个内容生态。无限王者团经纪团队负责人小禹表示，未来可能用更接近于艺人经纪公司的模式去运营男团。

 

　　二、伦理先行

 

　　今年小冰公司中标2025日本大阪世博会的项目，为当地的60万个老年家庭提供一批虚拟陪伴（companion），每位老人都可以参与到每个虚拟人的训练过程（深度学习）中，这些虚拟人身份可以为老人的儿孙、初恋情人，甚至可以复活逝去的亲人。还有，小冰公司推出的虚拟人类产品线，要复活此前被用户定制的118万虚拟男友。小冰公司CEO李笛也表示，AI being还存在伦理、道德及法律相关的课题。央视网对A-SOUL塌房事件的评论也表示，再好的技术，也是用来为人服务的，脱离了人、忽视了人，都将毫无意义。虚拟偶像产业，乃至未来更宏大的元宇宙产业，不能丢了“以人为本”的伦理根基。切莫为捧红虚拟人而压制“中之人”,让真实存在的人，成为牺牲品。

 

　　随着虚拟人在现实生活中的广泛大量使用，人们与虚拟人之间的情感连接越来越紧密，该种情感连接可能会影响到人们的真实社交，甚至有可能对虚拟人产生感情甚至结婚，这就有可能产生一系列伦理风险；另外虚拟人带来的沉浸式体验可能会对人们的精神、心理状态带来影响，改变人们在现实世界的日常行为和方式，甚至可能会产生暴力倾向，亦存在一定伦理风险；虚拟人与自然人同台竞技，万科把优秀新人奖颁给了一个虚拟员工“崔筱盼”，导致自然人与虚拟人之间的界限越来越模糊，也存在一定伦理风险。

 

　　01.国际科技伦理

 

　　2018年4月，《英国人工智能发展的计划、能力与志向》为人工智能准则的制定提出了五条初步的原则：一，开发人工智能应当为了共同利益和人类福祉；二，人工智能的运行应符合可理解原则和公平原则；三，不应利用人工智能来削弱数据权利或隐私；四，所有公民都有权获得教育，以便享有人工智能带来的好处；五，伤害、毁灭或欺骗人类的自主权力绝不应委托给人工智能。

 

　　阿西洛马人工智能原则指出：人工智能研究的目标应该是创造有益(于人类)而不是不受(人类)控制的智能；；价值归属：高度自主的人工智能系统的设计，应该确保它们的目标和行为在整个运行中与人类的价值观相一致；人类价值观：人工智能系统应该被设计和操作，以使其和人类尊严、权力、自由和文化多样性的理想相一致；个人隐私：在给予人工智能系统以分析和使用数据的能力时，人们应该拥有权力去访问、管理和控制他们产生的数据；自由和隐私：人工智能在个人数据上的应用不能充许无理由地剥夺人们真实的或人们能感受到的自由；分享利益：人工智能科技应该惠及和服务尽可能多的人；共同繁荣：由人工智能创造的经济繁荣应该被广泛地分享，惠及全人类；人类控制：人类应该来选择如何和决定是否让人工智能系统去完成人类选择的目标；非颠覆：高级人工智能被授予的权力应该尊重和改进健康的社会所依赖的社会和公民秩序，而不是颠覆；风险：人工智能系统造成的风险，特别是灾难性的或有关人类存亡的风险，必须有针对性地计划和努力减轻可预见的冲击。

 

　　国际电气电子工程师协会（IEEE）组织倡议的人工智能伦理标准指出，人权：确保它们不侵犯国际公认的人权；福祉：在它们的设计和使用中优先考虑人类福祉的指标；问责：确保它们的设计者和操作者负责任且可问责；透明：确保它们以透明的方式运行；慎用：将滥用的风险降到最低。

 

　　经合组织（OECD）发布《确定OECD的人工智能发展原则》报告，报告提出了人工智能的五项原则：包容、可持续发展与福祉；以人为本的价值观和公平；透明和可解释性；健壮性和安全性；可问责制。

 

　　2019年4月欧盟发布《可信AI伦理指南》，提出了五大原则：(1)福祉原则:“向善”，AI系统应该用于改善个人和集体福祉；(2)不作恶原则:“无害”，AI系统不应该伤害人类，应该保护人类在社会和工作中的尊严、诚信、自由、隐私和安全；(3)自治原则:“保护人类能动性”，AI发展中的人类自治意味着人类不从属于AI系统也不应受到AI系统的胁迫，人类与AI系统互动时必须保持充分有效的自我决定权；(4)公正原则:“确保公平”，开发人员和实施者需要确保不让特定个人或少数群体遭受偏见、侮辱和歧视。；(5)可解释性原则:“透明运行”。

 

　　2021年11月，联合国教科文组织发布首份人工智能伦理问题全球性协议《人工智能伦理问题建议书》，建议书提出：人工智能技术对于多方面的潜在影响，包括但不限于人的尊严、人权和基本自由、性别平等、民主、社会、经济、政治和文化进程、科学和工程实践、动物福利以及环境和生态系统；注意到应对风险和伦理关切的努力不应妨碍创新和发展，而是应提供新的机会，激励合乎伦理的研究和创新，使人工智能技术立足于人权和基本自由、价值观和原则以及关于道义和伦理的思考；认为以人权和基本自由、伦理、获取数据、信息和知识的需求、研究和创新自由、人类福祉、环境和生态系统福祉为依据，将伦理价值观和原则与同人工智能技术有关的挑战和机遇联系起来，又认识到伦理价值观和原则可以通过发挥指引作用，帮助制定和实施基于权利的政策措施和法律规范，以期加快技术发展步伐。建议书将伦理视为对人工智能技术进行规范性评估和指导的动态基础，以人的尊严、福祉和防止损害为导向，并立足于科技伦理。

 

　　02.国内科技伦理

 

　　2017年7月发布的《新一代人工智能发展规划》指出，人工智能发展的不确定性带来新挑战。人工智能是影响面广的颠覆性技术，可能带来冲击法律与社会伦理、侵犯个人隐私等问题，要最大限度降低风险，确保人工智能安全、可靠、可控发展。

 

　　2019年7月召开的中央全面深化改革委员会第九次会议审议通过《国家科技伦理委员会组建方案》，这表明科技伦理建设进入最高决策层视野，成为推进我国科技创新体系中的重要一环。

 

　　2021年9月，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》，《伦理规范》提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求。（一）增进人类福祉。坚持以人为本，遵循人类共同价值观，尊重人权和人类根本利益诉求，遵守国家或地区伦理道德。坚持公共利益优先，促进人机和谐友好，改善民生，增强获得感幸福感，推动经济、社会及生态可持续发展，共建人类命运共同体。（二）促进公平公正。坚持普惠性和包容性，切实保护各相关主体合法权益，推动全社会公平共享人工智能带来的益处，促进社会公平正义和机会均等。在提供人工智能产品和服务时，应充分尊重和帮助弱势群体、特殊群体，并根据需要提供相应替代方案。（三）保护隐私安全。充分尊重个人信息知情、同意等权利，依照合法、正当、必要和诚信原则处理个人信息，保障个人隐私与数据安全，不得损害个人合法数据权益，不得以窃取、篡改、泄露等方式非法收集利用个人信息，不得侵害个人隐私权。（四）确保可控可信。保障人类拥有充分自主决策权，有权选择是否接受人工智能提供的服务，有权随时退出与人工智能的交互，有权随时中止人工智能系统的运行，确保人工智能始终处于人类控制之下。（五）强化责任担当。坚持人类是最终责任主体，明确利益相关者的责任，全面增强责任意识，在人工智能全生命周期各环节自省自律，建立人工智能问责机制，不回避责任审查，不逃避应负责任。（六）提升伦理素养。积极学习和普及人工智能伦理知识，客观认识伦理问题，不低估不夸大伦理风险。主动开展或参与人工智能伦理问题讨论，深入推动人工智能伦理治理实践，提升应对能力。

 

　　2022年3月中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，指出：科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，是促进科技事业健康发展的重要保障，塑造科技向善的文化理念和保障机制，为增进人类福祉、推动构建人类命运共同体提供有力科技支撑。明确科技伦理原则：（一）增进人类福祉。科技活动应坚持以人民为中心的发展思想，有利于促进经济发展、社会进步、民生改善和生态环境保护，不断增强人民获得感、幸福感、安全感，促进人类社会和平发展和可持续发展；（二）尊重生命权利。科技活动应最大限度避免对人的生命安全、身体健康、精神和心理健康造成伤害或潜在威胁，尊重人格尊严和个人隐私，保障科技活动参与者的知情权和选择权。使用实验动物应符合“减少、替代、优化”等要求；（三）坚持公平公正。科技活动应尊重宗教信仰、文化传统等方面的差异，公平、公正、包容地对待不同社会群体，防止歧视和偏见；（四）合理控制风险。科技活动应客观评估和审慎对待不确定性和技术应用的风险，力求规避、防范可能引发的风险，防止科技成果误用、滥用，避免危及社会安全、公共安全、生物安全和生态安全；（五）保持公开透明。科技活动应鼓励利益相关方和社会公众合理参与，建立涉及重大、敏感伦理问题的科技活动披露机制。公布科技活动相关信息时应提高透明度，做到客观真实。

 

　　03.虚拟人产业科技伦理的构建

 

　　虚拟人产业科技伦理的构建，首先应当明确科技伦理原则，包括：首先，增进人类福祉，不断增强人民获得感、幸福感、安全感，促进人类社会和平发展和可持续发展；其次，要确定科技伦理应当包括：数据伦理、算法伦理、人工智能伦理，数据伦理是指在开展数据处理活动时应当强调人在数据中的主体地位、尊重人的权利和自由、实现有秩序有规范的数据共享，算法伦理应当尊重人类主体地位、抑制人类社会无处不在的歧视和偏见、保障用户的人身权和财产权，科技伦理是指应最大限度避免对人的生命安全、身体健康、精神和心理健康造成伤害或潜在威胁，保障人类在人工智能中的决定作用；最后，应当制定内部安全管理制度和建立健全预警机制，对数据的获取和应用过程进行严格的伦理评估，消除大数据异化引起的伦理风险，有效地公开算法基本原理、优化目标、决策标准等信息，引导算法应用公平公正、透明可释，给予用户算法知情权、选择权，人工智能运行应符合透明可见、可理解原则和公平原则，人工智能的发展应当具有可控性并具有毁灭装置。

 

　　（1）算法伦理

 

　　算法，应当遵循人类共同价值观，遵守国家或地区伦理道德；算法应当尊重人类主体地位，给用户选择权和决策权；算法应当抑制人类社会无处不在的歧视和偏见；算法应当保障用户的人身权和财产权。算法也要讲伦理，归根结底是需要数字平台讲伦理。这种伦理，不只是体现在“不得利用算法推荐服务从事危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动，不得利用算法推荐服务传播法律、行政法规禁止的信息”，还体现在“不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型”。算法须向上向善，算法应当只属于人民，应当有温度，算法应当符合公共利益，符合公平正义。譬如：2021年，市场监管总局、国家网信办、国家发展改革委、公安部、人力资源社会保障部、商务部、中华全国总工会联合印发《关于落实网络餐饮平台责任 切实维护外卖送餐员权益的指导意见》，要求不得将“最严算法”作为考核要求，通过“算法取中”等方式，合理确定订单数量、准时率、在线率等考核要素，适当放宽配送时限。在此之后，两大外卖平台都采取措施响应了“算法取中”要求，美团以人本位逻辑为算法的立足点也进行了多次算法优化。

 

　　（2）数据伦理

 

　　以机器学习为代表的人工智能技术需要大量的数据，数据是机器学习的根基，数据的真实性、完整性、规模和质量是人工智能进行分析与建模的关键。人工智能公平性的核心基础是数据，数据的不公平主要体现在：不同群体在数据中所占比例不均衡，数据固有的歧视，数据固有的偏见，数据的包容性不够，数据的通用性以及数据的准确性等。数据固有的歧视和偏见，是因为一些带有歧视和偏见的价值观映射在数据上。如果没有对上述数据不公平现象进行调试和校验，就将反馈到人工智能算法模型并将最终映射到人工智能公平性上。

 

　　04.“社会福祉”的司法裁判

 

　　2015年11月，人民日报评论员发表文章《坚持共享发展，着力增进人民福祉》，指出：中国特色社会主义是亿万人民自己的事业，坚持发展为了人民、发展依靠人民、发展成果由人民共享，全面小康才能真正造福于全体人民。2021年9月，《数据安全法》首次将“增进人民福祉”正式写入法律条文。在原告北京微播视界科技有限公司诉被告上海六界信息技术有限公司、厦门市扒块腹肌网络科技有限公司、浙江淘宝网络有限公司不正当竞争纠纷案中，法院认为：社会公共利益方面。六界公司的基础数据直接来源于“抖音”，并经简单计算得出，对数据的使用行为没有任何创新，涉案数据展示的透明化一定程度上反而会带来平台之间的恶性竞争、家庭与社会不稳定等，使得社会福祉总体降低。

 

　　三、虚拟人企业合规

 

　　01.肖像权

 

　　《民法典》第一千零一十八条规定：自然人享有肖像权,有权依法制作、使用、公开或者许可他人使用自己的肖像。肖像是通过影像、雕塑、绘画等方式在一定载体上所反映的特定自然人可以被识别的外部形象。肖像权是一项人身权利，只有现实中的自然人才拥有该项人格权，而虚拟人本身并不享有肖像权。虚拟人使用他人肖像作为图像不符合民法典第一千零二十条合理使用之规定，应当得到权利人许可，否则虚拟人的图像有可能侵害自然人的肖像权。早在1993年，凡娜·怀特(Vanna White)起诉三星广告中的机器人侵犯了她的肖像权，并最终胜诉。在上海第九城市信息技术有限公司等与迭戈.阿曼多.马拉多纳案中，在其公司开发、运营的"热血球球"游戏主界面中使用了马拉多纳的肖像及签名字样，主观上存在未尽到合理适当的注意义务之过错，侵害了马拉多纳的肖像权。在捏脸系统已经成为游戏的标配，并随着黑科技的加入以及玩家捏脸技术水平的提升，人们纷纷想要捏出自己喜爱的真人明星。该种将他人肖像用在虚拟人上属于制作、使用、公开他人的肖像，涉嫌侵犯他人肖像权。

 

　　02.声音权益

 

　　《民法典》第一千零二十三条第二款规定，对自然人声音的保护,参照适用肖像权保护的有关规定。该条明确对自然人声音进行保护，虽然并没有明确自然人享有声音权这一独立、具体人格权，但明确了自然人享有声音权益，并参照适用肖像权保护。虚拟人因不是有生命的自然人，故不享有声音权益，但其有可能因为模仿明星、他人声音或丑化、污损他人声音构成侵害声音权益，在世的或者已故的明星声音都受到法律保护，此处的明星声音可以是有内容的语言表达也可以仅仅是一段笑声，丑化、污损他人声音是指采用不恰当的借用、处理等手段导致该声音的使用违背或玷污了他人声音原有的使用意图和效果，比如将小米公司董事长雷军在印度小米新品发布会中的英文发言制作成鬼畜视频；如果上述行为不构成侵害声音权益，则还有可能因为混淆误认而构成不正当竞争。虚拟人模仿他人声音也有可能侵害声音商标权，声音商标是指由能够区别商品或服务来源的声音要素构成的商标，该声音要素可以由音乐性质的声音构成，也可以由非音乐性质的声音构成,还可以由音乐性质与非音乐性质兼有的声音构成。

 

　　03.名称权

 

　　《民法典》第一千零一十二条规定自然人享有姓名权, 第一千零一十三条规定法人和非法人组织享有名称权。元宇宙中的虚拟人并非享有生命的自然人，只能参照法人和非法人组织享有名称权。虚拟人并非有生命的自然人，故虚拟人名称有可能侵害姓名权和名称权，而虚拟人名称如被他人冒用、抄袭则可能因为导致混淆误认、淡化而构成不正当竞争。虚拟人名称如被他人冒用、抄袭要构成不正当竞争行为，首先该虚拟人名称应当符合“有一定影响的”这一前置条件，认定“有一定影响的虚拟人名称”，应当考虑该虚拟人名称主体部分、虚拟人名称的成立及使用时间、访问量和一定的市场知名度、为相关公众所知悉，进行任何宣传的持续时间、程度和地域范围，曾经受保护的情况等因素，进行综合判断。

 

　　在何炅诉上海自古红蓝人工智能科技有限公司案中，法院认为：首先，案涉软件的核心逻辑是通过创设虚拟的AI角色，将自然人的姓名、肖像、人格特点等综合而成的整体形象投射到AI角色上，并且让用户可以与AI角色设置一定的虚拟身份关系，这是对原告整体形象和人格表征的利用，属于原告人格自由利益的范畴，肖像权、姓名权的人格利益无法完整涵盖案涉软件涉及的人格利益。其次，案涉软件的功能使得AI角色可以与真实自然人高度关联，容易让用户产生一种与原告真实互动的情感体验。在此前提下，软件预设了用户可以选择与原告建立包括爸爸、妈妈、男朋友、女朋友、儿子、女儿等亲密关系的功能，可以允许用户任意设置与AI角色之间相互的称呼，上述功能设置不仅属于原告自由决定其人格要素如何被使用的范畴，还涉及原告人格尊严被尊重的利益。被告未获原告许可以上述方式利用原告的人格要素，侵害原告人格自由利益及人格被尊重的利益，构成侵害原告一般人格权的行为。

 

　　04.著作权

 

　　（1）美术作品

 

　　《著作权法实施条例》第四条规定，美术作品，是指绘画、书法、雕塑等以线条、色彩或者其他方式构成的有审美意义的平面或者立体的造型艺术作品，虚拟人的形象通常可以作为美术作品获得保护。著作权法上的作品要求具有独创性，独创性是指作者在独立创作作品过程中创造出的具有独特个性的外在表达形式，其包含“独”和“创”两层含义，“独”是指“独立完成”即“原创非抄袭，不排除作者的技艺、才智等”，“创”是指“具有创造性”即“具有独特个性的外在表达形式而非思想，该独特个性是表达作者的思想、情感等”，“独”与“创”两者缺一不可，虚拟人的名称由于只是文字的简单构成不具有独创性，无法得到著作权法的保护，但如果构成混淆误认则可能得到反不正当竞争法的保护。扮演自然人的虚拟人需要得到其本人的授权，而重塑已故艺人的虚拟人需要得到已故艺人的家人或生前签约演艺公司的授权。虚拟人创作的作品，由创造虚拟人的自然人、法人或非法人组织享有著作权。

 

　　（2）歌曲、舞蹈等视听作品

 

　　《著作权法》第三条引入了视听作品，电影作品、电视剧作品、具有独创性的短视频、游戏连续画面等均可能作为视听作品获得著作权法保护。虚拟人发布视听作品，尤其是短视频，一般情况下都不构成合理使用，可能涉嫌侵害他人作品的保护作品完整权，《著作权法》第十条第四项明确规定：保护作品完整权，即保护作品不受歪曲、篡改的权利。保护作品完整权规范的行为为“歪曲”、“篡改”， “歪曲”是指对作品作有违作者本意的体现，“篡改”是指以作伪手段进行改动，并以作者声誉是否受到损害和作者的社会评价是否降低为判断标准；翻唱他人歌曲的行为一方面侵害了词曲作者的表演权，表演权，即公开表演作品，以及用各种手段公开播送作品的表演的权利。表演，是指演奏乐曲、上演剧本、朗诵诗词等直接或者借助技术设备以声音、表情、动作公开再现作品的行为。翻唱他人歌曲的行为另一方面可能侵害了邻接权之表演者权，表演者权是指表明表演者身份、保护表演形象不受歪曲、许可他人从现场直播和公开传送其现场表演，并获得报酬、许可他人录音录像并获得报酬、许可他人复制发行录有其表演的录音录像制品并获得报酬、许可他人通过信息网络向公众传播其表演并获得报酬等权利；模仿他人舞蹈可能侵害他人舞蹈作品的相关权利，舞蹈作品的独创性并不局限于动作、姿势、造型、表情，应当还包括用于表达创作者思想情感的音乐、灯光、情节等，也就是说 “情节+舞蹈动作”、“ 情节+舞蹈动作+音乐、灯光”等的组合也属于舞蹈作品的保护范围。

 

　　（3）开源软件

 

　　虚拟人企业在开发虚拟人时可能会用到开源软件。开源是指源代码的开放，实质是技术共享；开源软件是指开放源代码软件，即其源代码可以被公众使用的软件。开源许可证是开源软件的版权人授予用户学习、修改、分发开源软件的一种法律许可，不同的开源许可证规定有不同的条件与义务，关系到用户是否享有修改或衍生后的代码使用以及商业使用等权利。不同的开源许可证规定有不同的条件与义务，在使用一个开源许可证当然不存在问题。但如果一个软件中使用了两个或两个以上开源许可证，就有可能引起各个开源许可证之间的限制或条件发生冲突，如果出现冲突就是不兼容。企业、个人在使用、参与或主导开源软件的过程中，必然会涉及到各式各样的开源许可证，应当牢固树立开源风险意识，通过开源合规治理规避各种法律风险。

 

　　05.商标权

 

　　《商标法》第五十七条规定，未经商标注册人的许可，在同一种商品上使用与其注册商标近似的商标，或者在类似商品上使用与其注册商标相同或者近似的商标，容易导致混淆的构成商标侵权行为。在虚拟人短视频等作品下方或正面使用他人商标，属于商标性使用，有可能构成商标侵权。将他人商标作为标签、关键词，若内容中包含他人商标，属于对他人商标的商标性使用行为；若内容中不包含他人商标，则可能涉嫌不正当竞争。

 

　　06.名誉权

 

　　《民法典》第一千零二十四条规定，民事主体享有名誉权。任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。名誉是对民事主体的品德、声望、才能、信用等的社会评价。虚拟人是开启元宇宙的先锋，是通往元宇宙的船票。在元宇宙中，人们可以自由设定虚拟分身的名称和社会形象，通过虚拟分身进行生产、消费和投资，与元宇宙中其他的人和物进行交互，这必然涉及到真人与虚拟分身之间的法律关系、该虚拟分身同样具备名称、肖像、荣誉和隐私等人格属性，该人格属性应当是依附于自然人的，且呈现出与现实世界中自然人人格权部分相同，但不等同的人格形态。在熊文郁与杨婧瑶案中，法院认为：“步光步光媛媛”、“清辉阁媛媛”和“上莹大小姐”虽属于网络世界的虚拟人，但该虚拟人系现实世界的民事主体在网络世界的映射，熊文郁的上述行为致使杨婧瑶的社会评价降低，熊文郁主观上存在侮辱杨婧瑶的故意，客观上对杨婧瑶的名誉造成了侵害，故熊文郁的行为已构成名誉侵权。

 

　　07.去中心化组织DAO

 

　　初音未来开发了创作者社区PIAPRO，但由于其是中心化的，对“P主”（Producer）的激励机制不够，导致大量“P主”（Producer）离开，优质内容减少，IP影响力下降。洛天依演唱的歌曲都是UGC用户生态，用户可以购买声库软件选择歌曲和Vsinger虚拟歌手的声音，对歌词进行创作和改编，创作只属于用户自己的歌曲。VOCALOID产业已经形成颇具规模的创作圈，用户创作的歌曲可以自产自销，创作圈子里的人既是生产者也是消费者。元宇宙时代的到来，人与人之间的社交关系呈现数字化形态，生产资料也呈现出了数字资产的形态。在数字资产的时代，去中心化组织DAO的出现适应了元宇宙时代的要求，在瞬间完成全球各地资本和人才的规模化协作，有效解决了虚拟人的创作和激励机制。

 

　　DAO，去中心化自治组织，一种基于区块链、智能合约、通证经济等技术的元宇宙组织形态，通过程序设计将治理规则的制定权交给社区自治，治理规则由分布式程序自动执行，确保社区成员的利益保持一致，并能够共同实现组织目标。去中心化自治组织DAO，将规则制定及变更的权力交给社区，交给代币或通证持有人，交给参与者或矿工，而任何人都可以成为代币或通证持有人和参与者或矿工。去中心化自治组织DAO，摆脱了自上而下的中心化组织形式，用户基于预先设定的规则及组织的投票体系决定是否加入，用户成为成员后可以发起提案、投票，每位成员的提案都有机会得到组织的投票并通过，实现了社区自治。简而言之，DAO就是没有领导者的一群人在区块链上建立自己的组织，通过社区自治建立自己的治理规则，并根据智能合约做出去中心化的决策。

 

　　08.中之人与公司的劳动合同

 

　　A-SOUL塌房事件最主要的原因在于：在粉丝眼中，A-SOUL从一个美好的虚拟偶像组合变成了万恶资本家压榨工人的案例，中之人仅仅是一个资本的提线木偶、赚钱工具。而站在公司的立场上来看，偶像组合背后需要大量的团队，并需要投入大量资金而且前途未卜，刚出道的中之人并没有什么市场竞争力，把中之人定位在职员而非艺人更多是出于现实商业环境的考量。然而，公司在与虚拟偶像组合中之人签订固定劳动合同后，即使虚拟偶像组合大火也不大可能给中之人调整或变更劳动合同，增加中之人的合理收入。故此，公司在与中之人签订劳动合同时，应当以人为本，或可设置一定的激励机制，激励中之人多劳多得，并约定好中之人的违约金，保持虚拟偶像组合的稳定性；也可以签订附条件的劳动合同，在满足流量、粉丝等特定条件时变更为艺人经纪合同，所有艺人经纪合同的细节均可作为劳动合同附件进行约定清楚。只有这样，才能在公司和中之人之间达到一种利益平衡，有效规避因为中之人毕业而塌房。

 

　　09.中之人之隐私

 

　　《民法典》第一千零三十二条规定，自然人享有隐私权。任何组织或者个人不得以刺探、侵扰、泄露、公开等方式侵害他人的隐私权。隐私是自然人的私人生活安宁和不愿为他人知晓的私密空间、私密活动、私密信息。理想的中之人是在输出内容时完全按照脚本执行，这样企业也不会受中之人的约束和控制。然而，在目前AI自动化技术还不成熟的情况下，许多应用场景还需要中之人的临场发挥，中之人又可称为虚拟偶像之魂。故而，中之人之隐私被扒开又称之为开盒，当开盒后粉丝发现中之人与虚拟偶像有差距或者距离时，就会对虚拟偶像产生落差进而掉粉。因此，中之人之隐私应当作为企业的商业秘密进行保护，设立相应的保密机制，并签订保密协议和相应的竞业禁止协议。

 

　　10.数据合规

 

　　《数据安全法》明确“国家保护个人、组织与数据有关的权益，鼓励数据依法合理有效利用，保障数据依法有序自由流动”的立法目的，明确“开展数据处理活动以及研究开发数据新技术，应当有利于促进经济社会发展，增进人民福祉，符合社会公德和伦理”的原则。《个人信息保护法》规定，个人信息包括一般个人信息和敏感个人信息，敏感个人信息以外的其他个人信息都属于一般个人信息。敏感个人信息是一旦泄露或者非法使用，容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害的个人信息，包括生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹、性取向、存款信息、传染病史等信息，以及不满十四周岁未成年人的个人信息。

 

　　个人信息处理者在收集个人信息时首先应当遵循合法原则，不得通过误导、欺诈、胁迫等方式收集个人信息，不应隐瞒产品或服务所具有的收集个人信息的功能，不应从非法渠道获取个人信息；其次，应当遵循最小必要原则, 应当限于实现处理目的的最小范围，应坚持最少够用原则，不得过度收集个人信息，只处理满足个人信息主体授权同意的目的所需的最少个人信息类型和数量，在处理目的范围内采取对个人权益影响最小的方式，另外处理敏感个人信息还需要特定的目的和充分的必要性；再其次应当遵循告知同意原则，在收集个人信息前以显著方式、清晰易懂的语言真实、准确、完整地向个人告知个人信息处理者的名称或者姓名和联系方式、个人信息的处理目的、处理方式，处理的个人信息种类、保存期限、个人行使权利的方式和程序，该同意应当由个人在充分知情的前提下自愿、明确作出；最后，这三个原则是优先顺位关系而非并列关系，首先需要判定是否合法，其次再适用最小必要原则，最后才能是适用告知同意原则。

 

　　另外根据《数据出境安全评估办法》，数据处理者在向境外提供个人信息的，首先应当保障境外接收方处理个人信息的活动达到我国“同等保护水平”，并且未被列入“限制或禁止个人信息提供清单”；其次，应当向个人告知境外接收方的名称、联系方式、处理目的、处理方式、个人信息的种类以及个人向境外接收方行使权利的方式和程序等事项，并取得个人的单独同意；再其次，在申报数据出境安全评估时包括个人信息权益是否能够得到充分有效保障和个人信息权益维护的渠道是否通畅；再再其次，支持和帮助个人行使知情权、决定权、撤回权、限制或者拒绝处理权等权利；最后，监督境外接收方按照合同约定的目的处理个人信息，不得将个人信息再次传输给其他方，在合同目的完成后对个人信息进行删除或其他合法处理。

 

　　11.算法治理

 

　　智能直播虚拟人需要通过算法实现自动化决策，以达到与用户之间的强互动。算法，源自计算机科学的一个概念，是执行预定良好计算过程的计算机代码或指令，基于原始数据的输入通过自动化决策产生结果数据的输出。算法的出现和使用，是为了执行大规模重复的任务和计算，是为了实现商业上高效快速的交易，是为了实现公权力具有广度、深度和效率的运行。随着算法的日益广泛应用，算法已经成为促进政治、经济、文化和社会发展的工具。算法，简而言之就是“数据处理活动”，收集处理数据，挖掘数据价值，涵盖了数据的生成、采集、存储、转换、处理和输出的全过程。算法，应当遵循人类共同价值观，遵守国家或地区伦理道德；算法应当尊重人类主体地位，给用户选择权和决策权；算法应当抑制人类社会无处不在的歧视和偏见；算法应当保障用户的人身权和财产权。