清明将至慎用AI复活,平台约束生成式AI技术滥用
来源:龙8国际 更新时间:2024-11-01 22:33:07
4月2日晚,清明抖音安全中心发布《关于清明期间内容创作的将至I技提醒》,内容包括了勿借清明节发布迷信、慎用生成式A术滥猎奇和有违公序良俗的复活内容,勿发布焚烧人民币的平台内容,参观英雄、约束用烈士及遇难同胞纪念场所时保持庄重的清明言谈举止,勿拍摄或发布有安全隐患的将至I技“野景点”以及封闭或受限制区域的相关内容等。
其中尤其值得注意的是提及了慎用“AI复活”技术,要求用户尊重逝者及其亲友。复活未经逝者生前同意或逝者家属授权,平台请勿利用AI或其他技术手段“复活”逝者。约束用
该内容创作提醒中所提及的清明AI复活技术近期在社交平台引发广发争议,此前媒体报道了多起AI复活服务案例,将至I技其中既有遗属复活去世亲人让人感动的慎用生成式A术滥,也有网友擅自用AI复活已去世明星引发明星遗属不满和大众反感的,同时也揭露了AI复活技术产业链中存在的种种问题:打着“技术教学”旗号卖课的,利用AI复活技术诈骗的,用AI复活当噱头引流的……生成式AI技术所面临的道德困境引发热议,这也让不少平台开始出手提示用户对AI技术滥用保持警惕,比如小红书平台,在搜索AI复活相关内容是会置顶弹出“谨防诈骗”的官方提示。
这也并非是抖音首度出手约束生成式AI技术。就在不久前的3月27日,抖音发布一则治理公告,开始明确划定AI创作的禁区,指出将重点整治利用AI生成假外国人消费爱国心理、博取关注;生成俊男美女虚假形象片骗取互动;生成精英人士虚假人设发布心灵鸡汤、厚黑学等不良内容引流卖课等内容。值得注意的是,此次治理中抖音还提到了“平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索,将报警打击。”这样严厉的措辞在过往的治理公告中并不常见。字节跳动旗下的学习平台学浪在3月初发布治理公告,对AI教培商品的行业审核规范进行了明确,对AI课程贩卖焦虑、割韭菜、引流等行为以及AI代写学术论文等商品进行管控。
生成式AI技术的发展创新日新月异,技术和道德伦理的挑战如影随形,从网友热议讨论去年7月《生成式人工智能服务管理暂行办法》再到网络社交平台根据各自平台出现的AI技术滥用问题制定监管方案,明确滥用标准约束相应行为对于规范使用生成式AI技术势在必行。
扬子晚报|紫牛新闻记者 沈昭
校对 王菲