据《连线》杂志报道,旧金山城市检察官已正式向Apple下发停止违规运营整改函,要求平台清理商城内多款违规AI换脸类应用,整治可未经授权篡改人像影像的智能工具程序。
此次监管点名的违规程序共计十三款,其中八款均上架运营于Apple App Store平台。这类应用对外主打人像替换的趣味创作功能,却被用于擅自篡改真人影像素材、生成违规创意图像。
监管部门要求Apple即刻下架全部涉事程序、终止与对应开发者的合作关系,并停止收取相关程序的内购分成收益。
监管方认定,平台为这类违规工具提供分发渠道并持续获利,客观上助长了违规内容传播,属于不合规的经营行为。
相关负责人明确表示,此类未经授权篡改他人人像素材的行为,存在严重不良影响,属于绝不被允许的违规操作,同时指出Apple已通过这类违规应用累计获取数百万美元平台服务收益。
Apple开发者规范条款中,一直明确禁止各类不良违规内容上架传播。过往接到行业机构核查反馈后,Apple曾多次批量清理同类不合规智能创作程序。
早在今年六月,Apple便主动优化升级App Store审核准则,细化开发者的内容合规主体责任,进一步收紧平台内容管控标准,全方位提升应用上架与运营期间的审核力度。
本次收到官方正式整改函后,Apple将对涉事八款AI换脸应用开展专项清理处置,后续平台的合规管控动向,也持续受到行业与监管层面的关注。
