社会要闻-"2023国精产品一二二线精华液"-多巨头出2023国精产品一二二线精华液手！App隐私数据，谁说了算？

多巨头出2023国精产品一二二线精华液手！App隐私数据，谁说了算？_ZAKER新闻

会议提到，

作者丨王俊编辑丨肖潇图源丨图虫大模型搭载进入手机成为最新趋势，各个手机品牌争相推出 AI 大模型为底层支撑的 AI 手机。新风潮牵引出新问题。主打 " 贴身服务 " 的 AI 手机，实时收集个人语音、手势、微表情、使用习惯、偏好……将握有当代人最多的秘密。如何守住秘密？AI 手机时代的隐私保护与数据安全似乎还是一笔糊涂账。在移动互联网时代，用户与 App 直接互动，App 是绝对的个人信息收集者，隐私保护与数据安全抓手主要在单点的 App 上；来到 AI 手机时代，手机终端、第三方大模型、App 以及云服务均涉及用户数据的处理、使用，链条复杂了，数据的流向与用途更难以追踪。往前再探一步，行业生态正在变天。手机终端不仅握有用户数据，还把持着流量入口的开关，" 一句话点餐 "" 一句话取消自动续费 "，握有调用权限。对 App 而言，想被第一时间调用，需要全面接入手机生态，这是否意味着开放数据给手机厂商，其中各方应如何履行数据保护的义务？新业态正在徐徐展开，新秩序似乎未见轮廓。手机厂商祭出隐私保护卖点，是否能落地？2024 年被视为 AI 手机元年，AI 卷向手机端。根据 Canalys 的数据，2024 年，全球 16% 的智能手机出货量为 AI 手机，这一比例在 2028 年预计将跃升至 54%，2023 年到 2028 年的 AI 手机出货复合年增长率将达到 63%。AI 手机的卖点是成为用户的个人助理，通过人格化、记忆、感知和管理能力，为用户带来全新的人机交互体验。" 贴身服务 " 基于全面的用户数据，个性化信息、细微的表情、操作习惯等等，提供准确且定制化的服务，做到 " 越用越懂你，越用越好用 "。" 以往手机获取的信息主要包括用户设备及应用信息、日志信息、底层权限信息等；在端侧 AI 场景以及当前主要基于读屏录屏的技术方式，除上述全面的信息权限外，终端智能体还可以获取录屏的文件本身，并进一步通过模型分析，获取其所展现的身份、位置、支付等各类敏感信息。由于录屏场景十分丰富，其所识别的信息类型也将无法提前预测，并且极有可能包含了大量其他自然人的个人信息。" 腾讯研究院曾撰文指出。个体与手机，骨肉相连。手机厂商深知用户隐忧与监管风向，纷纷将隐私保护作为卖点。但是，AI 手机隐私容易做到吗？21 世纪经济报道梳理发现，无论是苹果，抑或是国内的荣耀、VIVO、OPPO ，均采取优先本地化（端侧）处理 + 加密上传云端处理的措施。本地设备优先处理用户需求，当用户请求无法在端侧模型完成时，端云模型协同响应，加密上传云端模型处理。生态链条复杂责任如何分配？缜密的机制设计也无法消除风险。尚隐公司 CEO 张仁卓指出，风险一方面来自上云，虽然机制上保证安全，但数据上云确实放大了数据隐私保护的风险。另一方面的风险来自厂商之间的配合。以苹果为例，如果把苹果 AI 的功能实现当成一个链条，PCC 大大增强了端云配合的隐私保护，但并未详细展示苹果与大模型厂商之间的隐私保护动作，端到端的用户隐私保护需要进一步补充澄清。后者暴露出 AI 手机时代的隐私保护难题：生态参与方复杂。与此前以 App 为抓手的隐私保护不同，AI 手机行业生态涵盖：手机终端、第三方大模型、APP 以及云服务等参与方，各方在数据安全上的责任关系并不十分明确。比如，很多手机非自研发模型，外接了其他大模型，在共同处理相关数据或者上传至第三方云端 AI 处理等情况，如何进行责任分配？观韬中茂（上海）律师事务所合伙人吴丹君认为，终端厂商即预装应用程序的智能终端等设备生产者，在预装 App 时应通过平台规则或合同明确第三方产品和服务提供者的网络数据安全责任，并监督第三方加强数据安全管理。对于大模型服务提供者，大成律师事务所高级合伙人邓志松指出，模型训练应当使用去标识化、匿名化而非能关联到具体个人的数据，当然，AI 大模型开发商也应在收集用户个人信息或其他数据前获得用户同意，且应明确告知该类数据可能被用于大模型训练，并说明将进行的去标识化、匿名化处理。行业生态变天终端厂商与 App 矛盾初显在隐私保护问题背后，是行业生态变化带来的上中下游摩擦，手机终端与 App 之间的矛盾显现。以 10 月份 vivo 在开发者大会上发布 PhoneGPT 为例，语音说出想要预订的餐厅类型、时间，和人数后，它可以自主跳转相关 APP，找到符合需求的餐厅，识别餐厅电话并自动进行电话预约。9 月 6 日，荣耀在 2024 IFA 上，面向全球推出行业首个跨应用开放生态智能体（HONOR AI Agent）；同时还首次展示了 " 一句话取消自动续费 "，即一键查阅 & 取消 APP 续费订阅功能。这也意味着，手机终端掌握了 App 的调用权，成为了流量的入口。这带来了一个问题：调用谁不调用谁，到底是谁说了算？有业内专家指出，可能取决于用户行为数据、App 在 AI 手机中的生态接入。若接入手机生态，App 大概率需要开放数据给手机厂商。App 接入手机终端生态的话，用户数据如何保护，各方应该履行什么义务？倘若不接入终端厂商生态，App 如何保护数据？因为，AI 手机时代，打开 App 的可能不再是用户，而是手机终端。AI 手机利用 " 拟人化 " 操作，模拟用户在 App 中读屏理解、点击、操作，不再是移动互联网时代调用 App 背后的数据接口。这种情况下，App 无法准确知晓手机终端 AI 的识别、操作动作。这其中 App 与终端厂商之间又该如何进行权责划分？这些似乎都没有明确答案。