大模型时代更需加强企业用户信息保护
时间:2023-10-18 19:12:27来自:经济参考报字号:T  T

信息技术日新月异,数字经济已由平台经济时代进入了大模型时代,数据要素价值实现达成了质的飞跃,成为经济增长的新动能。在当前数据要素流通不畅、条块分割严重的背景下,数据私域作为天然的数据蓄水池,满足了大模型训练的需求,引发了大模型公司的高度关注。在产业数字化发展中,数据私域搭建了企业与个人的社交桥梁,让企业成功建立起客户的蓄水池,实现反复营销和商业转化,企业微信是数据私域的典型代表。但近年来,国内外社交平台与第三方合作的私域爆出了不少的客户隐私安全事故,涉及大模型的违规抓取、训练数据行为。

2023年5月初,有媒体爆料称,Facebook公司通过其广告平台上的某些API接口收集了大量用户数据,包括用户的个人信息、好友列表、消息记录等等。这些数据被用于帮助广告客户更精准地定位目标受众。由于此次数据抓取是未经用户同意的,因此Facebook公司面临着巨大的隐私泄露风险。

就国内而言,近期,国家金融监督管理总局办公厅向各银保监局、银行保险机构等下发《关于加强第三方合作中网络和数据安全管理的通知》(下称《通知》),要求各银行保险机构对照通报问题,深入排查供应链风险隐患,切实加强整改。《通知》通报了企业微信服务风险情况:某微信代理商为多家银行提供企业微信相关服务,将银行客户经理和客户的聊天会话存档在该服务商租用的公有云服务器上,会话存档数据包含部分客户姓名、身份证号、手机号、银行账号等敏感个人信息。未经银行同意,该服务商私自使用数家银行600余万条会话存档数据用于该公司模型训练,并提供给关联公司。银行因未尽到对客户敏感数据保护责任,引发消费者维权投诉。

企业用户数据泄露问题值得关注

数据流动与数据安全,构成了数据价值的一体两翼。应在促进数据要素利用的同时维护数据安全,实现数据要素利用的合规化。

长期以来,微信的定位始终是私人社交工具。为了保障这种私密定位,微信官方曾多次表示,不会去看用户的微信内容。微信不留存任何用户的聊天记录,聊天内容只存储在用户的手机、电脑等终端设备上。微信也不会将用户的任何聊天内容用于大数据分析。

但企业微信的出现实际上模糊了这一边界。企业微信的“优势”就是企业的营销人员以“朋友”和“工作人员”的双重身份与客户交朋友,在沟通中了解用户的兴趣和偏好,进而促成交易和二次交易。这种社交就变成了一种“公共沟通”,不再享有私密性,而是企业数据资产。

这种变化是非常微妙的。从用户角度,使用企业微信能够与日常聊天场景融为一体,降低用户保护个人隐私的意识。企业员工则会有获取用户隐私的动机,并且在使用企业微信进行沟通时缺乏类似“客服电话”中“您的通话会被录音”的提示,在获取用户数据时未必会遵循“最小必要”原则。从企业角度,是否会对这些员工与客户的聊天记录予以重视,进行特别的隐私保护处理也值得怀疑。事实证明,即便是以合规管理严格著称的银行也不一定能保护好此类数据。

第三方、企业、平台谁该为用户隐私担责

在私域模式下,除了员工之外,企业另一个难以掌控的因素是“第三方服务商”。事实上,从银行个人隐私泄露中“受益”的并非是银行,而是“第三方微信代理服务商”。这些代理商将这些银行员工与客户的聊天信息用于训练自己的模型,进而导致了客诉。

在此次事件后,金融监管总局发布的《关于加强第三方合作中网络和数据安全管理的通知》指出,部分银行保险机构的外包服务商发生多起安全风险事件,对银行保险机构的网络和数据安全、业务连续性造成一定影响,暴露出银行保险机构在外包服务管理上存在突出风险问题。

对这些风险,金融监管总局进一步总结为两个核心问题。第一是,银行保险机构对数字生态场景合作情况底数不清,缺乏统筹管理。开展数字生态合作时,银行保险机构外包风险主管部门、科技和数据管理部门未参与,缺乏数据安全风险评估、监控管理等机制,存在突出风险隐患。第二是,银行保险机构对合作中数据安全风险和责任识别划分不清。数字化转型合作业务场景连接,技术渠道相互嵌入,数据存储、交互情况复杂,银行保险机构对业务、技术、数据等风险识别不清晰,责任划分不明确,存在数据收集使用不合规、安全责任交叉、数据保护存在盲区等问题。

银行保险机构已经是国内合规最严格的商业机构,也有着不断升级的行业监管,情况尚且如此,在私域模式已经进入到千行百业的过程中,隐私保护问题很可能会产生常态化的漏洞和风险隐患。在银行企业微信隐私数据泄露事件的背后,应该看到,私人社交平台作为一种基础设施,在其带动社会数字化的巨大力量背后,也存在巨大的风险隐患。在大模型时代,数据在大模型训练方面的独特价值无疑加剧了这一风险。

国际经验也表明,社交平台与第三方合作容易发生信息泄露,除前面已经提到的事例外,还有:

2016年,8700万Facebook用户数据被指不当泄露给政治咨询公司剑桥分析,用于在2016年总统大选时支持美国总统特朗普。2018年12月,社交网络巨头Facebook承认,一个安全漏洞导致680

  • 浏览记录
  • 我的关注
  • 涨幅
  • 跌幅
  • 振幅
  • 换手率
loading...
  • 涨幅
  • 跌幅
  • 振幅
  • 换手率
loading...
本站郑重声明:所载数据、文章仅供参考,使用前请核实,风险自负。
© 2008 北京济安金信科技有限公司 北京合富永道财经文化传媒有限公司
京ICP备12044478号 版权所有 复制必究
本站由 北京济安金信科技有限公司 提供技术支持