绿荫在线
文明满屏

你刷到的精准奶茶推荐,居然藏着联邦学习的小心机?

上周三摸鱼刷饿了么,刚输入”芋泥”俩字,首页直接弹了我常去那家巷口奶茶店的三分糖啵啵满减券。

搁以前我铁定骂一句”又偷我浏览记录”,结果同组做算法的小哥凑过来瞥了一眼,说这事儿跟你想的真不一样——这是联邦学习在干活。

我当时第一反应是啥?

哦,又是那种听不懂的技术黑话,又要拿出来忽悠人了?

你以为的”偷数据”,其实人家连你手机里存了啥都不知道

搁三年前,平台要给你推精准的奶茶券,逻辑特别简单:把你所有的浏览记录、下单地址、消费金额全打包传到云端大服务器里,攒上几百万用户的行为数据,训出来一个大模型,对着你的画像一匹配,该推啥券门儿清。但这套玩法现在走不通了啊——隐私合规要求摆那呢,谁也不能随便把用户手机里的信息往自己服务器上搬,真查到了,罚款能罚到母公司哭。

那怎么既不碰你的隐私数据,又能把推荐做准?

说穿了特别简单:以前是把数据凑到一块训模型,现在是把模型拆成碎块,塞到你自己的手机里跑。

就拿那个巷口奶茶店举例子,老板想搞个线上满减活动,以前得挨个打电话问老顾客”你最近爱喝啥口味”,问多了顾客烦,还觉得你在打探隐私。现在的玩法是,老板把一个初始的口味预测模型,推送到所有点过他家奶茶的顾客手机里。你每次打开外卖软件搜芋泥、点三分糖、备注不要珍珠,这些全在你自己手机本地,喂给这个小模型练,练完之后,模型只会把”我当前学到的偏好参数”——比如”偏好低甜度、糯小料、不喜欢珍珠”这种抽象的数值,加密之后传到奶茶店的总服务器里。没人能从这些加密参数里,扒出来你上周三刚在他家买了15块钱的啵啵奶茶,更不知道你家住在哪个小区。

联邦学习与传统集中式数据训练流程对比示意图
联邦学习与传统集中式数据训练流程对比示意图

说个更贴的类比:你们小区要办邻里美食节,以前是物业挨家挨户敲门,把每家冰箱里存了啥菜、平时爱做啥口味的菜全记下来,贴在公告栏里统计。现在是每家自己在家写个小卡片,只写”我家爱吃辣、不爱吃香菜、擅长做卤味”,不写门牌号,不写具体买了啥牌子的辣椒,把这些卡片凑到物业那里,拼出来整个小区的美食偏好,谁也不知道谁家具体啥情况。

别吹得太神,联邦学习根本不是什么”万能隐私解药”

我之前刷到好多卖概念的文章,把联邦学习吹得跟铜墙铁壁似的,说只要上了这个技术,用户数据绝对安全,半毛钱都不会泄露。

拉倒吧。

之前有安全团队做过测试,哪怕传的是端到端加密的模型参数,只要有人恶意盯着参数的波动曲线分析,还是能大概摸出来你本地模型学了啥。比如你刚在本地模型里输入了”最近在找靠谱的牙科诊所”,哪怕参数是加密的,恶意的接收方顺着参数的偏移方向,还是能猜个八九不离十。说白了,它就是给隐私加了层加厚的磨砂玻璃,不是全封闭的保险箱。

之前碰到个创业公司的老板,张口闭口要把自己的产品全换成联邦学习架构,我问他你知道联邦学习要占多少手机本地算力不?他愣了三秒,说不知道,反正概念火,拿去找融资好讲故事。

这种最烦。

好好的技术,被一帮人吹成万能解药,最后真落地的时候,用户发现该偷的数据还是偷,该弹的广告还是弹,反而对这个技术本身也没了信任。

手机端本地联邦模型参数加密传输流程图
手机端本地联邦模型参数加密传输流程图

其实联邦学习从诞生那天起,就没说过自己要解决所有隐私问题。最早是谷歌2016年想给安卓手机的输入法做联想功能,以前的输入法要把你打的所有字全传到云端,那谁愿意啊?你大半夜跟对象发的情话,跟同事吐槽老板的牢骚,全传到云上,想想都后背发凉。所以谷歌最早搞的那套,就是让输入法的联想模型在你手机本地跑,每次只把加密的参数传到云端攒总模型,慢慢把联想词做准。你现在打”今天不”,输入法自动蹦”上班”,说不定就有这套机制的功劳。

你平时能碰到的联邦学习,远不止奶茶推荐

别觉得这技术离你远,现在好多你天天用的APP,背后都有联邦学习的影子。

比如你用的修图APP,以前要把你拍的原片传到云端,才能给你做AI磨皮、调肤色,现在好多APP把修图模型塞到你手机本地,靠联邦学习不停把模型优化得更适配你的拍照习惯——上次我拍了一堆没化妆的前置照片,用修图APP磨皮,居然一点都没提示要上传原片,磨完的效果还比以前自然,我当时还纳闷呢,后来才反应过来这就是本地联邦模型的功劳。

还有你刷短视频的时候,为什么有时候你刚跟朋友线下聊了两句”最近想养柯基”,打开APP就刷到一堆柯基的视频?搁以前铁定是麦克风在偷听你说话,现在好多平台的推荐系统,已经开始用联邦学习攒用户的偏好标签了——说白了,就是模型在你本地学你爱看啥,只传加密的偏好参数,根本不用偷摸录你麦克风的内容。当然,该做的合规检查还是得做,但至少这条路是真的能让平台不靠偷你隐私,也能把推荐做准的。

说实话,我之前对这些技术概念特别抵触,总觉得都是大厂用来割韭菜、偷用户数据的幌子。但接触久了才发现,好多技术的出发点真的是想在”让你用得爽”和”不越界碰你隐私”之间找个平衡点。

哪有什么绝对的好技术。

就像你买的三分糖奶茶,有人觉得刚好,有人觉得太淡。联邦学习也一样,它不是什么能解决所有隐私问题的神药,但至少现在,它是真的在把”你的数据属于你”这句话,从空洞的口号,落到你刷外卖、打输入法、修照片的日常里。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:你刷到的精准奶茶推荐,居然藏着联邦学习的小心机?
文章链接:https://lylxb.com/tech/563.html