摘要：整个系统采用了目前较先进的衣物检测和跟踪技术。然后对这些候选框进行跟踪，得到明星同款在视频中的的运动轨迹。
《从视频到电商：视频衣物较精确检索》围绕视频电商业务场景，提出了一个在线视频衣物较精确检索系统。该系统能够满足用户在观看影视剧时想要同时购买明星同款的需求。
整个系统采用了目前较先进的衣物检测和跟踪技术。针对明星同款检索中存在的多角度、多场景、遮挡等问题，提出可变化的深度树形结构（ReconfigurableDeep Tree structure）利用多帧之间的相似匹配解决单一帧检索存在的遮挡、模糊等问题。该结构可以认为是对现有attention模型的一种扩展，可以用来解决多模型融合问题。
论文技术在天猫魔盒视频中应用
业务场景及研究问题：视频电商中的衣物较精确匹配
早在2014年，阿里与优酷土豆发布视频电商战略，称未来可以实现边看边买，使得视频电商的概念，继微博电商，朋友圈电商之后浮出水面。电商平台拥有少量商品，而视频网站具有巨大的流量，二者结合是发展的必然结果。电商平台可以借助视频网站的流量来实现导流和平台下沉，而视频网站则需要通过广告点击和商品成交来实现流量变现，因此二者的结合可谓一拍即合。
视频电商的商业主旨是打造以视频为入口的购物服务，视频中出现所有物体都可能是商品，提供包括边看边买、明星同款、广告投放等服务，它集娱乐、休闲、购物于一体，给用户构造出一种“身临其境”情境营销，或者是明星同款的冲动式消费。视频电商目前已经不是停留在概念层次了，视频网站向电商的导流转化也一直在不断的尝试中。
影视剧中的服饰存在较大的差异性和异构性，同一个目标往往展现出较大的差异。服饰购物图像通常具有杂乱、多样的背景，而且常在户外拍摄。多样化的背景可能是建筑物，街道、风景、汽车等多种情况。由于自然场景下受到光线、角度、大小、分辨率、几何学和光度学的变化等影响，使得服饰呈现出现的外形极为复杂，即使是同一件服饰也会出现变化较大的效果。
同时在线网站为更好地展示服饰的效果，通常聘请时尚模特穿着所售商品，模特/人物姿势变化也是导致服饰变化的一个重要因素。由于以上这些因素，使得视频明星同款搜索成为了一个极具挑战性的技术问题。
网络结构及技术细节
AsymNet网络结构：整个Asymnet深度神经网络结构如图1所示。当用户通过机顶盒（天猫魔盒）观看视频时，该网络将从电商网站（淘宝、天猫）检索到与之匹配的衣服，并推荐给用户。
为忽略复杂背景对检索结果的影响，更准确的进行服装定位，我们首先应用服饰检测技术，提取得到服饰区域一组候选框。然后对这些候选框进行跟踪，得到明星同款在视频中的的运动轨迹。对于衣物候选区域和运动轨迹我们分别利用用图像特征网络（IFN）和视频特征网络（VFN）进行特征学习。
考虑到服装的运动轨迹，衣物较精确检索问题被定义为不对称（多对单）匹配问题，我们提出可变化的深度树形结（Reconfigurable Deep Tree Structure），利用多帧之间的相似匹配解决单一帧检索存在的遮挡、模糊等问题。后续本文将详细介绍模型的各个部分。
图 1 Asymnet深度神经网络结构
图像特征网络（IFN）：传统CNN网络要求输入图像为固定的227x227（因为CNN网络中的卷积层需要有一个确定的预定义的维度）。在视频电商业务场景中，因为衣物检测候选框为任意大小，尺度变化很大，传统CNN网络无法进行有效的特征学习。
针对这一问题，我们利用空间金字塔池化结构（SPP）体系结构，如图2所示。它通过空间池聚合最后一个卷积层的特征，从而使池区域的大小与输入的大小无关。
图 2 Asymnet图像特征网络（IFN）
视频特征网络 (VFN)：为了更好的考虑视频的空间序列模式，进一步提高衣物检索的性能。基于 LSTM，我们提出了视频特征网络 (VFN)，如图3所示。其中实验验证明两层堆叠式 LSTM 结构能够在视频特征学习中得到较佳性能。
图 3 Asymnet视频特征网络(VFN)
相似性网络：明星同款匹配不同于近似衣物检索，较精确匹配要求完全一致。在完全一致的要求下，传统的通过相似性计算来进行检索的方法，不能满足明星同款较精确匹配要求。已有的方法通常将较精确匹配问题转换为一个二分类问题，但这种方式适应性差，只能利用单一时刻的视频帧。
为了能够利用整个衣物运动轨迹，我们提出了如下的可变化的深度树形结构（ReconfigurableDeep Tree structure）将匹配问题转换为逻辑回归问题。匹配网络拟采用基于混合专家系统的逻辑回归网络。该结构可以认为是对现有attention模型的一种扩展，可以用来解决多模型融合问题。
图 4 Asymnet相似性网络
整个模型的目标函数是综合考虑每一帧的匹配结果，得到基于整个衣物运动序列和电商衣物的相似性，整个系统可以建模为对如下目标公式进行求解：
试验结果：我们利用业务数据和的衣物检索方法进行了对比，试验结果如下表所示。相对于alexnet，Asymnet在前20的检索较精确率指标上，其性能几乎提高了进一倍。
相对于其他2种网络CS和RC，我们发现RC的性能略优于CS，因为RC具有较强的识别能力差异较小（采用多任务学习）。甚至在对于某些类别（无明显差别）RC在较精确率上甚至略好于AsymNet，但是总的来说AsymNet比目前现有的方法拥有更好的性能。因为Asymnet可以处理现有的视频的时空动态变化，并结合自动视频帧的自动调节炉排判别信息的融合策略。
欢迎加入本站公开兴趣群商业智能与数据分析群
兴趣范围包括各种让数据产生价值的办法，实际应用案例分享与讨论，分析工具，ETL工具，数据仓库，数据挖掘工具，报表系统等全方位知识
QQ群：81035754
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/4599.html
摘要：当前，很多学者和研究机构都尝试基于深度学习进行服装检索技术的探究与创新。下文将回顾三篇基于深度学习来解决跨域服装检索问题的文章。总的来说，以上深度学习方法的探索与创新都将为商品检索技术趋 摘要商品检索是一门综合了物体检测、 图像分类以及特征学习的技术。 近期， 很多研究者成功地将深度学习方法应用到这个领域。 本文对这些方法进行了总结， 然后概括地提出了商品特征学习框架以及垂类数据挖掘方式， ...
摘要：马蜂窝旅游历经几十个版本的开发迭代，在启动流程上积累了一定的技术债务。我们定义启动广告曝光率启动广告曝光启动广告加载。 增长、活跃、留存是移动 App 的常见核心指标，直接反映一款 App 甚至一个互联网公司运行的健康程度和发展动能。启动流程的体验决定了用户的第一印象，在一定程度上影响了用户活跃度和留存率。因此，确保启动流程的良好体验至关重要。 「马蜂窝旅游」App 是马蜂窝为用户提供...
摘要：戴嘉乐去年月参与了的众筹，从而了解到技术，独立开发了两款基于的开源应用，一个是与有关的系统，另一个是相关的地理位置检索系统。现在支持的数据结构，支持比特币以太坊的区块数据。 戴嘉乐是前百度高级研发工程师，ipfser.org&巴比特专栏作者。戴嘉乐去年8月参与了FileCoin的众筹，从而了解到IPFS技术，独立开发了两款基于IPFS的开源应用，一个是与IPFS有关的wiki系统，另一...
阅读 2942·2023-04-26 01:32
阅读 1540·2021-09-13 10:37
阅读 2277·2019-08-30 15:56
阅读 1669·2019-08-30 14:00
阅读 3042·2019-08-30 12:44
阅读 1961·2019-08-26 12:20
阅读 1055·2019-08-23 16:29
阅读 3227·2019-08-23 14:44
