网络爬虫无处不在-应当如何规制 (“网络爬虫”)

教程大全 2025-07-08 03:22:29 浏览

大数据时代,除直接通过用户采集,另一个主要的数据来源就是使用网络爬虫采集公开信息。爬虫的使用到了何种程度?有业内人士称,互联网 50% 以上,甚至更高的流量其实都是爬虫贡献的。对某些热门网页,爬虫的访问量甚至可能占据了该页面总访问量的 90% 以上。

从技术角度来看,爬虫就是通过程序去模拟人类上网或者浏览网页或者 APP 行为,再从中抓取爬虫作者所需要的信息的过程。随着数据产业的不断发展,数据价值的日益高涨,对于数据的争夺日趋激烈。“爬虫”与“反爬虫”成为无休止的“攻防对抗”,一些爬虫违反网站意愿,对网站进行未经授权的访问,获取了网站大量公开或非公开的数据,由此引发诸多法律争议。

10 月 23 日,杭州长三角大数据研究院、上海市杨浦区人民检察院、上海市企业法律顾问协会、浙江省企业法律顾问协会与《财经》商业治理研究院共同发起“长三角数据合规论坛暨数据爬虫的法律规制研讨会”,邀请了多位重量级法律学者、法官、检察官、互联网从业者从“数据爬虫技术与产业影响”、“数据爬虫的民法责任”、“数据爬虫的刑事合规”等不同角度展开讨论。

爬虫无处不在

“爬虫应用场景广泛,合规与不合规的场景都有。例如,抓取电商网站的评价数据做市场调研;做数字内容的可以利用爬虫去抓取网络相应内容;抓取裁判文书网数据,进行优化后推出“付费版数据库”;企查查、天眼查也在利用爬虫技术对政府公开数据实现商业使用。”欧莱雅中国区数字化负责人刘煜介绍。

刘煜对爬虫的基本原理进行了解释,通常爬虫会定位网站所有的 URL 链接,获取页面里的数据,再对数据进行拆解利用。不管在网页端还是移动端,基本爬虫都基于这样的原理。使用爬虫技术对于‘爬虫一方’和‘被爬虫一方’都具有风险,轻则网站崩溃、重则面临牢狱之灾。

具体来说,对于那些小网站或者技术实力弱的网站,如果爬虫 7X24 小时持续访问,可能因 服务 无法承受激增的流量,导致网站崩溃。更麻烦的是,对编写爬虫的程序员来说,如果爬到不该爬取数据,再利用这些数据,可能属于违法行为。

刘煜表示,在不同场景中,对于爬虫的态度截然不同。例如,搜索引擎爬虫受人欢迎,因为搜索引擎能提高被爬网站的曝光率;但大多数网站也会基于服务器的风险、或者种种商业原因,不希望爬虫抓取数据。拒绝分两种,‘反爬’机制,‘反反爬’机制。网站可以去制定相应策略或者技术手段,去防止爬虫抓取数据。

网站常见的应对策略是放置 Robots 协议,该协议由荷兰工程师傅马丁·科斯特(Martijn Koster )在 1994 年编写,后来成为数据爬取方和被爬取方之间通行的沟通机制。中国互联网协会 2012 年发布的《中国互联网行业自律公约》中,将遵守 Robots 协议认定为“国际通行的行业管理与商业规则”。

▲ Robots 协议是数据爬取方与被爬取方之间的意愿沟通机制

但刘煜称,Robots 协议更像君子协议,只能起到告示作用,起不到防范作用。爬虫技术、反爬虫技术、反反爬虫技术一直在迭代,只要网站、App 能够被用户访问,就存在被爬取的可能。

恶劣的爬虫手段会造成社会资源和技术资源的浪费,这些资源都来之不易。小红书总法律顾问曾翔表示,有的爬虫会通过“模拟真人访问”或者“通过协议破解”来爬取数据。“这些都是不光彩的手段,被爬取得的网站不得不采取攻防措施,造成不少企业资源的浪费。”

曾翔说,对内容平台而言,遭遇爬虫攻击极易对于自身以及用户享有的知识产权造成侵害。通常爬取都是有目的的,如果爬取到核心商业机密,可直接用到其他地方形成竞争优势。另外,在他看来,爬虫还涉及到对于互联网公共秩序的破坏。“爬取的数据能否有效利用,是否被置于监管之下,这些数据流向何方,都是非常大的问号。”

爬虫的民事责任判定

“技术是中立的,但技术应用永远不是中立的。”新浪集团诉讼总监张喆表示,在讨论爬虫技术原理时,更重要的是看爬虫技术用来干什么,看它的行为本身是否具有正当性。

近期,北京市高级人民法院(下称“北京高院”)对“今日头条诉微博不正当竞争案”作出二审判决。此案中,微博因在 Robots 协议中设置黑名单,限制字节跳动公司抓取相关网页内容被诉。法院认为,微博是在行使企业自主经营权范畴内的正当行为,并不构成不正当竞争,同时撤销一审判决等。张喆表示,司法机关对 Robots 协议评价是“一体两面”的。

在 2020 年北京高院对“360 诉百度不正当竞争案”做出判决时,认为百度在缺乏合理、正当理由的情况下,不得以主体作为区分,去限制访问搜索引擎抓取网站网页内容(太拗口了,简单点)。而在“今日头条诉微博不正当竞争案”中,法院确立的原则是,企业有权在自主经营范围内去限制其他访问者,只有在违反公共利益以及侵犯消费者权利的时候,才有可能被认定其行为不正当。

在华东政法大学法律学院教授、数据法律研究中心主任高富平看来,爬虫和数据产业是连一起的,现在所谓的数据公司谈及的数据智能、大数据分析基本上是抓取数据,再进行挖掘分析。现在普遍认为爬虫是项中立性的技术,但更多时候,使用者是为实现‘不劳而获’的目的。

高富平认为,不谈论数据合法生产者具有控制权,难以对爬虫合法性进行判断。国内外爬虫的合法性边界探讨,主要着眼从数据爬取的手段、目的两个方面。

从手段上来看,爬虫无视网站的访问控制,或者假扮为合法访问者,会被认为是不合法的;从目的上来看,数据爬取一方是否对被爬取一方提供的部分产品或服务进行“实质性替代”,如果属“实质性替代”,则目的便是不合法。

网站合法积累数据资源,那么网站生产端就可以对其进行控制使用,更重要的是承认数据控制者可以基于商业目的来开放数据,通过许可使用方式、交换、交易等方式让数据能够被更多人使用。”高富平对此补充道,“基于数据合法生产者具有控制权的前提,就可以对于那些无视 Robots 协议的爬取者进行打击。”

上海浦东法院知识产权庭法官徐弘韬认为,Robots 协议与数据流转有两个问题需要考虑:第一,“互联互通”与数据共享之间的度如何把握;第二,当下各互联网产业经营者采取的 Robots 协议策略是否可能导致数据孤岛。互联互通的实质在于确保数据有序流转,而不是强行要求互联网产业经营者对己方平台内的数据资源向竞争对手全面开放。在“互联互通”的语境下,“有序”和“流转”同等重要、缺一不可,需排除假借“互联互通”妨碍公平竞争、危害用户数据安全的行为。

在某新媒体公司爬取微信公众平台数据案中,杭州互联网法院已经亮明观点。网络平台设置了 Robots 协议,希望在竞争过程中还是能遵守竞争规范,或者至少能保持一个互相尊重互相遵守协议,才是有序的基础。

在上述案件中,法院认为,任由第三方爬虫工具爬取公众号信息会打击平台创造积极性,并扭曲大数据要素市场竞争机制;从消费者利益角度,未经授权爬取信息并进行展示,未能尊重信息发布主体的意愿;从公共利益角度,被告爬取信息后未深度挖掘、创新,也无更深层次的应用,未能提升社会整体公共利益,加之爬取数据来源并非正常,难谓正当。

徐弘韬认为,数据是内容产业的核心竞争资源,内容平台经过汇总分析处理后的数据往往具有极高经济价值。如果要求内容平台经营者将其核心竞争资源向竞争对手无限开放,不仅有违“互联互通”的精神实质,也不利于优质内容的不断更迭和互联网产业的持续发展。

网络爬虫无处不在

徐弘韬表示,对非搜索引擎爬虫的正当性判断,可以归纳为四个要素:第一看是否尊重被抓取网站预设的 Robots 协议;第二看是否破坏被抓取网站的技术措施;第三看是否威胁用户数据的安全;第四从创造性与公共利益的衡量。

徐弘韬特别指出,包括身份数据、行为数据等在内的用户数据,不仅仅是经营者的竞争资源,同样具有个人隐私属性,而此类数据的集合更涉及社会公共利益。如果在抓取数据时危害用户数据安全,其行为不具正当性。

爬虫涉及刑事合规

刑事合规,最初起源于美国,是指国家以刑法为工具,为推动企业开展合规管理,建立的一套督促机制、约束机制和激励机制。

2020 年,在最高人民检察院推动下,深圳、浙江、江苏、上海等地基层检察机关积极探索企业刑事合规。为了鼓励更多企业进行合规改制,“刑事合规不起诉”这一全新的刑事诉讼制度在全国铺开,尝试选取有可能建立合规的涉罪企业,通过企业认罪认罚、承诺建立合规计划,进而对企业采取不起诉措施。

上海市人民检察院第二分院第三检察部副主任吴菊萍表示,刑事合规主要是为了给涉案企业一个整改自救、重新出发的机会,也是为了保证社会经济的高质量发展。而目前很多企业所关注的刑事合规更多的是在探讨其经营行为如何避免刑事风险。吴菊萍认为,企业利用爬虫技术来做数据分析,就应当注重如何落实刑事合规。

吴菊萍表示,“除了木马病毒程序等本身就不合法的技术,我们评判一项与爬虫技术相关的行为是否构成犯罪,首先要看行为人用爬虫技术干了什么事情,有没有社会危害性,然后再去评判该行为是侵入计算机信息系统,还是非法获取计算机信息系统数据,再看爬取的数据涉及的是企业数据还是公民个人信息,分别适用相关罪名。”

其中,还需要考虑到被爬取数据的法律属性到底是财产还是仅仅只是数据。吴菊萍表示,这在司法实践中存在较大争议。“比如,我们有个以非法拘禁的方法强迫对方交付虚拟货币的案件,刑事上认定为非法拘禁罪,否定了虚拟货币的财产属性,民事上判返还财产,认可了财产属性。”她认为,数据在数字经济发展中是一个重要的生产要素,本质上应当具备财产属性,但当前的法律和司法实践还没有完全跟上。

华东政法大学教授张勇对爬虫可能涉及到的犯罪行为进行分类:从可能侵犯到的权益上看,包括计算机系统安全、个人信息、版权、国家秘密、商业秘密、市场竞争秩序等;从爬取方式来看,可能危害到计算机信息系统安全,非法获取公民个人信息,非法获取商业秘密,破坏版权技术保护措施等;从爬取结果来看,存在不正当竞争类、侵犯著作权类、侵犯人格权类等问题。”

《财经》E法在裁判文书网检索到 54 份与爬虫相关的刑事判决,涉及多项罪名。其中,被认定为侵犯公民个人信息罪的有 26 份;非法获取计算机信息系统罪 10 份;传播淫秽物品牟利罪 5 份;破坏计算机信息系统罪 3 份;提供侵入、非法控制计算机程序、工具罪 3 份;侵犯知识产权罪 3 份;非法侵入计算机信息系统罪、开设赌场罪、盗窃罪、诈骗罪各 1 份。


初做出纳应该注意什么细节?

出纳是会计工作的重要环节,涉及的是现金收付、银行结算等活动,而这些又直接关系到职工个人、单位乃至国家的经济利益,工作出了差错,就会造成不可挽回的损失。 因此,明确出纳人员的职责和权限,是做好出纳工作的起码条件。 根据《会计法》、《会计基础工作规范》等财会法规,出纳员具有以下职责:(1)按照国家有关现金管理和银行结算制度的规定,办理现金收付和银行结算业务。 出纳员应严格遵守现金开支范围,非现金结算范围不得用现金收付;遵守库存现金限额,超限额的现金按规定及时送存银行;现金管理要做到日清月结,账面余额与库存现金每日下班前应核对,发现问题,及时查对;银行存款账与银行对账单也要及时核对,如有不符,应立即通知银行调整。 (2)根据会计制度的规定,在办理现金和银行存款收付业务时,要严格审核有关原始凭证,再据以编制收付款凭证,然后根据编制的收付款凭证逐笔顺序登记现金日记账和银行存款日记账,并结出余额。 (3)按照国家外汇管理和结汇、购汇制度的规定及有关批件,办理外汇出纳业务。 外汇出纳业务是政策性很强的工作,随着改革开放的深入发展,国际间经济交往日益频繁,外汇出纳也越来越重要。 出纳人员应熟悉国家外汇管理制度,及时办理结汇、购汇、付汇;避免国家外汇损失。 (4)掌握银行存款余额,不准签发空头支票,不准出租出借银行账户为其它单位办理结算。 这是出纳员必须遵守的一条纪律,也是防止经济犯罪、维护经济秩序的重要方面。 出纳员应严格支票和银行账户的使用和管理,从出纳这个岗位上堵塞结算漏洞。 (5)保管库存现金和各种有价证券(如国库券、债券、股票等)的安全与完整。 要建立适合本单位情况的现金和有价证券保管责任制,如发生短缺,属于出纳员责任的要进行赔偿。 (6)保管有关印章、空白收据和空白支票。 印章、空白票据的安全保管十分重要,在实际工作中,因丢失印章和空白票据给单位带来经济损失的不乏其例。 对此,出纳员必须高度重视,建立严格的管理办法。 通常,单位财务公章和出纳员名章要实行分管,交由出纳员保管的出纳印章要严格按规定用途使用,各种票据要办理领用和注销手续。

虞城县警安机动车检测中心。

小型、微型非营运载客汽车6年以内每2年检验1次;超过6年的,每年检验1次;超过15年的,每年检测2次,尾气检测随年检日期。新车检验的时候有效日期已经签注到2年后与注册登记日期对应的月份。
1,小型轿车六年以内两年检一次,六年以后十五年以内一年检一次,十五年以后的半年检一次。2.摩托车4年以内每2年检验1次,超过4年的,每年检验1次。 一、年检要带的材料

1.车;

2.行驶证。正副本齐全;

3.有效期为1年且在有效期内的机动车第三者责任保险单。如果是分期付款没有保险单原件的,拿保险单复印件(盖保险公司章)、保险卡,说明理由;
二、年检前的准备工作

1.检查保单是否有误,特别是新车第一次年检,保险单上的信息与实际情况不符的到保险公司更正;

2.如果您需要更换环保标志,提前到环保局的汽修厂测完尾气,节省时间;

3.到交通队清违章;

4.年检一定要赶前别赶后,每月初验车会很快;

5.注意事项:灭火器、停车牌。三、年检前的准备工作

1.检查保单是否有误,特别是新车第一次年检,保险单上的信息与实际情况不符的到保险公司更正;

2.如果您需要更换环保标志,提前到环保局的汽修厂测完尾气,节省时间;

3.到交通队清违章;

4.年检一定要赶前别赶后,每月初验车会很快;

5.注意事项:灭火器、停车牌。四、在外地年检须办的手续

车主凭行驶证和机动车第三者责任强制保险凭证到住地车管分所申请办理《委托核发机动车检验合格标志通知书》,车管分所审核合格的,填写《机动车委托检验通知书》,在《机动车行驶证》副证上加盖“委托检验”章,交机动车所有人。在外地检验合格后,外省市车管所应当将委托通知书的回执单和《机动车定期检验登记表》寄回本市车管所,由本市车管所在计算机登记系统内记载定期检验记录。
五、外地车在京年检须办手续

车主到北京车辆管理总所机动车管理科办理检测手续,凭原籍车管所开具《机动车委托检验通知书》,并交验行驶证和机动车第三者责任强制保险凭证,然后在机动车管理科指定的检测厂进行年检。六、年检的具体流程

第一步:尾气检测

先排好队,到收费窗口交检测费,等候上线。检测前会有工作人员进行初检,主要是核对发动机号与行驶证是否一致,再简单看看外观、车况等,然后填写尾气检测表。检测时,由检测员开车上线,一般新车都很容易过关,拿到合格的尾气检测表就可以到窗口交钱领尾气合格标。如果不合格,需要到汽修厂调试后重新上线,不需要再次缴费。第二步:外观检验

持外观检验单到外观工位,先查相关手续,核验第三者保险(强制性保险)是否在有效期内。手续查完之后才开始外观检验,这项检查主要看灯光有无破损、车身外观是否符合原样、悬架有无变动,还有天窗、轮胎等。
第三步:上线检测

外观检验没问题,排队等候上线检测。检测线负责刹车、大灯(远光)、底盘等内容的检测,大概5-10分钟,车开下线就可以领到一张计算机打印的表,大致有制动、灯光、喇叭等项目,合格的项目打印“0”,不合格的打印“X”。一般都是灯光和刹车不合格。不要紧,检测场都有调整灯光和刹车的地方。刹车调整后要重新上线,灯光不用,调完以后盖个章就行。第六步:总检审核都过关了,拿着行车证,保险单副本,到大厅总检处签字盖章。这样就顺利过关了。地址:虞城县警安机动车检测中心,西转盘北1000米,路西。

承德有没有儿童游泳馆?

承德市没有专门用于儿童游泳的场馆。 在这里我可以向你推荐几处不错的地方。 南园附近有翰明大酒店,里面有游泳馆,可能价格贵点;大佛寺有上课堂游泳馆,价格应当低点,但是距离市区远了点。 其它地方就不太清楚了。

本文版权声明本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,请联系本站客服,一经查实,本站将立刻删除。

发表评论

热门推荐