SEO祥子博客

祥子博客用的Windows Server，博客运行几年后产生了海量的小文件缓存内容（大约有400万左右缓存文件）。经测试，祥子用以下这句批量删除指定大小（小于1K）的文件，实测有效：for /r "K:\76" %i in (*) do @(if %~zi lss 1024 del /f "%i") 。

花了两个月，Python Django学习告一段落，而纯粹基于python Django框架全手工开发的网站明天就能上线了（虽然只是个辣鸡网站）。在django web开发的学习路上，踩过很多坑，不过终于完成开发了，而我的“足球粉丝网”明天即将上线。

非科班出身，我自学过ASP、PHP、Python，而学习Python之路是其中最令我有满足感，最令我快乐的学习过程。基于非常强大的库调用，使用Django框架开发网站效率非常之高，而数据采集模块更令人着迷。

Python也有机会成为未来互联网开发的大方向之一。前车之鉴，在此分享我在学习Python Django框架中踩过的坑和以实用的入门文档，希望能帮到想用Django做数据采集和WEB开发的朋友（附我收藏的所有实用文档和避坑宝典）。

一般前端开发者都不会在意favico.com放在什么目录，是否经历了跳转。但是，对一名SEO专家来说，祥子不希望页面请求不能有任何跳转。所以，就有了下面这个办法：Django使用HttpResponse返回图片并显示。这可能是django项目把静态文件放在根目录，能正常访问并返回200状态的唯一方法。根目录访问favicon.ico并返回200状态的使用实例：

favicon.py:

from django.http import HttpResponse

最近正在学Python WEB开发，刚装好Python，PyCharm，Django。准备入手正式学习，在创建第一个django项目时需要先行初始化。在输入初始化指令时报错：pkg_resources.DistributionNotFound: The 'pytz' distribution was not found and is required by Django。

初始化Django项目：django-admin startproject HelloWorld

robots.txt是SEO同行们在制定一个网站优化方案时需要首要考虑的一个问题，任何网站进行SEO优化前，你需要首先写一个非常规范的robots.txt。robots怎么写，这几乎是你制定SEO优化方案、提升你网站SEO表现最具性价比的工作，没有之一。robots.txt是什么？robots.txt（统一小写）是一种存放于网站根目录下的ASCII编码的文本文件（其实UTF-8也没任何问题），它通常告诉网络搜索引擎的漫游器（又称网络蜘蛛），此网站中的哪些内容是不应被搜索引擎的漫游器获取的，哪些是可以被漫游器获取的。因为一些系统中的URL是大小写敏感的，所以robots.txt的文件名应统一为小写。robots.txt应放置于网站的根目录下。如果想单独定义搜索引擎的漫游器访问子目录时的行为，那么可以将自定的设置合并到根目录下的robots.txt，或者使用robots元数据（Metadata，又称元数据）。

Robots协议

HTTP常见返回状态表现在用户端通常是网页能打开、网不能访问。页反馈在搜索引擎的蜘蛛程序则会表现在具体的状态码，如我们通常知道的：200表示正常访问、301为永久重定向、302临时重定向、404页面无法访问、501服务器故障 等等。那么，搜索引擎蜘蛛发起访问时，对于不同的HTTP返回状态是如何处理呢？2xx（200访问成功）：HTTP 结果代码，表示成功的“有条件地允许”抓取结果。3xx（访问被重定向）：一般情况下，系统会跟踪重定向，直到发现有效的结果（或确认出现循环）。我们会跟踪有限次数的重定向（适用于 HTTP/1.0 的 RFC 1945 最多允许 5 次重定向），然后便会停止，并将其处理为 404 错误。我们并未定义如何处理指向禁止网址的 robots.txt 重定向，并且不建议用户这么做。同样，我们也未定义如何根据返回 2xx 的 HTML 内容处理 robots.txt 文件的逻辑重定向（框架、JavaScript 或元刷新型重定向），并且不建议用户这么做。

正如所有国内SEO所知，百度蜘蛛名称叫作BaiduSpider，而谷歌蜘蛛名称叫作GoogleBot。但是不限于此，谷歌不同产品的抓取UA（User-Agent）是不一样的。可以理解为每个产品都是独立项目在运行。当然，它们的名称也可能是一样，比如谷歌PC版蜘蛛和移动端蜘蛛的名称都是Googlebot。以下为谷歌所有产品抓取工具的蜘蛛名称（谷歌官方称之为：用户代理令牌或产品令牌）与User-Agent（完整的用户代理字符串）。

大多数SEO一般不会用到正则表达式，除了在为网站写伪静态规时。不过，如果你的网站要自动处理大量内容，可能最简单正则使用尚无法满足你的需要。今天，祥子在测试内容抓取并是进行文字处理时，需要过滤所有带有汉字的行，所以就有了这个：匹配所有带有中文字符的行（即有汉字的行 ），实测正确的正则表达式为：(.*)[^\x00-\xff](.*)。另外几句常用正式分享：

2019年四大SEO行业趋势

SEO（Search Engine Optimization）：