从事seo网站优化的人都知道网站Robots文件对于网站优化所起到的重要作用，它就像是一个地图，为搜索引擎指明道路。为此，下面我们就在这里一起分析一下Robots文件对网站优化的作用有哪些？
一、Robots.txt文件大大节省服务器宽带
我们都知道有些搜索引擎都耗用大量宽带，而且对网站没有什么太大的意义，而通过Robots.txt就可以制止不必要的爬行工作，如果你的网站是图片站的话，没有设置好Robots.txt文件的话，就会浪费大量的服务器宽带。
二、方便搜索引擎爬起工作
如果你的网站内容丰富，页面很多，设置Robots.txt文件更为重要，比如你有个网站，整个站有50多个G，打开页面可能会比较慢，如果不配置好Robots.txt文件的话，蜘蛛爬行工作就会很费力，而且如果太多的蜘蛛爬行，以至会影响你网站的正常访问。
三、robots.txt文件可以制止搜索引擎索引页面
你可以通过RobotS.txt文件对你的网站非公开页面进行制止蜘蛛爬行，如果你的网站后台程序、管理程序很重要不想让别人看到、那么你可以通过Robots.txt进行设置，事实上，对于某些在运行中产生临时页面的网站来说，如果没有配置Robots.txt文件的话，搜索引擎甚至会索引那些临时文件。
四、robots.txt对网站地图链接重要性
如果我们把自己的网站地图链接放在robots.txt文件里，那么我们每天就不用到各个搜索引擎的站长工具或者相似的站长部分去提交自己的sitemap文件，各大搜索引擎都发布了对网站地图的新的支持方式，就是在robots.txt文件里直接包括sitemap文件的链接。目前对此表示支持的搜索引擎公司有Google， Yahoo，而中文搜索引擎公司，显然不在这个圈子内。
所以，我们需要做好Robots.txt文件的工作，这样就能让搜索引擎能够很好地抓取我们的网站，对于网站优化的发展是非常有利的，同时也有利于促进网站全面发展和提高。
