可视化爬虫配置chrome插件开发之搭建vue开发环境
编辑:浏览器知识使用vue
开发chrome
插件的好处
本次开发的插件是抓取配置插件,有很多的form
表单以及弹出层,如果纯使用js
的话会有很多动态创建dom
的操作。使用vue
和ES6
的import
语法以及webpack
的html
加载器相配合,可以减少大量动态创建dom
的代码。
vue环境搭建
工作准备
- 请安装
node.js
(新版自带npm
包管理工具) - 建议安装
cnpm
淘宝镜像,安装依赖的时候会更快一些
# -g 安装在全局 registry指定国内下载地址
$ npm install cnpm -g --registry=https://registry.npm.taobao.org
npm
与 cnpm
基本等价,但是很少情况下cnpm
也许有些bug
,所以请斟酌使用
安装vue-cli
这是vue
的脚手架,可以很方便的为我们搭建一个vue
项目
$ npm install vue-cli -g
其他更详细的vue
使用方法这里不细讲,参见vue
官方文档
脚手架创建
打开命令行,进入到你的工作空间,我们使用vue
脚手架来搭建项目
# 创建一个基于 `webpack` 模板的新项目
$ vue init webpack chromespidercfg
# 创建过程会要求你的项目起名(**注意现在项目名不支持驼峰式命名**)之类,由于是简单的页面,所以vue-router之类的就不装了,后面有我的运行截图
$ cd chromespidercfg
$ cnpm install
$ npm run dev
访问页面 localhost:8080
出来页面了就算成功了,Ctrl + C
y确认退出
下面是我创建项目的截图:
配置
如果你想要使用
vue
开发单页面程序,那么这个页面已经搭建好了,但是我们要做的是chrome
插件开发,所以还需要做一些配置
chrome
插件必要文件
chrome
开发需要一些必要的文件,比如manifest.json
,我们要创建一下
在目录下创建chrome
文件夹,名字随便起,我在这里起名叫chrome
是因为我的vue
编译配置中用的是这个名字,现在的目录结构如下:
现在进入刚刚创建的chrome
目录,创建一个manifest.json
文件和runbackground.min.js
文件,以及一个icons
文件夹,这个icons
文件夹是放图标的,chrome
文件夹结构如下:
manifest.json
文件就是插件的主要配置了,具体的配置可以查看我的另一篇文章爬虫可视化点选配置工具之chrome
插件简介,如下:
{
"background": {
"scripts": ["runbackground.min.js"]
},
"browser_action": {
"default_icon": "./icons/icon.png",
"default_title": "简单爬,简简单单采集你的数据"
},
"content_scripts": [{
"js": ["js/connector.js"],
"matches": ["http://*/*", "https://*/*"]
}],
"externally_connectable": {
"accepts_tls_channel_id": false,
"ids": ["*"]
},
"icons": {
"128": "./icons/128.png",
"16": "./icons/16.png",
"48": "./icons/48.png"
},
"description": "爬虫可视化点选配置工具,简简单单采集你的数据",
"manifest_version": 2,
"name": "爬虫可视化点选配置工具",
"permissions": ["cookies", "tabs", "notifications", "background", "contextMenus", "*://*/*"],
"version": "1.0.0",
"web_accessible_resources": ["*", "*/*"]
}
runbackground.min.js
这个里面写了一些启动插件的逻辑,很简单,如下:
chrome.runtime.getPackageDirectoryEntry(function(info) {
extensionId = info.filesystem.name.split('_')[1];
});
/*
插件启动,创建爬虫任务
*/
chrome.browserAction.onClicked.addListener(function(tab) {
chrome.tabs.sendMessage(tab.id, JSON.stringify({
command: 'beginUI'
}), function(msg) {
chrome.tabs.executeScript(tab.id, {
file: 'js/paApa.js',
allFrames: false
})
});
});
chrome.runtime.onMessage.addListener(function(message, sender, sendResponse) {
var msg = JSON.parse(message);
console.log(msg);
});
修改webpack
配置
写到这里,大家一定很奇怪
manifest.json
文件里的js/connector.js
是哪里来的,明明没有js目录啊,这就是webpack
编译出来
修改build
目录下的webpack.base.conf.js
文件,去掉所有limit
字段
将entry
字段修改成以下内容,这就是编译之后的文件
entry: {
paApa: './src/main.js',
connector: './src/js/connector.js'
}
在module
的rules
添加以下内容,一个是加载css
的,一个是加载html
的:
{
test: /\.css$/,
use: [
'style-loader',
'css-loader'
]
},
{
test: /\.html$/,
use: [{
loader: 'html-loader'
}],
}
将webpack.prod.conf.js
文件修改成以下内容,为什么要这么改请自行查看webpack
的资料吧:
'use strict'
const path = require('path')
const utils = require('./utils')
const webpack = require('webpack')
const config = require('../config')
const merge = require('webpack-merge')
const baseWebpackConfig = require('./webpack.base.conf')
const CopyWebpackPlugin = require('copy-webpack-plugin')
const UglifyJsPlugin = require('uglifyjs-webpack-plugin')
const env = require('../config/prod.env')
const webpackConfig = merge(baseWebpackConfig, {
devtool: config.build.productionSourceMap ? config.build.devtool : false,
output: {
path: config.build.assetsRoot,
filename: utils.assetsPath('js/[name].js'),
chunkFilename: utils.assetsPath('js/[id].js')
},
plugins: [
new webpack.ProvidePlugin({
$: "jquery",
jQuery: "jquery"
}),
// http://vuejs.github.io/vue-loader/en/workflow/production.html
new webpack.DefinePlugin({
'process.env': env
}),
new UglifyJsPlugin({
uglifyOptions: {
compress: {
warnings: false
}
},
sourceMap: config.build.productionSourceMap,
parallel: true
}),
// keep module.id stable when vendor modules does not change
new webpack.HashedModuleIdsPlugin(),
// enable scope hoisting
new webpack.optimize.ModuleConcatenationPlugin(),
// copy custom static assets
new CopyWebpackPlugin([{
from: path.resolve(__dirname, '../chrome'),
to: config.build.assetsSubDirectory,
ignore: ['.*']
}])
]
})
if (config.build.productionGzip) {
const CompressionWebpackPlugin = require('compression-webpack-plugin')
webpackConfig.plugins.push(
new CompressionWebpackPlugin({
asset: '[path].gz[query]',
algorithm: 'gzip',
test: new RegExp(
'\\.(' +
config.build.productionGzipExtensions.join('|') +
')$'
),
threshold: 10240,
minRatio: 0.8
})
)
}
if (config.build.bundleAnalyzerReport) {
const BundleAnalyzerPlugin = require('webpack-bundle-analyzer').BundleAnalyzerPlugin
webpackConfig.plugins.push(new BundleAnalyzerPlugin())
}
module.exports = webpackConfig
修改config\index.js
文件,删除build
字段下的index
字段,将assetsSubDirectory
字段值修改为chrome
,这就会将上面创建的chrome
拷贝到编译后的目录中
修改完配置,还要安装几个插件,分别是html和css加载器,以及jquery:
npm install html-loader style-loader jquery -D
到此为止,环境基本上搭建完成了,下面就是写代码了
编写基本的代码框架
由于插件中主要用到了弹出层,我这里用的是layer.js,当然是修改过的,支持ES6的导入和导出,layer.css,layer.js,当然也可以自己写一个或者使用其他的弹出层组件
进入src
目录,修改main.js
为以下内容,作用就是打开一个弹出层
import Vue from 'vue';
import $ from "jquery";
import './layer/layer.css';
import layer from './layer/layer';
Vue.config.productionTip = false;
let _confirmLayer = 0;
let windowHeight = $(window).height();
if (windowHeight > window.screen.height) {
windowHeight = document.body.clientHeight;
}
let defOption = {
type: 1,
shade: false,
maxmin: true,
closeBtn: 1,
zIndex: 2147483599,
title: "爬虫可视化点选配置工具",
offset: ["30px", "30px"],
content: '<div id="__paApa_container"></div>',
area: ["450px", windowHeight * 0.8 + "px"],
cancel: function(index) {
event.stopPropagation();
if (_confirmLayer > 0) {
layer.close(_confirmLayer);
}
_confirmLayer = layer.confirm(
"关闭爬虫可视化点选配置工具?", {
icon: 0,
title: "信息",
zIndex: 2147483615
},
function(_index) {
event.stopPropagation();
layer.closeAll();
_confirmLayer = -1;
layer.msg("再见!", {
zIndex: 2147483620,
time: 3000,
icon: 1
});
},
function(_index) {
event.stopPropagation();
layer.close(_index);
_confirmLayer = -1;
}
);
return false;
}
};
let layerId = layer.open(defOption);
$("#layuiex-layer" + layerId + " .layuiex-layer-max").bind("click", function() {
$(this).hide();
}).hide();
$("#layuiex-layer" + layerId + " .layuiex-layer-min").bind("click",
function() {
$(this).next().show();
}
);
new Vue({
el: "#__paApa_container",
components: {},
data() {
return {};
},
mounted() {},
methods: {}
});
上面还提到了connector.js
这个文件,这个文件的作用其实就是作为通信用的,现在可以在js
目录下创建一个connector.js
文件,然后随便输出个内容就可以了
安装测试
完成以上步骤就可以测试一下了
在根目录执行以下命令:
npm run build
出现下图就证明已经执行成功了
此时跟目录中会多一个dist
目录,这就是执行的结果,然后打开chrome
浏览器安装插件就可以了,打开插件管理页面
,具体操作请查看爬虫可视化点选配置工具之chrome插件简介,然后打开开发者模式
,再点击加载已解压的扩展程序
,如下图:
之后再选择dist
目录中的chrome
文件夹即可,如下图:
安装成功的话会在插件列表看到下图:
chrome
工具栏也会有对应的插件图标:
此时打开一个其他页面点击这个图标就会弹出我们要的框了,如下图:
现在基本的框架已经搭建好了,之后要做的就是在这个弹出框里绘制输入框等元素了,这个步骤下回再分解了
以上源码放在码云,请自行查看吧
文章TAG:可视 可视化 爬虫 配置 可视化爬虫配置chrome插件开发之搭建vue开发环境加载全部内容