久久96国产精品久久久-久久发布国产伦子伦精品-久久精品国产精品青草-久久天天躁夜夜躁狠狠85麻豆

技術員聯(lián)盟提供win764位系統(tǒng)下載,win10,win7,xp,裝機純凈版,64位旗艦版,綠色軟件,免費軟件下載基地!

當前位置:主頁 > 教程 > 服務器類 >

java爬蟲詳解及簡單實例教程

來源:技術員聯(lián)盟┆發(fā)布時間:2017-09-20 06:25┆點擊:

爬蟲的實質就是打開網(wǎng)頁源代碼進行匹配查找,然后獲取查找到的結果。

打開網(wǎng)頁:

URL url = new URL();

讀取網(wǎng)頁內(nèi)容:

BufferedReader bufr = new BufferedReader(new InputStreamReader(url.openStream()));

正則表達式進行匹配:

tring mail_regex = "\\w+@\\w+(\\.\\w+)+";

儲存結果:

List<String> list = new ArrayList<String>();

/*
* 獲取
* 將正則規(guī)則進行對象的封裝。
* Pattern p = Pattern.compile("a*b");
* //通過正則對象的matcher方法字符串相關聯(lián)。獲取要對字符串操作的匹配器對象Matcher .
* Matcher m = p.matcher("aaaaab");
* //通過Matcher匹配器對象的方法對字符串進行操作。
* boolean b = m.matches();
*/

import java.io.BufferedReader; import java.io.FileNotFoundException; import java.io.FileReader; import java.io.IOException; import java.io.InputStreamReader; import java.net.URL; import java.util.ArrayList; import java.util.List; import java.util.regex.Matcher; import java.util.regex.Pattern; public class Spider { public static void main(String[] args) throws IOException { // List<String> list = getMails(); // for(String mail : list){ // System.out.println(mail); // } List<String> list = getMailsByWeb(); for(String mail : list){ System.out.println(mail); } } public static List<String> getMailsByWeb() throws IOException{ //1,讀取源文件。 //URL url = new URL(":8080/myweb/mail.html"); //URL url = new URL(":8080/SecondWeb/index.jsp"); URL url = new URL(""); BufferedReader bufr = new BufferedReader(new InputStreamReader(url.openStream())); //2,對讀取的數(shù)據(jù)進行規(guī)則的匹配。從中獲取符合規(guī)則的數(shù)據(jù). String mail_regex = "\\w+@\\w+(\\.\\w+)+"; List<String> list = new ArrayList<String>(); Pattern p = Pattern.compile(mail_regex); String line = null; while((line=bufr.readLine())!=null){ Matcher m = p.matcher(line); while(m.find()){ //3,將符合規(guī)則的數(shù)據(jù)存儲到集合中。 list.add(m.group()); } } return list; } public static List<String> getMails() throws IOException{ //1,讀取源文件。 BufferedReader bufr = new BufferedReader(new FileReader("c:\\mail.html")); //2,對讀取的數(shù)據(jù)進行規(guī)則的匹配。從中獲取符合規(guī)則的數(shù)據(jù). String mail_regex = "\\w+@\\w+(\\.\\w+)+"; List<String> list = new ArrayList<String>(); Pattern p = Pattern.compile(mail_regex); String line = null; while((line=bufr.readLine())!=null){ Matcher m = p.matcher(line); while(m.find()){ //3,將符合規(guī)則的數(shù)據(jù)存儲到集合中。 list.add(m.group()); } } return list; } }

二、運行結果

abc1@sina.com.cn 1@1.1