ruby+nokogori抓取糗事百科前10页并存储进数据库示例

Ester ·
更新时间:2024-09-21
· 588 次阅读

ruby,nokogori,爬取糗事百科最新的10页加图片比并同时保存进文本跟数据库

代码如下:
#encoding:utf-8
require "open-uri"
require "nokogiri"
require "mysql"
@dbh=Mysql.real_connect("localhost","root","dengli","pachong")
@file=open("qb.txt","w")
def getQiubai(url)
  data=open(url){|f| f.read}
  doc=Nokogiri::HTML(data)
  doc.css('div.block.untagged.mb15.bs2').each{|p|
    content=p.css('div.content').text
    @file.puts("#{content}\n")
    img=p.css('div.thumb img').each{|img|
       imgAddr=img.attr('src')
       @file.puts("#{imgAddr}\n")
       time=Time.now
       sql="INSERT INTO qiushibaike (`body`,`img`,`time`) VALUES ('#{content}','#{imgAddr}','#{time}')"
       @dbh.query(sql)
       }
  }
end
for i in 1..10
  @file.puts("这是第#{i}页")
  url="http://www.qiushibaike.com/8hr/page/#{i}"
  getQiubai(url)
end

您可能感兴趣的文章:浅谈Ruby on Rails下的rake与数据库数据迁移操作Ruby连接使用windows下sql server数据库代码实例在Ruby程序中连接数据库的详细教程Ruby中访问SQL Server数据库的配置实例Ruby on Rails框架程序连接MongoDB的教程



数据 存储 Ruby 数据库

需要 登录 后方可回复, 如果你还没有账号请 注册新账号