Skip to content
This repository has been archived by the owner on Dec 11, 2022. It is now read-only.
/ news2kindle Public archive

scrape some news site and deliver to kindle

Notifications You must be signed in to change notification settings

tdtds/news2kindle

Repository files navigation

News2Kindle

ニュースサイトを定期的にスクレイピングしてmobiファイルを生成し、Kindle Personal Documentへメールで送信するコマンドライン・ツール

ニュースの電子書籍化と配信を自動化するソフトウェアとしては電子書籍管理ツールであるCalibreが豊富なレシピで抜きん出た存在ですが、クライアントPCを常時稼動しておかなくてはならず、環境面で稼働が難しい面があります。そこで、サーバ上でcronタスクとして稼働する仕組みを作りました。ただしレシピはまだぜんぜんありません(作者が使っている日経新聞電子版とINTERNET Watch、tDiaryのみ)。

仕組み

cronタスクとして動かすことを前提にしています。

実際にどのサイトをmobiファイル化するのかという指定は、~/.news2kindleないし./news2kindle.yamlのconfigファイルで指定します。configファイルのサンプルです:

:tasks:
  sites1:
    :media:
    - foo
    - bar
    :receiver:
    - [email protected]
  sites2:
    :media:
    - buz
    :receiver:
    - dropbox:/Public
:sender: [email protected]
:email:
  :address: smtp.sendgrid.net
  :port: 587
  :user_name: yes
  :password: yes
  :authentication: :plain
:mongodb_uri: mongodb://localhost:27017/news2kindle

cronタスクを動かす時間によって、異なるニュースサイトにアクセスしたり、送り先を変えたいでしょう。そのため、コマンドに指定する「タスク(:tasks)」を分けて、それぞれに「メディア(:media)」と「送り先(:receiver)」を指定できるようになっています。receiverにはメールアドレスの他に「dropbox:」で始まるDropboxのディレクトリも指定できます。Dropboxを利用する場合には、Dropboxの開発者向けサービスから各種APIトークンを取得しておく必要があります。

「送信元(:sender)」は、KPDサービスに登録してあるメールアドレスを指定します。

「:email」は、メールサーバ(SMTP)の設定です。プログラムを動かしている環境からアクセスできるメールサーバの情報を指定します。なお、メールサーバが認証を必要とする場合は「:user_name」や「:password」を指定する必要がありますが、configファイルには直接書くことはありません。これらの項目を「yes」にしておくと、初回実行時にプログラムが聞いてきます(~/.pit/default.yamlというファイルに保存されます)。

「:mongodb_uri」はURIの重複チェックをする場合にMongoDBの情報を指定します。日に何度も動かすと、すでに取得済みの記事が重複して含まれてしまいますが、それをチェックして除外したい場合に利用します。URIにパスワード等の情報が含まれている場合には「yes」とだけ指定しておくと、最初の実行時に尋ねてくるようになります(Pitによって安全な別ファイルに保管されます)。

mobiファイルの生成に成功すると、指定したアドレスにメールを送ったり、Dropboxの指定フォルダに保存します。メールアドレスは、実際は〜@kindle.comになるでしょう(:receiver)。また、送信元のアドレスもKindle Personal Documentで許可したアドレスを指定して置く必要があります(:sender)。

動かし方

インストール方法:

% gem install news2kindle

news2kindleコマンドを実行すると、ヘルプが出ます。適切なconfigファイルがあれば、そこに記述してあるタスクを指定することで、mobiファイルが生成され、指定した送信先へ送られます。

ジェネレータの作り方

あとで書く。

Contributing

Bug reports and pull requests are welcome on GitHub at https://github.com/tdtds/news2kindle.

About

scrape some news site and deliver to kindle

Resources

Stars

Watchers

Forks

Packages

No packages published