なんとな~くしあわせ?の日記

「そしてそれゆえ、知識そのものが力である」 (Nam et ipsa scientia potestas est.) 〜 フランシス・ベーコン

2017-03-01から1ヶ月間の記事一覧

Apache PigでZipファイルをロード

github.com 経緯 仕事でHadoopを使うとき、gzip/bzipは標準で読み込めるがzipは読み込めなかった。困る。 Hadoopの本流でzipファイルを読む機能がマージされてないまま放置されていることに気づく Hadoopがzipをサポートしていない理由 | Tech Blog [MAPREDU…

Hadoop関連ソフトウェアを手っ取り早くパッケージでインストールする

Apache Bigtop Bigtop - Apache Bigtop Bigtop is an Apache Foundation project for Infrastructure Engineers and Data Scientists looking for comprehensive packaging, testing, and configuration of the leading open source big data components. Bi…

Apache PigでShift_JISテキストをUTF-8化

Apache PigでShift_JISテキストをUTF-8化 hdfs上にファイルを取り込む際、デフォルトの文字コードはUTF-8らしい。 どうやって取り込むか悩んだが、UDFという方法を見つけた。 User Defined Function:UDF Pig ユーザー定義関数メモ(Hishidama's Apache Pig U…

Msys2でSSL certificate problem: unable to get local issuer certificateが出たとき

エラー内容 git cloneしようとして、以下のようなエラー fatal: unable to access 'https://gitlab-xxxx/yyyy/xxxx.git/': SSL certificate problem: unable to get local issuer certificate 原因 対象のGitサーバが使用している証明書のRoot証明書がmsys2…

文系プログラマーがCourseraの機械学習コースを受講中

Qiitaで話題のCourseraの機械学習コースを受講して1ヶ月ぐらいになる。 Machine Learning | Coursera無手勝流でなんとかWeek3を終わらせた。このままだと遅延しているのだが、頑張って最後までやれば証明書がもらえるらしい。 2017/03/18 Week4終了 2017/04…