S3

goofysでAWS S3をmountしたディレクトリが権限不足で見れなくなる

これはハマった。 AWS EC2のディレクトリをgoofysでmountしてS3と繋いだ瞬間に、権限エラーでアクセスできなくなった。 他サービスとの連携をテストしていて、mountしただけでテストに失敗。たちが悪いのが、シェルで権限確認しても変化がなかったこと。 ls …

Windows10でのPythonの一時ファイルtempfile.NamedTemporaryFileへのアクセス ~ Windowsではいったん閉じないと駄目

次のようにして、tempfileへアクセスしようとしたらエラー。 file = NamedTemporaryFile(suffix='.xlsx', delete=False) s3.Bucket(bucket).download_file(key, file.name) 悩んで仕様を注意深く読むと。。。。 docs.python.org file = NamedTemporaryFile(s…

AWS S3へboto3を使用してdataframeを保存する

下のようにすればOK。 import boto3 s3 = boto3.resource('s3') s3_obj = s3.Object('bucket_name', key=u'test/output.csv') s3_obj.put(Body=df.to_csv(None).encode('utf_8')) ただ、注意点が1つあって、Objectの引数keyの指定は'[フォルダ名1]/[フォル…

AWS S3のmount ~ goofysのインストール

s3fsは遅い!これは有名な話しかと思うので本題じゃなくて、新しいEC2環境にgoofysをインストールして使おうとしたときの話し。ぐぐると、どのblogでも大体次のような流れが紹介されている。 1.goとfuseのインストール 2.AWS CLIの設定 3.S3バケットの作成 4…