Skip to content

Latest commit

 

History

19 Commits

Folders and files

NameName
Last commit message
Last commit date
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

funfile

一个实用的 Python 文件操作工具库,提供带进度条的压缩/解压、并发写入、pickle 序列化等功能的增强封装。

特性

  • 带进度条的 tar 压缩与解压,用法与标准库一致
  • 自动识别常见 zip/tar 格式,并阻止 tar 路径穿越
  • 线程安全的后台文件写入,支持指定偏移量
  • pickle 序列化/反序列化的便捷封装
  • 常用文件系统操作(创建目录、删除、复制)

安装

pip install funfile

依赖

使用

tar 压缩/解压(带进度条)

用法与标准库 tarfile 一致,自动显示进度条:

from funfile import tarfile

# 压缩
with tarfile.open("results.tar.xz", "w|xz") as tar:
    tar.add("a.txt")

# 解压
with tarfile.open("results.tar.xz", "r|xz") as tar:
    tar.extractall("local")

也可以使用快捷函数:

from funfile.compress.tarfile import file_entar, file_detar

# 一键压缩
file_entar("mydir", "mydir.tar.xz")

# 一键解压
file_detar("mydir.tar.xz", "output")

zip 解压

from funfile import zipfile

with zipfile.ZipFile("archive.zip") as zf:
    zf.extractall("output")

通用解压

根据文件后缀自动选择解压方式,支持 .zip.tar.tar.gz.tgz.tar.bz2.tar.xz.txz。tar 解压默认只接受普通文件和目录,拒绝目标目录之外的路径及链接、设备等特殊成员:

from funfile.compress.allfile import extractall

extractall("archive.tar.gz", "output")

并发文件写入

线程安全的后台写入,适用于多线程生产数据的场景。离开 with 时会等待数据落盘,后台写入错误会传播给调用方:

from funfile import ConcurrentFile

with ConcurrentFile("output.txt", mode="w") as fw:
    fw.write("hello, funfile.")
    fw.write("another line.")

支持指定偏移量的随机写入:

with ConcurrentFile("output.bin", mode="wb") as fw:
    fw.write(b"chunk1", offset=0)
    fw.write(b"chunk2", offset=1024)

pickle 序列化

便捷的 pickle 读写封装:

pickle 可以执行序列化数据中的代码,只加载可信来源的数据。

from funfile.pickle import dump, load, dumps, loads

# 写入文件
dump({"key": "value"}, "data.pkl")

# 从文件读取
data = load("data.pkl")

# 序列化为 bytes
raw = dumps({"key": "value"})

# 从 bytes 反序列化
obj = loads(raw)

文件系统工具

from funfile.funos import makedirs, delete

# 递归创建目录(已存在不报错)
makedirs("path/to/dir")

# 删除文件或递归删除目录
delete("path/to/dir")
from funfile.file import copy

# 复制文件
copy("src.txt", "dst.txt")

获取文件/目录大小

from funfile import get_size

# 获取文件大小(字节)
size = get_size("large_file.bin")

# 递归获取目录大小
size = get_size("mydir", recursive=True)

文件哈希

from funfile import file_md5, file_sha256

md5 = file_md5("archive.tar.xz")
sha256 = file_sha256("archive.tar.xz")

项目结构

src/funfile/
├── __init__.py            # 顶层导出
├── funos.py               # 文件系统工具(makedirs, delete)
├── file/
│   ├── core.py            # 文件复制
│   └── concurrent.py      # 并发文件写入
├── compress/
│   ├── tarfile.py         # 带进度条的 tar 操作
│   ├── zipfile.py         # zip 操作封装
│   └── allfile.py         # 通用解压
├── utils/
│   ├── size.py            # 文件大小与可读格式
│   ├── hash.py            # 文件哈希
│   └── tqdm_bar.py        # 文件进度条
└── pickle/
    └── core.py            # pickle 序列化封装

许可证

MIT License

About

实用的 Python 文件工具库 - 带进度条的 tar/zip 压缩解压(阻止路径穿越)、线程安全的后台写入、pickle 序列化封装

Topics

Resources

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Used by

Contributors

Languages