1:获取当前目录下所有文件,然后做如下处理:
- 文件名去重复。
- 选出文件大于10m的
- 获取到文件的md5值,然后利用这个md5值对文件名进行重命名(其中md5代表一个文件属性)
- 打印出最后的符合条件的所有文件名
温馨提示:
- 我们是要获取所有的文件 而不是目录
- 去重复不是删除文件,而是对重复的文件名进行重命名
- 想办法获取文件的md5值
- 最好是函数的形式实现哦
1:获取当前目录下所有文件,然后做如下处理:
温馨提示:
# -*- coding: utf-8 -*-
# @Time : 2018/12/5 10:21
# @Author : Monica
# @Email : 498194410@qq.com
# @File : os_practice.py
import os
import hashlib
allfiles = []
templist = {}
end_file = []
class GetFlie:
def __init__(self, dirpath):
self.dirpath = dirpath
def get_all_file(self):
# 通过os.walk获取目录下的所有文件名
for root, dirs, files in os.walk(self.dirpath):
for file in files:
# 判断size
size = os.path.getsize(os.path.join(root, file))
if size >= 10485760:
# 文件名添加到allfiles列表里
allfiles.append(os.path.join(root, file))
# 重命名
for i in range(len(allfiles)):
# 如果md5在字典的key已存在
if self.get_md5(allfiles[i]) in templist.keys():
templist[self.get_md5(allfiles[i]) + str(i)] = allfiles[i].split(".")[0] + str(i) + "." + allfiles[i].split(".")[-1]
else:
templist[self.get_md5(allfiles[i])] = allfiles[i]
# 最后的文件
for file in templist.values():
end_file.append(file)
return end_file
@staticmethod
def get_md5(filename):
f = open(filename, 'rb')
m1 = hashlib.md5()
m1.update(f.read())
hash_code = m1.hexdigest()
f.close()
md5 = str(hash_code).lower()
return md5
if __name__ == '__main__':
path = r'I:\lesson_practice\tool'
print(GetFlie(path).get_all_file())
import os,hashlib
class get_file():
def init(self,path):
self.path=path
"""path 通过传入制定路径,获取路径下的所有文件名字返回一个1维列表"""
self.file_name=[]
for (dirpath, dirnames, filenames) in os.walk(self.path):
if filenames:
self.file_name.append(filenames)
self.old_file_name=[]
for i in self.file_name:
for j in i:
self.old_file_name.append(j)
self.old_file_name
print("old_file ",self.old_file_name)
def count_file(self,filename):
count=0
for i in self.old_file_name:
if filename ==i:
count=count+1
return count
def getBigFileMD5(self,filepath):
"""获取文件的md5值,防止因为文件过大而发生读取错误,采用分段读取"""
if os.path.isfile(filepath):
file_md5 = hashlib.md5()
maxbuf = 8192 #设置每次读取的字节数
f = open(filepath,'rb')
while True:
buf = f.read(maxbuf)
if not buf:
break #每次读取设置的字节数大小,直到读完后跳出循环
file_md5.update(buf) #用数据中的字节更新哈希对象,重复调用相当于链接起来
f.close()
hash = file_md5.hexdigest()
return str(hash).upper()
return None
def unique_absfile(self):
"""判断文件名在所有文件的列表中出现的次数,大于1则更改文件名字为md5值,并且保留后缀名字,
方法返回处理后的文件名字(绝对路径)的列表"""
pathname=[]
for (dirpath, dirnames, filenames) in os.walk(self.path):
for filename in filenames:
if self.count_file(filename)>1: #判断文件名字是否重复
file_first_name=filename.split(".")[0]
file_last_name=filename.split(".")[1]
path_name=os.path.join(dirpath, filename) #获取重复文件名字的绝对路径
new_filename=self.getBigFileMD5(path_name)+"."+file_last_name#保证改名后,文件的后缀名字不变
new_pathname = os.path.join(dirpath, new_filename)
new_pathname=os.rename(path_name,new_pathname)
pathname=pathname+[new_pathname ]
else:
pathname=pathname+[os.path.join(dirpath, filename)]
return pathname
def file_size(self,condition=10):
"""调用内部方法self.unique_absfile(),获得去重后的文件名字列表(文件名是绝对路径)"""
"""获取文件大小,以M为单位"""
all_file=self.unique_absfile()
file_name=[]
for i in all_file:
size = float((os.path.getsize(i)/1024))
if size>condition:
if "\\" in i:
file_name.append(i.split("\\")[-1])
else:
file_name.append(i.split("/")[-1])
return file_name
import os
import hashlib
def filename_distinct(file_path):
#获取目录下的所有文件并去重
files=[]
for root, dirs, file in os.walk(file_path):
'''file为循环遍历的每一个目录下的文件,存储为列表形式'''
files+=file #每个文件夹下的文件名列表相加,获取所有文件
#对所有文件名去重并重命名重复的文件名,循环遍历,两两对比
for i in range(len(files)-1):
for j in range(i,len(files)-1):
if files[i]==files[j+1]: #如果文件名重复
'''为重复的文件名中的一个重命名,加上循环遍历的i,j保证重命名后文件名不会再重复'''
files[i]=str(i)+str(j)+files[i]
# print('所有文件名——去重后:',files)
return files
def file_md5(file_path):
#获取文件的md5属性
if os.path.isfile(file_path):
fp = open(file_path, 'rb')
contents = fp.read()
fp.close()
md5_1 = hashlib.md5(contents).hexdigest()
else:
print('file not exists')
return md5_1
def get_big_file(file_path,size):
#获取大于指定size的文件,单位为M
big_file=[]
for fpathe,dirs,fs in os.walk(file_path): #遍历目录下的所有文件
for f in fs:
file_path=os.path.join(fpathe,f) #文件的绝对路径
if os.path.getsize(file_path)>1024*1024*size:
big_file.append(file_path) #获取到大于10M的文件绝对路径列表
return big_file
if __name__ == '__main__':
file_path='C:\\Users\\liang\\Desktop\\新建文件夹'
bigfile=get_big_file(file_path,10)
print(filename_distinct(file_path))
print(bigfile)
md5file=[]
for file_name in bigfile:
md5file.append(file_md5(file_name))
print(md5file)
```python
# -*- coding:utf-8 -*-
import os
import hashlib
FILE_LIST = [] #所有文件列表
#获取目录下所有文件
def get_file_list(dir_path):
global FILE_LIST
dir_list = {}
if not os.path.isdir(dir_path):
print('目录不存在')
else:
dir_list = os.listdir(dir_path)
for file in dir_list:
file_path = dir_path + '\\' +file
if os.path.isdir(file_path):
get_file_list(file_path) #目录包含目录需读得里面的文件
else:
FILE_LIST.append(file_path)
#print(FILE_LIST)
#获取文件的md5的值
def get_file_md5(file_path):
def read_chunks(fh):
fh.seek(0)
chunks = fh.read(8096) #文件过大一块块读
while chunks:
yield chunks
chunks = fh.read(8096)
else: #最后将游标放回到文件头
fh.seek(0)
myhash = hashlib.md5()
with open(file_path,'rb') as fh:
for chunk in read_chunks(fh):
myhash.update(chunk)
return myhash.hexdigest()
#文件大小过滤及重命名
def file_operator(dir_path,size,file_size_unit):
count = 0
file_dict = {}
get_file_list(dir_path) #获取目录下所有文件
for file in FILE_LIST:
file_size = os.path.getsize(file)
if file_size_unit == 'Byte':
file_size = file_size
elif file_size_unit == 'KB':
file_size = file_size / 1024
elif file_size_unit == 'M':
file_size = file_size / 1024 / 1024
elif file_size_unit == 'G':
file_size = file_size / 1024 / 1024 / 1024
else:
print('文件单位默认为M处理')
ile_size = file_size / 1024 / 1024
file_size = round(file_size,2)
file_md5 = get_file_md5(file) #获取文件的md5码
file_path = os.path.split(file)
file_full_name = file_path[1] #获取文件的名称,不包含目录
count += 1
file_type = file_full_name[file_full_name.index('.'):] #获取文件的类型
#新目录名 = 目录+文件+文件md5码+记数+文件类型
new_name = file_path[0] + '\\' + str(file_md5) + '_' + str(count) + file_type
os.rename(file,new_name)
if(file_size > size): #过滤文件大小不足的
file_dict[new_name] = str(file_size) + file_size_unit
print('大小超过{0}{1}的文件列表为:\n{2}'.format(size,file_size_unit,file_dict))
if __name__ == '__main__':
file_operator(r'G:\test',10,'M')
欢迎来到testingpai.com!
注册 关于