SQLite数据库是一款非常小巧的嵌入式开源数据库软件,它使用一个文件存储整个数据库,优点是使用方便,但是功能相比于其它大型数据库来说,确实有点差距。由于此次数据库实践所需要求不多,所以就使用SQLite来完成。值得一提的是,Python内置SQLite3,所以在Python中使用SQLite,不需要安装任何东西,直接使用。
一、数据库(database)简介
表是数据库中存放关系数据的集合,一个数据库里面通常都包含多个表,表和表之间通过外键关联。
因为Python的数据库模块有统一的接口标准,所以数据库操作都有统一的模式。要操作关系数据库,大致是以下几步(假设数据库模块名称为db):
- 用db.connect连接数据库,假设得到的对象为conn
- 如果该数据库操作不需要返回结果,就直接用conn.execute查询,根据数据库事务隔离级别的不同,可能修改数据库需要conn.commit
- 如果需要返回查询结果则用conn.cursor创建游标对象cur, 通过cur.execute查询数据库,用cur.fetchall/cur.fetchone/cur.fetchmany返回查询结果。根据数据库事务隔离级别的不同,可能修改数据库需要conn.commit
- 关闭cur,conn
二、SQLite使用
(1)SQlite数据库的导入
1 import sqlite3
(2)创建数据库/打开数据库
1 conn = sqlite3.connect("test.db")
在调用connect函数的时候,指定数据库名称,如果指定的数据库存在就直接打开这个数据库,如果不存在就新创建一个再打开。
(3)数据库连接对象
打开数据库时返回的对象conn就是一个数据库连接对象,有以下几种基本操作:
1 #创建一个Cursor游标
2 cur = conn.cursor()
3
4 #执行一条SQL语句,创建user表
5 cur.execute('create table user (id varchar(20) primary key, name varchar(20))')
6
7 #执行一条SQL语句,插入一条记录
8 cur.execute('insert into user (id, name) values (\'1\', \'Michael\')')
9
10 #获得插入的行数
11 cur.rowcount
12
13 #执行查询语句
14 cursor.execute('select * from user where id=?', ('1',))
15 #获得查询结果
16 values = cur.fetchall() #如果使用cur.fetchone()则首先返回列表中的第一项,再次使用,则返回第二项,依次下去
17
18 #关闭cur
19 cur.close()
20
21 #提交事务
22 conn.commit()
23
24 #关闭connection连接
25 conn.close()
使用Cursor游标对象执行insert,update,delete语句时,执行结果由rowcount返回影响的行数,就可以拿到执行结果。
使用Cursor游标对象执行select语句时,通过fetchall()可以拿到结果集。结果集是一个list,每个元素都是一个tuple,对应一行记录。
如果SQL语句带有参数,那么需要把参数按照位置传递给execute()方法,有几个?占位符就必须对应几个参数。另外一种方法是使用字符串格式化format()方法。
以上为SQLite数据库的常用的基本操作,具体用法请参阅SQLite的官方网站。(SQLite数据库菜鸟教程)
三、SQLite数据库实践
(1)将上次爬取得到的2017中国最好大学排名.csv文件以db格式文件写入数据库
1 #!D:/Python/Python.exe
2 # -*- coding: utf-8 -*-
3 import sqlite3 as sql
4
5 #获取csv文件的数据
6 def GetData(Csv_Path):
7 with open(Csv_Path, "r", encoding="utf-8") as f:
8 lines = f.readlines()
9 Data = lines[1:]
10 Headers = lines[0].replace('\n', '')
11 Headers = Headers.split(',')
12 return Data, tuple(Headers)
13
14 #创建数据库
15 def CreateDB(DB_Path, Headers, Tab_name):
16 try:
17 conn = sql.connect(DB_Path)
18 cur = conn.cursor()
19 cur.execute('''CREATE TABLE {0} {1}'''.format(Tab_name, Headers))
20 print("Table created successfully")
21 return conn, cur
22 except:
23 print("Created failed")
24
25 #将数据导入数据库
26 def Import(Csv_Path, DB_Path, Tab_name):
27 Data, Headers = GetData(Csv_Path)
28 Conn, Cur = CreateDB(DB_Path, Headers, Tab_name)
29 #为了之后的排序工作, 以下进行了数据处理
30 for row in Data:
31 row = row.replace('无', '0')
32 row = row.replace('\n', '')
33 row = tuple(row.split(','))
34 Cur.execute("INSERT INTO {0} VALUES {1}".format(Tab_name, row))
35 print("Data import successful")
36 Conn.commit() #提交事务
37 Cur.close() #关闭游标
38 Conn.close() #关闭数据库连接
39
40 if __name__ == "__main__":
41 Csv_Path = input("请输入需要导入的csv文件的路径或名称:")
42 DB_Name = input("请输入数据库的名称:")
43 Tab_name = input("请输入数据库的表名称:")
44 Import(Csv_Path, DB_Name, Tab_name)
46
将结果用SQLite Studio呈现:
SQLite Studio是一款 Sqlite数据库可视化工具,使用非常简单
(2)查询学校的数据
1 import sqlite3 as sql
2 Conn = sql.connect("db2019310143115.db")
3 Cur = Conn.execute("SELECT * from Rank where 学校名称 = ?", ('广东技术师范学院',)) #这句代码是产生一个指定位置的cursor游标
4 row = Cur.fetchone()
5 print(row)
6 Cur.close()
7 Conn.close()
这里只是单纯执行一句sql语句实现查询,并未整合在上面的代码。值得一提的是connection.execute()与cursor.execute()不相同,前者是产生一个游标,后者是直接操作游标。
结果为:
(3)按照要求查询并显示广东省的学校的排名和成果转化
1 1 import sqlite3 as sql
2 2 Conn = sql.connect("db2019310143115.db")
3 3 Cur = Conn.execute("SELECT 学校名称, 成果转化(技术转让收入·千元) FROM Rank order by 成果转化(技术转让收入·千元) desc") #执行sql的order by语句进行排序, desc为倒序, 默认为顺序
4 4 for i in Cur.fetchall():
5 5 print(i)
6 6 Cur.close()
7 7 Conn.close()
一部分结果为(左边是学校名称,右边是成果转化的数据):
(4)将广东省(或全国)的学校的排名和数据存为一个新表,并且使用一个算法,综合每个因素进行总排名
由于这一要求并未完成,我仅把上面的功能整合在一起,给出代码:
1 #!D:/Python/Python.exe
2 # -*- coding: utf-8 -*-
3 import sqlite3 as sql
4
5 #获取csv文件的数据
6 def GetData():
7 Csv_Path = input("请输入csv文件的路径或名称:")
8 with open(Csv_Path, "r", encoding="utf-8") as f:
9 lines = f.readlines()
10 Data = lines[1:]
11 Headers = lines[0].replace('\n', '')
12 Headers = Headers.split(',')
13 return Data, tuple(Headers)
14
15 #创建新表
16 def CreateDB(Headers, Cur):
17 Tab_name = input("请输入表名称:")
18 try:
19 Cur.execute('''CREATE TABLE {0} {1}'''.format(Tab_name, Headers))
20 print("Table created successfully.")
21 except:
22 print("Creation failed.")
23
24 #将数据导入数据库
25 def Import(Data, Cur):
26 Tab_name = input("请输入表的名称: ")
27 #为了之后的排序工作, 以下进行了数据处理
28 for row in Data:
29 row = row.replace('无', '0')
30 row = row.replace('\n', '')
31 row = row.split(',')
32 for i in range(len(row)):
33 try:
34 row[i] = eval(row[i])
35 except:
36 continue
37 Cur.execute("INSERT INTO {} VALUES {}".format(Tab_name, tuple(row))) #执行sql语句, 写入数据
38 print("Data imported successfully.")
39
40 #查询数据
41 def Search(Headers, Cur):
42 Tab_name = input("请输入表的名称: ")
43 School = input("请输入想要查找的学校: ")
44 Cur.execute("SELECT * FROM {} WHERE 学校名称 = ?".format(Tab_name), (School,))
45 Info = Cur.fetchone()
46 for i in range(len(Headers)):
47 print("{}: {}".format(Headers[i], Info[i]))
48
49 #排序
50 def Sort(Cur):
51 Tab_name = input("请输入表的名称: ")
52 Col = input("请输入想要按照哪列进行排序(默认倒序): ")
53 Cur.execute("SELECT 学校名称, 成果转化(技术转让收入·千元) FROM {} order by {} desc".format(Tab_name, Col))
54 for i in Cur.fetchall():
55 print(i)
56
57 #数据库功能
58 def Function(Data, Headers):
59 DB_Path = input("请输入数据库的路径或名称:")
60 try:
61 Conn = sql.connect(DB_Path)
62 Cur = Conn.cursor()
63 print("Connect completed.")
64 except:
65 print("Connection fail.")
66 else:
67 while True:
68 Choi = input("请选择你想要使用的功能(1、创建新表 2、插入数据 3、查询 4、排序 0、退出):")
69 if Choi == "0":
70 Cur.close()
71 Conn.close()
72 print("Database closed successfully.")
73 break
74 elif Choi == "1":
75 CreateDB(Headers, Cur)
76 elif Choi == "2":
77 Import(Data, Cur)
78 Conn.commit()
79 elif Choi == "3":
80 Search(Headers, Cur)
81 elif Choi == "4":
82 Sort(Cur)
83 else:
84 print("Input Error!")
85
86 if __name__ == "__main__":
87 Data, Headers = GetData()
88 Function(Data, Headers)