服务器之家

服务器之家 > 正文

php快速导入大量数据的实例方法

时间:2021-08-20 14:07     来源/作者:PHP中文网

PHP快速导入大量数据到数据库的方法

第一种方法:使用insert into 插入,代码如下:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
$params = array(‘value'=>'50′);
 
 
 
set_time_limit(0);
 
 
 
echo date(“H:i:s”);
 
 
 
for($i=0;$i<2000000;$i++){
 
 
 
$connect_mysql->insert($params);
 
 
 
};
 
echo date(“H:i:s”);

最后显示为:23:25:05 01:32:05 也就是花了2个小时多!

第二种方法:使用事务提交,批量插入数据库(每隔10W条提交下)最后显示消耗的时间为:22:56:13 23:04:00 ,一共8分13秒 ,代码如下:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
echo date(“H:i:s”);
 
 
 
$connect_mysql->query(‘BEGIN');
 
 
 
$params = array(‘value'=>'50′);
 
 
 
for($i=0;$i<2000000;$i++){
 
 
 
$connect_mysql->insert($params);
 
 
 
if($i%100000==0){
 
 
 
$connect_mysql->query(‘COMMIT');
 
 
 
$connect_mysql->query(‘BEGIN');
 
 
 
}
 
 
 
}
 
 
 
$connect_mysql->query(‘COMMIT');
 
 
 
echo date(“H:i:s”);

第三种方法:使用优化SQL语句

将SQL语句进行拼接,使用 insert into table () values (),(),(),()然后再一次性插入,如果字符串太长,则需要配置下MYSQL,

在mysql命令行中运行 :

?
1
set global max_allowed_packet = 2*1024*1024*10;

消耗时间为:11:24:06 11:25:06;

插入200W条测试数据仅仅用了1分钟!代码如下:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
$sql= “insert into twenty_million (value) values”;
 
 
 
for($i=0;$i<2000000;$i++){
 
 
 
$sql.=”('50′),”;
 
 
 
};
 
 
 
$sql = substr($sql,0,strlen($sql)-1);
 
 
 
$connect_mysql->query($sql);

总结:在插入大批量数据时,第一种方法无疑是最差劲的,而第二种方法在实际应用中就比较广泛,第三种方法在插入测试数据或者其他低要求时比较合适,速度确实快。

感谢大家的学习和对服务器之家的支持。

原文链接:https://www.php.cn/php-ask-430632.html

标签:

相关文章

热门资讯

yue是什么意思 网络流行语yue了是什么梗
yue是什么意思 网络流行语yue了是什么梗 2020-10-11
2020微信伤感网名听哭了 让对方看到心疼的伤感网名大全
2020微信伤感网名听哭了 让对方看到心疼的伤感网名大全 2019-12-26
背刺什么意思 网络词语背刺是什么梗
背刺什么意思 网络词语背刺是什么梗 2020-05-22
苹果12mini价格表官网报价 iPhone12mini全版本价格汇总
苹果12mini价格表官网报价 iPhone12mini全版本价格汇总 2020-11-13
2021年耽改剧名单 2021要播出的59部耽改剧列表
2021年耽改剧名单 2021要播出的59部耽改剧列表 2021-03-05
返回顶部